Suche nach Titel, AutorIn, RezensentIn, Verlag, ISBN/EAN, Schlagwort
socialnet Logo

Andreas Klein, Sebastian Dennerlein et al. (Hrsg.): Health Care und Künstliche Intelligenz

Rezensiert von Prof. Dr. Hartmut Kreß, 08.10.2024

Cover Andreas Klein, Sebastian Dennerlein et al. (Hrsg.): Health Care und Künstliche Intelligenz ISBN 978-3-8252-6257-0

Andreas Klein, Sebastian Dennerlein, Helmut Ritschl (Hrsg.): Health Care und Künstliche Intelligenz. Ethische Aspekte verstehen – Entwicklungen gestalten. UTB (Stuttgart) 2024. 460 Seiten. ISBN 978-3-8252-6257-0. D: 39,90 EUR, A: 41,10 EUR, CH: 48,70 sFr.

Weitere Informationen bei DNB KVK GVK.
Inhaltsverzeichnis bei der DNB.

Kaufen beim socialnet Buchversand
Kaufen beim Verlag

Zählpixel

Thema

Der Band erörtert die Perspektiven, die die Nutzung von Künstlicher Intelligenz (KI) für die Medizin und das Gesundheitswesen eröffnet. Er bringt auch ethische Aspekte sowie rechtliche Rahmenbedingungen zur Sprache.

Autor*innen und Herausgeber

Aufgrund der breiten Interdisziplinarität des Buches sind ca. 50 Autor*innen beteiligt, und zwar aus unterschiedlichen Disziplinen von der Biophysik über Softwareentwicklung oder Wirtschaftsinformatik bis zur Medizin, z.B. der Radiologie oder der Kardiologie. Die drei Herausgeber sind fachlich der Ethik (Andreas Klein), der Erziehungswissenschaft (Sebastian Dennerlein) und der Radiotechnologie (Helmut Ritschl) zuzuordnen.

Entstehungshintergrund und Aufbau

Die Nutzung von Künstlicher Intelligenz (KI) verändert die Medizin und das Gesundheitswesen in hohem Maß. Das Buch vermittelt einen Überblick und geht zu Einzelthemen in die Tiefe. Den vier Teilen ist eine Einleitung der Herausgeber vorangestellt, die erste Klärungen bietet. Der erste Buchteil geht auf den Begriff „Künstliche Intelligenz“ als solchen, auf fachliche bzw. technologische Grundlagen und auf Ethik ein. Der zweite Teil führt den Gebrauch von KI in verschiedenen Segmenten des Gesundheitswesens vor Augen. Danach widmet sich die dritte Abteilung erneut ethischen und rechtlichen Punkten. Der abschließende vierte Teil erörtert Konsequenzen, die sich aus der KI für das Berufsbild von Ärzt*innen und von anderen Akteuren des Gesundheitswesens ergeben. Zusätzlich zeigt er auf, wie sich mithilfe von KI die Strukturen der gesundheitlichen Versorgung verbessern lassen können.

Inhalt

Die Einleitung und der erste Buchteil erläutern zunächst den Begriff der Künstlichen Intelligenz. Schwierigkeiten resultieren schon allein aus der Vieldeutigkeit des Terms „Intelligenz“. Bei KI gehe es um Intelligenz als einer Fähigkeit oder Kompetenz, ein bestimmtes Ziel zu erreichen, wozu u.a. die korrekte Wahrnehmung des Sachverhalts, Informationsverarbeitung, Anpassungsfähigkeit, Denken oder Kreativität vonnöten seien (S. 104). Treffsicher und sachgemäß sei es, KI als Maschinelles Lernen (Machine Learning) zu bezeichnen; sachlich sei der Term „Maschinelles Lernen“ eigentlich angemessener als die inzwischen eingebürgerte Umschreibung „KI“ (S. 23). Soweit KI-Systeme als künstliche neuronale Netze Anhalt an der Architektur des menschlichen Gehirns nähmen, handele es sich um nichttriviale Maschinen, die sich selbst organisieren, sich an ihre Umwelt adaptieren und autonom lernen, bis hin zum „Deep Learning“ (S. 34 f., S. 58).

Ethisch bedürfe KI der kritischen Reflexion. Unerlässlich sei es, bei allen KI-Anwendungen die Grundrechte der Menschen zu wahren, vor allem ihr Grundrecht auf Freiheit und Selbstbestimmung sowie das Verbot der Diskriminierung. Anders gesagt: KI könne im Gesundheitswesen sinnvoll eingesetzt werden, sofern vier ethische Prinzipien beachtet würden: 1. die Wahrung der Autonomie der einzelnen Menschen, 2. das Gebot, keinen Schaden zuzufügen, 3. die Fairness bei der Anwendung von KI, z.B. die gerechte Verteilung ihrer Vorteile und ihrer Kosten, sowie 4. die Erklärbarkeit: Es müsse nachvollziehbar bleiben, wie Ergebnisse der KI jeweils zustande gekommen sind und warum man sie im konkreten Fall zu verwenden gedenkt. KI dürfe nicht zur „blackbox“ werden. Unter der Voraussetzung, dass diesen vier Prinzipien Genüge geleistet werde, könne KI als vertrauenswürdig gelten (Trustworthy Artificial Intelligence): „Es soll nachvollziehbar sein, wie KI-Systeme funktionieren, wie sie zu ihren ‚Entscheidungen‘ bzw. Outputs gelangen und welche Gründe für ihren konkreten Einsatz sprechen“ (Klein, S. 117).

Immer wieder – keineswegs nur in der Einleitung und im ersten Teil – greift das Buch auf die ethischen und die rechtlichen Vorgaben der Europäischen Union zurück, d.h. 1. auf die Ethikleitlinien der EU-Kommission zur KI von 2019 sowie 2. auf den Artificial Intelligence Act, also auf das 2023 vom EU-Parlament zur KI beschlossene Gesetz, das sich wie folgt charakterisieren lasse: „Der AI Act verfolgt einen risikobasierten Ansatz, wonach KI-Technologien in verschiedene Risikokategorien eingestuft und dementsprechend beurteilt werden“. Insofern rücke das EU-Gesetz „zunächst nicht de[n] Nutzen der jeweiligen Technologie oder Anwendung in den Fokus … – dieser sollte ohnehin gegeben sein –, sondern die mögliche Tiefe der Auswirkung auf grundlegende Rechte und berechtigte Ansprüche von Menschen“ (Klein, S. 283).

Abgesehen von begrifflichen, ethischen und rechtlichen Dingen präsentiert der erste Buchteil statistische und technologische Voraussetzungen maschinellen Lernens. Einzelne Abschnitte behandeln „Data Science und Künstliche Intelligenz“ (S. 51–67) oder „Wahrscheinlichkeit und Statistik“. Dabei gelangt u.a. zur Sprache, dass KI bezogen auf Krankheit und Gesundheit aufgrund der Auswahl der Daten zu verzerrten Ergebnissen gelangen kann (S. 69–84). Detailliert wird entfaltet, dass angesichts unterschiedlicher Fallkonstellationen stets neu zu prüfen sei, welche Verfahren und Methoden sich am ehesten eignen, um angemessene Problemlösungen zu erzielen. 

Auf dieser Basis vermittelt der zweite Buchteil einen Eindruck, in welcher Hinsicht KI im Gesundheitswesen konkret eine Rolle spielt. Die Autor*innen gehen beispielhaft folgenden Anwendungen nach:

  • medizinische Verarbeitung von Bilddaten, etwa bei der Brustkrebsdiagnostik (S. 129–142),
  • medizinische Diagnostik und Therapie (S. 153–173),
  • Krebsforschung (S. 235–247)
  • Entdeckung, Entwicklung und Produktion von Wirkstoffen in der Pharmaindustrie (S. 249–266).

Ein Schlüsselproblem der KI ist der Datenschutz. Die gesundheits- und krankheitsbezogenen Daten von Patient*innen, die KI-basiert ausgewertet werden, sind hochsensibel und dürfen keinesfalls in unbefugte Hände gelangen. Der zweite Buchteil stellt eine Strategie der KI-Nutzung vor, die dieser Gefahr entgegenzuwirken vermag, nämlich das Federated Learning (föderales Lernen) (S. 175–196). Mit diesem Verfahren lasse sich ausschließen, dass sensible Gesundheitsdaten einzelner Patient*innen, die aus unterschiedlichen Quellen (Labore, Kliniken, Versicherungsgesellschaften usw.) stammen, weitflächig ausgetauscht oder zentral gesammelt werden. Stattdessen „findet nur ein Austausch von Modellparametern statt, während jede teilnehmende Institution ausschließlich auf die eigenen Daten zugreifen kann“ (Hilberger/​Ahammer/Bödenler, S. 176). Weitere Informationen hierzu sind im Aufsatz „Moderner Datenschutz und vertrauenswürdige KI“ (S. 217–233) nachzulesen.

Um noch ein weiteres Thema aus dem zweiten Buchteil zu erwähnen: Ist es für Patient*innen ratsam, sich mithilfe des Sprachmodells ChatGPT im Internet medizinisch zu informieren? Hierzu wird dargelegt, dass ChatGPT teilweise in der Lage sei, über Krankheiten nützliche Aussagen bereitzustellen, etwa für Krebserkrankungen, weniger allerdings für seltene Krankheiten. Als Ersatz für einen Arzt sei ChatGPT ungeeignet (S. 143–151).

Die dritte Abteilung des Buches behandelt nochmals ethische und rechtliche Problemstellungen. Eines der Stichworte lautet erneut „Verzerrung“. Verzerrte, für die medizinische Nutzung ungeeignete Ergebnisse kommen zustande, wenn in ein KI-System nur selektiv Daten eingegeben worden sind. Dann drohen Minderheiten, z.B. Menschen mit seltenen Krankheiten, benachteiligt zu werden (S. 332). Ein eigener Beitrag beschäftigt sich mit Rechts- und Haftungsfragen, die man bei der KI-gestützten Entwicklung von Medizinprodukten zu beachten habe (S. 341–362).

Der vierte Buchteil widmet sich praktischen Konsequenzen. So wird durchdacht, wie sich das Berufsbild und die Ausbildung von Fachärzt*innen durch KI wandeln. Als Beispiel dient die Radiologie (S. 378 ff., S. 387 ff.). Gleicherweise wird besprochen, wie sich KI auf nichtärztliche Gesundheitsberufe auswirkt, etwa auf Krankenpflege, Logopädie, Physiotherapie (S. 403–424). Ferner wird im vierten Buchteil eine anders gelagerte Frage der Infrastruktur verhandelt: Wie lässt sich KI nutzen, um die Aufnahme und Versorgung von Patient*innen in Krankenhäusern, insbesondere in Notaufnahmen, zu regulieren und zu strukturieren (S. 425–437, S. 439–453)? Dabei gelangen auch Spezialfragen in den Blick, z.B. inwieweit autonome KI-gesteuerte Drohnen künftig zur Verbesserung der Medikamentenzulieferung, der Notfallmedizin oder des Katastrophenmanagements beitragen könnten (S. 449). 

Diskussion

Voranstehend wurde die thematische Spannbreite des vorliegenden Bandes umrissen. Hierauf Bezug nehmend sollen aus Sicht des Rezensenten drei Blickwinkel unterstrichen werden, die für die Bewertung der KI im Gesundheitswesen von Belang sind.

1. Forschungsdynamik zugunsten des Schutzes der menschlichen Gesundheit. Der Nutzen, den KI bzw. maschinelles Lernen/​Lernmaschinen für die Medizin und das Gesundheitswesen mit sich zu bringen vermag, ist beeindruckend. KI lässt sich als Fortentwicklung der evidenzbasierten Medizin begreifen, von der Patient*innen seit dem späten 20. Jahrhundert profitieren (Birkfellner, S. 139), und kann zur Präzisionsmedizin werden (Pölzl u.a., S. 446), sodass einzelnen Menschen sowie verschiedenen Patientengruppen in Zukunft gezielter und frühzeitiger geholfen werden kann als bislang. Das vorliegende Buch zeigt eine repräsentative Auswahl wichtiger KI-Anwendungen. Man könnte sie um zahlreiche andere Anwendungsmöglichkeiten ergänzen, z.B. aus der Reproduktionsmedizin oder aus der Kinderheilkunde. Im Ergebnis ist festzuhalten, dass die KI-Technologie zum Schutz der menschlichen Gesundheit Erhebliches beizusteuern vermag. Legt man das Grundrecht der Menschen auf bestmögliche gesundheitliche Versorgung als normativen Maßstab an, weckt sie große Hoffnungen.

2. Notwendigkeit von Grenzziehungen. Im Gegenzug sind potenzielle Schattenseiten zu berücksichtigen. In gewisser Hinsicht lassen sich KI-Systeme mit dem Menschsein selbst vergleichen, weil sie lernfähig sind und sich eigenständig weiterentwickeln können (Emergenz). Insofern sind sie mehr oder weniger „autonom“ – mit dem AI-Act der EU gesagt: Sie sind „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann“. [1] Theoretisch können Computer künftig einmal über Bewusstsein verfügen. Angesichts dessen sollten Grenzen gezogen werden – etwa dahingehend, dass man keine KI-Systeme konstruiert, die Emotionalität besitzen und leidensfähig sind, da „wir mit der Herstellung solcher mit Emotionen ausgestatteten Akteure zugleich auch das Leid in der Welt vermehren würden, weil auch diese Systeme leiden würden – insbesondere in ihrer frühen Entwicklungsphase“ (Klein, S. 120). Falls KI-Systeme einmal einen Status erlangen würden, der demjenigen leidensfähiger Lebewesen gleich- oder nahekäme, müsste man ihnen eigenständige Schutzansprüche zuerkennen. Auf solche Zukunftsprobleme macht das vorliegende Buch zumindest beiläufig aufmerksam. Im Schwerpunkt konzentriert es sich sinnvollerweise auf die Grenzen, die KI-Nutzungen aktuell zu ziehen sind, damit sie human- und sozialverträglich bleiben. Wegweisend sind hierzu die Vorgaben der Europäischen Union, die in dem Buch eine Schlüsselrolle spielen.

3. Notwendigkeit der Auseinandersetzung mit offenen Fragen. Zahlreiche Fragen, die zur KI ethisch und rechtlich aufbrechen, sind bislang nicht abschließend geklärt. Zu ihnen gehören der Schutz und die Vertraulichkeit der Patientendaten, mit denen KI-Systeme trainiert werden müssen. Im Jahr 2019 hat der Deutsche Bundestag das Digitale-Versorgung-Gesetz beschlossen, dem zufolge Krankenkassen die Daten ihrer Versicherten ohne deren Einwilligung pseudonymisiert an ein Forschungsdatenzentrum weiterleiten dürfen. Gegen diese Bestimmung hat ein Patient, der an einer seltenen Krankheit litt, beim Bundesverfassungsgericht einen Eilantrag eingereicht. Das Karlsruher Gericht hat den Antrag im Jahr 2020 abgewiesen. [2] Eine verfassungsrechtliche Klärung des Themas ist bislang nicht erfolgt. Bemerkenswerte Impulse gehen jedoch von wissenschaftlicher Seite aus. In Deutschland wurde ein Organisationsmodell entwickelt, das absichern soll, dass Patient*innen der digitalen Nutzung ihrer Daten für Forschungszwecke wohlinformiert zustimmen oder ihr widersprechen können (Konzeption des „broad consent“). [3] Interessant und nützlich sind überdies Innovationen in der KI-Forschung selbst, die dem Datenschutz dienen, namentlich das oben erwähnte dezentrale oder föderale/föderierte Maschinelle Lernen. Allerdings besteht auch hierzu weiterhin Klärungsbedarf (dazu Hinweise von Demelius/​Jantscher/Trügler, S. 226 f.). Insgesamt ist die Liste der Fragen, deren Beantwortung offen ist, recht lang. Sie reicht vom Datenschutz bis zu den Haftungsproblemen, die aus der Nutzung von KI resultieren.

Fazit

Die Nutzung von KI bzw. von Maschinellem Lernen wird die Medizin und das Gesundheitswesen künftig tiefgreifend prägen – zweifellos mit großem Gewinn für den Schutz der menschlichen Gesundheit und für die effektive Therapie von Krankheiten, aber auch mit bestimmten Risiken und mit noch ungeklärten Folgewirkungen. Das vorliegende Buch enthält hierzu fachübergreifend eine Fülle von Informationen, Erläuterungen und Denkanstößen. Als Sammelwerk zur KI im Gesundheitswesen stellt es ein gewichtiges, lesenswertes Pilotprojekt dar.


[1] EU-Verordnung 2024/1689 v. 13.6.2024, Kap. 1 Art. 3 Nr. 1.

[2] Bundesverfassungsgericht, Beschl. v. 19.3.2020, 1 BvQ 1/20.

[3] S. Zenker u.a., National standardisierter Broad Consent in der Praxis: erste Erfahrungen, aktuelle Entwicklungen und kritische Betrachtungen, in: Bundesgesundheitsblatt – Gesundheitsforschung – Gesundheitsschutz 67 (2024), 637–647, open access https://link.springer.com/article/10.1007/s00103-024-03878-6 (Abruf 2.8.2024).

Rezension von
Prof. Dr. Hartmut Kreß
Professor für Sozialethik an der Universität Bonn
Website
Mailformular

Es gibt 19 Rezensionen von Hartmut Kreß.

Besprochenes Werk kaufen
Sie fördern den Rezensionsdienst, wenn Sie diesen Titel – in Deutschland versandkostenfrei – über den socialnet Buchversand bestellen.


Zitiervorschlag
Hartmut Kreß. Rezension vom 08.10.2024 zu: Andreas Klein, Sebastian Dennerlein, Helmut Ritschl (Hrsg.): Health Care und Künstliche Intelligenz. Ethische Aspekte verstehen – Entwicklungen gestalten. UTB (Stuttgart) 2024. ISBN 978-3-8252-6257-0. In: socialnet Rezensionen, ISSN 2190-9245, https://www.socialnet.de/rezensionen/32370.php, Datum des Zugriffs 07.11.2024.


Urheberrecht
Diese Rezension ist, wie alle anderen Inhalte bei socialnet, urheberrechtlich geschützt. Falls Sie Interesse an einer Nutzung haben, treffen Sie bitte vorher eine Vereinbarung mit uns. Gerne steht Ihnen die Redaktion der Rezensionen für weitere Fragen und Absprachen zur Verfügung.


socialnet Rezensionen durch Spenden unterstützen
Sie finden diese und andere Rezensionen für Ihre Arbeit hilfreich? Dann helfen Sie uns bitte mit einer Spende, die socialnet Rezensionen weiter auszubauen: Spenden Sie steuerlich absetzbar an unseren Partner Förderverein Fachinformation Sozialwesen e.V. mit dem Stichwort Rezensionen!

Zur Rezensionsübersicht