Thomas M. Deserno, Andreas J. W. Goldschmidt et al. (Hrsg.): KI in der Medizin
Rezensiert von Prof. Dr. phil. Andreas Meusch, 09.09.2025
Thomas M. Deserno, Andreas J. W. Goldschmidt, Alfred Winter (Hrsg.):KI in der Medizin. Folgenabschätzung für Forschung und Praxis. medhochzwei Verlag GmbH (Heidelberg) 2025. ISBN 978-3-98800-141-2. D: 89,00 EUR, A: 91,50 EUR.
Reihe: Gesundheitswesen in der Praxis.
Thema
Wie kann Künstliche Intelligenz (KI) zur Verbesserung der Gesundheitsversorgung beitragen? In 19 eigenständigen Beiträgen geht es um „Gute Klinische Praktiken“ (S. VII) im Umgang mit KI.
Herausgeber
Prof. Dr. med. Andreas J.W. Goldschmidt ist seit 2028 Gastwissenschaftler am “Institut für Arbeits-, Sozial- und Umweltmedizin” (IASU) und war bis 2017 Langjähriger Lehrstuhlinhaber für Gesundheitsmanagement an der Universität Trier.
Prof. Dr. rer.nat. Thomas M. Deserno ist Geschäftsführender Direktor und Leiter des Standortes Braunschweig des Peter L. Reichertz Instituts für Medizinische Informatik der TU Braunschweig und der Medizinischen Hochschule Hannover.
Prof. Dr. sc.hum. Alfred Winter ist Direktor des Instituts für Medizinische Informatik, Statistik und Epidemiologie der Universität Leipzig.
Entstehungshintergrund
Grundlage des Buches sind drei Workshops der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie e.V. (GMDS), die zwischen dem 20. September 2023 und dem 17. April 2024 stattfanden. Der Band greift Vorarbeiten der Präsidiumskommission „Ethische Fragen in der Medizinischen Informatik, Biometrie und Epidemiologie“ auf, die zum Teil schon 2020 veröffentlicht wurden [1].
Aufbau
Nach Vorwort und Editorial folgen 19 Einzelbeiträge mit jeweils eigener Untergliederung eigenem Literaturverzeichnis, zum Teil mit Abbildungen. Ein ausführliches Stichwortverzeichnis sowie ein Verzeichnis der Herausgeber und Autoren schließen den Band ab.
Inhalt
Der erste Beitrag stammt von dem Mitherausgeber Prof. Dr. Andreas Goldschmidt und beschäftigt sich mit dem Thema Künstliche Intelligenz in der Medizin – Folgenabschätzung für die Forschung“ und greift Fragen von „Sicherheit, Schutz, Erklärbarkeit, und Verantwortung bis hin zur Haftung“ auf (S. 2). Sein Plädoyer für eine Reglementierung der KI wird durch die Sorge relativiert, dass „Deutschland und ganz Europa bei der Entwicklung und Forschung zur KI in der Medizin“ bereits im Hintertreffen sind (S. 2).
Den zweiten Beitrag verantworten die Herausgeber des Bandes zusammen mit Dr. med. Birgit J. Gerecke, die als Oberärztin in der Kardiologie und als Lehrbeauftragte am Institut von Prof. Deserno arbeitet. Auf 15 Seiten beschäftigen sie sich mit dem Thema „Ethische Leitlinien – Elemente eines Ethikkodex am Beispiel der medizinisch-wissenschaftlichen Fachgesellschaft GMDS und einiger kooperierender Verbände.
Fünf Mitarbeitende des Universitätsklinikums Erlangen sind Autoren des Beitrag „KI-Governance – Eine der ersten KI-Richtlinien in einem Universitätsklinikum in Deutschland“: Prof. Dr. Hans-Ulrich Prokosch, Timo Apfelbacher, Sude Eda Koçman, Dr. Annika Clarmer und Martin Schneider. Sie schildern das Entstehen der KI-Richtlinie ihres Universitätsklinikums von der Beauftragung Ende 2023 bis zur Verabschiedung durch den Vorstand im Sommer 2024.
Der Oberarzt und Leiter der Tagesklinik der Klinik für Psychosomatische Medizin und Psychotherapie des Universitätsklinikums Freibug, Dr. Peter Walcher, lässt die Leser teilhaben an der „Spurensuche zum Wirken unseres Großvaters Siegfried Koller (1908-1998)“, einem „Rassenhygieniker“ im Nationalsozialismus, der nach dem Krieg zu einem der führenden Medizinstatistiker und Professor an der Johannes-Gutenberg-Universität in Mainz wurde.
Vom selben Autor stammt der folgende Beitrag „Von der Volksgesundheit zu Public Health – Eine persönliche Reflexion über die Entwicklung und die Verantwortung der Versorgungsforschung im Spiegel der Zeit“, der die Auseinandersetzung mit dem Wirken des Großvaters fortsetzt und die Bedeutung individueller Verantwortung thematisiert, um daraus zu lernen.
Insgesamt acht Autorinnen und Autoren um die Initiatoren des Projektes AKTIN, Prof. Dr.med. Felix Walcher und Prof. Dr. Rainer Röhrig, haben sich „Die Verantwortung im Umgang mit Gesundheitsdaten in der Versorgungsforschung – Herausforderungen und Lösungen des AKTIN-Notaufnahmeregisters“ zum Thema gewählt. Darin beschäftigen sie sich mit Entwicklung und Struktur des 2010 gegründeten „Aktionsbündnisses zur Verbesserung der Kommunikations- und Informationstechnologie in der Intensiv- und Notfallmedizin“ (AKTIN) und stellen die Konzepte sowie Lösungen für die technischen und ethischen Anforderungen im Umgang mit den Daten und ihrer Interpretation dar.
Die fünf Juristinnen und Juristen Karolina Lange-Kulmann, Dr. Marina Schulte, Thannos Rammos, Majula Jaiteh und Julian Pusch, die alle für die Law-Firm Taylor Wessing arbeiten, widmen sich dem Thema „Einsatz von KI in der Medizin: Was rechtlich zu beachten ist“. Sie wollen aufzeigen, „wie man durch das regulatorische Dickicht manövriert“ (S. 86), das durch europarechtliche Bestimmungen geprägt ist, sowie durch Vorschriften zum Datenschutz und Berufsrecht die „teilweise aus einer Zeit weit vor dem ersten Einsatz von KI stammen“ (S. 86).
Acht Autorinnen und Autoren aus dem Institut für Medizinische Informatik der Universitätsmedizin Göttingen um dessen Leiter Prof. Dr. rer.nat. Ulrich Sax beschäftigen sich im achten Beitrag mit der Frage „Wie wollen wir mit der Unschärfe und der Unsicherheit von Vorhersagen in der personalisierten Medizin umgehen?“ und betonen dabei die Bedeutung interdisziplinärer Dialoge und gezielter Schulungen, um den Herausforderungen, die die ethischen Prinzipien von Autonomie, Nichtschädigung, Fürsorge und Gerechtigkeit in der personalisierten Medizin mit sich bringen, gerecht zu werden.
Anschließend beschäftigt sich der Professor für Angewandte Künstliche Intelligenz in der Medizin, Dr. med. Kai Wehkamp, mit „Qualität, Bias und Nutzen im Machine-Learning-Zyklus medizinischer Anwendungen“ und kommt zu dem Ergebnis, dass ein „breites Spektrum verschiedener Wissensdomänen“ notwendig ist, um ML-basierte Anwendungen erfolgreich in die Versorgung zu integrieren (S. 120).
Dr. med. Birgit J. Gerecke ist Kardiologin und Mitglied der Präsidiumskommission Ethik der DMDS. Ihr Beitrag, „ethische Aspekte der digitalen Transformation im Gesundheitswesen an Beispielen aus der Kardiologie“ will zeigen, dass bei aller Offenheit der Kardiologie für technische Innovationen, digitale Devices und Apps ihren Kosten-Nutzen-Vorteil noch nicht belegt haben und ethische Probleme aufwerfen, die noch gelöst werden müssen (S. 125). Sie verweist aber auch auf eine Studie, die gezeigt hat, dass der Einsatz von Chatbots in Aufklärungsgesprächen bei ausreichender Richtigkeit von den Patienten als empathischer eingeordnet wurde (S. 137).
Fünf Wissenschaftler:innen aus Bayern haben sich für den Beitrag „GEHBA-FastTrack – Ein beschleunigtes Verfahren zur ethischen Beurteilung nichtmedizinischer Forschungsvorhaben“ zusammengetan. Der „Gemeinsamen Ethikkommission der Hochschulen Bayerns“ (GEHBA) gehören von den Autor:innen die Professores Dr.med. Walter Swoboda und Dr. phil.habil. Karsten Weber sowie Dr. Martin Schmieder und Dr. Julia Krumme an. Das Autorenteam wird verstärkt durch Dr. Johannes Schobel, Forschungsprofessor für „Digitale Medizin und Pflege“ in Neu-Ulm. Das „halbautomatisierte System“ zur Beurteilung der ethischen Implikationen von nichtmedizinischen Projekten will sicherstellen, „dass ethisch unbedenkliche Projekte ohne umfangreiche Vollanträge schnell bearbeitet werden können“ (S. 144).
Die Leiterin der Geschäftsstelle des Arbeitskreises Medizinischer Ethik-Kommissionen in der Bundesrepublik Deutschland, Dr. iur. Anna Moreno, beschäftigt sich in ihrem Beitrag mit dem Thema „Systematische Bewertung von Künstlicher Intelligenz (KI) in der Medizin – Über die Notwendigkeit der Weiterentwicklung von Health Technology Assessment (HTA)“. Ausgehend von der globalen Entwicklung der Künstlichen Intelligenz und ihrer systematischen Bewertung fragt der Beitrag nach “gelingenden forschungsrechtlichen und evidenzbasierten Ansätzen der systematischen Bewertung unter Beachtung von ethischen Leitplanken“ (S. 154).
Das Thema des Münsteraner Professors für Wirtschaftsinformatik, Dr. Jan Appel, ist „Ethische Implikationen in der praktischen Umsetzung von Digitalisierung und KI im Gesundheitswesen“. Sein Ziel ist die Systematisierung relevanter ethischer Aspekte „entlang des Produktlebenszyklus eines KI-Produkts aus Sicht einer Klinik“ (S. 175). Die Instrumente zur Gestaltung ethischen Handelns werden mit Fokus auf „vier Wirkungsquellen“ (S. 186) beurteilt: den gesetzlichen Vorschriften, unternehmerischen Vorgaben, durch Schulung und Sensibilisierung vermittelte Aspekte sowie das ethische Handeln des Einzelnen.
Zusammen mit Annika Sophie Wagner, die „bei Merck in Darmstadt für ein globales Team im Bereich Change Management und Kommunikation“ arbeitet (S. 312), stellt Prof. Dr. Andreas J.W. Goldschmidt den „Einfluss der KI am Arbeitsplatz – Ergebnisse einer internationalen Umfrage“ vor. Es werden „die Ergebnisse einer globalen empirischen Umfrage von Mitarbeiterinnen und Mitarbeitern eines weltweit tätigen Pharmakonzerns im Rahmen einer Vor- oder Pilotstudie vorgestellt“ (S. 194), die „eher im Sinne einer Hypothesengenerierung eine gute Grundlage (sind), um künftige Unterschiede zum Einfluss der KI am Arbeitsplatz im internationalen Vergleich weiterhin zu beobachten“ (S. 214).
An Frankfurter Universitäten wirken die drei Autoren des Beitrag „Diagnosestellung und Versorgung seltener Erkrankungen – digitale Lösungen und Künstliche Intelligenz“, Prof. Dr. rer.med. Jannik Schaaf, Dr.med. Michael von Wagner und Prof. Dr. sc.hum. Holger Storf. Ausgehend von der Prävalenz seltener Erkrankungen erläutern sie das Projekt „Smartes Arztportal für unklare Erkrankungen (SATURN)“, das Fehlbehandlungen und unnötige Untersuchungen vermeiden will.
Der Geschäftsführer des Klinikums Darmstadt, Clemens Maurer erläutert mit seinem Chief Information Officer Gerhard Ertl das „Praxisbeispiel aus einem nichtuniversitären Krankenhaus der Maximalversorgung – Implementierung von KI am Klinikum Darmstadt GmbH“ und diskutieren die Herausforderungen, die mit der Implementierung verbunden sind.
Drei Mitarbeitende der ID GmbH&Co KGaA, Dr. rer.nat. Juliane Eidenschink, Dr. rer.medic. André Sander und Dr. med. Daniel Dieckmann, haben das Thema „Der Beitrag von KI zu Terminologien und Semantik am Beispiel von Antibiotic Stewardship“ für ihre Ausarbeitung gewählt. Sie beschreiben hier insbesondere die „Rolle von Ontologien und Terminologien bei der Erfassung der Nuancen medizinischer Sprache“ (S. 246).
Der stellvertretende Vorstandsvorsitzende des Medizinischen Dienstes Hessen, Steffen Euler, ist der Autor des vorletzten Beitrags „Generative KI erobert die medizinische Dokumentation – Eine Folgeabschätzung für Kodierung und externe Prüfverfahren“. Ausgehend von dem Befund, dass KI schon Teil des Klinikalltags ist, beschäftigt er sich mit den Vorteilen und Risiken dieser Technologie für Kodierung und externe Prüfverfahren.
Zum Abschluss erläutert der Amtsleiter des Gesundheitsamtes der Stadt Frankfurt am Main, PD Dr. med. Peter Tinnemann, zusammen mit der Hauptverantwortlichen für das Projekt „GA-Lotse“, Stefanie Kaulich, „‘GA-Lotse‘ – Die Entwicklung einer zukunftsfähigen Open Source-Software für Gesundheitsämter“ (GA). Sie stellen das in enger Kooperation mit dem zuständigen hessischen Ministerium seit 2023 entwickelte Projekt vor, das „den spezifischen Bedürfnissen der Gesundheitsämter gerecht wird und zugleich zukunftsorientierte Standards für die öffentliche Verwaltung setzt“ (S. 273).
Diskussion
Es ist eine große Leistung der drei Herausgeber, 47 Autorinnen und Autoren für 19 Beiträge zu dem sich sehr dynamisch entwickelnden Feld der KI zusammenzubringen. Die Stärke des Bandes liegt in der multiperspektivischen Herangehensweise, der die komplexen Herausforderungen des digitalen Wandels differenziert darstellt. Es gelingt, das Ceterum censeo der Forderung nach multidisziplinärer Zusammenarbeit in der Konzeption des Bandes zu verwirklichen.
Wie bei solchen Sammelbänden üblich, sind die Beiträge recht heterogen und stehen für sich. Die Autorinnen und Autoren schildern ihre Projekte und Erfahrungen, eine Einordnung in Gesamtzusammenhänge findet nur begrenzt statt. Ein Beispiel: Man hätte bei dem Frankfurter Projekt für die Gesundheitsämter gerne erfahren, warum auch Hessen wie andere Bundesländer auf Eigenentwicklung setzt und wie sich das hessische Projekt zu den Aktivitäten in anderen Bundesländern [2] oder dem elektronischen Informations- und Meldesystem für Gesundheitsämter des RKI verhält [3]. Weitere Beispiele würden den Rahmen dieser Rezension sprengen.
Die fehlenden Einordnungen begrenzen den Nutzerkreis auf Personen, die diese Einordnung selbst leisten können. Für sie enthält der Band aber wertvolle Denkanstöße zu einem äußerst komplexen Thema.
Fazit
Das Werk richtet sich an Praktiker:innen, Forscher:innen sowie Entscheidungsträger:innen der Medizin, Pflege und Gesundheitswirtschaft, die KI verantwortungsvoll und nutzbringend implementieren wollen. Es ist zugleich ein Appell für einen breiten gesellschaftlichen Diskurs über Chancen und notwendige Grenzen von KI in der Medizin und die Notwendigkeit interdisziplinärer Zusammenarbeit bei der Implementierung von KI.
[1] Goldschmidt, A.J.W./Deserno, T.M./Winter, A./Gerecke, B.: Elemente eines Ethikkodex für Medizin- und Informationstechnische Fachgesellschaften. In: Manzeschke, A./Niederschlag, W. (Hrsg.): Ethische Perspektiven auf Biomedizinische Technologie (Band 3 der Reihe Health Academy). De Guyter-Verlag (Berlin) 2020, S. 233–245)
[2] S. z.B.: https://www.mdr.de/nachrichten/deutschland/politik/millionen-foerderung-gesundheitsaemter-oegd-100.html
[3] https://www.rki.de/DE/Institut/Organisation/Abteilungen/Abteilung-3/FG32/EMIGA/emiga.html
Rezension von
Prof. Dr. phil. Andreas Meusch
Professor für Gesundheitsmanagement an der IU International University
Website
Mailformular
Es gibt 27 Rezensionen von Andreas Meusch.
