KI in der Medizin – ethische Chancen und Herausforderungen

Das Klinische Ethikkomitee (KEK) der Universitätsmedizin Magdeburg unter der Leitung von Prof. Dr. Bettina Hitzer lud am 18. Juni erneut zum jährlichen Ethiktag ein. In diesem Jahr stand die Veranstaltung unter dem Thema „KI in der Medizin – ethische Chancen und Herausforderungen“.

Künstliche Intelligenz (KI) verändert die Medizin in bislang ungekanntem Tempo und eröffnet große Potenziale für eine präzisere Diagnostik sowie effizientere und stärker patientenzentrierte Therapien. Gleichzeitig wirft sie ethische Fragen auf, die unser grundlegendes Verständnis vom Menschsein und von der medizinischen Profession berühren.

Beim 11. Ethiktag erwarteten die Teilnehmenden Vorträge renommierter externer Expertinnen und Experten, die unterschiedliche Facetten des Themas beleuchteten, sowie eine Podiumsdiskussion mit Vertreterinnen und Vertretern der Universitätsmedizin Magdeburg, die konkrete Anwendungsfelder in den Blick nahmen. Eröffnet wurde die Veranstaltung mit einer Posterausstellung, die Einblicke in aktuelle KI-Projekte vor Ort bot. So präsentierte die Universitätsklinik für Psychosomatik und Psychotherapie ihre Forschung zur KI-gestützten Sprach- und Stimmanalyse als Prädiktor für die Qualität der therapeutischen Allianz. Zugleich untersuchten die Forschenden Methoden der Sprachanonymisierung. Diese ist Voraussetzung für den Aufbau überregionaler Forschungsdatenbanken und die Durchführung standortübergreifender Supervisionen. Weitere Poster präsentierten Forschungsprojekte zur KI-Anwendung in der Nuklearmedizin, der Radiologie sowie der Pädiatrie.

Die Vortragssession eröffnete Prof. Dr. Martina Heßler (TU Darmstadt). Die Technikhistorikerin betrachtete das Mensch-Maschine-Verhältnis aus der Perspektive des Fehlers. Die Vorstellung, Maschinen seien fehlerfrei, habe sich laut Heßler zu Beginn des 19. Jahrhunderts etabliert und wirke bis heute nach. Damit sei zugleich die Annahme verbunden gewesen, Maschinen seien dem fehlerhaften Menschen überlegen. Auch gegenwärtige KI verspreche, „besser“ zu sein als der Mensch. Tatsächlich zeige die tägliche Erfahrung jedoch, dass auch sie fehleranfällig sei: Sie halluziniere, treffe falsche Aussagen und sei in vielerlei Hinsicht von Verzerrungen (Bias) geprägt. Die Referentin zeigte Dilemmata auf, die aus dem Zusammenspiel fehlerhafter Menschen und fehlerhafter Maschinen entstehen, etwa ein neuartiges Nichtverstehen technologischer Systeme sowie neue Fragen der Verantwortung.

Der Soziologe Prof. Dr. Stefan Selke (Hochschule Furtwangen) plädierte in seinem Vortrag dafür, KI nicht allein als Werkzeug zu betrachten. Stattdessen schlug er ein differenzierteres Modell vor, in dem KI verschiedene Rollen einnehmen könne – etwa als Assistenz zur umfassenden Unterstützung des Menschen, als eine Art sozialer Partner oder sogar als Super-Ego. Solche neuen Beziehungen zwischen Mensch und KI entstünden schleichend und würden insbesondere dort sichtbar, wo menschliche Fürsorge abnehme. Dies sei im Gesundheits- und Pflegebereich vor allem dann der Fall, wenn persönliche Betreuung zunehmend durch auf Effizienz ausgerichtete, technisch gesteuerte Lösungen ersetzt werde, die Subjektivität lediglich simulierten. Welche Rolle(n) KI künftig einnehmen werde und ob sie dem Menschen tatsächlich diene, hänge jedoch davon ab, wie wir unsere Zukunft erzählten – als Arrangement mit dem scheinbar Alternativlosen oder als Aufbruchsgeschichte, die Vorstellungskraft und kollektives Lernen fördere. Sinnhaftigkeit sei die eigentliche Mangelware des 21. Jahrhunderts – nicht Rechenleistung, so Selke.

Prof. Dr. Arne Manzeschke (Evangelische Hochschule Nürnberg) beleuchtete das Thema aus ethisch- anthropologischer Perspektive. Dabei knüpfte er an Technikphilosophen der 1980er-Jahre an, die die Einführung neuer Technologien für ebenso bedeutsam für die gesellschaftliche Ordnung hielten wie die Einführung neuer Gesetze. Das Collingridge-Dilemma beschreibe treffend die Schwierigkeit der Technikfolgenabschätzung: Solange eine Technik noch wenig bekannt und etabliert sei, wisse man nur wenig über ihre Auswirkungen und möglichen unerwünschten Nebenwirkungen. Sei sie dagegen bereits weit verbreitet, lasse sie sich nur noch schwer kontrollieren oder gar zurücknehmen. Laut Manzeschke überschreite der Charakter von KI und Robotik den eines bloßen Werkzeugs deutlich. Ihr sozialer und moralischer Status sei bislang unklar. Der Einsatz von KI und Robotik in sozialen Handlungsfeldern bedürfe daher eines breit angelegten gesellschaftlichen Lernprozesses. Forschungs- und Entwicklungsprozesse müssten deshalb frühzeitig auch nichttechnische Fragestellungen einbeziehen.

Zum Abschluss gab Dr. Justyna Stypińska Einblicke in ein aktuelles Forschungsprojekt zur Altersdiskriminierung durch KI. Sie erläuterte das Konzept des „AI Ageism“, das beschreibt, wie Altersbilder und KI-Technologien zusammenwirken und dadurch soziale Ungleichheiten entstehen oder verstärkt werden können. Zum Forschungsprojekt gehörte auch die Analyse von Start-ups, die technische Lösungen für Menschen mit Demenz oder anderen kognitiven Beeinträchtigungen entwickeln. Stypińska hat seit 2025 die Dorothea-Erxleben-Gastprofessur an der Fakultät für Humanwissenschaften der Otto-von-Guericke-Universität Magdeburg inne.

An der anschließenden Podiumsdiskussion nahmen Vertreterinnen und Vertreter der Universitätsmedizin Magdeburg teil: Prof. Dr. Fabian-Simon Frielitz (Telemedizin, Digitalisierung und Ökonomie in der Medizin), Prof. Dr. Antje Redlich (Universitätskinderklinik) und Prof. Dr. Julian Varghese (Institut für Medical Data Science).

Der Gesundheitsökonom und Jurist Frielitz erforscht den Nutzen digital gestützter Versorgungskonzepte im Gesundheitswesen und entwickelt Strategien für deren Überführung in die Regelversorgung. Dabei müssten alle Aspekte der Gesundheitsversorgung einschließlich sozialer, ethischer, rechtlicher, organisatorischer und wirtschaftlicher Herausforderungen berücksichtigt werden.

Redlich sprach sich als Klinikerin und Forscherin in der Kinderonkologie dafür aus, Machine-Learning-Modelle zur Unterstützung von Therapieentscheidungen möglichst nur dann einzusetzen, wenn deren Funktionsweise selbst programmiert oder zumindest grundlegend verstanden worden sei. Änderungen im Code oder in der zugrunde liegenden Datenbasis führten zwangsläufig auch zu Veränderungen der Ergebnisse. Ein verantwortungsvoller Umgang mit KI müsse deshalb bereits im Medizinstudium vermittelt und in die ärztliche Fort- und Weiterbildung integriert werden.

Als Mitglied der GMDS-Arbeitsgruppe „Medizinische Informatik-Lehre in der Medizin“ entwickelt Varghese Empfehlungen für eine bundesweit zukunftsorientierte Ausbildung, die aktuelle Entwicklungen wie KI und Digitalisierung berücksichtigt. Das von ihm geleitete Institut unterstützt an der Medizinischen Fakultät der Otto-von-Guericke- Universität sowohl Grundlagenwissenschaftlerinnen und -wissenschaftler als auch klinisch Forschende bei der Analyse großer Datensätze mithilfe moderner Verfahren der Mustererkennung.

Die vielfältigen Beiträge des Ethiktages machten deutlich, dass sich der Einsatz von KI im Gesundheitswesen nicht pauschal bewerten lässt. Vielmehr müsse jede Anwendung im Hinblick auf ihr spezifisches Einsatzgebiet beurteilt werden. Die Veranstaltung machte Mut, die tiefgreifenden Entwicklungen der Künstlichen Intelligenz in der Medizin aktiv mitzugestalten.