Künstliche Intelligenz in der Chirurgie wirft große rechtliche und ethische Herausforderungen auf

Künstliche Intelligenz verändert schrittweise die Chirurgie, indem sie die Operationsplanung, die Echtzeit-Unterstützung und sogar bestimmte autonome Aufgaben verbessert. Dennoch bringt ihre Einführung technologische, menschliche, rechtliche und ethische Risiken mit sich, die von den aktuellen Vorschriften noch unzureichend geregelt werden.

Systeme der künstlichen Intelligenz in der Chirurgie können Diagnose- oder Behandlungsfehler begehen, die aufgeklärte Zustimmung der Patienten beeinträchtigen oder deren Privatsphäre verletzen. Diese Risiken haben drei Hauptursachen: die Grenzen des Werkzeugs selbst, menschliche Fehler bei seiner Anwendung und organisatorische Mängel bei seiner Einführung. Beispielsweise kann ein schlecht trainierter Algorithmus bestehende Verzerrungen in den Daten verstärken, was zu ungerechten Empfehlungen für bestimmte Patientengruppen führt. Ebenso könnte ein Chirurg sich zu sehr auf einen plausiblen, aber falschen Vorschlag des Systems verlassen und dadurch sein eigenes klinisches Urteil vernachlässigen.

Die aktuellen rechtlichen Rahmenbedingungen, wie sie in der Europäischen Union oder den Vereinigten Staaten existieren, versuchen, diese Technologien zu regulieren, indem sie die Systeme nach ihrem Risikoniveau einteilen. Die Anforderungen variieren dann in Bezug auf Tests, Datenverwaltung und Cybersicherheit. Allerdings haben diese Vorschriften Schwierigkeiten, mit dem Tempo der Innovationen Schritt zu halten, insbesondere angesichts von Modellen, die kontinuierlich lernen und sich anpassen können. Der Schutz der Patientendaten bleibt ebenfalls eine kritische Herausforderung. In Europa schreibt die Datenschutz-Grundverordnung strenge Regeln für die Nutzung medizinischer Informationen vor, während in den Vereinigten Staaten die Lücken im aktuellen Recht Patienten dem Risiko der Wiederidentifizierung ihrer Daten aussetzen – selbst wenn diese anonymisiert wurden.

Die aufgeklärte Zustimmung wird durch den Einsatz künstlicher Intelligenz komplexer. Patienten, die oft nur wenig mit diesen Technologien vertraut sind, können unrealistische Erwartungen entwickeln oder im Gegenteil unbegründete Ängste hegen. Chirurgen müssen daher klar erläutern, welche Rolle das Werkzeug spielt: Handelt es sich um eine Diagnosehilfe, einen Navigationsleitfaden oder einen aktiven Assistenten während der Operation? Sie müssen auch die vorhandenen Sicherheiten beschreiben, wie etwa ihre Fähigkeit, die Empfehlungen des Systems zu überprüfen und zu widerlegen. Darüber hinaus müssen Chirurgen die Patienten über ihre eigene Ausbildung und Erfahrung mit diesen Systemen informieren.

Die Frage der Haftung bei medizinischen Fehlern wird durch den Einsatz künstlicher Intelligenz komplizierter. Traditionell trägt der Chirurg die volle Verantwortung für alle im Operationssaal getroffenen Entscheidungen. Doch wenn ein System eine fehlerhafte Empfehlung gibt, die zu einem Schaden führt, wer ist dann verantwortlich? Der Chirurg, weil er ihr gefolgt ist, der Entwickler wegen eines Konstruktionsfehlers oder die Einrichtung wegen einer nachlässigen Implementierung? Gerichte könnten die Hersteller zur Verantwortung ziehen, wenn ein fehlerhafter oder unzureichend getesteter Algorithmus zu einem Fehler geführt hat. Krankenhäuser könnten als fahrlässig eingestuft werden, wenn sie ein nicht validiertes oder schlecht gewartetes System verwenden. Der Chirurg bleibt jedoch verpflichtet, die Sorgfaltsstandards einzuhalten, und kann sich seiner Verantwortung nicht entziehen, indem er das Werkzeug beschuldigt.

Die Risiken beschränken sich nicht auf medizinische Fehler. Eine falsche Nutzung künstlicher Intelligenz kann auch das Vertrauensverhältnis zwischen Patient und Chirurg untergraben. Wenn der Patient den Eindruck hat, dass Entscheidungen von einem Algorithmus und nicht von seinem Arzt getroffen werden, kann das Vertrauensverhältnis darin geschwächt werden. Zudem können mangelnde Transparenz oder ein Fehler des Systems dieses Vertrauen nachhaltig beschädigen – sowohl gegenüber dem Kliniker als auch gegenüber dem Gesundheitssystem als Ganzes.

Um diese Risiken zu mindern, ist eine robuste Governance erforderlich. Gesundheitseinrichtungen müssen spezielle Ausschüsse einrichten, um Systeme der künstlichen Intelligenz vor ihrer Einführung zu bewerten. Diese Ausschüsse müssen sicherstellen, dass die Entwickler umfassende Bedienungsanleitungen, Schulungssitzungen und Sicherheitsrichtlinien bereitstellen. Eine kontinuierliche Überwachung der Leistung ist ebenfalls notwendig, um etwaige Verschlechterungen oder Abweichungen des Modells frühzeitig zu erkennen. Fachgesellschaften und medizinische Institutionen haben ebenfalls eine Rolle zu spielen, indem sie Standards für die Ausbildung und Zertifizierung von Chirurgen festlegen, die diese Werkzeuge nutzen.

Schließlich ist die Zusammenarbeit zwischen Krankenhäusern, Entwicklern und Regulierungsbehörden entscheidend, um die Praktiken zu harmonisieren und einen sicheren und ethischen Einsatz künstlicher Intelligenz in der Chirurgie zu gewährleisten. Ohne diese Zusammenarbeit könnten technologische Fortschritte auf Kosten der Patientensicherheit und der Behandlungsqualität gehen.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc