L’intelligenza artificiale in chirurgia solleva sfide giuridiche ed etiche maggiori

L’intelligenza artificiale sta trasformando progressivamente la chirurgia, migliorando la pianificazione degli interventi, l’assistenza in tempo reale e persino alcune attività autonome. Tuttavia, la sua adozione introduce rischi tecnologici, umani, giuridici ed etici ancora scarsamente regolamentati dalle normative attuali.

I sistemi di intelligenza artificiale in chirurgia possono commettere errori di diagnosi o di trattamento, compromettere il consenso informato dei pazienti o violare la loro privacy. Questi rischi derivano da tre fonti principali: i limiti intrinseci dello strumento, gli errori umani legati al suo utilizzo e le carenze organizzative durante il suo impiego. Ad esempio, un algoritmo mal addestrato può amplificare pregiudizi presenti nei dati, portando a raccomandazioni inique per alcuni gruppi di pazienti. Allo stesso modo, un chirurgo potrebbe affidarsi eccessivamente a una suggerimento errato ma plausibile dello strumento, rinunciando così al proprio giudizio clinico.

I quadri legali attuali, come quelli dell’Unione Europea o degli Stati Uniti, cercano di regolamentare queste tecnologie classificando i sistemi in base al loro livello di rischio. I requisiti variano quindi in materia di test, gestione dei dati e cybersicurezza. Tuttavia, queste normative faticano a tenere il passo con le innovazioni, soprattutto di fronte a modelli capaci di imparare e adattarsi continuamente. La protezione dei dati dei pazienti rimane inoltre una questione critica. In Europa, il regolamento generale sulla protezione dei dati impone regole rigorose sull’utilizzo delle informazioni mediche, mentre negli Stati Uniti, le lacune della legge attuale espongono i pazienti a rischi di reidentificazione dei loro dati, anche se anonimizzati.

Il consenso informato diventa più complesso con l’introduzione dell’intelligenza artificiale. I pazienti, spesso poco familiari con queste tecnologie, possono sviluppare aspettative irrealistiche o, al contrario, timori infondati. I chirurghi devono quindi spiegare chiaramente il ruolo dello strumento: si tratta di un aiuto alla diagnosi, di una guida di navigazione o di un assistente attivo durante l’intervento? Devono anche descrivere le garanzie in vigore, come la loro capacità di verificare e contraddire le raccomandazioni dello strumento. Inoltre, i chirurghi hanno il dovere di informare i pazienti sulla propria formazione e sulla propria esperienza con questi sistemi.

La questione della responsabilità in caso di errore medico si complica con l’utilizzo dell’intelligenza artificiale. Tradizionalmente, il chirurgo si assume la piena responsabilità delle decisioni prese in sala operatoria. Ma se un sistema fornisce una raccomandazione errata che ha causato un danno, chi è responsabile? Il chirurgo per averla seguita, lo sviluppatore per un difetto di progettazione o la struttura per un’implementazione negligente? I tribunali potrebbero ritenere responsabili i produttori se un algoritmo difettoso o poco testato ha portato a un errore. Gli ospedali, invece, potrebbero essere giudicati negligenti se utilizzano un sistema non validato o mal mantenuto. Quanto al chirurgo, rimane tenuto a rispettare gli standard di cura e non può esimersi dalle proprie responsabilità incolpando lo strumento.

I rischi non si limitano agli errori medici. Un uso scorretto dell’intelligenza artificiale può anche erodere la fiducia tra il paziente e il chirurgo. Se il paziente percepisce che le decisioni sono prese da un algoritmo piuttosto che dal proprio medico, il rapporto di fiducia può indebolirsi. Inoltre, la mancanza di trasparenza o un errore dello strumento può danneggiare duraturamente questa fiducia, sia verso il clinico che verso il sistema sanitario nel suo complesso.

Per mitigare questi rischi, è necessaria una governance robusta. Le strutture sanitarie devono istituire comitati dedicati per valutare i sistemi di intelligenza artificiale prima della loro adozione. Questi comitati devono assicurarsi che gli sviluppatori forniscano manuali d’uso completi, sessioni di formazione e linee guida di sicurezza. È inoltre necessario un monitoraggio continuo delle prestazioni per rilevare eventuali degradazioni o derive del modello. Le società scientifiche e le istituzioni mediche hanno anch’esse un ruolo da svolgere nell’establire standard per la formazione e la certificazione dei chirurghi che utilizzano questi strumenti.

Infine, la collaborazione tra ospedali, sviluppatori e regolatori è essenziale per armonizzare le pratiche e garantire un utilizzo sicuro ed etico dell’intelligenza artificiale in chirurgia. Senza questo, i progressi tecnologici potrebbero avvenire a discapito della sicurezza dei pazienti e della qualità delle cure.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc