Inteligența artificială în chirurgie ridică provocări juridice și etice majore

Inteligența artificială transformă treptat chirurgia, îmbunătățind planificarea operațiilor, asistența în timp real și chiar anumite sarcini autonome. Totuși, adoptarea sa introduce riscuri tehnologice, umane, juridice și etice care nu sunt încă bine reglementate de cadrele actuale.

Sistemele de inteligență artificială în chirurgie pot comite erori de diagnostic sau de tratament, pot compromite consimțământul informat al pacienților sau pot încalca viața lor privată. Aceste riscuri provin din trei surse principale: limitele proprii ale instrumentului, erorile umane legate de utilizarea sa și deficiențele organizaționale în timpul implementării. De exemplu, un algoritm prost antrenat poate amplifica biasurile prezente în date, ducând la recomandări inechitabile pentru anumite grupuri de pacienți. De asemenea, un chirurg ar putea să se bazeze prea mult pe o sugestie eronată, dar plauzibilă, a instrumentului, abandonându-și astfel propriul judecată clinică.

Cadru legal actual, precum cele ale Uniunii Europene sau ale Statelor Unite, încearcă să reglementeze aceste tehnologii prin clasificarea sistemelor în funcție de nivelul lor de risc. Cerințele variază în ceea ce privește testele, gestionarea datelor și securitatea cibernetică. Totuși, aceste reglementări au dificultăți în a ține pasul cu inovațiile, în special în fața modelelor capabile să învețe și să se adapteze continuu. Protecția datelor pacienților rămâne, de asemenea, o problemă critică. În Europa, Regulamentul general privind protecția datelor impune reguli stricte privind utilizarea informațiilor medicale, în timp ce în Statele Unite, lacunele legislației actuale expun pacienții la riscuri de reidentificare a datelor, chiar și anonimizate.

Consimțământul informat devine mai complex odată cu introducerea inteligenței artificiale. Pacienții, adesea puțin familiarizați cu aceste tehnologii, pot dezvolta așteptări nerealiste sau, dimpotrivă, temeri neîntemeiate. Chirurgii trebuie, prin urmare, să explice clar rolul instrumentului: este vorba de un ajutor pentru diagnostic, de un ghid de navigație sau de un asistent activ în timpul operației? Ei trebuie, de asemenea, să descrie garanțiile disponibile, cum ar fi capacitatea lor de a verifica și de a contrazice recomandările instrumentului. În plus, chirurgii au datoria de a-i informa pe pacienți despre propria lor pregătire și experiență cu aceste sisteme.

Problema responsabilității în caz de eroare medicală devine mai complicată cu utilizarea inteligenței artificiale. Tradicional, chirurgul își asumă întreaga responsabilitate pentru deciziile luate în sala de operație. Dar dacă un sistem propune o recomandare eronată care a cauzat un prejudiciu, cine este responsabil? Chirurgul pentru că a urmat-o, dezvoltatorul pentru un defect de proiectare sau instituția pentru o implementare neglijentă? Instantele ar putea ține fabricanții responsabili dacă un algoritm defect sau prost testat a condus la o eroare. Spitalele, la rândul lor, ar putea fi considerate negligente dacă utilizează un sistem nevalidat sau prost întreținut. În ceea ce privește chirurgul, el rămâne obligat să respecte standardele de îngrijire și nu își poate transfera responsabilitatea vinovățind instrumentul.

Riscurile nu se limitează la erorile medicale. O utilizare incorectă a inteligenței artificiale poate, de asemenea, eroda încrederea dintre pacient și chirurg. Dacă pacientul percepe că deciziile sunt luate de un algoritm și nu de medicul său, relația de încredere poate fi slăbită. În plus, lipsa de transparență sau o eroare a instrumentului poate afecta durabil această încredere, atât față de clinician, cât și față de sistemul de sănătate în ansamblul său.

Pentru a atenua aceste riscuri, este necesară o guvernanță robustă. Instituțiile medicale trebuie să înființeze comitete dedicate pentru a evalua sistemele de inteligență artificială înainte de adoptarea lor. Aceste comitete trebuie să se asigure că dezvoltatorii furnizează manuale de utilizare complete, sesiuni de formare și ghiduri de securitate. Supravegherea continuă a performanțelor este, de asemenea, necesară pentru a detecta orice degradare sau derivă a modelului. Societățile științifice și instituțiile medicale au, de asemenea, un rol de jucat în stabilirea de standarde pentru formarea și certificarea chirurgilor care utilizează aceste instrumente.

În final, colaborarea între spitale, dezvoltatori și reglementatori este esențială pentru a armoniza practicile și a garanta o utilizare sigură și etică a inteligenței artificiale în chirurgie. Fără aceasta, progresele tehnologice ar putea avea loc în detrimentul securității pacienților și al calității îngrijirilor.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc