Umělá inteligence v chirurgii vyvolává velké právní a etické výzvy
Umělá inteligence postupně mění chirurgii tím, že zlepšuje plánování operací, poskytuje podporu v reálném čase a dokonce zvládá některé úkoly samostatně. Přesto její zavádění přináší technologická, lidská, právní a etická rizika, která současné předpisy stále nedostatečně pokrývají.
Systémy umělé inteligence v chirurgii mohou chybovat v diagnostice nebo léčbě, ohrozit informovaný souhlas pacientů nebo porušit jejich soukromí. Tato rizika pramení ze tří hlavních zdrojů: omezení samotného nástroje, lidské chyby při jeho používání a organizační selhání při nasazování. Například špatně vycvičený algoritmus může zesilovat předsudky přítomné v datech, což vede k nespravedlivým doporučením pro některé skupiny pacientů. Stejně tak může chirurg příliš důvěřovat chybnému, ale věrohodnému návrhu nástroje, a opustit tak vlastní klinické úsudky.
Současné právní rámce, jako jsou ty v Evropské unii nebo ve Spojených státech, se snaží tyto technologie regulovat tím, že systémy klasifikují podle úrovně rizika. Požadavky se pak liší v oblasti testování, správy dat a kybernetické bezpečnosti. Tyto předpisy však mají problém držet krok s inovacemi, zejména u modelů schopných se nepřetržitě učit a přizpůsobovat. Ochrana dat pacientů zůstává rovněž kritickým tématem. V Evropě nařizuje obecné nařízení o ochraně osobních údajů přísná pravidla pro používání lékařských informací, zatímco ve Spojených státech mezery v současných zákonech vystavují pacienty riziku opětovné identifikace jejich dat, i když jsou anonymizována.
Informovaný souhlas se stává složitějším s zaváděním umělé inteligence. Pacienti, kteří často nejsou s těmito technologiemi příliš obeznámeni, mohou mít nerealistická očekávání nebo naopak neopodstatněné obavy. Chirurgové proto musí jasně vysvětlit roli nástroje: jedná se o pomoc při diagnostice, průvodce navigací nebo aktivního asistenta během operace? Musí také popsat existující záruky, jako je jejich schopnost ověřit a vyvrátit doporučení nástroje. Chirurgové navíc musí pacienty informovat o své vlastní přípravě a zkušenostech s těmito systémy.
Otázka odpovědnosti v případě lékařské chyby se s používáním umělé inteligence komplikuje. Tradičně nese chirurg plnou odpovědnost za rozhodnutí učiněná v operačním sále. Ale pokud systém navrhne chybné doporučení, které způsobí škodu, kdo je odpovědný? Chirurg, který jej následoval, vývojář za chybu v návrhu, nebo zařízení za nedbalé nasazení? Soudy by mohly považovat výrobce za odpovědné, pokud vadný nebo nedostatečně otestovaný algoritmus vedl k chybě. Nemocnice by zase mohly být shledány nedbalými, pokud používají neověřený nebo špatně udržovaný systém. Chirurg však zůstává povinen dodržovat standardy péče a nemůže se zbavit své odpovědnosti tím, že obviní nástroj.
Rizika se neomezují pouze na lékařské chyby. Špatné používání umělé inteligence může také oslabit důvěru mezi pacientem a chirurgem. Pokud pacient vnímá, že rozhodnutí činí algoritmus spíše než jeho lékař, může být vztah důvěry oslabován. Navíc absence transparentnosti nebo chyba nástroje může tento vztah důvěry trvale poškodit, a to jak vůči klinikovi, tak vůči celému zdravotnickému systému.
K zmírnění těchto rizik je nezbytné robustní řízení. Zdravotnická zařízení musí zřídit specializované výbory, které budou systémy umělé inteligence posuzovat před jejich přijetím. Tyto výbory musí zajistit, aby vývojáři poskytovali úplné uživatelské příručky, školení a bezpečnostní pokyny. Je také nutné průběžně sledovat výkonnost, aby se odhalilo jakékoliv zhoršení nebo odchýlení modelu. Odborné společnosti a lékařské instituce mají rovněž roli v stanovování norem pro školení a certifikaci chirurgů používajících tyto nástroje.
Nakonec je nezbytná spolupráce mezi nemocnicemi, vývojáři a regulačními orgány, aby se sjednocily postupy a zajistilo bezpečné a etické používání umělé inteligence v chirurgii. Bez toho by technologický pokrok mohl probíhat na úkor bezpečnosti pacientů a kvality péče.
Umělá inteligence v chirurgii vyvolává velké právní a etické výzvy
Umělá inteligence postupně mění chirurgii tím, že zlepšuje plánování operací, poskytuje podporu v reálném čase a dokonce zvládá některé úkoly samostatně. Přesto její zavádění přináší technologická, lidská, právní a etická rizika, která současné předpisy stále nedostatečně pokrývají.
Systémy umělé inteligence v chirurgii mohou chybovat v diagnostice nebo léčbě, ohrozit informovaný souhlas pacientů nebo porušit jejich soukromí. Tato rizika pramení ze tří hlavních zdrojů: omezení samotného nástroje, lidské chyby při jeho používání a organizační selhání při nasazování. Například špatně vycvičený algoritmus může zesilovat předsudky přítomné v datech, což vede k nespravedlivým doporučením pro některé skupiny pacientů. Stejně tak může chirurg příliš důvěřovat chybnému, ale věrohodnému návrhu nástroje, a opustit tak vlastní klinické úsudky.
Současné právní rámce, jako jsou ty v Evropské unii nebo ve Spojených státech, se snaží tyto technologie regulovat tím, že systémy klasifikují podle úrovně rizika. Požadavky se pak liší v oblasti testování, správy dat a kybernetické bezpečnosti. Tyto předpisy však mají problém držet krok s inovacemi, zejména u modelů schopných se nepřetržitě učit a přizpůsobovat. Ochrana dat pacientů zůstává rovněž kritickým tématem. V Evropě nařizuje obecné nařízení o ochraně osobních údajů přísná pravidla pro používání lékařských informací, zatímco ve Spojených státech mezery v současných zákonech vystavují pacienty riziku opětovné identifikace jejich dat, i když jsou anonymizována.
Informovaný souhlas se stává složitějším s zaváděním umělé inteligence. Pacienti, kteří často nejsou s těmito technologiemi příliš obeznámeni, mohou mít nerealistická očekávání nebo naopak neopodstatněné obavy. Chirurgové proto musí jasně vysvětlit roli nástroje: jedná se o pomoc při diagnostice, průvodce navigací nebo aktivního asistenta během operace? Musí také popsat existující záruky, jako je jejich schopnost ověřit a vyvrátit doporučení nástroje. Chirurgové navíc musí pacienty informovat o své vlastní přípravě a zkušenostech s těmito systémy.
Otázka odpovědnosti v případě lékařské chyby se s používáním umělé inteligence komplikuje. Tradičně nese chirurg plnou odpovědnost za rozhodnutí učiněná v operačním sále. Ale pokud systém navrhne chybné doporučení, které způsobí škodu, kdo je odpovědný? Chirurg, který jej následoval, vývojář za chybu v návrhu, nebo zařízení za nedbalé nasazení? Soudy by mohly považovat výrobce za odpovědné, pokud vadný nebo nedostatečně otestovaný algoritmus vedl k chybě. Nemocnice by zase mohly být shledány nedbalými, pokud používají neověřený nebo špatně udržovaný systém. Chirurg však zůstává povinen dodržovat standardy péče a nemůže se zbavit své odpovědnosti tím, že obviní nástroj.
Rizika se neomezují pouze na lékařské chyby. Špatné používání umělé inteligence může také oslabit důvěru mezi pacientem a chirurgem. Pokud pacient vnímá, že rozhodnutí činí algoritmus spíše než jeho lékař, může být vztah důvěry oslabován. Navíc absence transparentnosti nebo chyba nástroje může tento vztah důvěry trvale poškodit, a to jak vůči klinikovi, tak vůči celému zdravotnickému systému.
K zmírnění těchto rizik je nezbytné robustní řízení. Zdravotnická zařízení musí zřídit specializované výbory, které budou systémy umělé inteligence posuzovat před jejich přijetím. Tyto výbory musí zajistit, aby vývojáři poskytovali úplné uživatelské příručky, školení a bezpečnostní pokyny. Je také nutné průběžně sledovat výkonnost, aby se odhalilo jakékoliv zhoršení nebo odchýlení modelu. Odborné společnosti a lékařské instituce mají rovněž roli v stanovování norem pro školení a certifikaci chirurgů používajících tyto nástroje.
Nakonec je nezbytná spolupráce mezi nemocnicemi, vývojáři a regulačními orgány, aby se sjednocily postupy a zajistilo bezpečné a etické používání umělé inteligence v chirurgii. Bez toho by technologický pokrok mohl probíhat na úkor bezpečnosti pacientů a kvality péče.
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc