„`html

Sztuczna inteligencja w chirurgii stawia poważne wyzwania prawne i etyczne

Sztuczna inteligencja stopniowo przekształca chirurgię, poprawiając planowanie operacji, wsparcie w czasie rzeczywistym, a nawet pewne zadania autonomiczne. Niemniej jednak jej wdrożenie wiąże się z ryzykiem technologicznym, ludzkim, prawnym i etycznym, które wciąż słabo regulują obecne przepisy.

Systemy sztucznej inteligencji w chirurgii mogą popełniać błędy diagnostyczne lub terapeutyczne, naruszać świadomą zgodę pacjentów lub ich prywatność. Ryzyka te wynikają z trzech głównych źródeł: ograniczeń samego narzędzia, błędów ludzkich związanych z jego użyciem oraz niedociągnięć organizacyjnych podczas wdrażania. Na przykład źle wytrenowany algorytm może wzmacniać istniejące w danych uprzedzenia, prowadząc do niesprawiedliwych zaleceń dla niektórych grup pacjentów. Podobnie, chirurg mógłby zbytnio polegać na błędnej, ale wiarygodnej sugestii narzędzia, rezygnując tym samym z własnego osądu klinicznego.

Aktualne ramy prawne, takie jak te w Unii Europejskiej czy Stanach Zjednoczonych, starają się regulować te technologie, klasyfikując systemy według poziomu ryzyka. Wymagania dotyczą wówczas testów, zarządzania danymi oraz cyberbezpieczeństwa. Jednak przepisy te mają trudności z nadążeniem za tempem innowacji, zwłaszcza w obliczu modeli zdolnych do ciągłego uczenia się i adaptacji. Ochrona danych pacjentów pozostaje również kluczowym wyzwaniem. W Europie ogólne rozporządzenie o ochronie danych narzuca surowe zasady dotyczące wykorzystania informacji medycznych, podczas gdy w Stanach Zjednoczonych luki w obecnym prawie narażają pacjentów na ryzyko ponownej identyfikacji ich danych, nawet jeśli zostały zanonimizowane.

Świadoma zgoda staje się bardziej złożona wraz z wprowadzeniem sztucznej inteligencji. Pacjenci, często słabo zaznajomieni z tymi technologiami, mogą rozwijać nierealistyczne oczekiwania lub, wręcz przeciwnie, nieuzasadnione obawy. Chirurdzy muszą zatem wyraźnie wyjaśnić rolę narzędzia: czy służy ono jako pomoc w diagnozie, przewodnik nawigacyjny czy aktywny asystent podczas operacji? Muszą również opisać istniejące gwarancje, takie jak zdolność do weryfikowania i kwestionowania zaleceń narzędzia. Ponadto chirurdzy powinni informować pacjentów o swoim wykształceniu i doświadczeniu w korzystaniu z tych systemów.

Kwestia odpowiedzialności w przypadku błędu medycznego komplikuje się wraz z użyciem sztucznej inteligencji. Tradycyjnie chirurg ponosi pełną odpowiedzialność za decyzje podejmowane na sali operacyjnej. Ale jeśli system zaproponuje błędną rekomendację, która spowodowała szkodę, kto jest odpowiedzialny? Chirurg za jej zastosowanie, developer za wadę konstrukcyjną, czy placówka za niedbałe wdrożenie? Sądy mogą pociągnąć producentów do odpowiedzialności, jeśli wadliwy lub niedostatecznie przetestowany algorytm doprowadził do błędu. Szpitale z kolei mogą zostać uznane za niedbałe, jeśli używają systemu niezwalidowanego lub źle konserwowanego. Chirurg natomiast wciąż zobowiązany jest do przestrzegania standardów opieki i nie może zrzucać odpowiedzialności, obwiniając narzędzie.

Ryzyka nie ograniczają się do błędów medycznych. Niewłaściwe użycie sztucznej inteligencji może również osłabić zaufanie między pacjentem a chirurgiem. Jeśli pacjent postrzega, że decyzje są podejmowane przez algorytm, a nie przez jego lekarza, relacja zaufania może zostać osłabiona. Ponadto brak transparentności lub błąd narzędzia może trwale uszkodzić to zaufanie, zarówno wobec klinicysty, jak i całego systemu opieki zdrowotnej.

Aby złagodzić te ryzyka, konieczna jest solidna struktura zarządzania. Placówki medyczne powinny powołać specjalne komitety do oceny systemów sztucznej inteligencji przed ich wdrożeniem. Komitety te muszą upewnić się, że deweloperzy dostarczają wyczerpujące instrukcje obsługi, sesje szkoleniowe oraz wytyczne dotyczące bezpieczeństwa. Konieczne jest również ciągłe monitorowanie wydajności, aby wykrywać ewentualne pogorszenie lub odchylenia modelu. Towarzystwa naukowe i instytucje medyczne mają również rolę do odegrania, ustalając standardy dla szkoleń i certyfikacji chirurgów korzystających z tych narzędzi.

Wreszcie, współpraca między szpitalami, deweloperami i organami regulacyjnymi jest niezbędna, aby ujednolicić praktyki i zagwarantować bezpieczne oraz etyczne wykorzystanie sztucznej inteligencji w chirurgii. Bez tego postęp technologiczny mógłby odbywać się kosztem bezpieczeństwa pacjentów i jakości opieki.

„`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc