Kunsmatige intelligensie in chirurgie bring groot regs- en etiese uitdagings mee
Kunsmatige intelligensie verander geleidelik chirurgie deur die beplanning van operasies, real-time bystand en selfs sekere outonome take te verbeter. Toe pas daarvan bring egter tegnologiese, menslike, regs- en etiese risiko’s mee wat nog nie deeglik deur die huidige regulasies omkader word nie.
Kunsmatige intelligensie-stelsels in chirurgie kan diagnostiese of behandelingsfoute maak, die geïnformeerde toestemming van pasiënte in die gedrang bring of hulle privaatheid skend. Hierdie risiko’s spruit uit drie hoofbronne: die beperkings van die instrument self, menslike foute wat met die gebruik daarvan gepaard gaan, en organisatoriese tekortkominge tydens die implementering daarvan. Byvoorbeeld, ‘n swak opgeleide algoritme kan vooroordeles in die data versterk, wat lei tot oneerlike aanbevelings vir sekere pasiëntgroepe. Net so kan ‘n chirurg te veel vertrou op ‘n onakkurate, maar plausibele voorstel van die instrument en sy eie kliniese oordeel verwaarloos.
Die huidige regsraamwerke, soos die van die Europese Unie of die Verenigde State, probeer om hierdie tegnologieë te reguleer deur stelsels volgens hulle risikovlak te klassifiseer. Die vereistes wissel dan in terme van toetse, data-bestuur en siberveiligheid. Hierdie regulasies sukkel egter om by te bly met die tempo van innovering, veral teenoor modelle wat kan leer en aanpas terwyl hulle in gebruik is. Die beskerming van pasiëntdata bly ook ‘n kritieke kwessie. In Europa dwing die Algemene Verordening Gegevensbescherming (AVG) strenge reëls op vir die gebruik van mediese inligting, terwyl in die Verenigde State die leemtes in die huidige wetgewing pasiënte blootstel aan die risiko van heridentifikasie van hulle data, selfs as dit geanonimiseer is.
Geïnformeerde toestemming word ingewikkelder met die bekendstelling van kunsmatige intelligensie. Pasiënte, wat dikwels nie vertroud is met hierdie tegnologieë nie, kan onrealistiese verwagtinge ontwikkel of, in teendeel, ongefundeerde vrese. Chirurge moet dus duidelik verduidelik wat die rol van die instrument is: is dit ‘n diagnostiese hulp, ‘n navigasie-gids of ‘n aktiewe assistent tydens die operasie? Hulle moet ook die waarborge uitleg, soos hulle vermoeë om die aanbevelings van die instrument te verifieer en te weerspreek. Verder moet chirurge pasiënte inlig oor hulle eie opleiding en ervaring met hierdie stelsels.
Die kwessie van aanspreeklikheid in geval van ‘n mediese fout word ingewikkelder met die gebruik van kunsmatige intelligensie. Tradisioneel neem die chirurg die volle aanspreeklikheid vir besluite wat in die operasie-kamer geneem word. Maar as ‘n stelsel ‘n onakkurate aanbeveling maak wat tot skade lei, wie is dan aanspreeklik? Die chirurg vir die nakoming daarvan, die ontwikkelaar vir ‘n ontwerpfout, of die instelling vir ‘n nalatige implementering? Howe kan vervaardigers aanspreeklik hou as ‘n defektiewe of swak getoetste algoritme tot ‘n fout lei. Hospitale kan op hulle beurt as nalatig beskou word as hulle ‘n onbevestigde of swak onderhoude stelsel gebruik. Wat die chirurg betref, bly hy verplig om aan die sorgnorme te voldoen en kan hy sy aanspreeklikheid nie afskryf deur die instrument die skuld te gee nie.
Die risiko’s is nie beperk tot mediese foute nie. ‘n Verkeerde gebruik van kunsmatige intelligensie kan ook die vertrouensverhouding tussen die pasiënt en die chirurg ondermyn. As die pasiënt die indruk kry dat besluite deur ‘n algoritme in plaas van sy arts geneem word, kan die vertrouensband daardeur verzwak word. Verder kan ‘n gebrek aan deursigtigheid of ‘n fout van die instrument hierdie vertrouensverhouding permanent skade berokken, beide teenoor die klinikus as die gesondheidstelsel as geheel.
Om hierdie risiko’s te verminder, is ‘n robuuste bestuursraamwerk noodsaaklik. Gesondheidsinstellings moet toewyde komitees instel om kunsmatige intelligensie-stelsels voor implementering te evalueer. Hierdie komitees moet verseker dat ontwikkelaars volledige gebruikershandleidings, opleidingssessies en veiligheidsriglyne verskaf. Voortdurende monitering van prestasie is ook nodig om enige agteruitgang of afwyking in die model te identifiseer. Wetenskaplike verenigings en mediese instellings het ook ‘n rol om norme vir die opleiding en sertifisering van chirurge wat hierdie instruments gebruik, vas te stel.
Ten slotte is samewerking tussen hospitale, ontwikkelaars en regulerende liggame essensieel om praktyke te harmoniseer en ‘n veilige en etiese gebruik van kunsmatige intelligensie in chirurgie te waarborg. Sonder dit kan tegnologiese vooruitgang ten koste van pasiëntveiligheid en die gehalte van sorg wees.
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc