Kunstmatige intelligentie in de chirurgie roept grote juridische en ethische uitdagingen op

Kunstmatige intelligentie verandert geleidelijk de chirurgie door de planning van operaties, realtime ondersteuning en zelfs bepaalde autonoom uitvoerbare taken te verbeteren. Toch brengt de adoptie ervan technologische, menselijke, juridische en ethische risico’s met zich mee die nog onvoldoende worden gereguleerd door de huidige wetgeving.

Kunstmatige intelligentiesystemen in de chirurgie kunnen diagnostische of behandelingsfouten maken, de geïnformeerde toestemming van patiënten in gevaar brengen of hun privacy schenden. Deze risico’s ontspringen uit drie hoofdbronnen: de beperkingen van het instrument zelf, menselijke fouten bij het gebruik ervan en organisatorische tekortkomingen bij de implementatie. Een slecht getraind algoritme kan bijvoorbeeld bestående vooroordelen in de data versterken, wat leidt tot oneerlijke aanbevelingen voor bepaalde patiëntengroepen. Evenzo zou een chirurg te veel kunnen vertrouwen op een onjuiste, maar plausibele suggestie van het systeem, en zo zijn eigen klinische oordeel verwaarlozen.

De huidige juridische kaders, zoals die van de Europese Unie of de Verenigde Staten, proberen deze technologieën te reguleren door systemen in te delen op basis van hun risiconiveau. De eisen verschillen dan op het gebied van tests, databeheer en cyberveiligheid. Toch hebben deze regelgevingen moeite om het tempo van innovaties bij te houden, met name bij modellen die continu kunnen leren en zich aanpassen. De bescherming van patiëntgegevens blijft ook een kritisch punt. In Europa leggen de Algemene verordening gegevensbescherming (AVG) strenge regels op voor het gebruik van medische gegevens, terwijl in de Verenigde Staten de lacunes in de huidige wetgeving patiënten blootstellen aan risico’s op heridentificatie van hun gegevens, zelfs als deze geanonimiseerd zijn.

Geïnformeerde toestemming wordt complexer met de introductie van kunstmatige intelligentie. Patiënten, die vaak weinig vertrouwd zijn met deze technologieën, kunnen onrealistische verwachtingen ontwikkelen of juist ongefundeerde angsten. Chirurgen moeten daarom duidelijk uitleggen wat de rol van het systeem is: gaat het om een diagnostische hulp, een navigatiegids of een actieve assistent tijdens de operatie? Ze moeten ook de waarborgen uitleggen, zoals hun vermogen om de aanbevelingen van het systeem te verifiëren en te weerleggen. Daarnaast moeten chirurgen patiënten informeren over hun eigen opleiding en ervaring met deze systemen.

De kwestie van de aansprakelijkheid bij medische fouten wordt ingewikkelder door het gebruik van kunstmatige intelligentie. Traditioneel draagt de chirurg de volledige verantwoordelijkheid voor de beslissingen die in de operatiekamer worden genomen. Maar als een systeem een onjuiste aanbeveling doet die schade veroorzaakt, wie is dan aansprakelijk? De chirurg die de aanbeveling heeft opgevolgd, de ontwikkelaar voor een ontwerpfout, of de instelling voor een nalatige implementatie? Rechtbanken kunnen fabrikanten aansprakelijk stellen als een defect of onvoldoende getest algoritme tot een fout heeft geleid. Ziekenhuizen kunnen op hun beurt als nalatig worden beschouwd als ze een niet-gevalideerd of slecht onderhouden systeem gebruiken. De chirurg blijft echter verplicht om de zorgnormen na te leven en kan zijn verantwoordelijkheid niet afwentelen door de schuld bij het systeem te leggen.

De risico’s beperken zich niet tot medische fouten. Een verkeerd gebruik van kunstmatige intelligentie kan ook het vertrouwen tussen patiënt en chirurg aantasten. Als de patiënt het gevoel heeft dat beslissingen worden genomen door een algoritme in plaats van door zijn arts, kan de vertrouwensrelatie verzwakt worden. Bovendien kan een gebrek aan transparantie of een fout van het systeem dit vertrouwen op lange termijn beschadigen, zowel in de clinicus als in het gezondheidssysteem als geheel.

Om deze risico’s te beperken, is een robuust bestuur noodzakelijk. Gezondheidsinstellingen moeten gespecialiseerde comités opzetten om kunstmatige intelligentiesystemen te evalueren voordat ze worden geïmplementeerd. Deze comités moeten erop toezien dat ontwikkelaars volledige gebruikshandleidingen, trainingsessies en veiligheidsrichtlijnen verstrekken. Continu toezicht op de prestaties is ook nodig om eventuele achteruitgang of afwijkingen in het model te detecteren. Wetenschappelijke verenigingen en medische instellingen hebben eveneens een rol te spelen door normen op te stellen voor de opleiding en certificering van chirurgen die deze tools gebruiken.

Ten slotte is samenwerking tussen ziekenhuizen, ontwikkelaars en toezichthouders essentieel om de praktijken te harmoniseren en een veilige en ethische toepassing van kunstmatige intelligentie in de chirurgie te waarborgen. Zonder deze samenwerking zouden technologische vooruitgang ten koste kunnen gaan van de veiligheid van patiënten en de kwaliteit van de zorg.

Kunstmatige intelligentie in de chirurgie roept grote juridische en ethische uitdagingen op

Kunstmatige intelligentie verandert geleidelijk de chirurgie door de planning van operaties, realtime ondersteuning en zelfs bepaalde autonoom uitvoerbare taken te verbeteren. Toch brengt de adoptie ervan technologische, menselijke, juridische en ethische risico’s met zich mee die nog onvoldoende worden gereguleerd door de huidige wetgeving.

Kunstmatige intelligentiesystemen in de chirurgie kunnen diagnostische of behandelingsfouten maken, de geïnformeerde toestemming van patiënten in gevaar brengen of hun privacy schenden. Deze risico’s ontspringen uit drie hoofdbronnen: de beperkingen van het instrument zelf, menselijke fouten bij het gebruik ervan en organisatorische tekortkomingen bij de implementatie. Een slecht getraind algoritme kan bijvoorbeeld bestående vooroordelen in de data versterken, wat leidt tot oneerlijke aanbevelingen voor bepaalde patiëntengroepen. Evenzo zou een chirurg te veel kunnen vertrouwen op een onjuiste, maar plausibele suggestie van het systeem, en zo zijn eigen klinische oordeel verwaarlozen.

De huidige juridische kaders, zoals die van de Europese Unie of de Verenigde Staten, proberen deze technologieën te reguleren door systemen in te delen op basis van hun risiconiveau. De eisen verschillen dan op het gebied van tests, databeheer en cyberveiligheid. Toch hebben deze regelgevingen moeite om het tempo van innovaties bij te houden, met name bij modellen die continu kunnen leren en zich aanpassen. De bescherming van patiëntgegevens blijft ook een kritisch punt. In Europa leggen de Algemene verordening gegevensbescherming (AVG) strenge regels op voor het gebruik van medische gegevens, terwijl in de Verenigde Staten de lacunes in de huidige wetgeving patiënten blootstellen aan risico’s op heridentificatie van hun gegevens, zelfs als deze geanonimiseerd zijn.

Geïnformeerde toestemming wordt complexer met de introductie van kunstmatige intelligentie. Patiënten, die vaak weinig vertrouwd zijn met deze technologieën, kunnen onrealistische verwachtingen ontwikkelen of juist ongefundeerde angsten. Chirurgen moeten daarom duidelijk uitleggen wat de rol van het systeem is: gaat het om een diagnostische hulp, een navigatiegids of een actieve assistent tijdens de operatie? Ze moeten ook de waarborgen uitleggen, zoals hun vermogen om de aanbevelingen van het systeem te verifiëren en te weerleggen. Daarnaast moeten chirurgen patiënten informeren over hun eigen opleiding en ervaring met deze systemen.

De kwestie van de aansprakelijkheid bij medische fouten wordt ingewikkelder door het gebruik van kunstmatige intelligentie. Traditioneel draagt de chirurg de volledige verantwoordelijkheid voor de beslissingen die in de operatiekamer worden genomen. Maar als een systeem een onjuiste aanbeveling doet die schade veroorzaakt, wie is dan aansprakelijk? De chirurg die de aanbeveling heeft opgevolgd, de ontwikkelaar voor een ontwerpfout, of de instelling voor een nalatige implementatie? Rechtbanken kunnen fabrikanten aansprakelijk stellen als een defect of onvoldoende getest algoritme tot een fout heeft geleid. Ziekenhuizen kunnen op hun beurt als nalatig worden beschouwd als ze een niet-gevalideerd of slecht onderhouden systeem gebruiken. De chirurg blijft echter verplicht om de zorgnormen na te leven en kan zijn verantwoordelijkheid niet afwentelen door de schuld bij het systeem te leggen.

De risico’s beperken zich niet tot medische fouten. Een verkeerd gebruik van kunstmatige intelligentie kan ook het vertrouwen tussen patiënt en chirurg aantasten. Als de patiënt het gevoel heeft dat beslissingen worden genomen door een algoritme in plaats van door zijn arts, kan de vertrouwensrelatie verzwakt worden. Bovendien kan een gebrek aan transparantie of een fout van het systeem dit vertrouwen op lange termijn beschadigen, zowel in de clinicus als in het gezondheidssysteem als geheel.

Om deze risico’s te beperken, is een robuust bestuur noodzakelijk. Gezondheidsinstellingen moeten gespecialiseerde comités opzetten om kunstmatige intelligentiesystemen te evalueren voordat ze worden geïmplementeerd. Deze comités moeten erop toezien dat ontwikkelaars volledige gebruikshandleidingen, trainingsessies en veiligheidsrichtlijnen verstrekken. Continu toezicht op de prestaties is ook nodig om eventuele achteruitgang of afwijkingen in het model te detecteren. Wetenschappelijke verenigingen en medische instellingen hebben eveneens een rol te spelen door normen op te stellen voor de opleiding en certificering van chirurgen die deze tools gebruiken.

Ten slotte is samenwerking tussen ziekenhuizen, ontwikkelaars en toezichthouders essentieel om de praktijken te harmoniseren en een veilige en ethische toepassing van kunstmatige intelligentie in de chirurgie te waarborgen. Zonder deze samenwerking zouden technologische vooruitgang ten koste kunnen gaan van de veiligheid van patiënten en de kwaliteit van de zorg.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc