”`html

Artificiell intelligens i kirurgi väcker stora juridiska och etiska utmaningar

Artificiell intelligens förändrar gradvis kirurgin genom att förbättra operationsplanering, ge realtidsstöd och till och med utföra vissa självständiga uppgifter. Ändå medför dess införande tekniska, mänskliga, juridiska och etiska risker som ännu inte är tillräckligt reglerade av nuvarande lagstiftning.

AI-system inom kirurgi kan begå diagnostiska eller behandlingsfel, äventyra patienters informerade samtycke eller kränka deras integritet. Dessa risker härrör från tre huvudsakliga källor: verktygets egna begränsningar, mänskliga fel vid användningen och organisatoriska brister vid implementeringen. Till exempel kan en dåligt tränad algoritm förstärka fördomar i data, vilket leder till orättvisa rekommendationer för vissa patientgrupper. På samma sätt kan en kirurg förlita sig för mycket på ett felaktigt men trovärdigt förslag från verktyget och därigenom överge sitt eget kliniska omdöme.

Nuvarande juridiska ramverk, som de i Europeiska unionen eller USA, försöker reglera dessa teknologier genom att klassificera systemen efter deras risknivå. Kraven varierar sedan när det gäller tester, datahantering och cybersäkerhet. Dessa regleringar har dock svårt att hålla jämna steg med innovationerna, särskilt inför modeller som kan lära sig och anpassa sig kontinuerligt. Skyddet av patientdata förblir också en kritisk fråga. I Europa kräver dataskyddsförordningen (GDPR) strikta regler för användning av medicinsk information, medan lagstiftningsluckor i USA utsätter patienter för risker för återidentifiering av deras data, även om de är anonymiserade.

Informerat samtycke blir mer komplicerat med införandet av artificiell intelligens. Patienter, som ofta har begränsad kunskap om dessa teknologier, kan utveckla orealistiska förväntningar eller, tvärtom, obefogade farhågor. Kirurger måste därför tydligt förklara verktygets roll: handlar det om ett diagnostiskt stöd, en navigationsguide eller en aktiv assistent under operationen? De måste också beskriva de säkerhetsåtgärder som finns på plats, såsom deras förmåga att granska och ifrågasätta verktygets rekommendationer. Dessutom måste kirurger informera patienterna om sin egen utbildning och erfarenhet av att använda dessa system.

Frågan om ansvar vid medicinska fel kompliceras av användningen av artificiell intelligens. Traditionellt sett bär kirurgen fullt ansvar för beslut som fattas i operationssalen. Men om ett system ger en felaktig rekommendation som orsakar skada, vem är då ansvarig? Kirurgen för att ha följt den, utvecklaren för en designfel, eller sjukhuset för en slarvig implementering? Domstolarna kan hållas ansvariga för tillverkare om en defekt eller otillräckligt testad algoritm har lett till ett fel. Sjukhus kan å andra sidan bedömas som oaktsamma om de använder ett system som inte är validerat eller dåligt underhållet. Kirurgen förblir skyldig att uppfylla vårdstandarder och kan inte avböja sitt ansvar genom att skylla på verktyget.

Riskerna begränsar sig inte till medicinska fel. En felaktig användning av artificiell intelligens kan också underminera förtroendet mellan patient och kirurg. Om patienten uppfattar att besluten tas av en algoritm snarare än av sin läkare, kan förtroendeförhållandet försvagas. Dessutom kan brist på transparens eller ett fel från verktygets sida skada detta förtroende på lång sikt, både gentemot klinikern och hälsovårdssystemet i stort.

För att mildra dessa risker krävs en robust styrning. Vårdinrättningar måste inrätta särskilda kommittéer för att utvärdera AI-system innan de införs. Dessa kommittéer måste säkerställa att utvecklarna tillhandahåller fullständiga användarmanualer, utbildningssessioner och säkerhetsriktlinjer. Kontinuerlig övervakning av prestanda är också nödvändig för att upptäcka eventuell försämring eller avvikelser i modellen. Fackliga samfund och medicinska institutioner har också en roll att spela genom att fastställa normer för utbildning och certifiering av kirurger som använder dessa verktyg.

Slutligen är samarbetet mellan sjukhus, utvecklare och reglerande myndigheter avgörande för att harmonisera praxis och säkerställa en säker och etisk användning av artificiell intelligens inom kirurgin. Utan detta kan teknologiska framsteg ske på bekostnad av patientsäkerheten och vårdkvaliteten.

”`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc