„`html
A mesterséges intelligencia a sebészetben jelentős jogi és etikai kihívásokat vet fel
A mesterséges intelligencia fokozatosan átalakítja a sebészetet, javítva a műtétek tervezését, a valós idejű segítséget, sőt bizonyos autonóm feladatokat is. Mégis, az alkalmazása technológiai, emberi, jogi és etikai kockázatokat is magában hordoz, amelyeket a jelenlegi szabályozások még nem kezelnek megfelelően.
A sebészetben használt mesterséges intelligencia-rendszerek hibázhatnak a diagnosztizálásban vagy a kezelésben, veszélyeztethetik a betegek tájékozott hozzájárulását, vagy sérthetik a magánszférájukat. Ezek a kockázatok három fő forrásból erednek: az eszköz saját korlátaiból, az emberi hibákból, amelyeket a használat során követnek el, valamint a szervezeti hiányosságokból, amelyek a bevezetés során merülnek fel. Például egy rosszul kiképzett algoritmus megerősítheti az adatokban lévő torzításokat, ami certain betegek csoportjainak igazságtalan ajánlatait eredményezheti. Ugyanakkor egy sebész túlságosan is megbízhat egy téves, de hihető javaslatban, feladva saját klinikai ítélőképességét.
A jelenlegi jogi keretek, például az Európai Unióé vagy az Egyesült Államoké, megpróbálják szabályozni ezeket a technológiákat, a rendszereket a kockázati szintjük szerint osztályozva. Az előírások ez alapján változnak a tesztelés, az adatok kezelése és a kiberbiztonság terén. Azonban ezek a szabályozások nehezen követik az innovációk ütemét, különösen az olyan modellek esetén, amelyek folyamatosan tanulnak és alkalmazkodnak. A betegek adatainek védelme továbbra is kritikus kérdés marad. Európában az általános adatokvédelmi rendelet szigorú szabályokat ír elő az orvosi adatok használatára, míg az Egyesült Államokban a jelenlegi törvény hiányosságai kitennek a betegeket a névtelenített adataik újraazonosításának kockázatának.
A tájékozott hozzájárulás bonyolultabbá válik a mesterséges intelligencia bevezetésével. A betegek, akik gyakran kevéssé ismerik ezeket a technológiákat, irreális elvárásokkal vagy alaptalan félelmekkel élhetnek. A sebészeknek ezért világosan el kell magyarázniuk az eszköz szerepét: diagnosztikai segédeszközről, navigációs útmutatóról vagy aktív asszisztensről van-e szó a műtét során? Emellett le kell írniuk a biztosítékokat is, például azt, hogy képesek-e ellenőrizni és cáfolni az eszköz ajánlatait. Továbbá a sebészeknek tájékoztatniuk kell a betegeket saját képzésükről és tapasztalatukról ezekkel a rendszerekkel kapcsolatban.
A felelősség kérdése bonyolultabbá válik a mesterséges intelligencia sebészeti alkalmazásával. Hagyományosan a sebész viseli a teljes felelősséget a műtőben hozott döntésekért. De ha egy rendszer helytelen javaslatot tesz, ami kárt okoz, ki a felelős? A sebész, amiért követte azt, a fejlesztő, amiért hibás tervezésű, vagy az intézmény, amiért hanyagul vezette be? A bíróságok felelősségre vonhatják a gyártókat, ha egy hibás vagy nem megfelelően tesztelt algoritmus vezetett hibához. A kórházakat pedig hanyagság miatt ítélhetik el, ha nem validált vagy rosszul karbantartott rendszert használnak. A sebésznek pedig továbbra is be kell tartania az ellátási szempontú normákat, és nem háríthatja el a felelősségét az eszközre.
A kockázatok nem korlátozódnak az orvosi hibákra. A mesterséges intelligencia helytelen használata megronthatja a beteg és a sebész közötti bizalmat is. Ha a beteg úgy érzékeli, hogy a döntéseket egy algoritmus hozza meg a helyett, hogy az orvosa, a bizalmi kapcsolat meggyengülhet. Emellett a átláthatóság hiánya vagy az eszköz hibája tartósan károsíthatja ezt a bizalmat, mind a klinikus, mind az egészségügyi rendszer iránt.
Ezeknek a kockázatoknak a csökkentése érdekében robusztus kormányzati mechanizmusokra van szükség. Az egészségügyi intézményeknek dedikált bizottságokat kell felállítaniuk a mesterséges intelligencia-rendszerek értékelésére a bevezetés előtt. Ezeknek a bizottságoknak biztosítaniuk kell, hogy a fejlesztők teljes használati útmutatókat, képzési lehetőségeket és biztonsági irányelveket biztosítsanak. A teljesítmény folyamatos monitorozása is szükséges a modell romlásának vagy elferdülésének észlelése érdekében. A tudományos társaságoknak és az orvosi intézményeknek is szerepe van abban, hogy szabványokat állítsanak fel a sebészek képzésére és tanúsítására ezekkel az eszközökkel kapcsolatban.
Végül a kórházak, a fejlesztők és a szabályozók közötti együttműködés elengedhetetlen a gyakorlatok harmonizálása és a mesterséges intelligencia biztonságos, etikus sebészeti alkalmazásának biztosítása érdekében. Nélkülük a technológiai fejlődés a betegek biztonságának és az ellátás minőségének rovására mehet.
„`
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc