“`html

Штучний інтелект у хірургії піднімає серйозні юридичні та етичні виклики

Штучний інтелект поступово перетворює хірургію, покращуючи планування операцій, надання допомоги в реальному часі та навіть виконання деяких автономних завдань. Проте його впровадження вводить технологічні, людські, юридичні та етичні ризики, які все ще недостатньо регулюються чинним законодавством.

Системи штучного інтелекту в хірургії можуть робити помилки в діагностиці або лікуванні, порушувати інформовану згоду пацієнтів або їхнє приватне життя. Ці ризики походять з трьох основних джерел: обмежень самого інструменту, людських помилок під час його використання та організаційних недоліків під час впровадження. Наприклад, погано навчений алгоритм може посилювати упередження, присутні в даних, що призводить до несправедливих рекомендацій для деяких груп пацієнтів. Також хірург може надто покладатися на помилкову, але правдоподібну пораду інструменту, відмовляючись від власного клінічного судження.

Чинні правові рамки, такі як ті, що діють у Європейському Союзі чи Сполучених Штатах, намагаються регулювати ці технології, класифікуючи системи за рівнем ризику. Вимоги відрізняються щодо тестування, управління даними та кібербезпеки. Однак ці нормативні акти ледве встигають за темпами інновацій, особливо перед лицем моделей, здатних постійно вчитися та адаптуватися. Захист даних пацієнтів також залишається критичним питанням. У Європі Загальний регламент щодо захисту даних встановлює суворі правила використання медичної інформації, тоді як у Сполучених Штатах прогалини в чинному законодавстві піддають пацієнтів ризику повторної ідентифікації їхніх даних, навіть якщо вони анонімізовані.

Інформована згода стає складнішою з впровадженням штучного інтелекту. Пацієнти, часто мало знайомі з цими технологіями, можуть мати нереалістичні очікування або, навпаки, безпідставні побоювання. Хірурги повинні чітко пояснювати роль інструменту: чи є він допоміжним засобом для діагностики, керівництвом для навігації чи активним помічником під час операції? Вони також повинні описувати наявні гарантії, такі як здатність перевіряти та спростовувати рекомендації інструменту. Крім того, хірурги зобов’язані інформувати пацієнтів про власне навчання та досвід роботи з цими системами.

Питання відповідальності у разі медичної помилки ускладнюється з використанням штучного інтелекту. Традиційно хірург несе повну відповідальність за рішення, прийняті в операційній. Але якщо система надає помилкову рекомендацію, яка призвела до шкоди, хто відповідає? Хірург за те, що їй слідував, розробник за дефект конструкції чи заклад за недbalе впровадження? Суди можуть покласти відповідальність на виробників, якщо дефектний або погано протестований алгоритм призвів до помилки. Лікарні, у свою чергу, можуть бути визнані недбалими, якщо вони використовують невалідну або погано підтримувану систему. Що стосується хірурга, він зобов’язаний дотримуватися стандартів медичної допомоги і не може зняти з себе відповідальність, звинувачуючи інструмент.

Ризики не обмежуються лише медичними помилками. Неправильне використання штучного інтелекту може також підірвати довіру між пацієнтом і хірургом. Якщо пацієнт відчуває, що рішення приймаються алгоритмом, а не його лікарем, відносини довіри можуть послабитися. Крім того, відсутність прозорості або помилка інструменту може завдати тривалої шкоди цій довірі, як до клініциста, так і до системи охорони здоров’я в цілому.

Для пом’якшення цих ризиків необхідне міцне управління. Медичні заклади повинні створити спеціальні комітети для оцінки систем штучного інтелекту перед їхнім впровадженням. Ці комітети повинні переконатися, що розробники надають повні керівництва з експлуатації, навчальні сесії та керівні принципи безпеки. Також необхідний постійний моніторинг ефективності для виявлення будь-якого погіршення або відхилення моделі. Професійні медичні товариства та установи також відіграють важливу роль у встановленні стандартів для навчання та сертифікації хірургів, які використовують ці інструменти.

Нарешті, співпраця між лікарнями, розробниками та регуляторами є життєво важливою для гармонізації практик і забезпечення безпечного та етичного використання штучного інтелекту в хірургії. Без цього технологічний прогрес може відбутися за рахунок безпеки пацієнтів і якості медичної допомоги.

“`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc