Изкуственият интелект в хирургията повдига големи правни и етични предизвикателства

Изкуственият интелект постепенно променя хирургията, като подобрява планирането на операциите, оказва помощ в реално време и дори изпълнява някои autonomous задачи. Въпреки това, неговото въвеждане въвежда технологични, човешки, правни и етични рискове, които все още не са добре уредени от текущите регулации.

Системите с изкуствен интелект в хирургията могат да допуснат грешки в диагнозата или лечението, да компрометират информираното съгласие на пациентите или да нарушат тяхната лична информация. Тези рискове произлизат от три основни източника: ограниченията на самия инструмент, човешките грешки при неговото използване и организационни недостатъци при неговото внедряване. Например, зле обучена алгоритъм може да усили съществуващи предразсъдъци в данните, което да доведе до нечестни препоръки за някои групи пациенти. Също така, хирургът може прекалено да се доверява на грешна, но правдоподобна препоръка на инструмента, изоставяйки собствената си клинична преценка.

Текущите правни рамки, като тези на Европейския съюз или на Съединените щати, се опитват да регулират тези технологии, като класифицират системите според нивото на риск. Изискванията варират в зависимост от тестовете, управлението на данните и киберсигурността. Въпреки това, тези регулации трудно следят темпото на иновациите, особено пред модели, способни да учат и да се адаптират непрекъснато. Защитата на данните на пациентите остава също критичен въпрос. В Европа Общият регламент за защита на данните налага строги правила за използване на медицинска информация, докато в Съединените щати пролуките в сегашното законодателство изложат пациентите на риск от повторно идентифициране на техните данни, дори и да са анонимизирани.

Информираното съгласие става по-комплексно с въвеждането на изкуствения интелект. Пациентите, често слабо запознати с тези технологии, могат да развият нереалистични очаквания или, обратното, неоснователни страхове. Хирурзите трябва ясно да обяснят ролята на инструмента: дали става въпрос за помощ при диагнозата, за ръководство за навигация или за активен асистент по време на операцията? Те трябва също да описват гаранциите, които са на място, като способността им да проверяват и да оспорват препоръките на инструмента. Освен това, хирурзите трябва да информират пациентите за своето обучение и опит с тези системи.

Въпросьт за отговорността при медицинска грешка се усложнява с използването на изкуствения интелект. Традиционно хирургът поема пълната отговорност за взетите решения в операционната зала. Но ако една система предложи грешна препоръка, която е предизвикала вреда, кой е отговорен? Хирургът, че я е последвал, разработчикът за дефект в проектирането, или институцията за небрежно внедряване? Съдите могат да държат производителите отговорни, ако дефектен или зле тестван алгоритъм е довел до грешка. Болниците, от своя страна, могат да бъдат сметнати за небрежни, ако използват невалидирана или зле поддържана система. А хирургът остава длъжен да спазва стандартите за грижи и не може да се откаже от отговорността си, като обвинява инструмента.

Рисковете не се ограничават само до медицински грешки. Неправилното използване на изкуствения интелект може също да подкопае доверието между пациента и хирурга. Ако пациентът възприема, че решенията се взимат от алгоритъм, а не от неговия лекар,关系та на доверие може да отслабне. Освен това, липсата на прозрачност или грешка на инструмента може трайно да повреди това доверие, както към клинициста, така и към здравеопазването като цяло.

За да се намалят тези рискове, е необходимо да се въведе здрава система за управление. Здравословните заведения трябва да създадат специални комисии, които да оценяват системите с изкуствен интелект преди тяхното въвеждане. Тези комисии трябва да гарантират, че разработчиците предоставят пълни ръководства за използване, обучаващи сесии и насоки за сигурност. Необходима е също и непрекъсната следеща оценка на представянето, за да се открият евентуални влошавания или отклонения на модела. Научните дружества и медицинските институции също имат роля, като установяват стандарти за обучението и сертифицирането на хирурзите, използващи тези инструменти.

Накрая, сътрудничеството между болниците, разработчиците и регулаторните органи е от съществено значение за хармонизиране на практиките и гарантиране на сигурно и етично използване на изкуствения интелект в хирургията. Без това, технологичните напредъци могат да се осъществят на цена на сигурността на пациентите и качеството на грижите.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc