„`html

Вештачка интелигенција у хирургији подиже велике правне и етичке изазове

Вештачка интелигенција постепено мења хирургију побољшавајући планирање операција, пружање помоћи у реалном времену, па чак и извођење одређених задатка аутономно. Ипак, њена примена уводи ризике који су технолошки, људски, правни и етички, а још увек нису довољно регулисани тренутним прописима.

Системи вештачке интелигенције у хирургији могу да праве грешке у дијагнози или лечењу, да угрозе информисани пристанак пацијената или да крше њихову приватност. Ови ризици потичу из три главна извора: ограничења самог алата, људске грешке везане за његову употребу и организационе пропусте приликом његове имплементације. На пример, лоше обучени алгоритам може да појача предрасуде присутне у подацима, што може да доведе до нефер препорука за одређене групе пацијената. Такође, хирург би могао превише да се ослања на погрешну, али веродостојну сугестију алата, одустајући тако од сопственог клиничког суђења.

Тренутни правни оквири, као што су они у Европској унији или Сједињеним Државама, покушавају да регулишу ове технологије класификујући системе према нивоу ризика. Захтеви се онда разликују у погледу тестирања, управљања подацима и кибербезбедности. Међутим, ови прописи тешко прате темпо иновација, посебно када су у питању модели који могу да уче и прилагођавају се континуирано. Заштита података пацијената остаје и даље кључан изазов. У Европи, Општа уредба о заштити података намеће строга правила о коришћењу медицинских информација, док у Сједињеним Државама, јазови у тренутним законима излажу пацијенте ризику од поновне идентификације њихових података, чак и ако су анонимизовани.

Информисани пристанак постаје сложенији са увођењем вештачке интелигенције. Пацијенти, који често нису упознати са овим технологијама, могу да развију нереална очекивања или, напротив, неосноване страхове. Хирурзи морају да објасне јасно улогу алата: ради ли се о помоћи у дијагнози, водичу за навигацију или активном асистенту током операције? Такође морају да опишу постојеће гаранције, као што је њихова способност да проверавају и оповргну препорuke алата. Поред тога, хирурзи су дужни да информишу пацијенте о својој обуци и искуству са овим системима.

Питање одговорности у случају медицинске грешке постаје сложеније са коришћењем вештачке интелигенције. Традиционално, хирург преузима пуну одговорност за одлуке донете у операционој сали. Али ако систем понуди погрешну препорuku која је проузроковала штету, ко је одговоран? Хирург што ју је пратио, развојни тим због грешке у дизајну, или установа због непажљиве имплементације? Судови би могли да сматрају произвођаче одговорнима ако је дефектни или лоше тестирани алгоритам довео до грешке. Болнице, с друге стране, могле би бити проглашене непажљивим ако користе неовлашћен или лоше одржаван систем. Што се тиче хирурга, он и даље мора да поштује стандарде неге и не може да се ослободи одговорности кривећи алат.

Ризици се не ограничавају само на медицинске грешке. Неправилна употреба вештачке интелигенције може да угрози поверење између пацијента и хирурга. Ако пацијент осећа да одлуке доносе алгоритам уместо његовог лекара, однос поверења може да се ослаби. Поред тога, недостатак транспарентности или грешка алата може трајно да оштети ово поверење, како према клиничару, тако и према систему здравствене заштите у целини.

Да би се ублажили ови ризици, неопходна је чврста управљачка структура. Здравствене установе морају да оснују посвећене комисије које ће процењивати системе вештачке интелигенције пре њиховог усвајања. Ове комисије морају да се побрину да развојни тимови пруже потпуне упутства за употребу, сесије обуке и смернице за безбедност. Непрестана надгледања перформанси такође је неопходна да би се откриле било какве деградације или одступања модела. Стручна друштва и медицинске институције такође имају улогу да успоставе стандарде за обуку и сертификацију хирурга који користе ове алате.

Коначно, сарадња између болница, развојних тимова и регулаторних тела је од суштинског значаја за хармонизацију пракси и осигурање сигурне и етичке употребе вештачке интелигенције у хирургији. Без тога, технолошки напредак би могао да се оствари на штету безбедности пацијената и квалитета здравствене заштите.

„`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc