Ang artipisyal na katalinuhan sa siruhiya ay nagdudulot ng mga pangunahing hamon sa legal at etikal

Unti-unti, binabago ng artipisyal na katalinuhan (AI) ang larangan ng siruhiya sa pamamagitan ng pagpapabuti sa pagpa-plano ng mga operasyon, pagtulong sa real-time, at kahit na ilang awtonomong gawain. Gayunpaman, ang pagamit nito ay nagdudulot ng mga panganib sa teknolohiya, tao, legal, at etikal na hindi pa lubusang natatakpan ng kasalukuyang mga regulasyon.

Ang mga sistema ng artipisyal na katalinuhan sa siruhiya ay maaaring magkamali sa pagsusuri o paggamot, makasira sa wastong pagsang-ayon ng pasyente, o labagin ang kanilang pribadong buhay. Ang mga panganib na ito ay nagmumula sa tatlong pangunahing pinagmulan: ang limitasyon ng tool mismo, ang mga kamalian ng tao sa paggamit nito, at ang mga kakulangan sa organisasyon sa paglulunsad nito. Halimbawa, isang algorithm na hindi maayos na sinanay ay maaaring palakihin ang mga bias na naroroon sa mga datos, na nagdudulot ng hindi patas na mga rekomendasyon para sa ilang grupo ng mga pasyente. Gayundin, maaaring masyadong umasa ang isang siruhano sa isang maling ngunit tila totoo na suhestiyon ng tool, na iiwan ang sariling klinikal na paghatol.

Ang kasalukuyang balangkas legal, tulad ng sa European Union o Estados Unidos, ay nagtatangkang regulahan ang mga teknolohiyang ito sa pamamagitan ng pag-uuri ng mga sistema ayon sa antas ng panganib. Ang mga kinakailangan ay nag-iiba sa pagsubok, pamamahala ng datos, at cybersecurity. Gayunpaman, nahihirapan ang mga regulasyong ito na sumunod sa bilis ng mga inobasyon, lalo na sa harap ng mga modelo na kayang matuto at umangkop nang patuloy. Ang proteksyon ng datos ng mga pasyente ay nananatiling isang kritikal na isyu. Sa Europa, ang General Data Protection Regulation (GDPR) ay naglalagay ng mahigpit na mga panuntunan sa paggamit ng impormasyong medikal, habang sa Estados Unidos, ang mga kakulangan ng kasalukuyang batas ay naglalantad sa mga pasyente sa panganib ng muling pagkilala sa kanilang datos, kahit na anonymized na.

Ang wastong pagsang-ayon ay nagiging mas kumplikado sa pagpasok ng artipisyal na katalinuhan. Ang mga pasyente, na karaniwang hindi pamilyar sa mga teknolohiyang ito, ay maaaring magkaroon ng hindi realistikong inaasahan o, sa kabilang banda, ng walang batayang takot. Dapat ipaliwanag ng mga siruhano nang malinaw ang papel ng tool: ito ba ay isang tulong sa pagsusuri, isang gabay sa nabigasyon, o isang aktibong katulong sa panahon ng operasyon? Dapat din nilang ilarawan ang mga garantiya na ipinatupad, tulad ng kanilang kakayahan na suriin at tutulan ang mga rekomendasyon ng tool. Bukod pa rito, dapat ipaalam ng mga siruhano sa mga pasyente tungkol sa kanilang sariling pagsasanay at karanasan sa mga sistemang ito.

Ang isyu ng pananagutan sa kaso ng medikal na kamalian ay nagiging mas kumplikado sa paggamit ng artipisyal na katalinuhan. Tradisyonal na, ang siruhano ang nagdadala ng buong pananagutan sa mga desisyong ginawa sa operating room. Ngunit kung ang isang sistema ay nagmumungkahi ng isang maling rekomendasyon na nagdulot ng pinsala, sino ang mananagot? Ang siruhano para sa pagsunod dito, ang developer para sa depekto sa disenyo, o ang ospital para sa pabaya sa pagpapatupad? Maaaring panagutin ng mga korte ang mga manufacturer kung ang isang depektibong o hindi maayos na nasubok na algorithm ang nagdulot ng kamalian. Ang mga ospital, sa kabilang banda, ay maaaring mataguriang pabaya kung gagamit sila ng isang hindi valid o hindi maayos na pinapanatili na sistema. Samantala, ang siruhano ay nananatiling may pananagutan na sundin ang mga pamantayan ng pangangalaga at hindi maaaring iwasan ang pananagutan sa pamamagitan ng pagsisisi sa tool.

Hindi lamang sa mga medikal na kamalian nagtatapos ang mga panganib. Ang maling paggamit ng artipisyal na katalinuhan ay maaari ring makasira ng tiwala sa pagitan ng pasyente at ng siruhano. Kung ang pasyente ay nakikita na ang mga desisyon ay ginawa ng isang algorithm imbis na ng kanilang doktor, ang relasyong iyon ay maaaring humina. Bukod pa rito, ang kawalan ng transparensya o isang kamalian ng tool ay maaaring permanenteng masira ang tiwalang ito, hindi lamang sa kliniko kundi pati na rin sa buong sistema ng pangangalagang pangkalusugan.

Upang mabawasan ang mga panganib na ito, kinakailangan ng matibay na pamamahala. Dapat magtatag ng mga dedikadong komite ang mga ospital upang suriin ang mga sistema ng artipisyal na katalinuhan bago ang pagamit nito. Ang mga komiteng ito ay dapat siguruhin na ang mga developer ay nagbibigay ng mga kumpletong manual ng paggamit, mga session ng pagsasanay, at mga alituntunin sa kaligtasan. Kinakailangan din ang patuloy na pagmamasid sa pagganap upang matukoy ang anumang paglala o paglihis ng modelo. Ang mga propesyonal na samahan at mga institusyong medikal ay mayroon ding papel na gampanan sa pagtatag ng mga pamantayan para sa pagsasanay at sertipikasyon ng mga siruhano na gumagamit ng mga tool na ito.

Sa huli, mahalaga ang pakikipagtulungan sa pagitan ng mga ospital, mga developer, at mga regulator upang pag-isa ang mga kasanayan at siguruhin ang ligtas at etikal na paggamit ng artipisyal na katalinuhan sa siruhiya. Kung hindi, ang mga pag-unlad sa teknolohiya ay maaaring maging kapinsalaan ng kaligtasan ng mga pasyente at ng kalidad ng pangangalaga.

Ang artipisyal na katalinuhan sa siruhiya ay nagdudulot ng mga pangunahing hamon sa legal at etikal

Unti-unti, binabago ng artipisyal na katalinuhan (AI) ang larangan ng siruhiya sa pamamagitan ng pagpapabuti sa pagpa-plano ng mga operasyon, pagtulong sa real-time, at kahit na ilang awtonomong gawain. Gayunpaman, ang pagamit nito ay nagdudulot ng mga panganib sa teknolohiya, tao, legal, at etikal na hindi pa lubusang natatakpan ng kasalukuyang mga regulasyon.

Ang mga sistema ng artipisyal na katalinuhan sa siruhiya ay maaaring magkamali sa pagsusuri o paggamot, makasira sa wastong pagsang-ayon ng pasyente, o labagin ang kanilang pribadong buhay. Ang mga panganib na ito ay nagmumula sa tatlong pangunahing pinagmulan: ang limitasyon ng tool mismo, ang mga kamalian ng tao sa paggamit nito, at ang mga kakulangan sa organisasyon sa paglulunsad nito. Halimbawa, isang algorithm na hindi maayos na sinanay ay maaaring palakihin ang mga bias na naroroon sa mga datos, na nagdudulot ng hindi patas na mga rekomendasyon para sa ilang grupo ng mga pasyente. Gayundin, maaaring masyadong umasa ang isang siruhano sa isang maling ngunit tila totoo na suhestiyon ng tool, na iiwan ang sariling klinikal na paghatol.

Ang kasalukuyang balangkas legal, tulad ng sa European Union o Estados Unidos, ay nagtatangkang regulahan ang mga teknolohiyang ito sa pamamagitan ng pag-uuri ng mga sistema ayon sa antas ng panganib. Ang mga kinakailangan ay nag-iiba sa pagsubok, pamamahala ng datos, at cybersecurity. Gayunpaman, nahihirapan ang mga regulasyong ito na sumunod sa bilis ng mga inobasyon, lalo na sa harap ng mga modelo na kayang matuto at umangkop nang patuloy. Ang proteksyon ng datos ng mga pasyente ay nananatiling isang kritikal na isyu. Sa Europa, ang General Data Protection Regulation (GDPR) ay naglalagay ng mahigpit na mga panuntunan sa paggamit ng impormasyong medikal, habang sa Estados Unidos, ang mga kakulangan ng kasalukuyang batas ay naglalantad sa mga pasyente sa panganib ng muling pagkilala sa kanilang datos, kahit na anonymized na.

Ang wastong pagsang-ayon ay nagiging mas kumplikado sa pagpasok ng artipisyal na katalinuhan. Ang mga pasyente, na karaniwang hindi pamilyar sa mga teknolohiyang ito, ay maaaring magkaroon ng hindi realistikong inaasahan o, sa kabilang banda, ng walang batayang takot. Dapat ipaliwanag ng mga siruhano nang malinaw ang papel ng tool: ito ba ay isang tulong sa pagsusuri, isang gabay sa nabigasyon, o isang aktibong katulong sa panahon ng operasyon? Dapat din nilang ilarawan ang mga garantiya na ipinatupad, tulad ng kanilang kakayahan na suriin at tutulan ang mga rekomendasyon ng tool. Bukod pa rito, dapat ipaalam ng mga siruhano sa mga pasyente tungkol sa kanilang sariling pagsasanay at karanasan sa mga sistemang ito.

Ang isyu ng pananagutan sa kaso ng medikal na kamalian ay nagiging mas kumplikado sa paggamit ng artipisyal na katalinuhan. Tradisyonal na, ang siruhano ang nagdadala ng buong pananagutan sa mga desisyong ginawa sa operating room. Ngunit kung ang isang sistema ay nagmumungkahi ng isang maling rekomendasyon na nagdulot ng pinsala, sino ang mananagot? Ang siruhano para sa pagsunod dito, ang developer para sa depekto sa disenyo, o ang ospital para sa pabaya sa pagpapatupad? Maaaring panagutin ng mga korte ang mga manufacturer kung ang isang depektibong o hindi maayos na nasubok na algorithm ang nagdulot ng kamalian. Ang mga ospital, sa kabilang banda, ay maaaring mataguriang pabaya kung gagamit sila ng isang hindi valid o hindi maayos na pinapanatili na sistema. Samantala, ang siruhano ay nananatiling may pananagutan na sundin ang mga pamantayan ng pangangalaga at hindi maaaring iwasan ang pananagutan sa pamamagitan ng pagsisisi sa tool.

Hindi lamang sa mga medikal na kamalian nagtatapos ang mga panganib. Ang maling paggamit ng artipisyal na katalinuhan ay maaari ring makasira ng tiwala sa pagitan ng pasyente at ng siruhano. Kung ang pasyente ay nakikita na ang mga desisyon ay ginawa ng isang algorithm imbis na ng kanilang doktor, ang relasyong iyon ay maaaring humina. Bukod pa rito, ang kawalan ng transparensya o isang kamalian ng tool ay maaaring permanenteng masira ang tiwalang ito, hindi lamang sa kliniko kundi pati na rin sa buong sistema ng pangangalagang pangkalusugan.

Upang mabawasan ang mga panganib na ito, kinakailangan ng matibay na pamamahala. Dapat magtatag ng mga dedikadong komite ang mga ospital upang suriin ang mga sistema ng artipisyal na katalinuhan bago ang pagamit nito. Ang mga komiteng ito ay dapat siguruhin na ang mga developer ay nagbibigay ng mga kumpletong manual ng paggamit, mga session ng pagsasanay, at mga alituntunin sa kaligtasan. Kinakailangan din ang patuloy na pagmamasid sa pagganap upang matukoy ang anumang paglala o paglihis ng modelo. Ang mga propesyonal na samahan at mga institusyong medikal ay mayroon ding papel na gampanan sa pagtatag ng mga pamantayan para sa pagsasanay at sertipikasyon ng mga siruhano na gumagamit ng mga tool na ito.

Sa huli, mahalaga ang pakikipagtulungan sa pagitan ng mga ospital, mga developer, at mga regulator upang pag-isa ang mga kasanayan at siguruhin ang ligtas at etikal na paggamit ng artipisyal na katalinuhan sa siruhiya. Kung hindi, ang mga pag-unlad sa teknolohiya ay maaaring maging kapinsalaan ng kaligtasan ng mga pasyente at ng kalidad ng pangangalaga.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc