Süni intellekt cərrahiyədə böyük hüquqi və etik çətinliklər yaradır

Süni intellekt tədricən cərrahiyəni dəyişdirir, əməliyyatların planlaşdırılmasını, real vaxt köməklik göstərilməsini və hətta bəzi müstəqil tapşırıqların yerinə yetirilməsini yaxşılaşdırır. Lakin onun tətbiqi müasir tənzimləmələr tərəfindən hələ də qismən nəzarət olunan texnoloji, insan, hüquqi və etik risklər gətirib çıxarır.

Cərrahiyədə süni intellekt sistemləri diaqnoz və müalicə xətaları edə bilər, xəstələrin aydın razılıqlarını pozur və ya onların şəxsi məlumatlarının məxfiliyini pozur bilər. Bu risklərin üç əsas mənbəsi var: alətin öz məhdudiyyətləri, onun istifadəsinə bağlı insan xətaları və tətbiq edilmə zamanı təşkilati çatışmazlıqlar. Məsələn, pis təlim keçmiş alqoritm məlumatlardakı qərarlılıqları gücləndirə bilər, nəticədə bəzi xəstə qrupları üçün ədalətsiz tövsiyələrə gətirib çıxara bilər. Eyni şəkildə, cərrah səhv, lakin inandırıcı tövsiyəyə çox etibar edib, öz klinik qiymətini tərk edə bilər.

Hal-hazırda mövcud olan hüquqi çərçivələr, məsələn, Avropa İttifaqının və ya ABŞ-nin tənzimləmələri, bu texnologiyaları risk səviyyəsinə görə təsnif edərək tənzimləməyə çalışır. Bu halda, testlər, məlumatların idarə edilməsi və kibertəhlükəsizlik sahəsində tələb olunanlar fərqlənir. Lakin bu tənzimləmələr innovasiyaların sürətini izləməkdə çətinlik çəkir, xüsusən də davamlı öyrənən və adaptasiya olan modellər qarşısında. Xəstələrin məlumatlarının qorunması da kritik məsələ olaraq qalır. Avropada Ümumi Məlumatların Qorunması Qanunu tibbi məlumatların istifadəsinə sərt qaydalar qoyur, ABŞ-da isə mövcud qanun boşluqları xəstələrin məlumatlarının, hətta anonimləşdirilmiş halda da, yenidən identifikasiya edilmə riskinə məruz qoyur.

Süni intellektin tətbiqi ilə aydın razılıq məsələsi daha mürəkkəbləşir. Bu texnologiyalara az aşina olan xəstələr real olmayan gözləntilər formalaşa bilər və ya əksinə, əsassız qorxulara qapıla bilər. Cərrahlara alətin rolunu aydın izah etməli olacaq: diaqnoza köməkçi, naviqasiya rəhbəri və ya əməliyyat zamanı aktiv köməkçi kimi xidmət edirmi? Onlar həmçinin mövcud zəmanətlər haqqında, məsələn, alətin tövsiyələrini yoxlamaq və onlara etiraz etmək qabiliyyətləri haqqında da məlumat verməlidirlər. Bundan əlavə, cərrahlara xəstələrə öz təhsilləri və bu sistemlərlə təcrübələri haqqında məlumat verməli olacaq.

Tibbi səhv baş verdikdə məsuliyyət məsələsi süni intellektin istifadəsi ilə daha da mürəkkəbləşir. Ənənəvi olaraq, cərrah əməliyyat zalında qəbul edilmiş qərarlara görə tam məsuliyyət daşıyır. Lakin əgər sistem səhv tövsiyə verib zərər yetiribsə, kim məsuldur? Cərrah tövsiyəni izləyəndə, inkişafçı konstruksiya çatışmazlığına görə, və ya müəssisə qeyri-kafi tətbiq etdikdə? Məhkəmələr alqoritmin səhv və ya pis test edilmiş olması nəticəsində səhvə səbəb olubsa, istehsalçılar məsul tutula bilər. Xəstəxanalar isə təsdiqlənməyən və ya pis saxlanılan sistemdən istifadə etdikdə qeyri-ehtiyatlı hesablana bilər. Cərrah isə müalicə standartlarına riayət etməli və aləti günahlandıraraq məsuliyyətindən boyun qaça bilməz.

Risklər yalnız tibbi səhvlərlə məhdudlaşmır. Süni intellektin səhv istifadəsi həm də cərrah ilə xəstə arasında etimadın zəifləməsinə səbəb ola bilər. Əgər xəstə qərarların alqoritm tərəfindən, deyil, həkim tərəfindən qəbul edildiyini hiss edərsə, etimad münasibəti zəifləyə bilər. Bundan əlavə, şəffaflığın olmaması və ya alətin səhvi bu etimadı, həm klinisistə, həm də sağlamlıq sisteminə qarşı daim zədələyə bilər.

Bu riskləri azaltmaq üçün möhkəm idarəetmə tələb olunur. Səhiyyə müəssisələri süni intellekt sistemlərini qəbul etməzdən əvvəl qiymətləndirmək üçün xüsusi komitələr yaratmalıdır. Bu komitələr inkişafçılardan tam istifadəçilər üçün əlliklər, təlim sessiyaları və təhlükəsizlik qaydaları tələb etməlidirlər. Sistemlərin performansının davamlı monitorinqi də vacibdir ki, modelin keyfiyyətinin pisləşməsi və ya səhvlər aşkarlansın. Elmi cəmiyyətlər və tibbi müəssisələr də bu alətlərdən istifadə edən cərrahların təhsili və sertifikatlaşdırılması üçün standartlar müəyyən etməli rollarını oynayırlar.

Nəhayət, xəstəxanalar, inkişafçılar və tənzimləyicilər arasında əməkdaşlıq bu praktikaların uyğunlaşdırılması və cərrahiyədə süni intellektin təhlükəsiz və etik istifadəsinə zəmanət vermək üçün əsasdır. Bu olmasa, texnoloji irəliləyişlər xəstələrin təhlükəsizliyi və müalicənin keyfiyyətinə zərər verə bilər.

Süni intellekt cərrahiyədə böyük hüquqi və etik çətinliklər yaradır

Süni intellekt tədricən cərrahiyəni dəyişdirir, əməliyyatların planlaşdırılmasını, real vaxt köməklik göstərilməsini və hətta bəzi müstəqil tapşırıqların yerinə yetirilməsini yaxşılaşdırır. Lakin onun tətbiqi müasir tənzimləmələr tərəfindən hələ də qismən nəzarət olunan texnoloji, insan, hüquqi və etik risklər gətirib çıxarır.

Cərrahiyədə süni intellekt sistemləri diaqnoz və müalicə xətaları edə bilər, xəstələrin aydın razılıqlarını pozur və ya onların şəxsi məlumatlarının məxfiliyini pozur bilər. Bu risklərin üç əsas mənbəsi var: alətin öz məhdudiyyətləri, onun istifadəsinə bağlı insan xətaları və tətbiq edilmə zamanı təşkilati çatışmazlıqlar. Məsələn, pis təlim keçmiş alqoritm məlumatlardakı qərarlılıqları gücləndirə bilər, nəticədə bəzi xəstə qrupları üçün ədalətsiz tövsiyələrə gətirib çıxara bilər. Eyni şəkildə, cərrah səhv, lakin inandırıcı tövsiyəyə çox etibar edib, öz klinik qiymətini tərk edə bilər.

Hal-hazırda mövcud olan hüquqi çərçivələr, məsələn, Avropa İttifaqının və ya ABŞ-nin tənzimləmələri, bu texnologiyaları risk səviyyəsinə görə təsnif edərək tənzimləməyə çalışır. Bu halda, testlər, məlumatların idarə edilməsi və kibertəhlükəsizlik sahəsində tələb olunanlar fərqlənir. Lakin bu tənzimləmələr innovasiyaların sürətini izləməkdə çətinlik çəkir, xüsusən də davamlı öyrənən və adaptasiya olan modellər qarşısında. Xəstələrin məlumatlarının qorunması da kritik məsələ olaraq qalır. Avropada Ümumi Məlumatların Qorunması Qanunu tibbi məlumatların istifadəsinə sərt qaydalar qoyur, ABŞ-da isə mövcud qanun boşluqları xəstələrin məlumatlarının, hətta anonimləşdirilmiş halda da, yenidən identifikasiya edilmə riskinə məruz qoyur.

Süni intellektin tətbiqi ilə aydın razılıq məsələsi daha mürəkkəbləşir. Bu texnologiyalara az aşina olan xəstələr real olmayan gözləntilər formalaşa bilər və ya əksinə, əsassız qorxulara qapıla bilər. Cərrahlara alətin rolunu aydın izah etməli olacaq: diaqnoza köməkçi, naviqasiya rəhbəri və ya əməliyyat zamanı aktiv köməkçi kimi xidmət edirmi? Onlar həmçinin mövcud zəmanətlər haqqında, məsələn, alətin tövsiyələrini yoxlamaq və onlara etiraz etmək qabiliyyətləri haqqında da məlumat verməlidirlər. Bundan əlavə, cərrahlara xəstələrə öz təhsilləri və bu sistemlərlə təcrübələri haqqında məlumat verməli olacaq.

Tibbi səhv baş verdikdə məsuliyyət məsələsi süni intellektin istifadəsi ilə daha da mürəkkəbləşir. Ənənəvi olaraq, cərrah əməliyyat zalında qəbul edilmiş qərarlara görə tam məsuliyyət daşıyır. Lakin əgər sistem səhv tövsiyə verib zərər yetiribsə, kim məsuldur? Cərrah tövsiyəni izləyəndə, inkişafçı konstruksiya çatışmazlığına görə, və ya müəssisə qeyri-kafi tətbiq etdikdə? Məhkəmələr alqoritmin səhv və ya pis test edilmiş olması nəticəsində səhvə səbəb olubsa, istehsalçılar məsul tutula bilər. Xəstəxanalar isə təsdiqlənməyən və ya pis saxlanılan sistemdən istifadə etdikdə qeyri-ehtiyatlı hesablana bilər. Cərrah isə müalicə standartlarına riayət etməli və aləti günahlandıraraq məsuliyyətindən boyun qaça bilməz.

Risklər yalnız tibbi səhvlərlə məhdudlaşmır. Süni intellektin səhv istifadəsi həm də cərrah ilə xəstə arasında etimadın zəifləməsinə səbəb ola bilər. Əgər xəstə qərarların alqoritm tərəfindən, deyil, həkim tərəfindən qəbul edildiyini hiss edərsə, etimad münasibəti zəifləyə bilər. Bundan əlavə, şəffaflığın olmaması və ya alətin səhvi bu etimadı, həm klinisistə, həm də sağlamlıq sisteminə qarşı daim zədələyə bilər.

Bu riskləri azaltmaq üçün möhkəm idarəetmə tələb olunur. Səhiyyə müəssisələri süni intellekt sistemlərini qəbul etməzdən əvvəl qiymətləndirmək üçün xüsusi komitələr yaratmalıdır. Bu komitələr inkişafçılardan tam istifadəçilər üçün əlliklər, təlim sessiyaları və təhlükəsizlik qaydaları tələb etməlidirlər. Sistemlərin performansının davamlı monitorinqi də vacibdir ki, modelin keyfiyyətinin pisləşməsi və ya səhvlər aşkarlansın. Elmi cəmiyyətlər və tibbi müəssisələr də bu alətlərdən istifadə edən cərrahların təhsili və sertifikatlaşdırılması üçün standartlar müəyyən etməli rollarını oynayırlar.

Nəhayət, xəstəxanalar, inkişafçılar və tənzimləyicilər arasında əməkdaşlıq bu praktikaların uyğunlaşdırılması və cərrahiyədə süni intellektin təhlükəsiz və etik istifadəsinə zəmanət vermək üçün əsasdır. Bu olmasa, texnoloji irəliləyişlər xəstələrin təhlükəsizliyinə və müalicənin keyfiyyətinə zərər verə bilər.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc