«`html
Жасанды интеллект хирургияда құқықтық және этикалық үлкен қиындықтар тудырады
Жасанды интеллект астын-асты хирургияны өзгертіп, операцияларды жоспарлауды, уақытта көмек көрсетуді және тіпті өздігінен орындалатын міндеттерді жақсартады. Алайда, оны енгізу технологиялық, адамдық, құқықтық және этикалық қауіптерді тудырады, олар қазіргі заманғы ережелермен толық қамтылмаған.
Хирургиядағы жасанды интеллект жүйелері диагноз қоюда немесе емдеуде қателіктер жасау, пациенттердің ағылшын макулдарын бұзу немесе олардың жеке өмірін қорғау міндеттерін бұзуы мүмкін. Бұл қауіптер негізінен үш көзден туындайды: құралдың өз шектілігі, оны қолдануға байланысты адам қателіктері және оны енгізу кезіндегі ұйымдастырушылық кемшіліктер. Мысалы, дұрыс оқытылмаған алгоритм деректердегі ықтимал бұрыс ақпаратты күшейтіп, кейбір пациент тобына әділетсіз ұсыныстар жасауға әкелуі мүмкін. Сонымен қатар, хирург құралдың дұрыс емес, бірақ ықтимал ұсынысын сенімді деп санап, өз клиникалық бағалауынан бас тартуы мүмкін.
Ағымдағы заңдық шаралар, мысалы, Еуропа Одағының немесе АҚШ-тың шаралары, бұл технологияларды реттеуге тырысып, жүйелерді қауіп деңгейіне сәйкес топтастырады. Содан кейін талаптар тесттеу, деректерді басқару және киберқауіпсіздік саласында ғана емес, сонымен қатар басқа да салаларда өзгереді. Алайда, бұл реттеулер инновациялардың даму қарқынымен қарсыласуда қиындықтарға тап болады, егер модельдер үнемі үйрене алатын және өзінің қылығын өзгерте алатын болса. Пациенттердің деректерін қорғау мәселесі де маңызды. Еуропада жалпы деректерді қорғау туралы ереже строгы ережелерді медициналық ақпаратты қолдануға қойса, АҚШ-та қазіргі заңның кемшіліктері пациенттердің деректерін қайта таниту қаупіне ұшыратуы мүмкін, тіпті анонимделген деректер болса да.
Жасанды интеллект енгізілгеннен кейін ағылшын макул алу күрделірете түседі. Пациенттер бұл технологиялармен таныс емес, сондықтан оларда реалистік емес үміттер пайда болуы мүмкін, немесе керісінше, негізсіз қорқыныштар туындауы мүмкін. Хирургтер құралдың ролін анық түсіндіруі керек: бұл диагноз қоюға көмекші құрал ма, навигациялық нұсқаушы ма, немесе операция кезінде белсенді көмекші ма? Сонымен қатар, олар құралдың ұсыныстарын тексеру және теріске шығару қабілеттері сияқты кепілдіктерді сипаттауы керек. Бұдан басқа, хирургтер пациенттерге өз білімі мен бұл жүйелермен жұмыс тәжірибесі туралы ақпарат беруі керек.
Медициналық қателік кезінде жауапкершілік мәселесі жасанды интеллект қолданған кезде күрделірете түседі. Дәстүрлі түрде, хирург операция бөлмеінде қабылданған шешімдердің толық жауапкершілігін өзіне алады. Алайда, егер жүйе қате ұсыныс беріп, зардап келтірсе, кім жауапкерші? Хирург оны орындаған үшін, дамытушы құрылымдағы кемшілік үшін, немесе мекеме дұрыс енгізілмеген үшін? Соттар алгоритмнің кемшілігі немесе дұрыс тесттелмегені салдарынан қателік туындаған жағдайда өндірушілерді жауапкерші етуі мүмкін. Ауруханалар өз бетінше валидтелмеген немесе дұрыс қызмет етпеген жүйені қолданған үшін абалысыздықта танылуы мүмкін. Ал хирург өзінің кәсіби міндеттерін орындауға міндетті және құралды айыптап, өз жауапкершілігінен бас тарта алмайды.
Қауіптер тек медициналық қателіктермен шектелмейді. Жасанды интеллектті дұрыс қолданбау хирург пен пациент арасындағы сенімді қатынасты бұзуы мүмкін. Егер пациент шешімдерді өз дәрігері емес, алгоритм қабылдаған деп сезінсе, сенім қатынасы әлсіреуі мүмкін. Сонымен қатар, ашық емес құралдың қателігі не ашық емес қателік сенімді ұзак уақытқа зардап келтіруі мүмкін, бұл клиникшілдікке де, денсаулық сақтау жүйесіне де ықпал етеді.
Бұл қауіптерді азайту үшін берік басқару қажет. Денсаулық сақтау мекемелері жасанды интеллект жүйелерін енгізу алдында бағалау үшін арнайы комитеттер құруы керек. Бұл комитеттер дамытушылардың қолдануға нұсқаулар, оқыту сессиялары және қауіпсіздік бағыттамаларын ұсынатынын қамтамасыз етуі керек. Модельдің жұмысының үнемі бақылауы қажет, өйткені оның жұмысындағы нашарлаулар немесе ауытқуларды анықтау керек. Мамандық коғамдар мен медициналық мекемелер де бұл құралдарды қолданатын хирургтерді оқыту және сертификаттау үшін стандарттар белгілеуде маңызды рөл атқарады.
Соңғысы, ауруханалар, дамытушылар және реттеуші органдар арасындағы ынтымақтастық бұл практикаларды үйлестіру және хирургияда жасанды интеллектті қауіпсіз және этикалық қолдануды қамтамасыз ету үшін маңызды. Бұл болмаса, технологиялық прогресс пациенттердің қауіпсіздігі мен емдеу сапасының есебінен жүзеге асуы мүмкін.
«`
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc