Yapay zekâ cerrahide büyük hukuki ve etik zorluklar doğuruyor

Yapay zekâ, ameliyatların planlanmasını iyileştirerek, gerçek zamanlı yardım sağlayarak ve hatta bazı otonom görevleri yerine getirerek cerrahiyi kademeli olarak dönüştürüyor. Bununla birlikte, benimsenmesi, mevcut düzenlemeler tarafından henüz yeterince çerçeveye oturtulmamış teknolojik, insani, hukuki ve etik riskler getiriyor.

Cerrahide kullanılan yapay zekâ sistemleri, teşhis veya tedavi hataları yapabilir, hastaların aydınlatılmış onamını tehlikeye atabilir veya gizliliklerini ihlal edebilir. Bu riskler üç ana kaynaktan kaynaklanıyor: aracın kendi sınırları, kullanımına bağlı insan hataları ve dağıtım sırasında yaşanan kurumsal aksaklıklar. Örneğin, kötü eğitilmiş bir algoritma, verilerdeki önyargıları büyütüp bazı hasta grupları için haksız önerilerde bulunabilir. Benzer şekilde, bir cerrah, aracın yanlış ama ikna edici bir önerisine fazla güvenip kendi klinik yargısını bir kenara bırakabilir.

ABD veya Avrupa Birliği gibi bölgelerin mevcut hukuki çerçeveleri, bu teknolojileri risk düzeylerine göre sınıflandırarak düzenlemeye çalışıyor. Testler, veri yönetimi ve siber güvenlik konularındaki gereklilikler risk düzeyine göre değişiyor. Ancak, bu düzenlemeler yeniliklerin hızına ayak uydurmakta zorlanıyor, özellikle sürekli öğrenen ve uyum sağlayan modeller karşısında. Hasta verilerinin korunması da kritik bir konu olmaya devam ediyor. Avrupa’da, Genel Veri Koruma Yönetmeliği, tıbbi bilgilerin kullanımına ilişkin sıkı kurallar getirirken; ABD’de, mevcut yasadaki boşluklar, anonimleştirilmiş verilerin bile yeniden kimliklendirilme riskine maruz kalmasına neden oluyor.

Yapay zekânın devreye girmesiyle aydınlatılmış onam süreci daha da karmaşık hale geliyor. Bu teknolojilerle genellikle az tanışık olan hastalar, gerçekçi olmayan beklentiler geliştirebiliyor veya tersine, temelsiz korkulara kapılabiliyor. Cerrahlar, aracın rolünü açıkça açıklamalı: teşhis yardımı mı, navigasyon rehberi mi yoksa ameliyat sırasında aktif bir asistan mı? Ayrıca, cerrahlar, aracın önerilerini denetleyip çürütebilme yetenekleri gibi mevcut güvenceleri de tanımlamalı. Bunun yanı sıra, cerrahlar hastalara kendi eğitimleri ve bu sistemlerle deneyimleri hakkında da bilgi vermelidir.

Tıbbi hata durumunda sorumluluk sorunu, yapay zekânın kullanımıyla birlikte daha da karmaşık hale geliyor. Geleneksel olarak, cerrah ameliyat sırasında alınan tüm kararların sorumluluğunu üstlenir. Ancak, bir sistem yanlış bir öneride bulunup zarara yol açarsa, sorumlu kimdir? Cerrah mı (öneriyi takip ettiği için), geliştirici mi (tasarım hatası nedeniyle) yoksa kurum mu (ihmal edilen bir uygulama nedeniyle)? Mahkemeler, kusurlu veya yeterince test edilmemiş bir algoritmanın hataya yol açması durumunda üreticileri sorumlu tutabilir. Hastaneler de, doğrulanmamış veya kötü bakım yapılan bir sistemi kullanmaları halinde ihmalden suçlu bulunabilir. Cerrah ise, bakım standartlarına uymakla yükümlüdür ve sorumluluğunu araca yükleyerek kurtulamaz.

Riskler sadece tıbbi hatalarla sınırlı değildir. Yapay zekânın yanlış kullanımı, hasta ile cerrah arasındaki güveni de zedeleyebilir. Hasta, kararların bir algoritma tarafından alındığını hissederse, doktoruna olan güven duygusu zayıflayabilir. Ayrıca, şeffaflık eksikliği veya aracın hatası, bu güveni hem klinisyen hem de sağlık sistemine karşı kalıcı olarak zedeleyebilir.

Bu riskleri azaltmak için sağlam bir yönetim şarttır. Sağlık kurumları, yapay zekâ sistemlerini benimsemeden önce değerlendirecek özel komiteler kurmalıdır. Bu komiteler, geliştiricilerin kullanım kılavuzları, eğitim oturumları ve güvenlik yönergeleri sağlamasını garantilemelidir. Performansın sürekli izlenmesi, modelde herhangi bir bozulma veya sapma tespit etmek için de gereklidir. Tıbbi dernekler ve kurumlar da, bu araçları kullanan cerrahların eğitimi ve sertifikasyonu için standartlar belirleyerek önemli bir rol oynayabilir.

Son olarak, hastaneler, geliştiriciler ve düzenleyiciler arasındaki iş birliği, uygulamaları uyumlaştırmak ve cerrahide yapay zekânın güvenli ve etik kullanımını sağlamak için esastır. Aksi takdirde, teknolojik ilerlemeler, hasta güvenliği ve bakım kalitesinin pahasına olabilir.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc