“`html
هوش مصنوعی در جراحی چالشهای حقوقی و اخلاقی عمدهای را ایجاد میکند
هوش مصنوعی به تدریج جراحی را با بهبود برنامهریزی عملیاتها، کمک در زمان واقعی و حتی انجام برخی وظایف خودکار، دگرگون میسازد. با این حال، پذیرش آن ریسکهای فنی، انسانی، حقوقی و اخلاقی را به همراه دارد که هنوز توسط مقررات فعلی به خوبی پوشش داده نشدهاند.
سیستمهای هوش مصنوعی در جراحی میتوانند در تشخیص یا درمان اشتباه کنند، رضایت آگاهانه بیماران را به خطر اندازند یا حریم خصوصی آنها را نقض نمایند. این ریسکها از سه منبع اصلی ناشی میشوند: محدودیتهای ذاتی ابزار، خطاهای انسانی ناشی از استفاده نادرست و نقصهای سازمانی در زمان استقرار آنها. به عنوان مثال، یک الگوریتم بد آموزشدیده میتواند تعصبات موجود در دادهها را تقویت کند و منجر به توصیههای ناعادلانه برای برخی گروههای بیماران شود. همچنین، یک جراح ممکن است بیش از حد به پیشنهاد غلط اما قابل قبول ابزار اعتماد کند و بدین ترتیب قضاوت بالینی خود را کنار بگذارد.
چهارچوبهای حقوقی فعلی، مانند آنهایی که در اتحادیه اروپا یا ایالات متحده وجود دارند، سعی میکنند این فناوریها را با طبقهبندی سیستمها بر اساس سطح ریسک آنها تنظیم کنند. الزامات در زمینه آزمایشها، مدیریت دادهها و امنیت سایبری متفاوت است. با این حال، این مقررات در دنبال کردن سرعت نوآوریها، به ویژه در برابر مدلهایی که قادر به یادگیری و سازگاری مداوم هستند، با مشکل مواجهاند. حفاظت از دادههای بیماران نیز یک چالش حیاتی باقی میماند. در اروپا، مقررات عمومی حفاظت از دادهها قوانین سختگیرانهای را در مورد استفاده از اطلاعات پزشکی اعمال میکند، در حالی که در ایالات متحده، نقصهای قانون فعلی بیماران را در معرض ریسک شناسایی مجدد دادههایشان، حتی اگر ناشناس باشند، قرار میدهد.
رضایت آگاهانه با معرفی هوش مصنوعی پیچیدهتر میشود. بیماران، که اغلب با این فناوریها آشنا نیستند، ممکن است انتظارات غیرواقعی یا، برعکس، ترسهای بیاساس توسعه دهند. جراحان باید نقش ابزار را به وضوح توضیح دهند: آیا این ابزار برای کمک به تشخیص، راهنمایی ناوبری یا دستیار فعال در حین عمل است؟ آنها همچنین باید ضمانتهای موجود را توصیف کنند، مانند توانایی خود در بررسی و رد توصیههای ابزار. علاوه بر این، جراحان موظفند بیماران را در مورد آموزش و تجربه خود با این سیستمها آگاه سازند.
مسئله مسئولیت در صورت خطای پزشکی با استفاده از هوش مصنوعی پیچیدهتر میشود. به طور سنتی، جراح مسئولیت کامل تصمیمات گرفته شده در اتاق عمل را بر عهده دارد. اما اگر یک سیستم توصیهای غلط ارائه دهد که منجر به آسیب شود، چه کسی مسئول است؟ جراح به دلیل پیروی از آن، توسعهدهنده به دلیل نقص طراحی، یا موسسه به دلیل پیادهسازی بیدقت؟ دادگاهها ممکن است سازندگان را در صورت نقص یا آزمایش نادرست الگوریتم مسئول بدانند. بیمارستانها نیز در صورت استفاده از سیستمی غیر معتبر یا بد نگهداری شده، ممکن است مقصر شناخته شوند. در مورد جراح، او همچنان موظف است استانداردهای مراقبت را رعایت کند و نمیتواند با سرزنش ابزار، مسئولیت خود را رد کند.
ریسکها به خطاهای پزشکی محدود نمیشوند. استفاده نادرست از هوش مصنوعی میتواند اعتماد بین بیمار و جراح را نیز تضعیف کند. اگر بیمار احساس کند که تصمیمات توسط یک الگوریتم و نه پزشک او گرفته میشوند، رابطه اعتماد ممکن است تضعیف شود. علاوه بر این، عدم شفافیت یا خطای ابزار میتواند این اعتماد را به طور دائمی، هم نسبت به پزشک و هم نسبت به سیستم بهداشتی به طور کلی، آسیب بزند.
برای کاهش این ریسکها، حکمرانی قوی ضروری است. موسسات بهداشتی باید کمیتههای تخصصی را برای ارزیابی سیستمهای هوش مصنوعی قبل از پذیرش آنها تشکیل دهند. این کمیتهها باید اطمینان حاصل کنند که توسعهدهندگان دستورالعملهای کاربردی کامل، جلسات آموزشی و دستورالعملهای ایمنی ارائه میدهند. نظارت مداوم بر عملکرد نیز برای تشخیص هر گونه تخریب یا انحراف مدل ضروری است. انجمنهای علمی و موسسات پزشکی نیز نقش مهمی در تدوین استانداردها برای آموزش و گواهینامهٔ جراحانی که از این ابزارها استفاده میکنند، ایفا میکنند.
در نهایت، همکاری بین بیمارستانها، توسعهدهندگان و ناظران برای هماهنگسازی روشها و تضمین استفاده ایمن و اخلاقی از هوش مصنوعی در جراحی ضروری است. بدون این همکاری، پیشرفتهای فنی ممکن است به قیمت ایمنی بیماران و کیفیت مراقبتها تمام شود.
“`
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc