कृत्रिम बुद्धिमत्ता सर्जरी में कानूनी और नैतिक चुनौतियाँ खड़ी कर रहा है

कृत्रिम बुद्धिमत्ता धीरे-धीरे सर्जरी को बदल रहा है, ऑपरेशन की योजना, रियल-टाइम सहायता और यहां तक कि कुछ स्वायत्त कार्यों में सुधार कर रहा है। फिर भी, इसके अपनाने से तकनीकी, मानवीय, कानूनी और नैतिक जोखिम पैदा हो रहे हैं, जो वर्तमान नियमों द्वारा ठीक से नियंत्रित नहीं किए जा रहे हैं।

सर्जरी में कृत्रिम बुद्धिमत्ता प्रणाली निदान या उपचार में गलतियाँ कर सकती हैं, मरीजों की सूचित सहमति को खतरे में डाल सकती हैं या उनकी निजता का उल्लंघन कर सकती हैं। ये जोखिम तीन मुख्य स्रोतों से आते हैं: उपकरण की अपनी सीमाएं, इसके उपयोग से जुड़ी मानवीय गलतियाँ, और इसके तैनाती के दौरान संगठनात्मक कमियाँ। उदाहरण के लिए, एक खराब तरीके से प्रशिक्षित एल्गोरिदम डेटा में मौजूद पूर्वाग्रहों को बढ़ा सकता है, जिससे कुछ मरीज समूहों के लिए अनुचित सिफारिशें हो सकती हैं। इसी तरह, एक सर्जन टूल की एक गलत लेकिन विश्वास योग्य सिफारिश पर बहुत अधिक भरोसा कर सकता है, जिससे अपना स्वयं का क्लिनिकल निर्णय छोड़ सकता है।

वर्तमान कानूनी ढांचे, जैसे यूरोपीय संघ या संयुक्त राज्य अमेरिका के, इन तकनीकों को उनके जोखिम के स्तर के अनुसार वर्गीकृत करके नियंत्रित करने का प्रयास कर रहे हैं। परीक्षण, डेटा प्रबंधन और साइबर सुरक्षा के मामले में आवश्यकताएं भिन्न होती हैं। हालांकि, ये नियम नवाचारों के गति को बनाए रखने में असमर्थ हैं, खासकर उन मॉडलों के सामने जो लगातार सीख सकते हैं और अनुकूलन कर सकते हैं। मरीजों के डेटा की सुरक्षा भी एक महत्वपूर्ण मुद्दा बना हुआ है। यूरोप में, सामान्य डेटा सुरक्षा नियम कड़ी शर्तें लगाते हैं मेडिकल जानकारी के उपयोग पर, जबकि संयुक्त राज्य अमेरिका में, वर्तमान कानून की कमियों के कारण मरीजों को अपने डेटा की पुनः पहचान के जोखिम का सामना करना पड़ सकता है, भले ही वे गुमनाम हों।

कृत्रिम बुद्धिमत्ता के परिचय के साथ सूचित सहमति और भी जटिल हो जाती है। मरीज, अक्सर इन तकनीकों से अपरिचित होते हैं, असंरचित अपेक्षाएं या बेबुनियाद डर विकसित कर सकते हैं। सर्जनों को इसलिए टूल की भूमिका को स्पष्ट रूप से समझाना चाहिए: क्या यह निदान में सहायता है, नेविगेशन गाइड है, या ऑपरेशन के दौरान सक्रिय सहायक है? उन्हें उन गारंटियों का भी वर्णन करना चाहिए जो मौजूद हैं, जैसे टूल की सिफारिशों को सत्यापित करने और उनका खंडन करने की उनकी क्षमता। इसके अलावा, सर्जनों को मरीजों को अपनी स्वयं की प्रशिक्षण और इन प्रणालियों के साथ अपने अनुभव के बारे में भी सूचित करना चाहिए।

चिकित्सा गलती के मामले में जिम्मेदारी का सवाल कृत्रिम बुद्धिमत्ता के उपयोग के साथ और भी जटिल हो जाता है। पारंपरिक रूप से, सर्जन ऑपरेशन थियेटर में लिए गए सभी निर्णयों की पूरी जिम्मेदारी लेता है। लेकिन अगर कोई प्रणाली एक गलत सिफारिश देती है जो नुकसान का कारण बनती है, तो जिम्मेदार कौन है? सर्जन जो उस पर अमल करता है, डेवलपर जो डिजाइन दोष के लिए जिम्मेदार है, या संस्थान जो लापरवाही से इसे लागू करता है? अदालतें निर्माताओं को जिम्मेदार ठहरा सकती हैं अगर कोई दोषपूर्ण या खराब तरीके से परीक्षण किया गया एल्गोरिदम गलती का कारण बना। अस्पताल, दूसरी ओर, लापरवाही बरत सकते हैं अगर वे किसी अमान्य या खराब तरीके से बनाए रखे गए सिस्टम का उपयोग करते हैं। सर्जन को तो चिकित्सा मानकों का पालन करना होता है और वह अपनी जिम्मेदारी से बच नहीं सकता, भले ही वह टूल को दोष दे।

जोखिम केवल चिकित्सा गलतियों तक सीमित नहीं हैं। कृत्रिम बुद्धिमत्ता के गलत उपयोग से मरीज और सर्जन के बीच विश्वास भी कमजोर हो सकता है। अगर मरीज को लगता है कि निर्णय कोई एल्गोरिदम ले रहा है न कि उनका डॉक्टर, तो विश्वास का रिश्ता कमजोर हो सकता है। इसके अलावा, पारदर्शिता का अभाव या टूल की कोई गलती इस विश्वास को स्थायी रूप से नुकसान पहुंचा सकती है, न केवल क्लिनिशियन बल्कि पूरे स्वास्थ्य प्रणाली के प्रति।

इन जोखिमों को कम करने के लिए, एक मजबूत शासन आवश्यक है। स्वास्थ्य संस्थानों को कृत्रिम बुद्धिमत्ता प्रणालियों को अपनाने से पहले उनका मूल्यांकन करने के लिए समर्पित समितियाँ स्थापित करनी चाहिए। इन समितियों को यह सुनिश्चित करना चाहिए कि डेवलपर उपयोग के लिए पूर्ण मैनुअल, प्रशिक्षण सत्र और सुरक्षा दिशानिर्देश प्रदान करें। प्रणाली के प्रदर्शन की निरंतर निगरानी भी आवश्यक है ताकि किसी भी गिरावट या विचलन का पता लगाया जा सके। चिकित्सा समाजों और संस्थानों को भी सर्जनों के प्रशिक्षण और प्रमाणीकरण के लिए मानक स्थापित करने में भूमिका निभानी चाहिए जो इन उपकरणों का उपयोग करते हैं।

अंत में, अस्पतालों, डेवलपर्स और नियामकों के बीच सहयोग इन प्रथाओं को समन्वित करने और सर्जरी में कृत्रिम बुद्धिमत्ता के सुरक्षित और नैतिक उपयोग को सुनिश्चित करने के लिए आवश्यक है। इसके बिना, तकनीकी प्रगति मरीजों की सुरक्षा और देखभाल की गुणवत्ता के खर्च पर हो सकती है।

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc