कृत्रिम बुद्धिमत्ता सर्जरी में कानूनी और नैतिक चुनौतियाँ खड़ी कर रहा है

कृत्रिम बुद्धिमत्ता धीरे-धीरे सर्जरी को बदल रहा है, ऑपरेशन की योजना बनाने, रियल-टाइम सहायता और स्वायत्त कार्यों में सुधार कर रहा है। फिर भी, इसके अपनाने से तकनीकी, मानवीय, कानूनी और नैतिक जोखिम पैदा हो रहे हैं, जो वर्तमान नियमों द्वारा ठीक से नियंत्रित नहीं किए जा रहे हैं।

सर्जरी में कृत्रिम बुद्धिमत्ता प्रणाली निदान या उपचार में गलतियाँ कर सकती हैं, मरीजों की सूचित सहमति को खतरे में डाल सकती हैं या उनकी निजता का उल्लंघन कर सकती हैं। ये जोखिम तीन मुख्य स्रोतों से आते हैं: उपकरण की अपनी सीमाएँ, इसके उपयोग से जुड़ी मानवीय गलतियाँ, और इसके तैनाती के दौरान संगठनात्मक कमियाँ। उदाहरण के लिए, एक खराब तरीके से प्रशिक्षित एल्गोरिदम डेटा में मौजूद पूर्वाग्रहों को बढ़ा सकता है, जिससे कुछ मरीज समूहों के लिए अनुचित सिफारिशें हो सकती हैं। इसी तरह, एक सर्जन एक गलत लेकिन विश्वासयोग्य सिफारिश पर बहुत अधिक भरोसा कर सकता है, जिससे अपना नैदानिक निर्णय छोड़ सकता है।

वर्तमान कानूनी ढांचे, जैसे यूरोपीय संघ या संयुक्त राज्य अमेरिका के, इन तकनीकों को उनके जोखिम स्तर के अनुसार वर्गीकृत करके नियंत्रित करने का प्रयास कर रहे हैं। परीक्षण, डेटा प्रबंधन और साइबर सुरक्षा के मामले में आवश्यकताएँ भिन्न होती हैं। हालांकि, ये नियम नवाचारों के गति को बनाए रखने में असमर्थ हैं, खासकर उन मॉडलों के सामने जो लगातार सीख सकते हैं और अनुकूलन कर सकते हैं। मरीजों के डेटा की सुरक्षा भी एक महत्वपूर्ण मुद्दा बना हुआ है। यूरोप में, सामान्य डेटा संरक्षण नियम डेटा के चिकित्सा उपयोग पर सख्त नियम लगाता है, जबकि संयुक्त राज्य अमेरिका में, वर्तमान कानून की कमियों के कारण मरीजों के डेटा को पुनः पहचाना जा सकता है, भले ही वह गुमनामीकृत हो।

कृत्रिम बुद्धिमत्ता के परिचय के साथ सूचित सहमति और भी जटिल हो गई है। इन तकनीकों से परिचित न होने के कारण मरीज या तो असंभावित अपेक्षाएं रख सकते हैं या फिर अनावश्यक डर महसूस कर सकते हैं। सर्जनों को स्पष्ट रूप से उपकरण की भूमिका की व्याख्या करनी चाहिए: क्या यह निदान में मदद करता है, नेविगेशन गाइड है, या ऑपरेशन के दौरान सक्रिय सहायता प्रदान करता है? उन्हें उन गारंटियों के बारे में भी बताना चाहिए जो मौजूद हैं, जैसे उपकरण की सिफारिशों को सत्यापित करने और उनका खंडन करने की उनकी क्षमता। इसके अलावा, सर्जनों को मरीजों को अपनी प्रशिक्षण और इन प्रणालियों के साथ अपने अनुभव के बारे में भी जानकारी देनी चाहिए।

चिकित्सा गलती के मामले में जिम्मेदारी का सवाल कृत्रिम बुद्धिमत्ता के उपयोग के साथ और भी जटिल हो जाता है। पारंपरिक रूप से, सर्जन ऑपरेशन थियेटर में लिए गए सभी निर्णयों की पूरी जिम्मेदारी लेता है। लेकिन अगर कोई प्रणाली एक गलत सिफारिश देती है जो नुकसान का कारण बनती है, तो जिम्मेदार कौन है? क्या सर्जन जो उस पर अमल करता है, डेवलपर डिजाइन दोष के लिए, या संस्थान लापरवाही से तैनाती के लिए? अदालतें निर्माताओं को जिम्मेदार ठहरा सकती हैं अगर कोई दोषपूर्ण या खराब तरीके से परीक्षण किया गया एल्गोरिदम गलती का कारण बना। अस्पतालों को भी लापरवाही का दोषी ठहराया जा सकता है अगर वे किसी अमान्य या खराब तरीके से बनाए रखे गए प्रणाली का उपयोग करते हैं। सर्जन को तो चिकित्सा मानकों का पालन करना होता है और वह अपनी जिम्मेदारी से बच नहीं सकता, भले ही वह उपकरण को दोष दे।

जोखिम केवल चिकित्सा गलतियों तक सीमित नहीं हैं। कृत्रिम बुद्धिमत्ता के गलत उपयोग से मरीज और सर्जन के बीच विश्वास भी कमजोर हो सकता है। अगर मरीज को लगता है कि निर्णय एक एल्गोरिदम द्वारा लिए जा रहे हैं न कि उनके डॉक्टर द्वारा, तो विश्वास का रिश्ता कमजोर हो सकता है। इसके अलावा, पारदर्शिता का अभाव या उपकरण की गलती से यह विश्वास लंबे समय तक क्षतिग्रस्त हो सकता है, चाहे क्लीनिकल हो या पूरे स्वास्थ्य प्रणाली के प्रति।

इन जोखिमों को कम करने के लिए, एक मजबूत शासन आवश्यक है। स्वास्थ्य संस्थानों को कृत्रिम बुद्धिमत्ता प्रणालियों को अपनाने से पहले उनके मूल्यांकन के लिए समर्पित समितियाँ स्थापित करनी चाहिए। इन समितियों को यह सुनिश्चित करना चाहिए कि डेवलपर्स उपयोग के लिए पूर्ण मैनुअल, प्रशिक्षण सत्र और सुरक्षा दिशानिर्देश प्रदान करें। प्रणालियों के प्रदर्शन की निरंतर निगरानी भी आवश्यक है ताकि किसी भी गिरावट या विचलन का पता लगाया जा सके। चिकित्सा समाजों और संस्थानों को भी सर्जनों के प्रशिक्षण और प्रमाणीकरण के लिए मानक स्थापित करने में भूमिका निभानी चाहिए जो इन उपकरणों का उपयोग करते हैं।

अंत में, अस्पतालों, डेवलपर्स और नियामकों के बीच सहयोग इन प्रथाओं को समन्वित करने और सर्जरी में कृत्रिम बुद्धिमत्ता के सुरक्षित और नैतिक उपयोग को सुनिश्चित करने के लिए आवश्यक है। इसके बिना, तकनीकी प्रगति मरीजों की सुरक्षा और देखभाल की गुणवत्ता के खर्च पर हो सकती है।

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc