ปัญหาทางกฎหมายและจริยธรรมที่สำคัญของปัญญาประดิษฐ์ในศัลยกรรม

ปัญญาประดิษฐ์กำลังเปลี่ยนแปลงวงการศัลยกรรมอย่างค่อยเป็นค่อยไป โดยปรับปรุงการวางแผนการผ่าตัด การช่วยเหลือในเวลาจริง และแม้แต่งานบางอย่างที่ทำได้ด้วยตัวเอง อย่างไรก็ตาม การนำมาใช้ก็ได้นำเสนอความเสี่ยงทางเทคโนโลยี มนุษย์ กฎหมาย และจริยธรรม ซึ่งยังไม่ได้รับการควบคุมอย่างเหมาะสมจากกฎระเบียบปัจจุบัน

ระบบปัญญาประดิษฐ์ในศัลยกรรมอาจก่อให้เกิดข้อผิดพลาดในการวินิจฉัยหรือการรักษา ลดทอนความยินยอมโดยได้รับข้อมูลครบถ้วนของผู้ป่วย หรือละเมิดความเป็นส่วนตัวของพวกเขา ความเสี่ยงเหล่านี้มาจากสามแหล่งหลัก คือ ขีดจำกัดของเครื่องมือเอง ข้อผิดพลาดของมนุษย์ที่เกี่ยวข้องกับการใช้งาน และความล้มเหลวทางองค์กรในการนำไปใช้งาน ตัวอย่างเช่น อัลกอริทึมที่ฝึกฝนมาไม่ดีอาจขยายความลำเอียงที่มีอยู่ในข้อมูล จนนำไปสู่คำแนะนำที่ไม่เป็นธรรมสำหรับกลุ่มผู้ป่วยบางกลุ่ม เช่นเดียวกัน ศัลยแพทย์อาจไว้วางใจคำแนะนำที่ผิดพลาดแต่ดูน่าเชื่อถือของเครื่องมือมากเกินไป จนละทิ้งการตัดสินใจทางคลินิกของตนเอง

กรอบกฎหมายปัจจุบัน เช่น ของสหภาพยุโรปหรือสหรัฐอเมริกา พยายามควบคุมเทคโนโลยีเหล่านี้โดยจัดประเภทระบบตามระดับความเสี่ยง ข้อกำหนดจึงแตกต่างกันไปในเรื่องของการทดสอบ การจัดการข้อมูล และความปลอดภัยไซเบอร์ อย่างไรก็ตาม กฎระเบียบเหล่านี้ยังตามไม่ทันกับนวัตกรรม โดยเฉพาะเมื่อเผชิญกับแบบจำลองที่สามารถเรียนรู้และปรับตัวได้อย่างต่อเนื่อง การคุ้มครองข้อมูลของผู้ป่วยยังคงเป็นประเด็นสำคัญ ในยุโรป กฎระเบียบว่าด้วยการคุ้มครองข้อมูลทั่วไปกำหนดกฎเกณฑ์ที่เข้มงวดเกี่ยวกับการใช้ข้อมูลทางการแพทย์ ขณะที่ในสหรัฐอเมริกา ช่องโหว่ของกฎหมายปัจจุบันทำให้ผู้ป่วยเสี่ยงต่อการระบุตัวตนได้ใหม่ แม้ข้อมูลจะถูกทำให้ไม่มีชื่อก็ตาม

ความยินยอมโดยได้รับข้อมูลครบถ้วนกลายเป็นเรื่องที่ซับซ้อนมากขึ้นกับการนำปัญญาประดิษฐ์มาใช้ ผู้ป่วย ซึ่งมักไม่คุ้นเคยกับเทคโนโลยีเหล่านี้ อาจมีความคาดหวังที่ไม่สมจริง หรือในทางกลับกัน อาจมีความกลัวที่ไม่มีเหตุผล ศัลยแพทย์จึงต้องอธิบายบทบาทของเครื่องมือให้ชัดเจนว่า เป็นเครื่องมือช่วยในการวินิจฉัย เครื่องมือนำทาง หรือผู้ช่วยที่ทำงานอยู่ระหว่างการผ่าตัด พวกเขายังต้องอธิบายถึงการรับประกันที่มีอยู่ เช่น ความสามารถในการตรวจสอบและหักล้างคำแนะนำของเครื่องมือ นอกจากนี้ ศัลยแพทย์ยังต้องแจ้งให้ผู้ป่วยทราบเกี่ยวกับการฝึกอบรมและประสบการณ์ของตนเองกับระบบเหล่านี้ด้วย

คำถามเรื่องความรับผิดชอบในกรณีที่เกิดข้อผิดพลาดทางการแพทย์กลายเป็นเรื่องที่ซับซ้อนมากขึ้นกับการใช้ปัญญาประดิษฐ์ โดยปกติแล้ว ศัลยแพทย์จะรับผิดชอบเต็มรูปแบบสำหรับการตัดสินใจทั้งหมดที่เกิดขึ้นในห้องผ่าตัด แต่หากระบบให้คำแนะนำที่ผิดพลาดและก่อให้เกิดความเสียหาย ใครกันแน่ที่ต้องรับผิดชอบ? ศัลยแพทย์ที่ปฏิบัติตามคำแนะนำนั้น ผู้พัฒนาที่ออกแบบระบบผิดพลาด หรือสถาบันที่นำระบบไปใช้อย่างประมาทเลินเล่อ? ศาลอาจพิจารณาให้ผู้ผลิตรับผิดชอบหากอัลกอริทึมที่มีข้อบกพร่องหรือไม่ได้รับการทดสอบอย่างเหมาะสมนำไปสู่ข้อผิดพลาด ส่วนโรงพยาบาลอาจถูกพิจารณาว่าประมาทเลินเล่อหากใช้ระบบที่ไม่ได้รับการตรวจสอบหรือบำรุงรักษาไม่ดี ส่วนศัลยแพทย์ยังคงต้องปฏิบัติตามมาตรฐานการดูแลและไม่สามารถปฏิเสธความรับผิดชอบโดยโทษเครื่องมือ

ความเสี่ยงไม่ได้จำกัดอยู่แค่ข้อผิดพลาดทางการแพทย์เท่านั้น การใช้ปัญญาประดิษฐ์อย่างผิดวิธีอาจทำลายความไว้วางใจระหว่างผู้ป่วยและศัลยแพทย์ได้เช่นกัน หากผู้ป่วยรู้สึกว่าการตัดสินใจถูกทำโดยอัลกอริทึมมากกว่าศัลยแพทย์ของตน ความสัมพันธ์ที่อาศัยความไว้วางใจอาจอ่อนแอลง นอกจากนี้ การขาดความโปร่งใสหรือข้อผิดพลาดของเครื่องมืออาจทำลายความไว้วางใจนี้อย่างถาวร ทั้งต่อคลินิกและระบบสุขภาพโดยรวม

เพื่อลดความเสี่ยงเหล่านี้ จำเป็นต้องมีระบบการบริหารจัดการที่แข็งแกร่ง สถาบันทางการแพทย์ควรจัดตั้งคณะกรรมการเฉพาะกิจเพื่อประเมินระบบปัญญาประดิษฐ์ก่อนนำมาใช้ คณะกรรมการเหล่านี้ต้องแน่ใจว่าผู้พัฒนาจะจัดหาคู่มือการใช้งานที่สมบูรณ์ การฝึกอบรม และแนวปฏิบัติด้านความปลอดภัย การติดตามประสิทธิภาพอย่างต่อเนื่องก็จำเป็นเช่นกัน เพื่อตรวจจับการเสื่อมสภาพหรือความผิดปกติของแบบจำลอง สมาคมวิชาชีพและสถาบันทางการแพทย์ยังมีบทบาทสำคัญในการกำหนดมาตรฐานสำหรับการฝึกอบรมและการรับรองศัลยแพทย์ที่ใช้เครื่องมือเหล่านี้

สุดท้าย การร่วมมือระหว่างโรงพยาบาล ผู้พัฒนา และผู้ควบคุมก็มีความสำคัญอย่างยิ่งต่อการปรับปรุงแนวปฏิบัติให้สอดคล้องกัน และรักษาการใช้ปัญญาประดิษฐ์ในศัลยกรรมให้ปลอดภัยและมีจริยธรรม หากขาดสิ่งนี้ ความก้าวหน้าทางเทคโนโลยีอาจเกิดขึ้นโดยเสียสละความปลอดภัยของผู้ป่วยและคุณภาพของการดูแล

ปัญหาทางกฎหมายและจริยธรรมที่สำคัญของปัญญาประดิษฐ์ในศัลยกรรม

ปัญญาประดิษฐ์กำลังเปลี่ยนแปลงวงการศัลยกรรมอย่างค่อยเป็นค่อยไป โดยปรับปรุงการวางแผนการผ่าตัด การช่วยเหลือในเวลาจริง และแม้แต่งานบางอย่างที่ทำได้ด้วยตัวเอง อย่างไรก็ตาม การนำมาใช้ก็ได้นำเสนอความเสี่ยงทางเทคโนโลยี มนุษย์ กฎหมาย และจริยธรรม ซึ่งยังไม่ได้รับการควบคุมอย่างเหมาะสมจากกฎระเบียบปัจจุบัน

ระบบปัญญาประดิษฐ์ในศัลยกรรมอาจก่อให้เกิดข้อผิดพลาดในการวินิจฉัยหรือการรักษา ลดทอนความยินยอมโดยได้รับข้อมูลครบถ้วนของผู้ป่วย หรือละเมิดความเป็นส่วนตัวของพวกเขา ความเสี่ยงเหล่านี้มาจากสามแหล่งหลัก คือ ขีดจำกัดของเครื่องมือเอง ข้อผิดพลาดของมนุษย์ที่เกี่ยวข้องกับการใช้งาน และความล้มเหลวทางองค์กรในการนำไปใช้งาน ตัวอย่างเช่น อัลกอริทึมที่ฝึกฝนมาไม่ดีอาจขยายความลำเอียงที่มีอยู่ในข้อมูล จนนำไปสู่คำแนะนำที่ไม่เป็นธรรมสำหรับกลุ่มผู้ป่วยบางกลุ่ม เช่นเดียวกัน ศัลยแพทย์อาจไว้วางใจคำแนะนำที่ผิดพลาดแต่ดูน่าเชื่อถือของเครื่องมือมากเกินไป จนละทิ้งการตัดสินใจทางคลินิกของตนเอง

กรอบกฎหมายปัจจุบัน เช่น ของสหภาพยุโรปหรือสหรัฐอเมริกา พยายามควบคุมเทคโนโลยีเหล่านี้โดยจัดประเภทระบบตามระดับความเสี่ยง ข้อกำหนดจึงแตกต่างกันไปในเรื่องของการทดสอบ การจัดการข้อมูล และความปลอดภัยไซเบอร์ อย่างไรก็ตาม กฎระเบียบเหล่านี้ยังตามไม่ทันกับนวัตกรรม โดยเฉพาะเมื่อเผชิญกับแบบจำลองที่สามารถเรียนรู้และปรับตัวได้อย่างต่อเนื่อง การคุ้มครองข้อมูลของผู้ป่วยยังคงเป็นประเด็นสำคัญ ในยุโรป กฎระเบียบว่าด้วยการคุ้มครองข้อมูลทั่วไปกำหนดกฎเกณฑ์ที่เข้มงวดเกี่ยวกับการใช้ข้อมูลทางการแพทย์ ขณะที่ในสหรัฐอเมริกา ช่องโหว่ของกฎหมายปัจจุบันทำให้ผู้ป่วยเสี่ยงต่อการระบุตัวตนได้ใหม่ แม้ข้อมูลจะถูกทำให้ไม่มีชื่อก็ตาม

ความยินยอมโดยได้รับข้อมูลครบถ้วนกลายเป็นเรื่องที่ซับซ้อนมากขึ้นกับการนำปัญญาประดิษฐ์มาใช้ ผู้ป่วย ซึ่งมักไม่คุ้นเคยกับเทคโนโลยีเหล่านี้ อาจมีความคาดหวังที่ไม่สมจริง หรือในทางกลับกัน อาจมีความกลัวที่ไม่มีเหตุผล ศัลยแพทย์จึงต้องอธิบายบทบาทของเครื่องมือให้ชัดเจนว่า เป็นเครื่องมือช่วยในการวินิจฉัย เครื่องมือนำทาง หรือผู้ช่วยที่ทำงานอยู่ระหว่างการผ่าตัด พวกเขายังต้องอธิบายถึงการรับประกันที่มีอยู่ เช่น ความสามารถในการตรวจสอบและหักล้างคำแนะนำของเครื่องมือ นอกจากนี้ ศัลยแพทย์ยังต้องแจ้งให้ผู้ป่วยทราบเกี่ยวกับการฝึกอบรมและประสบการณ์ของตนเองกับระบบเหล่านี้ด้วย

คำถามเรื่องความรับผิดชอบในกรณีที่เกิดข้อผิดพลาดทางการแพทย์กลายเป็นเรื่องที่ซับซ้อนมากขึ้นกับการใช้ปัญญาประดิษฐ์ โดยปกติแล้ว ศัลยแพทย์จะรับผิดชอบเต็มรูปแบบสำหรับการตัดสินใจทั้งหมดที่เกิดขึ้นในห้องผ่าตัด แต่หากระบบให้คำแนะนำที่ผิดพลาดและก่อให้เกิดความเสียหาย ใครกันแน่ที่ต้องรับผิดชอบ? ศัลยแพทย์ที่ปฏิบัติตามคำแนะนำนั้น ผู้พัฒนาที่ออกแบบระบบผิดพลาด หรือสถาบันที่นำระบบไปใช้อย่างประมาทเลินเล่อ? ศาลอาจพิจารณาให้ผู้ผลิตรับผิดชอบหากอัลกอริทึมที่มีข้อบกพร่องหรือไม่ได้รับการทดสอบอย่างเหมาะสมนำไปสู่ข้อผิดพลาด ส่วนโรงพยาบาลอาจถูกพิจารณาว่าประมาทเลินเล่อหากใช้ระบบที่ไม่ได้รับการตรวจสอบหรือบำรุงรักษาไม่ดี ส่วนศัลยแพทย์ยังคงต้องปฏิบัติตามมาตรฐานการดูแลและไม่สามารถปฏิเสธความรับผิดชอบโดยโทษเครื่องมือ

ความเสี่ยงไม่ได้จำกัดอยู่แค่ข้อผิดพลาดทางการแพทย์เท่านั้น การใช้ปัญญาประดิษฐ์อย่างผิดวิธีอาจทำลายความไว้วางใจระหว่างผู้ป่วยและศัลยแพทย์ได้เช่นกัน หากผู้ป่วยรู้สึกว่าการตัดสินใจถูกทำโดยอัลกอริทึมมากกว่าศัลยแพทย์ของตน ความสัมพันธ์ที่อาศัยความไว้วางใจอาจอ่อนแอลง นอกจากนี้ การขาดความโปร่งใสหรือข้อผิดพลาดของเครื่องมืออาจทำลายความไว้วางใจนี้อย่างถาวร ทั้งต่อคลินิกและระบบสุขภาพโดยรวม

เพื่อลดความเสี่ยงเหล่านี้ จำเป็นต้องมีระบบการบริหารจัดการที่แข็งแกร่ง สถาบันทางการแพทย์ควรจัดตั้งคณะกรรมการเฉพาะกิจเพื่อประเมินระบบปัญญาประดิษฐ์ก่อนนำมาใช้ คณะกรรมการเหล่านี้ต้องแน่ใจว่าผู้พัฒนาจะจัดหาคู่มือการใช้งานที่สมบูรณ์ การฝึกอบรม และแนวปฏิบัติด้านความปลอดภัย การติดตามประสิทธิภาพอย่างต่อเนื่องก็จำเป็นเช่นกัน เพื่อตรวจจับการเสื่อมสภาพหรือความผิดปกติของแบบจำลอง สมาคมวิชาชีพและสถาบันทางการแพทย์ยังมีบทบาทสำคัญในการกำหนดมาตรฐานสำหรับการฝึกอบรมและการรับรองศัลยแพทย์ที่ใช้เครื่องมือเหล่านี้

สุดท้าย การร่วมมือระหว่างโรงพยาบาล ผู้พัฒนา และผู้ควบคุมก็มีความสำคัญอย่างยิ่งต่อการปรับปรุงแนวปฏิบัติให้สอดคล้องกัน และรักษาการใช้ปัญญาประดิษฐ์ในศัลยกรรมให้ปลอดภัยและมีจริยธรรม หากขาดสิ่งนี้ ความก้าวหน้าทางเทคโนโลยีอาจเกิดขึ้นโดยเสียสละความปลอดภัยของผู้ป่วยและคุณภาพของการดูแล

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc