“`html
인공지능 수술, 주요 법적·윤리적 도전 과제 제기
인공지능은 수술 계획 개선, 실시간 지원, 심지어 일부 자율적 작업까지 점차 변화시키고 있습니다. 그러나 그 채택은 현재 규제로 제대로 다루어지지 않는 기술적, 인간적, 법적, 윤리적 위험을 동반합니다.
수술 분야의 인공지능 시스템은 진단 또는 치료 오류를 저질러 환자의 동의 권리를 침해하거나 사생활을 침해할 수 있습니다. 이러한 위험은 세 가지 주요 원인에서 발생합니다: 도구 자체의 한계, 사용과 관련된 인간 오류, 그리고 배포 시의 조직적 결함입니다. 예를 들어, 잘못 훈련된 알고리즘은 데이터에 내재된 편향을 확대하여 특정 환자 그룹에 대해 불공정한 추천을 내릴 수 있습니다. 또한, 외과 의사는 도구에서 제시한 오류이지만 그럴듯한 제안을 너무 믿고 자신의 임상적 판단력을 포기할 수도 있습니다.
유럽연합이나 미국의 현재 법적 틀은 위험 수준에 따라 시스템을 분류하여 이러한 기술들을 규제하려고 노력하고 있습니다. 이에 따라 테스트, 데이터 관리, 사이버보안 등에서 요구 사항이 달라집니다. 그러나 이러한 규제들은, 특히 지속적으로 학습하고 적응할 수 있는 모델들 앞에서는 혁신의 속도를 따라가지 못하고 있습니다. 환자 데이터 보호 또한 중요한 과제입니다. 유럽에서는 일반 데이터 보호 규정이 의료 정보 사용에 엄격한 규칙을 적용하고 있지만, 미국에서는 현재 법의 허점으로 인해 익명화된 데이터라도 환자의 재식별 위험에 노출되어 있습니다.
인공지능의 도입으로 계몽된 동의가 더 복잡해집니다. 이러한 기술에 익숙하지 않은 환자들은 비현실적인 기대나 반대로 근거 없는 두려움을 가질 수 있습니다. 외과 의사는 도구의 역할을 명확히 설명해야 합니다: 진단 보조 도구인가, 내비게이션 가이드인가, 아니면 수술 중 능동적으로 지원하는 도구인가요? 또한, 의사는 도구의 추천을 검증하고 반박할 수 있는 능력과 같은 보장 조치를 설명해야 합니다. 또한, 의사는 환자에게 자신들이 이러한 시스템에 대해 받은 교육과 경험에 대해 알려야 합니다.
인공지능 사용으로 의료 오류 시 책임 문제가 복잡해집니다. 전통적으로 외과 의사는 수술실에서 내린 모든 결정에 대해 전적으로 책임을 져야 합니다. 그러나 시스템이 오류가 있는 추천을 내리고それが 피해를 초래한 경우, 누가 책임을 져야 할까요? 추천을 따른 외과 의사인가, 설계 결함을 가진 개발자인가, 아니면 부주의한 구현을 한 기관인가요? 법원은 결함이 있거나 제대로 테스트되지 않은 알고리즘으로 인해 오류가 발생했다면 제조사를 책임질 수 있습니다. 병원은 검증되지 않거나 잘못 유지된 시스템을 사용한 경우 과실로 판정될 수 있습니다. 외과 의사는 여전히 진료 표준을 준수해야 하며, 도구 탓으로 책임을 회피할 수 없습니다.
위험은 의료 오류로만 국한되지 않습니다. 인공지능의 잘못된 사용은 환자와 외과 의사 간의 신뢰를 약화시킬 수도 있습니다. 환자가 의사보다는 알고리즘에 의해 결정이 내려진다고 느끼면, 신뢰 관계가 약화될 수 있습니다. 또한, 투명성 부족이나 도구의 오류는 환자와 임상의사, 그리고 전체 의료 시스템에 대한 신뢰를久久히 손상시킬 수 있습니다.
이러한 위험을 완화하기 위해 강력한 거버넌스가 필요합니다. 의료 기관은 인공지능 시스템을 도입하기 전에 평가할 전용 위원회를 구성해야 합니다. 이 위원회는 개발자들이 완전한 사용 설명서, 교육 세션, 안전 가이드라인을 제공하는지 확인해야 합니다. 또한, 모델의 성능을 지속적으로 모니터링하여 어떤 성능 저하나 편차를 감지해야 합니다. 학회와 의료 기관도 이러한 도구들을 사용하는 외과 의사들의 교육 및 인증 기준을 수립하는 데 중요한 역할을 해야 합니다.
마지막으로, 병원, 개발자, 규제 당국 간의 협력이 실무를 조화시키고 수술에서 인공지능의 안전하고 윤리적인 사용을 보장하는 데 필수적입니다. 그렇지 않으면 기술적 발전이 환자의 안전과 의료의 질을 희생시키는 결과가 될 수 있습니다.
“`
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc