“`html

人工智能在外科手术中引发重大法律和伦理挑战

人工智能正逐步改变外科手术，通过改善手术规划、实时辅助，甚至某些自主任务来提升效率。然而，其应用也引入了技术、人为、法律和伦理风险，而当前的监管框架尚未充分覆盖这些风险。

外科手术中的人工智能系统可能在诊断或治疗中出现错误，损害患者的知情同意权或侵犯其隐私。这些风险主要来源于三个方面：工具本身的局限性、使用过程中的人为错误，以及部署时的组织失误。例如，一个训练不当的算法可能会放大数据中的偏见，导致对某些患者群体的建议不公平。同样，外科医生可能过度依赖工具给出的看似合理但实际错误的建议，从而放弃自身的临床判断。

当前的法律框架，如欧盟或美国的相关法规，试图通过根据风险等级对系统进行分类来监管这些技术。测试、数据管理和网络安全的要求因此有所不同。然而，这些法规难以跟上创新的步伐，特别是面对能够持续学习和适应的模型。患者数据保护仍然是一个关键问题。在欧洲，《通用数据保护条例》对医疗信息的使用施加了严格规则；而在美国，现有法律的漏洞可能使患者面临数据被重新识别的风险，即使数据已被匿名化。

引入人工智能后，知情同意变得更加复杂。患者通常对这些技术不太熟悉，可能产生不切实际的期望，或相反，产生不必要的恐惧。外科医生因此需要清楚说明工具的作用：它是用于诊断辅助、导航指导，还是手术中的主动助手？医生还需要描述现有的保障措施，例如他们验证和反驳工具建议的能力。此外，外科医生还需告知患者自身接受过的培训以及使用这些系统的经验。

在出现医疗错误的情况下，人工智能的使用使责任归属问题变得复杂。传统上，外科医生对手术室内做出的决定承担全部责任。但如果一个系统给出的错误建议导致损害，谁应承担责任？是跟随建议的外科医生、设计有缺陷的开发者，还是部署不当的机构？法庭可能会追究制造商的责任，如果算法存在缺陷或测试不足导致错误。医院如果使用未验证或维护不当的系统，也可能被判定为疏忽。而外科医生仍需遵守护理标准，不能通过归咎于工具来推卸责任。

风险并不局限于医疗错误。人工智能的不当使用还可能削弱患者与外科医生之间的信任关系。如果患者感觉决策是由算法而非医生做出的，这种信任关系可能会受到削弱。此外，缺乏透明度或工具出现错误可能会长期损害这种信任，无论是对临床医生还是整个医疗系统。

为了减轻这些风险，强有力的治理结构势在必行。医疗机构应在采用人工智能系统前成立专门委员会进行评估。这些委员会需要确保开发者提供完整的使用手册、培训课程和安全指南。持续监控系统的性能也必不可少，以便及时发现任何性能下降或模型偏差。专业学会和医疗机构也应在制定外科医生使用这些工具的培训和认证标准方面发挥作用。

最后，医院、开发者和监管机构之间的合作至关重要，以统一实践并确保人工智能在外科手术中的使用安全且符合伦理。否则，技术进步可能会以牺牲患者安全和医疗质量为代价。

“`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc