人工智能外科手术引发重大法律和伦理挑战

人工智能逐渐改变外科手术，改善手术计划、实时辅助，甚至某些自主任务。然而，其应用也带来了技术、人为、法律和伦理风险，而当前法规对这些风险的规范仍显不足。

外科手术中的人工智能系统可能在诊断或治疗中出现错误，损害患者的知情同意权或侵犯其隐私。这些风险主要来源于三个方面：工具本身的局限性、使用过程中的人为错误，以及部署时的组织失误。例如，一个训练不当的算法可能会放大数据中的偏见，导致对某些患者群体的建议不公平。同样，外科医生可能过度依赖工具给出的看似合理但实际错误的建议，从而放弃自身的临床判断。

当前的法律框架，如欧盟或美国的相关法规，试图通过按风险等级对系统进行分类来规范这些技术。因此，在测试、数据管理和网络安全方面的要求也各不相同。然而，这些法规难以跟上创新的步伐，特别是面对能够持续学习和适应的模型。患者数据保护仍然是一个关键问题。在欧洲，《通用数据保护条例》对医疗信息的使用施加了严格的规则；而在美国，现有法律的漏洞可能使患者面临数据被重新识别的风险，即使数据已被匿名化。

引入人工智能后，知情同意变得更加复杂。患者通常对这些技术不太熟悉，可能会产生不切实际的期望，或者相反，产生不必要的恐惧。因此，外科医生必须清楚说明工具的作用：它是用于诊断辅助、导航指导，还是手术中的主动助手？他们还需要说明现有的保障措施，比如他们验证和反驳工具建议的能力。此外，外科医生还应告知患者自己接受过的培训以及使用这些系统的经验。

在医疗错误的情况下，人工智能的使用使责任认定变得复杂。传统上，外科医生对手术室内做出的决定承担全部责任。但如果一个系统提供了导致损害的错误建议，谁来承担责任？是跟随建议的外科医生、设计有缺陷的开发者，还是部署不当的医疗机构？法庭可能会追究制造商的责任，如果算法存在缺陷或测试不足导致错误。医院如果使用未验证或维护不当的系统，也可能被判定为疏忽。而外科医生仍需遵守护理标准，不能通过责怪工具来推卸责任。

风险不仅限于医疗错误。人工智能的不当使用还可能削弱患者与外科医生之间的信任关系。如果患者感觉决策是由算法而非医生做出的，信任关系可能会因此受到削弱。此外，缺乏透明度或工具错误也可能长期损害这种信任，无论是对临床医生还是整个医疗系统。

为了减轻这些风险，强有力的治理结构必不可少。医疗机构必须在采用人工智能系统前成立专门委员会进行评估。这些委员会需要确保开发者提供完整的使用手册、培训课程和安全指南。持续监控系统的性能也必不可少，以便及时发现任何性能下降或模型偏差。医学学会和医疗机构也应在制定外科医生使用这些工具的培训和认证标准方面发挥作用。

最后，医院、开发者和监管机构之间的合作对于统一实践、确保人工智能在外科手术中安全和伦理使用至关重要。否则，技术进步可能以牺牲患者安全和护理质量为代价。

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc