人工智能外科手術引發重大法律和倫理挑戰

人工智能正逐步改變外科手術，改善手術規劃、實時輔助，甚至某些自主任務。然而，其應用也帶來了技術、人為、法律和倫理風險，而現有法規對這些風險的規範仍顯不足。

外科手術中的人工智能系統可能在診斷或治療方面出現錯誤，損害患者的知情同意權或侵犯其隱私。這些風險主要來源於三個方面：工具本身的局限性、使用過程中的人為錯誤，以及部署時的組織失敗。例如，訓練不當的算法可能放大數據中的偏見，導致對某些患者群體的建議不公平。同樣，外科醫生可能過度依賴工具提供的看似合理但實際上錯誤的建議，從而放棄自身的臨床判斷。

目前的法律框架，如歐盟或美國的法規，試圖通過按風險等級對這些技術進行分類來加以監管。因此，在測試、數據管理和網絡安全方面的要求也各不相同。然而，這些法規難以跟上創新的步伐，特別是面對能夠持續學習和適應的模型。患者數據保護仍然是一個關鍵問題。在歐洲，《通用數據保護條例》對醫療信息的使用施加了嚴格的規則；而在美國，現有法律的漏洞使患者面臨數據被重新識別的風險，即使這些數據已被匿名化。

引入人工智能後，知情同意變得更加複雜。患者通常對這些技術不太熟悉，可能產生不切實際的期望，或者相反，產生毫無根據的恐懼。因此，外科醫生必須清楚解釋工具的作用：它是用於輔助診斷、導航指導，還是手術中的主動助手？他們還需要描述現有的保障措施，例如他們驗證和反駁工具建議的能力。此外，外科醫生還有責任告知患者他們自身接受的培訓以及使用這些系統的經驗。

在醫療錯誤發生時，人工智能的使用使責任問題變得更加複雜。傳統上，外科醫生對手術室中做出的決定承擔全部責任。但如果一個系統提供了導致損害的錯誤建議，誰應該承擔責任？是跟隨建議的外科醫生、設計有缺陷的開發者，還是部署不當的醫療機構？法庭可能會追究製造商的責任，如果算法存在缺陷或測試不足導致錯誤。醫院如果使用未經驗證或維護不當的系統，也可能被判定為疏忽。至於外科醫生，他仍需遵守護理標準，不能因工具出錯而推卸責任。

風險並不僅限於醫療錯誤。人工智能的不當使用還可能削弱醫生和患者之間的信任關係。如果患者覺得決策是由算法而非醫生做出的，這種信任關係可能會被削弱。此外，缺乏透明度或工具出錯可能會對這種信任造成長期損害，不僅影響臨床醫生，還可能影響整個醫療系統。

為了減輕這些風險，必須建立健全的治理機制。醫療機構應在採用人工智能系統前設立專門委員會進行評估。這些委員會需要確保開發者提供完整的使用手冊、培訓課程和安全指導原則。此外，還需要持續監控系統的性能，以檢測任何性能下降或模型偏差。醫學會和醫療機構也應在制定使用這些工具的醫生的培訓和認證標準方面發揮作用。

最後，醫院、開發者和監管機構之間的合作至關重要，以統一實踐並確保人工智能在外科手術中的使用安全且符合倫理。否則，技術進步可能以犧牲患者安全和醫療質量為代價。

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc