“`html

人工智慧在外科手術中引發重大法律與倫理挑戰

人工智慧正逐步改變外科手術，改善手術規劃、提供即時協助，甚至能執行某些自主任務。然而，其採用也引入了技術、人為、法律和倫理風險，而現有法規尚未充分規範這些風險。

外科手術中的人工智慧系統可能在診斷或治療上出現錯誤、損害患者的知情同意權或侵犯其隱私。這些風險主要來源於三個方面：工具本身的局限性、使用時的人為錯誤，以及部署時的組織失敗。例如，訓練不當的演算法可能放大數據中的偏見，導致對某些患者群體的建議不公平。同樣，外科醫生可能過度依賴工具提供的合理但錯誤的建議，從而放棄自身的臨床判斷。

目前的法律框架，如歐盟或美國的相關法規，嘗試通過根據風險等級對這些技術進行分類來加以規範。因此，在測試、數據管理和網路安全方面的要求各不相同。然而，這些法規難以跟上創新的步伐，特別是面對能夠持續學習和適應的模型。患者數據的保護仍然是一個關鍵問題。在歐洲，《通用數據保護條例》對醫療資訊的使用施加了嚴格的規則，而在美國，現行法律的漏洞使患者即使匿名化的數據也面臨重新識別的風險。

引入人工智慧後，知情同意變得更加複雜。患者通常對這些技術不太熟悉，可能產生不切實際的期望，或相反地產生不必要的恐懼。因此，外科醫生必須清楚解釋工具的角色：它是用於診斷輔助、導航指導，還是手術中的主動助手？他們還需要描述現有的保障措施，例如他們驗證和反駁工具建議的能力。此外，外科醫生還有義務告知患者他們自身接受這些系統的培訓和經驗。

在醫療錯誤發生時，人工智慧的使用使責任問題變得更加複雜。傳統上，外科醫生對手術室中做出的決定承擔全部責任。但如果一個系統提供了導致損害的錯誤建議，誰應該承擔責任？是跟隨建議的外科醫生、設計有缺陷的開發者，還是部署不當的醫療機構？法庭可能會認定製造商需承擔責任，如果缺陷或測試不足的演算法導致錯誤。醫院如果使用未經驗證或維護不當的系統，也可能被判定為疏忽。至於外科醫生，他仍須遵守護理標準，不能因為將責任推卸給工具而免除自身責任。

風險並不僅限於醫療錯誤。人工智慧的不當使用還可能侵蝕醫患之間的信任關係。如果患者感覺到決定是由演算法而非醫生做出的，這種信任關係可能會被削弱。此外，缺乏透明度或工具出現錯誤可能會對這種信任造成長期損害，不僅影響臨床醫生，還可能影響整個醫療系統。

為了減輕這些風險，必須建立健全的治理機制。醫療機構應成立專門委員會，在採用人工智慧系統前對其進行評估。這些委員會需確保開發者提供完整的使用手冊、培訓課程和安全指導原則。此外，還需要持續監控系統的性能，以檢測任何退化或偏差。醫學會和醫療機構也應在制定使用這些工具的醫生培訓和認證標準方面發揮作用。

最後，醫院、開發者和監管機構之間的合作至關重要，以統一實踐並確保人工智慧在外科手術中的使用安全且符合倫理。否則，技術進步可能以犧牲患者安全和醫療質量為代價。

“`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc