“`html
人工知能が外科手術にもたらす法的・倫理的課題
人工知能は、手術の計画、リアルタイムの支援、さらには自律的なタスクを改善することで、徐々に外科手術を変革しつつある。しかし、その導入には、現行の規制では十分に対応できていない技術的、人間的、法的、倫理的なリスクが伴う。
外科手術における人工知能システムは、診断や治療の誤りを犯したり、患者のインフォームド・コンセントを損なったり、プライバシーを侵害したりする可能性がある。これらのリスクは主に3つの源から生じる：ツール自体の限界、その使用に関連する人間の誤り、そして導入時の組織的な不備である。例えば、不適切に訓練されたアルゴリズムは、データに存在するバイアスを増幅させ、特定の患者グループに対して不公平な推奨を行う可能性がある。また、外科医がツールからの誤ったが説得力のある提案を過度に信頼し、自らの臨床判断を放棄してしまうこともあり得る。
現在の法的枠組み、例えば欧州連合やアメリカ合衆国のものは、これらの技術をリスクレベルに応じて分類することで規制しようとしている。これにより、テスト、データ管理、サイバーセキュリティに関する要件が異なってくる。しかし、これらの規制はイノベーションの速さについていくのに苦労しており、特に継続的に学習・適応するモデルに対してはその傾向が顕著である。患者データの保護も依然として重要な課題である。欧州では、一般データ保護規則（GDPR）が医療情報の使用に関して厳格なルールを課している一方、アメリカでは、現行法の不備により、患者は匿名化されたデータであっても再識別されるリスクにさらされている。
人工知能の導入により、インフォームド・コンセントはより複雑なものとなる。これらの技術に不慣れな患者は、非現実的な期待を抱いたり、逆に根拠のない不安を抱いたりする可能性がある。外科医は、ツールの役割を明確に説明する必要がある：それは診断の補助なのか、ナビゲーションのガイドなのか、それとも手術中の能動的なアシスタントなのか。また、外科医は、ツールの推奨を検証し、反論できる能力など、どのような保証が整備されているのかを説明しなければならない。さらに、外科医は、これらのシステムに関する自らの訓練と経験についても患者に伝える義務がある。
医療過誤が発生した場合の責任の問題は、人工知能の使用によってさらに複雑化する。従来、外科医は手術室での決定に対する全責任を負ってきた。しかし、システムが誤った推奨を提示し、それが損害を引き起こした場合、誰が責任を負うのか？外科医がその推奨に従ったことか、開発者が設計上の欠陥を抱えていたことか、それとも施設が不適切な導入を行ったことか。裁判所は、欠陥のあるアルゴリズムや十分にテストされていないアルゴリズムが誤りを引き起こした場合、製造業者に責任を負わせる可能性がある。一方、病院は、未検証のシステムや適切にメンテナンスされていないシステムを使用した場合、過失とみなされる可能性がある。外科医に関しては、ケアの基準を守る義務があり、ツールのせいにして責任を免れることはできない。
リスクは医療過誤だけにとどまらない。人工知能の不適切な使用は、患者と外科医の間の信頼関係を損なう可能性もある。患者が、決定がアルゴリズムによって下されていると感じた場合、医師との信頼関係が弱まる可能性がある。また、透明性の欠如やツールの誤りは、臨床医だけでなく、医療システム全体に対する信頼を永続的に損なう可能性がある。
これらのリスクを軽減するためには、強固なガバナンスが必要である。医療機関は、人工知能システムを導入する前に評価するための専門委員会を設置しなければならない。これらの委員会は、開発者が包括的な使用マニュアル、トレーニングセッション、安全ガイドラインを提供していることを確認する必要がある。また、パフォーマンスの継続的な監視も必要であり、モデルの劣化や逸脱を検出するためである。学会や医療機関も、これらのツールを使用する外科医の訓練と認証に関する基準を設定する役割を果たすべきである。
最後に、病院、開発者、規制当局間の協力が、実務を調和させ、外科手術における人工知能の安全で倫理的な使用を保証するために不可欠である。これを怠れば、技術的進歩が患者の安全性や医療の質を犠牲にする可能性がある。
“`
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc