L’intelligence artificielle en chirurgie soulève des défis juridiques et éthiques majeurs

L’intelligence artificielle transforme progressivement la chirurgie en améliorant la planification des opérations, l’assistance en temps réel et même certaines tâches autonomes. Pourtant, son adoption introduit des risques technologiques, humains, juridiques et éthiques encore mal encadrés par les réglementations actuelles.

Les systèmes d’intelligence artificielle en chirurgie peuvent commettre des erreurs de diagnostic ou de traitement, compromettre le consentement éclairé des patients ou violer leur vie privée. Ces risques proviennent de trois sources principales : les limites propres à l’outil, les erreurs humaines liées à son utilisation, et les défaillances organisationnelles lors de son déploiement. Par exemple, un algorithme mal entraîné peut amplifier des biais présents dans les données, conduisant à des recommandations inéquitables pour certains groupes de patients. De même, un chirurgien pourrait trop se fier à une suggestion erronée mais plausible de l’outil, abandonnant ainsi son propre jugement clinique.

Les cadre légaux actuels, comme ceux de l’Union européenne ou des États-Unis, tentent de réguler ces technologies en classant les systèmes selon leur niveau de risque. Les exigences varient alors en matière de tests, de gestion des données et de cybersécurité. Cependant, ces réglementations peinent à suivre le rythme des innovations, notamment face à des modèles capables d’apprendre et de s’adapter en continu. La protection des données des patients reste également un enjeu critique. En Europe, le règlement général sur la protection des données impose des règles strictes sur l’utilisation des informations médicales, tandis qu’aux États-Unis, les lacunes de la loi actuelle exposent les patients à des risques de réidentification de leurs données, même anonymisées.

Le consentement éclairé devient plus complexe avec l’introduction de l’intelligence artificielle. Les patients, souvent peu familiarisés avec ces technologies, peuvent développer des attentes irréalistes ou, au contraire, des craintes infondées. Les chirurgiens doivent donc expliquer clairement le rôle de l’outil : s’agit-il d’une aide au diagnostic, d’un guide de navigation ou d’un assistant actif pendant l’opération ? Ils doivent aussi décrire les garanties en place, comme leur capacité à vérifier et à contredire les recommandations de l’outil. Par ailleurs, les chirurgiens se doivent d’informer les patients sur leur propre formation et leur expérience avec ces systèmes.

La question de la responsabilité en cas d’erreur médicale se complique avec l’utilisation de l’intelligence artificielle. Traditionnellement, le chirurgien assume l’entière responsabilité des décisions prises en salle d’opération. Mais si un système propose une recommandation erronée ayant causé un préjudice, qui est responsable ? Le chirurgien pour l’avoir suivie, le développeur pour un défaut de conception, ou l’établissement pour une mise en œuvre négligente ? Les tribunaux pourraient tenir les fabricants responsables si un algorithme défectueux ou mal testé a conduit à une erreur. Les hôpitaux, quant à eux, pourraient être jugés négligents s’ils utilisent un système non validé ou mal maintenu. Quant au chirurgien, il reste tenu de respecter les normes de soins et ne peut se décharger de sa responsabilité en blâmant l’outil.

Les risques ne se limitent pas aux erreurs médicales. Une mauvaise utilisation de l’intelligence artificielle peut aussi éroder la confiance entre le patient et le chirurgien. Si le patient perçoit que les décisions sont prises par un algorithme plutôt que par son médecin, la relation de confiance peut s’en trouver affaiblie. De plus, une absence de transparence ou une erreur de l’outil peut endommager durablement cette confiance, tant envers le clinicien que envers le système de santé dans son ensemble.

Pour atténuer ces risques, une gouvernance robuste s’impose. Les établissements de santé doivent mettre en place des comités dédiés pour évaluer les systèmes d’intelligence artificielle avant leur adoption. Ces comités doivent s’assurer que les développeurs fournissent des manuels d’utilisation complets, des sessions de formation et des lignes directrices de sécurité. Une surveillance continue des performances est également nécessaire pour détecter toute dégradation ou dérive du modèle. Les sociétés savantes et les institutions médicales ont aussi un rôle à jouer en établissant des normes pour la formation et la certification des chirurgiens utilisant ces outils.

Enfin, la collaboration entre les hôpitaux, les développeurs et les régulateurs est essentielle pour harmoniser les pratiques et garantir une utilisation sûre et éthique de l’intelligence artificielle en chirurgie. Sans cela, les progrès technologiques pourraient se faire au détriment de la sécurité des patients et de la qualité des soins.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc