La inteligencia artificial en cirugía plantea desafíos jurídicos y éticos mayores
La inteligencia artificial está transformando progresivamente la cirugía al mejorar la planificación de las operaciones, la asistencia en tiempo real e incluso ciertas tareas autónomas. Sin embargo, su adopción introduce riesgos tecnológicos, humanos, jurídicos y éticos que aún no están bien regulados por las normativas actuales.
Los sistemas de inteligencia artificial en cirugía pueden cometer errores de diagnóstico o tratamiento, comprometer el consentimiento informado de los pacientes o violar su privacidad. Estos riesgos provienen de tres fuentes principales: las limitaciones propias de la herramienta, los errores humanos relacionados con su uso y las deficiencias organizativas durante su implementación. Por ejemplo, un algoritmo mal entrenado puede amplificar sesgos presentes en los datos, lo que lleva a recomendaciones injustas para ciertos grupos de pacientes. Asimismo, un cirujano podría confiar demasiado en una sugerencia errónea pero plausible de la herramienta, abandonando así su propio juicio clínico.
Los marcos legales actuales, como los de la Unión Europea o los Estados Unidos, intentan regular estas tecnologías clasificando los sistemas según su nivel de riesgo. Los requisitos varían entonces en materia de pruebas, gestión de datos y ciberseguridad. Sin embargo, estas regulaciones tienen dificultades para seguir el ritmo de las innovaciones, especialmente frente a modelos capaces de aprender y adaptarse de manera continua. La protección de los datos de los pacientes sigue siendo también un tema crítico. En Europa, el Reglamento General de Protección de Datos impone reglas estrictas sobre el uso de la información médica, mientras que en Estados Unidos, las lagunas de la ley actual exponen a los pacientes a riesgos de reidentificación de sus datos, incluso anonimizados.
El consentimiento informado se vuelve más complejo con la introducción de la inteligencia artificial. Los pacientes, a menudo poco familiarizados con estas tecnologías, pueden desarrollar expectativas irreales o, por el contrario, temores infundados. Los cirujanos deben, por tanto, explicar claramente el papel de la herramienta: ¿se trata de una ayuda al diagnóstico, de una guía de navegación o de un asistente activo durante la operación? También deben describir las garantías existentes, como su capacidad para verificar y contradecir las recomendaciones de la herramienta. Además, los cirujanos deben informar a los pacientes sobre su propia formación y experiencia con estos sistemas.
La cuestión de la responsabilidad en caso de error médico se complica con el uso de la inteligencia artificial. Tradicionalmente, el cirujano asume la responsabilidad total de las decisiones tomadas en el quirófano. Pero si un sistema propone una recomendación errónea que causa un perjuicio, ¿quién es responsable? ¿El cirujano por haberla seguido, el desarrollador por un defecto de diseño o el establecimiento por una implementación negligente? Los tribunales podrían considerar responsables a los fabricantes si un algoritmo defectuoso o mal probado condujo a un error. Los hospitales, por su parte, podrían ser juzgados como negligentes si utilizan un sistema no validado o mal mantenido. En cuanto al cirujano, sigue obligado a respetar los estándares de atención y no puede eludir su responsabilidad culpando a la herramienta.
Los riesgos no se limitan a los errores médicos. Un mal uso de la inteligencia artificial también puede erosionar la confianza entre el paciente y el cirujano. Si el paciente percibe que las decisiones son tomadas por un algoritmo en lugar de por su médico, la relación de confianza puede debilitarse. Además, la falta de transparencia o un error de la herramienta puede dañar duraderamente esta confianza, tanto hacia el clínico como hacia el sistema de salud en su conjunto.
Para mitigar estos riesgos, se impone una gobernanza robusta. Los establecimientos de salud deben crear comités dedicados para evaluar los sistemas de inteligencia artificial antes de su adopción. Estos comités deben asegurarse de que los desarrolladores proporcionen manuales de uso completos, sesiones de formación y directrices de seguridad. También es necesaria una vigilancia continua del rendimiento para detectar cualquier degradación o desviación del modelo. Las sociedades científicas y las instituciones médicas también tienen un papel que desempeñar al establecer normas para la formación y certificación de los cirujanos que utilizan estas herramientas.
Finalmente, la colaboración entre hospitales, desarrolladores y reguladores es esencial para armonizar las prácticas y garantizar un uso seguro y ético de la inteligencia artificial en cirugía. Sin esto, los avances tecnológicos podrían realizarse en detrimento de la seguridad de los pacientes y de la calidad de la atención.
Références des contenus
Référence officielle
DOI : https://doi.org/10.1007/s00464-026-12881-8
Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper
Revue : Surgical Endoscopy
Éditeur : Springer Science and Business Media LLC
Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc