A inteligência artificial em cirurgia levanta desafios jurídicos e éticos significativos

A inteligência artificial está transformando gradualmente a cirurgia, melhorando o planejamento das operações, a assistência em tempo real e até mesmo algumas tarefas autônomas. No entanto, sua adoção introduz riscos tecnológicos, humanos, jurídicos e éticos ainda mal regulamentados pelas legislações atuais.

Os sistemas de inteligência artificial em cirurgia podem cometer erros de diagnóstico ou tratamento, comprometer o consentimento informado dos pacientes ou violar sua privacidade. Esses riscos originam-se de três fontes principais: as limitações inerentes à ferramenta, os erros humanos relacionados ao seu uso e as falhas organizacionais durante sua implementação. Por exemplo, um algoritmo mal treinado pode amplificar viéses presentes nos dados, levando a recomendações injustas para certos grupos de pacientes. Da mesma forma, um cirurgião poderia confiar demais em uma sugestão errônea, mas plausível, da ferramenta, abandonando assim seu próprio julgamento clínico.

Os quadros legais atuais, como os da União Europeia ou dos Estados Unidos, tentam regular essas tecnologias classificando os sistemas de acordo com seu nível de risco. Os requisitos variam, então, em matéria de testes, gestão de dados e cibersegurança. No entanto, essas regulamentações lutam para acompanhar o ritmo das inovações, especialmente diante de modelos capazes de aprender e se adaptar continuamente. A proteção dos dados dos pacientes também permanece um desafio crítico. Na Europa, o Regulamento Geral sobre a Proteção de Dados impõe regras rigorosas sobre o uso de informações médicas, enquanto nos Estados Unidos, as lacunas da lei atual expõem os pacientes a riscos de reidentificação de seus dados, mesmo anonimizados.

O consentimento informado torna-se mais complexo com a introdução da inteligência artificial. Os pacientes, muitas vezes pouco familiarizados com essas tecnologias, podem desenvolver expectativas irreais ou, ao contrário, medos infundados. Os cirurgiões devem, portanto, explicar claramente o papel da ferramenta: trata-se de uma ajuda ao diagnóstico, de um guia de navegação ou de um assistente ativo durante a operação? Eles também devem descrever as garantias em vigor, como sua capacidade de verificar e contestar as recomendações da ferramenta. Além disso, os cirurgiões devem informar os pacientes sobre sua própria formação e experiência com esses sistemas.

A questão da responsabilidade em caso de erro médico torna-se mais complexa com o uso da inteligência artificial. Tradicionalmente, o cirurgião assume toda a responsabilidade pelas decisões tomadas na sala de operação. Mas se um sistema sugerir uma recomendação errônea que causou um dano, quem é o responsável? O cirurgião por tê-la seguido, o desenvolvedor por um defeito de concepção ou a instituição por uma implementação negligente? Os tribunais poderiam responsabilizar os fabricantes se um algoritmo defeituoso ou mal testado levou a um erro. Os hospitais, por sua vez, poderiam ser considerados negligentes se usarem um sistema não validado ou mal mantido. Quanto ao cirurgião, ele permanece obrigado a respeitar os padrões de cuidado e não pode se eximir de sua responsabilidade culpando a ferramenta.

Os riscos não se limitam aos erros médicos. Uma má utilização da inteligência artificial também pode erodir a confiança entre o paciente e o cirurgião. Se o paciente perceber que as decisões são tomadas por um algoritmo em vez de seu médico, o relacionamento de confiança pode ser enfraquecido. Além disso, a falta de transparência ou um erro da ferramenta pode danificar permanentemente essa confiança, tanto em relação ao clínico quanto ao sistema de saúde como um todo.

Para atenuar esses riscos, uma governança robusta é necessária. As instituições de saúde devem criar comitês dedicados para avaliar os sistemas de inteligência artificial antes de sua adoção. Esses comitês devem garantir que os desenvolvedores forneçam manuais de uso completos, sessões de treinamento e diretrizes de segurança. Um monitoramento contínuo do desempenho também é necessário para detectar qualquer degradação ou desvio do modelo. As sociedades científicas e as instituições médicas também têm um papel a desempenhar, estabelecendo normas para a formação e certificação dos cirurgiões que utilizam essas ferramentas.

Por fim, a colaboração entre hospitais, desenvolvedores e reguladores é essencial para harmonizar as práticas e garantir um uso seguro e ético da inteligência artificial em cirurgia. Sem isso, os avanços tecnológicos poderiam ocorrer em detrimento da segurança dos pacientes e da qualidade do cuidado.

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc