«`html

Искусственный интеллект в хирургии ставит серьезные юридические и этические вызовы

Искусственный интеллект постепенно преобразует хирургию, улучшая планирование операций, помощь в реальном времени и даже выполнение некоторых автономных задач. Однако его внедрение вносит технологические, человеческие, юридические и этические риски, которые пока недостаточно регулируются текущими нормами.

Системы искусственного интеллекта в хирургии могут допускать ошибки в диагностике или лечении, нарушать информированное согласие пациентов или нарушать их частную жизнь. Эти риски исходят из трех основных источников: ограничения самого инструмента, человеческие ошибки, связанные с его использованием, и организационные сбои при его внедрении. Например, неправильно обученный алгоритм может усилить предвзятость, присутствующую в данных, что приведет к несправедливым рекомендациям для определенных групп пациентов. Аналогично, хирург может слишком полагаться на ошибочный, но правдоподобный совет инструмента, отказываясь от собственного клинического суждения.

Текущие правовые рамки, такие как в Европейском союзе или США, пытаются регулировать эти технологии, классифицируя системы по уровню риска. Требования варьируются в зависимости от тестирования, управления данными и кибербезопасности. Однако эти нормативные акты с трудом успевают за темпами инноваций, особенно перед лицом моделей, способных непрерывно учиться и адаптироваться. Защита данных пациентов также остается критически важной проблемой. В Европе Общий регламент по защите данных накладывает строгие правила на использование медицинской информации, тогда как в США пробелы в текущем законодательстве подвергают пациентов риску повторной идентификации их данных, даже если они анонимизированы.

Информированное согласие становится более сложным с внедрением искусственного интеллекта. Пациенты, часто мало знакомые с этими технологиями, могут развивать нереалистичные ожидания или, наоборот, необоснованные страхи. Хирургам необходимо четко объяснять роль инструмента: является ли он помощью в диагностике, руководством по навигации или активным помощником во время операции? Они также должны описывать имеющиеся гарантии, такие как их способность проверять и опровергать рекомендации инструмента. Кроме того, хирурги обязаны информировать пациентов о своем обучении и опыте работы с этими системами.

Вопрос ответственности в случае медицинской ошибки усложняется с использованием искусственного интеллекта. Традиционно хирург несет полную ответственность за решения, принятые в операционной. Но если система дает ошибочную рекомендацию, приведшую к ущербу, кто несет ответственность? Хирург за то, что последовал ей, разработчик за дефект конструкции или учреждение за халатное внедрение? Суды могут признать производителей ответственными, если дефектный или плохо протестированный алгоритм привел к ошибке. Больницы, в свою очередь, могут быть признаны виновными в халатности, если используют невалидированную или плохо поддерживаемую систему. Что касается хирурга, он по-прежнему обязан соблюдать стандарты медицинской помощи и не может снять с себя ответственность, виня инструмент.

Риски не ограничиваются медицинскими ошибками. Неправильное использование искусственного интеллекта может также подорвать доверие между пациентом и хирургом. Если пациент воспринимает, что решения принимаются алгоритмом, а не его врачом, доверительные отношения могут ослабнуть. Кроме того, отсутствие прозрачности или ошибка инструмента могут нанести долговременный ущерб этому доверию как по отношению к клиницисту, так и к системе здравоохранения в целом.

Чтобы смягчить эти риски, необходима надежная система управления. Медицинские учреждения должны создавать специальные комитеты для оценки систем искусственного интеллекта перед их внедрением. Эти комитеты должны убедиться, что разработчики предоставляют полные руководства по использованию, обучающие сессии и рекомендации по безопасности. Также необходим непрерывный мониторинг производительности для выявления любых ухудшений или отклонений в работе модели. Профессиональные медицинские ассоциации и учреждения также играют важную роль в установлении стандартов для обучения и сертификации хирургов, использующих эти инструменты.

Наконец, сотрудничество между больницами, разработчиками и регуляторами имеет важное значение для гармонизации практик и обеспечения безопасного и этичного использования искусственного интеллекта в хирургии. Без этого технологический прогресс может пойти в ущерб безопасности пациентов и качеству медицинской помощи.

«`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc