"`html

בינה מלאכותית בכירורגיה מעלה אתגרים משפטיים ואתיים מרכזיים

בינה מלאכותית משנה בהדרגה את תחום הכירורגיה על ידי שיפור תכנון הניתוחים, סיוע בזמן אמת ואף ביצוע משימות אוטונומיות מסוימות. עם זאת, אימוצה מביא עמו סיכונים טכנולוגיים, אנושיים, משפטיים ואתיים שעדיין אינם מוסדרים כראוי על ידי התקנות הנוכחיות.

מערכות בינה מלאכותית בכירורגיה עלולות לטעות באבחון או בטיפול, לפגוע בהסכמה מדעת של מטופלים או להפר את פרטיותם. סיכונים אלה נובעים משלושה מקורות עיקריים: מגבלות הכלי עצמו, שגיאות אנוש הקשורות לשימוש בו, וכשלים ארגוניים במהלך פריסתו. למשל, אלגוריתם שלא אומן כראוי עלול להגביר הטיות הקיימות בנתונים, מה שיכול להוביל להמלצות בלתי הוגנות לקבוצות מסוימות של מטופלים. באופן דומה, כירורג עלול לסמוך יתר על המידה על הצעה שגויה אך סבירה של הכלי, ולנטוש את שיקול הדעת הקליני שלו.

המסגרות המשפטיות הנוכחיות, כמו אלו של האיחוד האירופי או ארצות הברית, מנסות לווסת טכנולוגיות אלה על ידי מיון המערכות לפי רמת הסיכון שלהן. הדרישות משתנות בהתאם לבדיקות, ניהול נתונים ואבטחת סייבר. עם זאת, תקנות אלה מתקשות לעמוד בקצב החידושים, במיוחד מול מודלים המסוגלים ללמוד ולהסתגל באופן מתמיד. הגנה על נתוני המטופלים נותרת אף היא אתגר קריטי. באירופה, תקנת הגנת הנתונים הכללית (GDPR) קובעת כללים קפדניים לגבי שימוש במידע רפואי, בעוד שבארצות הברית, הפערים בחוק הנוכחי חשופים את המטופלים לסיכוני זיהוי מחדש של נתוניהם, גם אם הם אנונימיים לכאורה.

הסכמה מדעת הופכת למורכבת יותר עם הכנסת הבינה המלאכותית. מטופלים, שלעיתים קרובות אינם מכירים טכנולוגיות אלה, עלולים לפתח ציפיות לא ריאליות או, להיפך, פחדים בלתי מוצדקים. על הכירורגים להסביר בצורה ברורה את תפקיד הכלי: האם מדובר בסיוע לאבחון, במדריך ניווט או בעוזר פעיל במהלך הניתוח? עליהם גם לתאר את הערבויות הקיימות, כמו יכולתם לבדוק ולהפריך את המלצות הכלי. בנוסף, על הכירורגים ליידע את המטופלים לגבי הכשרתם וניסיונם עם מערכות אלה.

שאלת האחריות במקרה של שגיאה רפואית מסתבכת עם השימוש בבינה מלאכותית. באופן מסורתי, הכירורג נושא באחריות מלאה על ההחלטות המתקבלות בחדר הניתוחים. אך אם מערכת מציעה המלצה שגויה שגרמה נזק, מי אחראי? הכירורג שעקב אחריה, המפתח בגין ליקוי בעיצוב, או המוסד בגין יישום רשלני? בתי המשפט עשויים להטיל אחריות על היצרנים אם אלגוריתם פגום או שלא נבדק כראוי הוביל לשגיאה. בתי החולים, מצדם, עשויים להיחשב רשלניים אם הם משתמשים במערכת שלא אושרה או שלא מתוחזקת כראוי. הכירורג, מצדו, עדיין מחויב לקיים את תקני הטיפול ואינו יכול להתחמק מאחריותו על ידי האשמת הכלי.

הסיכונים אינם מוגבלים לשגיאות רפואיות בלבד. שימוש לקוי בבינה מלאכותית עלול גם לפגוע באמון בין המטופל לכירורג. אם המטופל תופס שההחלטות מתקבלות על ידי אלגוריתם ולא על ידי רופאו, קשר האמון עלול להיחלש. בנוסף, חוסר שקיפות או שגיאה של הכלי עלולים לפגוע באמון זה לטווח ארוך, הן כלפי הקלינאי והן כלפי מערכת הבריאות בכללותה.

כדי לצמצם סיכונים אלה, נדרשת מנהיגות ארגונית חזקה. על מוסדות הבריאות להקים ועדות ייעודיות להערכת מערכות בינה מלאכותית לפני אימוצן. ועדות אלה צריכות להבטיח שהמפתחים מספקים מדריכי שימוש מלאים, סשנים להכשרה והנחיות בטיחות. ניטור מתמיד של הביצועים נחוץ גם כדי לאתר כל הידרדרות או סטייה של המודל. לחברות המקצועיות ולמוסדות הרפואיים תפקיד גם הם בקביעת תקנים להכשרה והסמכה של כירורגים המשתמשים בכלים אלה.

לסיכום, שיתוף הפעולה בין בתי החולים, המפתחים והרגולטורים הוא חיוני להרמוניזציה של הנוהגים ולהבטחת שימוש בטוח ואתי בבינה מלאכותית בכירורגיה. ללא זאת, הקידמה הטכנולוגית עלולה לבוא על חשבון בטיחות המטופלים ואיכות הטיפול.

"`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc