“`html

Η τεχνητή νοημοσύνη στη χειρουργική εγείρει σημαντικές νομικές και ηθικές προκλήσεις

Η τεχνητή νοημοσύνη μεταμορφώνει σταδιακά τη χειρουργική, βελτιώνοντας τον προγραμματισμό των επεμβάσεων, την υποστήριξη σε πραγματικό χρόνο και ακόμη και ορισμένες αυτόνομες εργασίες. Ωστόσο, η υιοθέτησή της εισάγει τεχνολογικούς, ανθρώπινους, νομικούς και ηθικούς κινδύνους που δεν ρυθμίζονται ακόμη επαρκώς από τις τρέχουσες κανονιστικές διατάξεις.

Τα συστήματα τεχνητής νοημοσύνης στη χειρουργική μπορούν να διαπράξουν σφάλματα στη διάγνωση ή τη θεραπεία, να υπονομεύσουν την ενημερωμένη συγκατάθεση των ασθενών ή να παραβιάσουν την ιδιωτική τους ζωή. Αυτοί οι κίνδυνοι προέρχονται από τρεις κύριες πηγές: τους εγγενείς περιορισμούς του εργαλείου, τα ανθρώπινα λάθη που σχετίζονται με τη χρήση του και τις οργανωτικές ελλείψεις κατά την ανάπτυξή του. Για παράδειγμα, ένας αλγόριθμος που δεν έχει εκπαιδευτεί σωστά μπορεί να ενισχύσει προκαταλήψεις που υπάρχουν στα δεδομένα, οδηγώντας σε άδικες συστάσεις για ορισμένες ομάδες ασθενών. Ομοίως, ένας χειρούργος μπορεί να βασίζεται υπερβολικά σε μια πειστική αλλά λανθασμένη πρόταση του εργαλείου, εγκαταλείποντας έτσι την δική του κλινική κρίση.

Τα τρέχοντα νομικά πλαίσια, όπως αυτά της Ευρωπαϊκής Ένωσης ή των Ηνωμένων Πολιτειών, προσπαθούν να ρυθμίσουν αυτές τις τεχνολογίες ταξινομώντας τα συστήματα ανάλογα με το επίπεδο κινδύνου τους. Οι απαιτήσεις διαφέρουν τότε ως προς τις δοκιμές, τη διαχείριση των δεδομένων και την κυβερνοασφάλεια. Ωστόσο, αυτές οι ρυθμίσεις δυσκολεύονται να ακολουθήσουν τον ρυθμό των καινοτομιών, ιδίως απέναντι σε μοντέλα ικανά να μαθαίνουν και να προσαρμόζονται συνεχώς. Η προστασία των δεδομένων των ασθενών παραμένει επίσης ένα κρίσιμο ζήτημα. Στην Ευρώπη, ο Γενικός Κανονισμός για την Προστασία Δεδομένων επιβάλλει αυστηρούς κανόνες για τη χρήση ιατρικών πληροφοριών, ενώ στις Ηνωμένες Πολιτείες, τα κενά του τρέχοντος νόμου εκθέτουν τους ασθενείς σε κινδύνους επανταυτοποίησης των δεδομένων τους, ακόμη και αν είναι ανωνυμοποιημένα.

Η ενημερωμένη συγκατάθεση γίνεται πιο σύνθετη με την εισαγωγή της τεχνητής νοημοσύνης. Οι ασθενείς, που συχνά δεν είναι εξοικειωμένοι με αυτές τις τεχνολογίες, μπορεί να αναπτύξουν μη ρεαλιστικές προσδοκίες ή, αντιθέτως, αβάσιμους φόβους. Οι χειρούργοι πρέπει λοιπόν να εξηγήσουν καθαρά τον ρόλο του εργαλείου: πρόκειται για βοήθεια στη διάγνωση, για έναν οδηγό πλοήγησης ή για έναν ενεργό βοηθό κατά τη διάρκεια της επέμβασης; Πρέπει επίσης να περιγράψουν τις εγγυήσεις που ισχύουν, όπως η ικανότητά τους να ελέγχουν και να αμφισβητούν τις συστάσεις του εργαλείου. Επιπλέον, οι χειρούργοι οφείλουν να ενημερώνουν τους ασθενείς για την εκπαίδευσή τους και την εμπειρία τους με αυτά τα συστήματα.

Το ζήτημα της ευθύνης σε περίπτωση ιατρικού σφάλματος περιπλέκεται με τη χρήση της τεχνητής νοημοσύνης. Παραδοσιακά, ο χειρούργος αναλαμβάνει την πλήρη ευθύνη για τις αποφάσεις που λαμβάνονται στο χειρουργείο. Αλλά αν ένα σύστημα προτείνει μια λανθασμένη σύσταση που προκάλεσε ζημιά, ποιος είναι υπεύθυνος; Ο χειρούργος που την ακολούθησε, ο προγραμματιστής για ελάττωμα σχεδίασης ή το ίδρυμα για αμελή εφαρμογή; Τα δικαστήρια θα μπορούσαν να κρίνουν τους κατασκευαστές υπεύθυνους αν ένας ελαττωματικός ή κακώς δοκιμασμένος αλγόριθμος οδήγησε σε σφάλμα. Τα νοσοκομεία, από την άλλη πλευρά, θα μπορούσαν να κριθούν αμελείς αν χρησιμοποιούν ένα μη επικυρωμένο ή κακώς συντηρημένο σύστημα. Όσο για τον χειρούργο, παραμένει υποχρεωμένος να σεβάζεται τα πρότυπα φροντίδας και δεν μπορεί να απαλλάσσεται από την ευθύνη του κατηγορώντας το εργαλείο.

Οι κίνδυνοι δεν περιορίζονται στα ιατρικά σφάλματα. Μια κακή χρήση της τεχνητής νοημοσύνης μπορεί επίσης να υπονομεύσει την εμπιστοσύνη μεταξύ του ασθενούς και του χειρούργου. Αν ο ασθενής αντιλαμβάνεται ότι οι αποφάσεις λαμβάνονται από έναν αλγόριθμο αντί από τον γιατρό του, η σχέση εμπιστοσύνης μπορεί να αποδυναμωθεί. Επιπλέον, η έλλειψη διαφάνειας ή ένα σφάλμα του εργαλείου μπορεί να βλάψει μόνιμα αυτή την εμπιστοσύνη, τόσο απέναντι στον κλινικό γιατρό όσο και στο σύστημα υγείας στο σύνολό του.

Για να μετριάσουν αυτούς τους κινδύνους, απαιτείται μια ισχυρή διακυβέρνηση. Τα ιατρικά ιδρύματα πρέπει να δημιουργήσουν εξειδικευμένες επιτροπές για την αξιολόγηση των συστημάτων τεχνητής νοημοσύνης πριν από την υιοθέτησή τους. Αυτές οι επιτροπές πρέπει να διασφαλίζουν ότι οι προγραμματιστές παρέχουν πλήρη εγχειρίδια χρήσης, συνεδρίες εκπαίδευσης και οδηγίες ασφαλείας. Η συνεχής παρακολούθηση της απόδοσης είναι επίσης απαραίτητη για την ανίχνευση οποιασδήποτε υποβάθμισης ή παρέκκλισης του μοντέλου. Οι επιστημονικές εταιρείες και οι ιατρικοί οργανισμοί έχουν επίσης ρόλο να διαδραματίσουν καθιερώνοντας πρότυπα για την εκπαίδευση και την πιστοποίηση των χειρουργών που χρησιμοποιούν αυτά τα εργαλεία.

Τέλος, η συνεργασία μεταξύ των νοσοκομείων, των προγραμματιστών και των ρυθμιστικών αρχών είναι απαραίτητη για την εναρμόνιση των πρακτικών και την εξασφάλιση μιας ασφαλούς και ηθικής χρήσης της τεχνητής νοημοσύνης στη χειρουργική. Χωρίς αυτό, η τεχνολογική πρόοδος θα μπορούσε να γίνει εις βάρος της ασφάλειας των ασθενών και της ποιότητας της φροντίδας.

“`

Références des contenus

Référence officielle

DOI : https://doi.org/10.1007/s00464-026-12881-8

Titre : Risk and liability in the deployment of AI systems for surgery: a SAGES white paper

Revue : Surgical Endoscopy

Éditeur : Springer Science and Business Media LLC

Auteurs : Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc