![\"La](\"https:\/\/theengineeringreview.com\/\/ca\/wp-content\/uploads\/shared\/surgery-79584_640.jpg\")
<\/p>\n<\/p>\n
La intel\u00b7lig\u00e8ncia artificial transforma progressivament la cirurgia, millorant la planificaci\u00f3 de les operacions, l\u2019assist\u00e8ncia en temps real i fins i tot algunes tasques aut\u00f2nomes. No obstant aix\u00f2, la seva adopci\u00f3 introdueix riscos tecnol\u00f2gics, humans, jur\u00eddics i \u00e8tics encara mal regulats per les normatives actuals.<\/p>\n
Els sistemes de intel\u00b7lig\u00e8ncia artificial en cirurgia poden cometre errors de diagn\u00f2stic o de tractament, comprometre el consentiment informat dels pacients o violar la seva privacitat. Aquests riscos provenen de tres fonts principals: les limitacions pr\u00f2pies de l\u2019eina, els errors humans lligats a la seva utilitzaci\u00f3 i les defici\u00e8ncies organitzatives durant el seu desplegament. Per exemple, un algoritme mal entrenat pot amplificar biaixos presents en les dades, portant a recomanacions injustes per a certs grups de pacients. De la mateixa manera, un cirurgi\u00e0 podria confiar massa en una sugger\u00e8ncia err\u00f2nia per\u00f2 plausible de l\u2019eina, abandonant aix\u00ed el seu propi judici cl\u00ednic.<\/p>\n
Els marc legal actuals, com els de la Uni\u00f3 Europea o els Estats Units, intenten regular aquestes tecnologies classificant els sistemes segons el seu nivell de risc. Les exig\u00e8ncies varien, llavors, en mat\u00e8ria de proves, gesti\u00f3 de dades i ciberseguretat. Tanmateix, aquestes regulacions tenen dificultats per seguir el ritme de les innovacions, especialment davant de models capa\u00e7os d\u2019aprendre i adaptar-se cont\u00ednuament. La protecci\u00f3 de les dades dels pacients segueix sent tamb\u00e9 una q\u00fcesti\u00f3 cr\u00edtica. A Europa, el Reglament General de Protecci\u00f3 de Dades imposa regles estrictes sobre l\u2019\u00fas de la informaci\u00f3 m\u00e8dica, mentre que als Estats Units, les llacunes de la llei actual exposen els pacients a riscos de reidentificaci\u00f3 de les seves dades, fins i tot anonimitzades.<\/p>\n
El consentiment informat esdev\u00e9 m\u00e9s complex amb la introducci\u00f3 de la intel\u00b7lig\u00e8ncia artificial. Els pacients, sovint poc familiaritzats amb aquestes tecnologies, poden desenvolupar expectatives irreals o, al contrari, pors infundades. Els cirurgians han d\u2019explicar clarament el paper de l\u2019eina: es tracta d\u2019una ajuda per al diagn\u00f2stic, d\u2019una guia de navegaci\u00f3 o d\u2019un assistent actiu durant l\u2019operaci\u00f3? Tamb\u00e9 han de descriure les garanties existents, com la seva capacitat per verificar i contradir les recomanacions de l\u2019eina. A m\u00e9s, els cirurgians han d\u2019informar els pacients sobre la seva pr\u00f2pia formaci\u00f3 i experi\u00e8ncia amb aquests sistemes.<\/p>\n
La q\u00fcesti\u00f3 de la responsabilitat en cas d\u2019error m\u00e8dic es complica amb l\u2019\u00fas de la intel\u00b7lig\u00e8ncia artificial. Tradicionalment, el cirurgi\u00e0 assumeix tota la responsabilitat de les decisions preses a la sala d\u2019operacions. Per\u00f2 si un sistema proposa una recomanaci\u00f3 err\u00f2nia que ha causat un dany, qui \u00e9s responsable? El cirurgi\u00e0 per haver-la seguit, el desenvolupador per un defecte de disseny o el centre per una implementaci\u00f3 negligent? Els tribunals podrien considerar responsables els fabricants si un algoritme defectu\u00f3s o mal provat ha portat a un error. Els hospitals, per la seva banda, podrien ser jutjats com a negligents si utilitzen un sistema no validat o mal mantingut. Quant al cirurgi\u00e0, segueix obligat a complir les normes d\u2019atenci\u00f3 i no pot desentendre\u2019s de la seva responsabilitat culpar l\u2019eina.<\/p>\n
Els riscos no es limiten als errors m\u00e8dics. Un \u00fas incorrecte de la intel\u00b7lig\u00e8ncia artificial tamb\u00e9 pot erosionar la confian\u00e7a entre el pacient i el cirurgi\u00e0. Si el pacient perceb que les decisions es prenen per un algoritme en lloc del seu metge, la relaci\u00f3 de confian\u00e7a pot afeblir-se. A m\u00e9s, la manca de transpar\u00e8ncia o un error de l\u2019eina pot danyar duradorament aquesta confian\u00e7a, tant envers el cl\u00ednic com envers el sistema de salut en el seu conjunt.<\/p>\n
Per atenuar aquests riscos, es requereix una governan\u00e7a robusta. Els centres sanitaris han de posar en marxa comit\u00e8s dedicats per avaluar els sistemes de intel\u00b7lig\u00e8ncia artificial abans de la seva adopci\u00f3. Aquests comit\u00e8s han d\u2019assegurar-se que els desenvolupadors subministrin manuals d\u2019\u00fas complets, sessions de formaci\u00f3 i directrius de seguretat. Tamb\u00e9 \u00e9s necess\u00e0ria una vigil\u00e0ncia cont\u00ednua del rendiment per detectar qualsevol degradaci\u00f3 o derivaci\u00f3 del model. Les societats cient\u00edfiques i les institucions m\u00e8diques tamb\u00e9 tenen un paper important en establir normes per a la formaci\u00f3 i la certificaci\u00f3 dels cirurgians que utilitzen aquestes eines.<\/p>\n
Finalment, la col\u00b7laboraci\u00f3 entre hospitals, desenvolupadors i reguladors \u00e9s essencial per harmonitzar les pr\u00e0ctiques i garantir un \u00fas segur i \u00e8tic de la intel\u00b7lig\u00e8ncia artificial en cirurgia. Sense aix\u00f2, els aven\u00e7os tecnol\u00f2gics podrien fer-se a costa de la seguretat dels pacients i la qualitat de l\u2019atenci\u00f3.<\/p>\n
La intel\u00b7lig\u00e8ncia artificial transforma progressivament la cirurgia, millorant la planificaci\u00f3 de les operacions, l\u2019assist\u00e8ncia en temps real i fins i tot algunes tasques aut\u00f2nomes. No obstant aix\u00f2, la seva adopci\u00f3 introdueix riscos tecnol\u00f2gics, humans, jur\u00eddics i \u00e8tics encara mal regulats per les normatives actuals.<\/p>\n
Els sistemes de intel\u00b7lig\u00e8ncia artificial en cirurgia poden cometre errors de diagn\u00f2stic o de tractament, comprometre el consentiment informat dels pacients o violar la seva privacitat. Aquests riscos provenen de tres fonts principals: les limitacions pr\u00f2pies de l\u2019eina, els errors humans lligats a la seva utilitzaci\u00f3 i les defici\u00e8ncies organitzatives durant el seu desplegament. Per exemple, un algoritme mal entrenat pot amplificar biaixos presents en les dades, portant a recomanacions injustes per a certs grups de pacients. De la mateixa manera, un cirurgi\u00e0 podria confiar massa en una sugger\u00e8ncia err\u00f2nia per\u00f2 plausible de l\u2019eina, abandonant aix\u00ed el seu propi judici cl\u00ednic.<\/p>\n
Els marc legal actuals, com els de la Uni\u00f3 Europea o els Estats Units, intenten regular aquestes tecnologies classificant els sistemes segons el seu nivell de risc. Les exig\u00e8ncies varien, llavors, en mat\u00e8ria de proves, gesti\u00f3 de dades i ciberseguretat. Tanmateix, aquestes regulacions tenen dificultats per seguir el ritme de les innovacions, especialment davant de models capa\u00e7os d\u2019aprendre i adaptar-se cont\u00ednuament. La protecci\u00f3 de les dades dels pacients segueix sent tamb\u00e9 una q\u00fcesti\u00f3 cr\u00edtica. A Europa, el Reglament General de Protecci\u00f3 de Dades imposa regles estrictes sobre l\u2019\u00fas de la informaci\u00f3 m\u00e8dica, mentre que als Estats Units, les llacunes de la llei actual exposen els pacients a riscos de reidentificaci\u00f3 de les seves dades, fins i tot anonimitzades.<\/p>\n
El consentiment informat esdev\u00e9 m\u00e9s complex amb la introducci\u00f3 de la intel\u00b7lig\u00e8ncia artificial. Els pacients, sovint poc familiaritzats amb aquestes tecnologies, poden desenvolupar expectatives irreals o, al contrari, pors infundades. Els cirurgians han d\u2019explicar clarament el paper de l\u2019eina: es tracta d\u2019una ajuda per al diagn\u00f2stic, d\u2019una guia de navegaci\u00f3 o d\u2019un assistent actiu durant l\u2019operaci\u00f3? Tamb\u00e9 han de descriure les garanties existents, com la seva capacitat per verificar i contradir les recomanacions de l\u2019eina. A m\u00e9s, els cirurgians han d\u2019informar els pacients sobre la seva pr\u00f2pia formaci\u00f3 i experi\u00e8ncia amb aquests sistemes.<\/p>\n
La q\u00fcesti\u00f3 de la responsabilitat en cas d\u2019error m\u00e8dic es complica amb l\u2019\u00fas de la intel\u00b7lig\u00e8ncia artificial. Tradicionalment, el cirurgi\u00e0 assumeix tota la responsabilitat de les decisions preses a la sala d\u2019operacions. Per\u00f2 si un sistema proposa una recomanaci\u00f3 err\u00f2nia que ha causat un dany, qui \u00e9s responsable? El cirurgi\u00e0 per haver-la seguit, el desenvolupador per un defecte de disseny o el centre per una implementaci\u00f3 negligent? Els tribunals podrien considerar responsables els fabricants si un algoritme defectu\u00f3s o mal provat ha portat a un error. Els hospitals, per la seva banda, podrien ser jutjats com a negligents si utilitzen un sistema no validat o mal mantingut. Quant al cirurgi\u00e0, segueix obligat a complir les normes d\u2019atenci\u00f3 i no pot desentendre\u2019s de la seva responsabilitat culpar l\u2019eina.<\/p>\n
Els riscos no es limiten als errors m\u00e8dics. Un \u00fas incorrecte de la intel\u00b7lig\u00e8ncia artificial tamb\u00e9 pot erosionar la confian\u00e7a entre el pacient i el cirurgi\u00e0. Si el pacient perceb que les decisions es prenen per un algoritme en lloc del seu metge, la relaci\u00f3 de confian\u00e7a pot afeblir-se. A m\u00e9s, la manca de transpar\u00e8ncia o un error de l\u2019eina pot danyar duradorament aquesta confian\u00e7a, tant envers el cl\u00ednic com envers el sistema de salut en el seu conjunt.<\/p>\n
Per atenuar aquests riscos, es requereix una governan\u00e7a robusta. Els centres sanitaris han de posar en marxa comit\u00e8s dedicats per avaluar els sistemes de intel\u00b7lig\u00e8ncia artificial abans de la seva adopci\u00f3. Aquests comit\u00e8s han d\u2019assegurar-se que els desenvolupadors subministrin manuals d\u2019\u00fas complets, sessions de formaci\u00f3 i directrius de seguretat. Tamb\u00e9 \u00e9s necess\u00e0ria una vigil\u00e0ncia cont\u00ednua del rendiment per detectar qualsevol degradaci\u00f3 o derivaci\u00f3 del model. Les societats cient\u00edfiques i les institucions m\u00e8diques tamb\u00e9 tenen un paper important en establir normes per a la formaci\u00f3 i la certificaci\u00f3 dels cirurgians que utilitzen aquestes eines.<\/p>\n
Finalment, la col\u00b7laboraci\u00f3 entre hospitals, desenvolupadors i reguladors \u00e9s essencial per harmonitzar les pr\u00e0ctiques i garantir un \u00fas segur i \u00e8tic de la intel\u00b7lig\u00e8ncia artificial en cirurgia. Sense aix\u00f2, els aven\u00e7os tecnol\u00f2gics podrien fer-se a costa de la seguretat dels pacients i la qualitat de l\u2019atenci\u00f3.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s00464-026-12881-8<\/a><\/p>\n Titre\u00a0:<\/strong> Risk and liability in the deployment of AI systems for surgery: a SAGES white paper<\/p>\n Revue : <\/strong> Surgical Endoscopy<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Daniel A. Hashimoto; Jayson S. Marwaha; Sharon A. Lee; Steven Schwaitzberg; Mindy N. Duffourc<\/p>\n","protected":false},"excerpt":{"rendered":" La intel\u00b7lig\u00e8ncia artificial en cirurgia planteja reptes jur\u00eddics i \u00e8tics majors La intel\u00b7lig\u00e8ncia artificial transforma progressivament la cirurgia, millorant la planificaci\u00f3 de les operacions, l\u2019assist\u00e8ncia en temps real i fins i tot algunes tasques aut\u00f2nomes. No obstant aix\u00f2, la seva adopci\u00f3 introdueix riscos tecnol\u00f2gics, humans, jur\u00eddics i \u00e8tics encara mal regulats per les normatives actuals.… Continueu llegint La intel\u00b7lig\u00e8ncia artificial en cirurgia planteja reptes jur\u00eddics i \u00e8tics majors<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,4,3],"tags":[],"class_list":["post-15","post","type-post","status-publish","format-standard","hentry","category-ciencia-i-tecnologia","category-politica","category-salut","entry"],"_links":{"self":[{"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/posts\/15","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/comments?post=15"}],"version-history":[{"count":1,"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/posts\/15\/revisions"}],"predecessor-version":[{"id":16,"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/posts\/15\/revisions\/16"}],"wp:attachment":[{"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/media?parent=15"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/categories?post=15"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theengineeringreview.com\/ca\/wp-json\/wp\/v2\/tags?post=15"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}