Introducció

El passat 13 de març del 2024, el Parlament Europeu va marcar una fita en aprovar el primer reglament de la intel·ligència artificial (IA), i va marcar així l’inici d’una nova era de regulació amb una rellevància especial en el sector de la salut.

Ús segur i ètic de la IA

La Llei europea d’IA emfatitza la importància d’implementar l’ús segur i ètic de la IA, amb mesures que garanteixin la privadesa i seguretat de les dades dels pacients. Per als professionals de la salut i els proveïdors de sistemes d’IA en aquest àmbit és molt important complir aquestes directrius per garantir que s’adoptin totes les mesures necessàries per protegir les dades personals dels pacients i assegurar un ús ètic i transparent de la IA.

Classificació del risc dels sistemes d’IA

El reglament categoritza els sistemes d’IA en termes del nivell de risc. Cada nivell de risc té els seus exemples i aplicacions potencials dins del sector de la salut.

• Inacceptable/prohibit: qualsevol sistema d’IA que pugui causar un dany físic o psicològic als pacients, o que pugui comprometre el consentiment informat del pacient.
• Alt: aquell que proporciona diagnòstics de malalties greus o que s’empra per prendre decisions clíniques crítiques, com ara una IA que s’utilitza per determinar el tractament òptim per a pacients amb càncer.
• Limitat: es podria considerar de risc limitat a un chatbot (assistent virtual) emprat per proporcionar informació general de salut als pacients en un hospital, ja que el seu mal ús no implicaria danys greus per als pacients, però la seva manca d’identificació podria generar confusió .
• Baix: serien aquells sistemes d’IA que són emprats per a tasques administratives menors en el treball clínic, com la programació de cites o el seguiment d’inventari de subministraments mèdics.

Impacte al sector de la salut

El nou reglament de la IA proporcionarà un marc normatiu adaptat als desafiaments i necessitats específics dels entorns sanitaris. Els sistemes d’IA emprats en l’atenció de la salut són sovint d’alt risc, la qual cosa implica que han de complir amb requeriments rigorosos de seguretat, transparència i rendició de comptes. Per exemple, qualsevol sistema d’IA emprat en el diagnòstic o el tractament de pacients ha de ser altament transparent en les seves decisions i tenir una rendició de comptes sòlida en el seu funcionament.

Entre les innovacions clau que introdueix el nou reglament s’hi inclouen:

• Restriccions en la categorització i identificació biomètrica: això afectarà els desenvolupaments en el sector sanitari que involucren la utilització de dades biomètriques i d’imatges facials dels pacients. L’ús de la IA per a la identificació s’ha d’ajustar a aquest marc, fins i tot en situacions d’emergència o diagnòstic.
• Drets del pacient: la nova regulació garanteix als pacients el dret a rebre explicacions sobre les decisions que es prenguin respecte a la salut per mitjà de l’ús d’IA.
• Avaluació d’impacte de protecció de dades (AIPD): abans d’implementar sistemes d’IA d’alt risc, el reglament exigeix que es faci una AIPD. Aquesta mesura reforça la importància de la protecció de dades en el sector sanitari, on la seguretat de les dades dels pacients és fonamental.
• Possibles sancions: infringir aquest reglament pot implicar sancions de fins a 35 milions d’euros o el 7 % de la facturació total anual global.

Implicacions i conclusions

Aquesta nova Llei sobre IA pot suposar un abans i un després en el món de la intel·ligència artificial. Es converteix en un marc per abalisar les obligacions i les responsabilitats en sectors com la sanitat, on aprofitar al màxim els avantatges de la IA sempre ha d’estar en línia amb l’ètica i la protecció de l’usuari. L’entrada en vigor previsiblement serà en 2026

Cadascú de nosaltres, com a membres del Servei de Salut, hem d’estar compromesos amb la transparència, la rendició de comptes i la seguretat en l’ús de la IA en la nostra tasca i pràctica diària.

Recursos i informació addicional

Per obtenir més dades sobre el nou reglament, podeu consultar els recursos següents:

• Reglament del Parlament Europeu sobre intel·ligència a rtificial
• L’Eurocambra aprova una llei històrica per regular la intel·ligència artificial