En aquest butlletí mensual de seguretat de la informació abordarem el tema relacionat amb els riscs associats a l’ús de plataformes d’intel·ligència artificial (IA) gratuïtes.

Què són les plataformes d’IA gratuïtes?

Les plataformes d’IA gratuïtes són aquelles que ofereixen serveis en línia que permeten als usuaris accedir a les eines de la intel·ligència artificial sense cap cost associat. Aquestes plataformes ofereixen serveis com els següents:

• Processament del llenguatge
• Anàlisi de dades
• Generació de contingut
• Generació d’imatges, vídeos, etc.

Tot i això, l’ús d’aquestes plataformes gratuïtes implica certs riscs que és molt important conèixer.

Principals riscs associats a les plataformes d’IA gratuïtes

• Privadesa i seguretat de les dades

Aquest tipus de plataformes requereixen una gran quantitat de dades per funcionar. Per tant, la majoria de les vegades, emmagatzemaran totes aquelles dades que els indiquem, sense distingir si és informació sensible o confidencial. En el cas dels hospitals podrien arribar a tenir accés a dades sensibles de pacients, com són els historials mèdics, els diagnòstics i els tractaments. Atès que hi ha el risc que aquestes dades puguin ser emmagatzemades per part de la IA a les seves bases de dades, aquestes poden ser analitzades o fins i tot compartides amb tercers sense el consentiment adequat, amb la qual cosa es posa així en risc la privadesa i seguretat de les dades compartides. En aquests casos, a més, s’estarien violant regulacions com ara la Llei orgànica de protecció de dades personals i garantia dels drets digitals.

• Legislació i compliment de normatives

Aquests riscs es relacionen amb els que s’han indicat en el punt anterior, «Privadesa i seguretat de les dades», ja que quan es fa ús de plataformes que donen accés a IA gratuïta i donam context a la IA amb dades, documents o informació sobre altres clients o serveis o procediments interns pot implicar l’incompliment d’alguna regulació o llei de protecció de dades. Això és especialment delicat si les dades es transfereixen a jurisdiccions amb normatives diferents de les nostres.

• Qualitat de les respostes

La qualitat d’aquestes eines gratuïtes no és la mateixa que les opcions de pagament. Això té relació directa amb la fiabilitat de les respostes, ja que es poden arribar a generar resultats incorrectes i enganyosos i, per tant, conduir a diagnòstics erronis, tractaments inadequats. per als pacients. Amb això, òbviament es posaria en risc la salut del pacient.

• Dependència de la IA

Si es fa un ús excessiu d’aquestes eines podem arribar a tenir-ne una gran dependència. Això pot significar la pèrdua de creativitat, del pensament crític i de la intuïció. Si se’n té una dependència en els hospitals pot significar reduir la quantitat de personal que hi ha als centres i acabar afectant de manera negativa la qualitat de l’atenció mèdica ja que el pensament crític i la intuïció —cosa que la IA no té— són essencials en la medicina.

Totes les plataformes d’IA emmagatzemen les dades per sempre?

Algunes plataformes d’IA només emmagatzemen la informació durant el temps que dura la sessió, mentre que d’altres poden retenir la informació durant molt més temps. Tot això depèn de la plataforma que hom empri. Per això, és molt important revisar les polítiques de privadesa i retenció de dades de cadascuna de les plataformes que empram.

Prevenció i mitigació dels riscs associats a les plataformes d’IA gratuïtes

Per intentar prevenir i mitigar els riscs relacionats amb les IA es recomana el següent:

• Ser conscient de la informació que es comparteix

Abans de compartir dades amb la IA cal revisar-les per així no compartir dades sensibles o personals a no ser que es tengui el permís necessari i prou confiança amb l’entitat propietat de l’eina que no en farà un ús indegut amb la informació que s’està compartint. Cal revisar molt bé quines dades es compartiran, sobretot, si feim feina en un centre hospitalari, ja que no es poden compartir dades del pacient ni del seu historial mèdic sense els permisos necessaris.

• Verificar la informació de la resposta

Quan la IA proporciona una resposta aquesta s’ha de verificar amb diferents fonts per comprovar així els fets i assegurar que les respostes obtingudes tenen sentit i estan d’acord amb la realitat. Per tant, si s’acaba emprant una plataforma d’IA per a algun dubte, la resposta que s’obtingui s’ha de contrastar amb altres professionals, per tenir garanties que és verídica.

• Tenir en compte el biaix de la informació

Sempre cal tenir en compte que la IA és una eina creada per éssers humans i que per tant les respostes que proporcioni poden estar esbiaixades depenent de la informació amb què ha estat entrenada abans d’estar disponible al públic. Per tant, és recomanable revisar si la plataforma que es fa servir té prejudicis o pren certes decisions injustes o discriminatòries. Si és així, cal oposar-s’hi.

• Revisar les polítiques de privadesa

Abans de fer servir qualsevol plataforma d’IA, sigui gratuïta o no, és recomanable llegir i comprendre les polítiques de privadesa i termes d’ús, per assegurar-se de què passarà amb la informació que es comparteixi.

• Limitar les extensions als navegadors

De vegades les plataformes d’IA gratuïtes generen extensions per afegir als navegadors web, per tenir-les més presents en el dia a dia. Cal tenir precaució i limitar-ne l’ús, ja que aquestes extensions poden recopilar informació sobre nosaltres i els llocs web que visitam i emprar-se per entrenar la IA.

Enllaços d’interès:

• Plataformes d’IA (INCIBE): Intel·ligència artificial (IA): què és, avantatges i riscs | Ciutadania | INCEB
• Riscs de la IA (Forbes): Aquests són els 15 riscs més grans de la IA - Forbes Espanya
• Configuracions segures per a la IA (CCN): CCN-CERT - El CCN publica una nova guia per configurar de manera segura les eines i aplicacions d’intel·ligència artificial d’Azure