En este boletín mensual de seguridad de la información abordaremos el tema relacionado con los riesgos asociados al uso de plataformas de inteligencia artificial (IA) gratuitas.

¿Qué son las plataformas de IA gratuitas?

Las plataformas de IA gratuitas son aquellas que ofrecen servicios en línea en las que permiten a los usuarios acceder a las herramientas de la inteligencia artificial sin ningún coste asociado. Estas plataformas ofrecen servicios como los siguientes:

• Procesamiento del lenguaje
• Análisis de datos
• Generación de contenido
• Generación de imágenes, vídeos, etc.

Sin embargo, el uso de estas plataformas gratuitas implica ciertos riesgos que es muy importante conocer.

Principales riesgos asociados a las plataformas de IA gratuitas

• Privacidad y seguridad de los datos

Este tipo de plataformas requieren de una gran cantidad de datos para funcionar. Por tanto, en la gran mayoría de las ocasiones, almacenarán todos aquellos datos que les indiquemos, sin distinguir si es información sensible o confidencial. En el caso de los hospitales podrían llegar a tener acceso a datos sensibles de pacientes, como son los historiales médicos, diagnósticos y tratamientos. Dado que existe el riesgo de que estos datos puedan ser almacenados por parte de la IA en sus bases de datos, estos pueden ser analizados o incluso compartidos a terceros sin el consentimiento adecuado, con lo que se pone así en riesgo la privacidad y seguridad de los datos compartidos. En estos casos, además, se estarían violando regulaciones como la Ley orgánica de protección de datos personales y garantía de los derechos digitales.

• Legislación y cumplimiento de normativas

Estos riesgos se relacionan con los que se han indicado en el punto anterior, «Privacidad y seguridad de los datos», ya que cuando se hace uso de plataformas que dan acceso a IA gratuita y damos contexto a la IA con datos, documentos o información sobre otros clientes o servicios o procedimientos internos, puede implicar el incumplimiento de alguna regulación o ley de protección de datos. Esto es especialmente delicado si los datos se transfieren a jurisdicciones con normativas distintas a las nuestras.

• Calidad de las respuestas

La calidad de estas herramientas gratuitas no es la misma que las opciones de pago. Esto tiene relación directa con la fiabilidad de las respuestas, ya que se pueden llegar a generar resultados incorrectos y engañosos y, por tanto, conducir a diagnósticos erróneos, tratamientos inadecuados para los pacientes. Con ello, obviamente se pondría en riesgo la salud del paciente.

• Dependencia de la IA

Si se hace un uso excesivo de estas herramientas podemos llegar a tener una gran dependencia de la IA. Esto puede llevar a la pérdida de creatividad, del pensamiento crítico y de la intuición. En el caso de tener una dependencia en la IA dentro de los hospitales puede llevar a reducir la cantidad de personal que hay en los centros y terminar afectando de manera negativa a la calidad de la atención médica ya que el pensamiento crítico y la intuición — que la IA no tiene— son esenciales en la medicina.

¿Todas las plataformas de IA almacenan los datos para siempre?

Algunas plataformas de IA solo almacenan la información el tiempo que dura la sesión, mientras que otras pueden retener la información durante mucho más tiempo. Todo esto depende de la plataforma que estemos usando. Por ello, es muy importante revisar las políticas de privacidad y retención de datos de cada una de las plataformas que vayamos a usar.

Prevención y mitigación de los riesgos asociados a las plataformas de IA gratuitas

Para intentar prevenir y mitigar los riesgos relacionados con las IA se recomienda lo siguiente:

• Ser consciente de la información que se comparte

Antes de compartir datos con la IA hay que revisarlos para así no compartir datos sensibles o personales a menos que se tenga el permiso necesario y se tenga la suficiente confianza con la entidad propiedad de la herramienta de que no hará un uso indebido con la información que se está compartiendo. Hay que revisar muy bien qué datos se van a compartir, sobre todo si trabajamos en un centro hospitalario, ya que no se puede compartir datos del paciente ni de su historial médico sin los permisos necesarios.

• Verificar la información de la respuesta

Cuando la IA proporciona una respuesta esta debe ser verificada con distintas fuentes para así comprobar los hechos y asegurar que las respuestas obtenidas tienen sentido y están acordes con la realidad. Por tanto, si se termina usando una plataforma de IA para alguna duda, la respuesta que se obtenga debe contrastarse con otros profesionales, para tener garantías de que es verídica.

• Tener en cuenta el sesgo de la información

Siempre se debe tener en cuenta que la IA es una herramienta creada por seres humanos y que por tanto las respuestas que proporcione pueden estar sesgadas dependiendo de la información con la que haya sido entrenada antes de estar disponible al público. Por tanto, es recomendable revisar si la plataforma que se usa tiene prejuicios o toma ciertas decisiones injustas o discriminatorias. En el caso de que sea así, hay que oponerse a ellas.

• Revisar las políticas de privacidad

Antes usar cualquier plataforma de IA, sea gratuita o no, es recomendable leer y comprender las políticas de privacidad y términos de uso, para asegurarse de qué va a suceder con la información que se comparta.

• Limitar las extensiones en los navegadores

En ciertas ocasiones las plataformas de IA gratuitas generan extensiones para añadir a los navegadores web, para tenerlas más presentes en el día a día. Hay que tener precaución y limitar su uso, ya que estas extensiones pueden recopilar información sobre nosotros y los sitios web que visitamos y usarse para entrenar a la IA.

Enlaces de interés:

• Plataformas de IA (INCIBE): Inteligencia artificial (IA): qué es, ventajas y riesgos | Ciudadanía | INCIBE
• Riesgos de la IA (Forbes): Estos son los 15 mayores riesgos de la IA - Forbes España
• Configuraciones seguras para la IA (CCN): CCN-CERT - El CCN publica una nueva guía para configurar de forma segura las herramientas y aplicaciones de inteligencia artificial de Azure