Miedo a la IA: qué riesgos son reales y qué hacer con cada uno

Cuando la inteligencia artificial sale en una sobremesa, casi siempre aparece alguna película: la máquina que toma el control, el ordenador que se niega a obedecer. El miedo se entiende. Con la IA que ya usas, lo que puede pasarte es más corriente: que te dé un dato falso y lo uses, que le cuentes más de la cuenta, que repita prejuicios, que alguien la use para engañarte o que dejes de pensar por tu cuenta. Cada uno de estos riesgos se reduce con un hábito.

Lo que se estudia de los sistemas más avanzados

Fuera del cine, los riesgos de los sistemas más avanzados se estudian en serio. En enero de 2025 se publicó el primer Informe Internacional sobre la Seguridad de la IA, que coordinó Yoshua Bengio con más de cien especialistas y que repasa lo que se sabe de esos riesgos. Este artículo trata de algo más cercano: el asistente que llevas en el móvil y lo que puede salir mal cuando lo usas.

Que se equivoque y te lo creas

Un asistente puede darte una cifra o una cita que suenan perfectas y no existen. A eso se le llama alucinación. El modelo de lenguaje que hay detrás, el sistema que genera el texto, escribe lo que suele venir después sin comprobar si es cierto, así que un dato falso llega con la misma seguridad que uno correcto. Con cualquier dato exacto que vayas a usar con tu nombre, pregúntale de dónde sale y abre esa fuente. Si importa, búscalo también por otro lado.

Que le cuentes demasiado

Trata la ventana del chat como un sitio público. Lo que escribes ahí sale de tu ordenador y se guarda en los servidores de la empresa que ofrece el servicio, que según sus condiciones puede usarlo para mejorar sus modelos.

No escribas en el chat datos de salud, de clientes o de otras personas, ni contraseñas ni documentos internos de tu trabajo. Antes de usar un asistente para algo serio, busca en sus ajustes si tus conversaciones se usan para mejorar sus modelos y, si no te convence, desactívalo.

Que repita los prejuicios de sus ejemplos

Un sesgo es una inclinación injusta a favor o en contra de un grupo de personas. Si los ejemplos de los que aprendió un sistema venían sesgados, sus respuestas pueden arrastrar esa inclinación sin que nadie lo haya decidido. Por eso el Reglamento (UE) 2024/1689, conocido como Reglamento de IA, considera de alto riesgo los sistemas que se usan, entre otros ámbitos, en el empleo, la educación y el acceso al crédito (anexo III).

En el día a día, cuando una herramienta opine sobre personas, lee su respuesta con el cuidado que pondrías con alguien recién llegado al equipo. Y si una decisión automática te afecta, pregunta quién la ha revisado.

Que alguien la use para engañarte

En enero de 2023 se presentó VALL-E, un sistema de investigación capaz de reproducir una voz a partir de una grabación de tres segundos. Imitar una voz ya no exige un estudio de grabación. Las estafas que aprovechan esta clase de técnicas suelen meter prisa para pedir dinero o claves, y llegan por un canal que no es el de siempre.

Si alguien te apremia, tómate tu tiempo y compruébalo por otra vía, por ejemplo llamando tú al número que ya tenías. En familia ayuda pactar una palabra clave para las emergencias, que es el segundo paso del ejercicio de más abajo.

Que dejes de pensar por tu cuenta

Pedirle un borrador o un resumen ahorra trabajo. Si le pides la primera versión cada vez que tienes que escribir algo, acabas trabajando sobre su enfoque y el tuyo se queda sin pensar. Antes de pedirle nada, escribe en dos líneas qué quieres decir y cómo lo dirías tú, y compara después con lo que te propone. Hazlo sobre todo con lo que vayas a tener que defender delante de otra persona.

Los cinco hábitos, juntos

Riesgo	El hábito que lo reduce
Que se equivoque y te lo creas	Preguntar de dónde sale el dato y abrir la fuente
Que le cuentes demasiado	Tratar el chat como un sitio público
Que repita sesgos	Revisar lo que diga sobre personas
Que la usen para engañarte	Comprobar por otra vía, sin prisa
Que dejes de pensar	Escribir tu idea antes de pedir la suya

Ejercicio de cinco minutos

Son dos tareas cortas:

1. Abre los ajustes del asistente que más usas y busca el apartado de privacidad o de datos. Mira si tus conversaciones se usan para mejorar el servicio y si puedes borrarlas.
2. Habla con tu familia, o con quien vivas, y elegid una palabra clave para pedir ayuda urgente por teléfono. Que no la hayáis escrito nunca en redes sociales.

Si alguna vez sospechas que te están intentando estafar, el 017 del Instituto Nacional de Ciberseguridad (INCIBE) atiende gratis y de forma confidencial todos los días de 8:00 a 23:00, por teléfono, WhatsApp o Telegram.

Para seguir

La siguiente pieza de la serie explica cómo pedirle algo a un asistente y cómo revisar lo que devuelve antes de volver a pedir, con un ejercicio sobre un correo de trabajo: «Tu primera conversación útil con un asistente de IA».