Comprobar lo que dice

En 2023, dos abogados de Nueva York presentaron ante un juez un escrito que citaba seis sentencias anteriores. Ninguna existía. Las había escrito ChatGPT, con nombres de jueces, fechas y citas que sonaban perfectas. El 22 de junio de ese año, el juez les impuso, junto a su bufete, una multa de 5000 dólares y les obligó a escribir a cada juez al que habían atribuido una sentencia falsa. Uno de ellos explicó que no sabía que la herramienta pudiera inventarse sentencias.

No hizo falta ser mal abogado ni que el asistente estuviera roto: bastó con dar por buena una referencia sin abrirla.

En la lección 1 viste por qué pasa. El asistente escribe la continuación más probable, y una referencia inventada, con su número y su fecha, puede ser muy probable. Por eso suena igual de segura que una real.

Aquí vas a ver qué se inventa con más facilidad, cómo comprobar un dato en dos o tres minutos y en qué fijarte para saber dónde mirar primero. Al final harás tu propia lista de comprobación y la probarás con una respuesta real.

Lo que se inventa

Un asistente puede equivocarse en cualquier cosa, pero hay respuestas en las que es especialmente fácil que aparezca una alucinación:

• Datos exactos: cifras, fechas, teléfonos, direcciones, plazos.
• Referencias: artículos de investigación, leyes, sentencias, libros, con su número, su año y sus autores.
• Citas entre comillas atribuidas a una persona.
• Enlaces con aspecto oficial.
• Detalles de personas reales: cargos, premios, biografías.

Tienen dos cosas en común: hay una sola respuesta correcta, y una falsa suena igual de bien. Por eso no basta con leer la respuesta y ver si te convence.

Lo que viste en la lección 1 sigue valiendo. Para redactar, resumir lo que tú le das u ordenar ideas, lo revisas leyendo, y si algo no te cuadra lo corriges. Lo que hay que comprobar fuera es lo que vas a usar como dato.

Comprobar un dato en tres pasos

1. Pide la fuente. «¿De dónde sale este dato? Dame el enlace». Si no puede dártela, el dato queda en cuarentena.
2. Ábrela. Mira que exista y que diga lo que el asistente dice que dice. Pasa a menudo que la fuente existe pero dice otra cosa, o lo dice con matices que se han perdido.
3. Si importa, busca una segunda. Que no dependa de la primera, y mejor si es una fuente primaria: el boletín oficial, la web del organismo, el artículo original, la nota de la empresa.

Con las cifras hay un paso más: rehaz la cuenta, tú o con una calculadora. Un porcentaje mal calculado suena igual que uno bien calculado.

Parece mucho, pero un dato se comprueba en dos o tres minutos. Compáralo con lo que cuesta un error que lleva tu nombre, como les pasó a los abogados de Nueva York. Y no hace falta comprobarlo todo: solo lo que vas a usar como dato.

Leer de lado

Los verificadores profesionales no leen una web de arriba abajo para decidir si es fiable. Salen de ella: abren otras pestañas y miran qué dicen otras fuentes sobre esa. El Digital Inquiry Group, el antiguo grupo de educación histórica de la Universidad de Stanford, lo llama lectura lateral y lo enseña en los colegios, porque funciona mejor que fijarse en si una web parece seria.

Con un asistente pasa lo mismo. No le preguntes a él si está seguro: puede contestar que sí, o disculparse y cambiar la respuesta, y ninguna de las dos cosas es una comprobación. La comprobación está fuera de la conversación.

En la práctica siguiente tienes una respuesta sobre ELIZA, el programa de 1966 que conociste en la lección 1. Algunas frases son ciertas y otras, inventadas. Márcalas antes de comprobar, y piensa dónde lo mirarías.

Aplicado a un asistente, leer de lado es sencillo: busca el dato, o el nombre de la fuente que cita, en un buscador, y mira qué dicen otras webs fiables. Si el estudio citado no aparece en ninguna parte, ya sabes bastante.

Señales de alarma

Ninguna de estas señales demuestra que algo sea falso. Te dicen dónde mirar primero:

• Una cifra muy precisa que nadie te ha pedido y que no lleva fuente.
• Una referencia con un título perfecto y unos autores que no encuentras en ninguna parte.
• Un enlace que no abre o que lleva a otra cosa.
• «Según un estudio» o «los expertos dicen», sin decir cuál ni quiénes.
• Una respuesta que cambia si haces la misma pregunta otra vez.
• Algo muy reciente: si el asistente no busca en internet, solo sabe lo que había cuando se entrenó.
• Un tono de seguridad total en un tema que sabes que es discutido.

Con el tiempo las verás sin pensar, como ves una errata en un cartel. Al principio, ayúdate de una lista: al final de la lección escribirás la tuya.

Cuando el asistente busca en internet

Los asistentes que buscan en internet citan las páginas de donde sacan la respuesta, y eso ayuda: ya tienes dónde mirar. Pero una cita no es una garantía.

A veces la página citada dice otra cosa, o lo dice con matices que se han perdido en el resumen. Otras es una página poco fiable, o una copia de otra. Y a veces el asistente mezcla lo que encontró con lo que ya sabía, y no siempre se nota dónde acaba una cosa y empieza la otra.

La regla es la misma que sin búsqueda, con un paso menos: abre al menos la fuente del dato que vas a usar y mira que lo diga. Si es un plazo, una norma o una cifra oficial, ve a la fuente primaria aunque el asistente cite otra.

Y fíjate en quién está detrás de la página citada. Un organismo público, una revista científica o la propia empresa no pesan lo mismo que un blog que lo cuenta de oídas.

Si la respuesta no cita nada, pídele las fuentes. Y si te las da después, ábrelas igual: a veces encuentra páginas que dicen algo parecido, no lo mismo.

Hazlo: tu lista de comprobación

Elige una pregunta de tu trabajo o de tu vida con datos exactos que puedas comprobar: un plazo, una norma, una cifra, el horario de un servicio. Con tu asistente:

1. Hazle la pregunta y lee la respuesta entera.
2. Marca en ella todo lo que sea dato exacto.
3. Pide la fuente de cada uno y ábrela. Apunta cuántos estaban bien, cuántos mal y cuántos no tenían fuente.
4. Escribe tu lista de comprobación en cinco líneas como mucho: qué miras siempre y dónde.

Apúntalo en tu cuaderno. La lista te servirá para todo lo que hagas a partir de ahora con un asistente, y en la lección 7 la aplicarás a tu proyecto final.

Si casi todo estaba bien, no pasa nada: el ejercicio sirve para saber cuánto puedes fiarte en tu tema y qué tienes que mirar primero.