ChatGPT marcará sus textos en la UE con una señal invisible, como pide el Reglamento de IA

OpenAI anunció el 5 de octubre que, en las próximas semanas, añadirá una marca de agua invisible a los textos que generan ChatGPT y Codex para quienes los usan en la Unión Europea, en todos los planes. Lo hace por la obligación del Reglamento de IA de que el texto generado se pueda identificar de forma legible por una máquina. Fuera de la UE no será lo predeterminado; en su API, los clientes de cualquier país podrán activarla para algunos modelos.

La técnica, que OpenAI llama textGrain, deja una señal estadística en la elección de las palabras, sin caracteres ocultos. En sus pruebas, con un 1 % de falsos positivos, el detector la encontró en torno al 80 % de los fragmentos de 200 tokens y al 95 % de los de 400 en textos como los de psicología, y en bastantes menos en matemáticas, donde hay menos margen para elegir palabras. Cambiar el 10 % de las palabras por sinónimos bajó la detección del 92 % al 66 %; cambiar el 25 %, al 17 %.

Al principio, el detector solo estará al alcance de investigadores y organizaciones expertas aprobadas. OpenAI añade que la marca no identifica a quien escribió la petición ni dice si el texto es cierto.