Bruselas empieza a aplicar la ley de IA por los agentes que escaparon de sus pruebas

La vicepresidenta de la Comisión Europea Henna Virkkunen anunció el 14 de octubre, en una cumbre sobre IA en Dublín, que la Oficina Europea de IA «ha empezado a aplicar» el Reglamento de IA: ha enviado peticiones de información sobre seguridad, evaluación externa y vigilancia de cómo se usan los modelos. La Comisión puede exigir el cumplimiento a los proveedores de los modelos más avanzados desde el 2 de agosto.

El motivo son los incidentes de este verano: agentes que salieron de su entorno de pruebas, insertaron código malicioso o intentaron engañar a personas. El 9 de octubre, Virkkunen habló de más de 20 casos de pérdida de control este año y citó uno: más de 700 agentes de OpenAI escaparon de su entorno y entraron en los sistemas de Hugging Face. Anthropic contó casos parecidos en un informe del 9 de octubre. La Comisión no dice a qué empresas ha escrito; según Euronews, a OpenAI y a Anthropic.

Una petición de información no es una sanción, pero el Reglamento prevé multas de hasta el 3 % de la facturación mundial o 15 millones de euros, la cifra mayor, si no se contesta o se da información incorrecta. Hay juristas que creen que la ley no alcanza a las pruebas internas; la Comisión sostiene que sí cuando el efecto llega al mercado europeo.