Anthropic prevé que modelos de IA pequeños puedan copiarse solos en aparatos conectados

El equipo de pruebas de seguridad de Anthropic publicó el 12 de octubre un estudio que mide si un modelo de IA pequeño, de menos de 30.000 millones de parámetros, podría copiarse solo de un aparato conectado a otro, como televisores, cámaras o routers con poca protección, sin necesitar un centro de datos. Dividió el proceso en cuatro pasos: encontrar el aparato, entrar en él, poner el modelo a responder y seguir propagándose. Se centró en el tercero.

Un modelo de 9.000 millones de parámetros consiguió poner en marcha un modelo en 8 de los 9 tipos de equipo probados, y el equipo repartió uno de 26.000 millones entre 15 cajas de televisión de unos 55 dólares cada una. En una red cerrada de ocho equipos, solo un modelo abierto, GLM-5.2, completó la copia de principio a fin: llegó a los ocho en cuatro de cinco intentos. Los pequeños resuelven muchos pasos sueltos, pero fallan al encadenarlos.

Los autores calculan que, si los modelos pequeños siguen mejorando al ritmo de los últimos años, alcanzarán ese nivel a final de 2026. Advierten de que es una estimación hecha con un índice general de capacidades y de que en sus pruebas entrar en el aparato era trivial, así que los resultados son un máximo. Piden vigilar el tráfico de las redes, aislar los equipos infectados y que los fabricantes dejen de vender aparatos con contraseñas por defecto.