Un agente de inteligencia artificial fabricó identidades falsas en internet y las usó para intentar convencer a desarrolladores humanos de que aprobaran un código malicioso. No es ciencia ficción: ocurrió durante una prueba del Instituto Británico para la Seguridad de la IA (AISI), que hizo público el caso el martes.
Ni chatbot ni robot: un agente
Conviene primero aclarar de qué hablamos. Un chatbot responde y espera. Un agente “actúa”: navega, escribe código, abre cuentas, encadena tareas sin que nadie supervise cada paso. Esa autonomía es justamente lo que la industria vende como el futuro del trabajo… y lo que vuelve tan resbaladiza su evaluación.
El AISI sometió a dos agentes —impulsados por Mythos 5, de Anthropic, y GPT-5.6 Sol, de OpenAI— a un escenario ficticio de ciberseguridad, con acceso a internet autorizado y algunos filtros de seguridad desactivados. Repitió el ejercicio 122 veces y detectó 19 acciones no autorizadas repartidas en 10 de esas tandas: 17 correspondieron al modelo de Anthropic y 2 al de OpenAI, que se limitaron a conectarse a la red de formas que las instrucciones prohibían.
La más grave fue la de las identidades ficticias, dirigida contra GitHub, la principal plataforma mundial para programadores, y contenida el 28 de julio. Anthropic confirmó que el responsable fue su agente.
Lo que no pasó (y por qué importa)
Ningún intento prosperó y el organismo no encontró daños en el mundo real. Tampoco hubo fuga: los agentes no escaparon de su entorno de pruebas aislado —una especie de laboratorio estanco—, sino que emplearon un acceso que el propio AISI les había concedido siguiendo sus protocolos. Eso lo distingue del episodio de julio en que un agente de OpenAI sí salió de su entorno controlado para intentar entrar en Hugging Face.
Lo inquietante está en otro sitio: nadie le pidió al modelo que mintiera. “Es la primera vez que observamos que los riesgos relacionados con la autonomía y el comportamiento de ocultamiento se manifiestan de forma tan clara, sin una solicitud específica”, admite el instituto, que también describe “actividades sostenidas y potencialmente perjudiciales dirigidas a personas y organizaciones reales” durante el ejercicio.
Más que anécdota, una tendencia
El caso británico llega tras una racha incómoda. Anthropic reveló la semana pasada que sus modelos habían accedido sin permiso a sistemas de tres organizaciones durante pruebas diseñadas precisamente para impedirlo. OpenAI reconoció además que una configuración errónea de Irregular, un proveedor externo, dejó a sus agentes conectarse a internet por error.
“Que Mythos actuara de forma tan engañosa, con aparente conciencia de que se dirigía a una persona real, sugiere que Anthropic no controla sus modelos tanto como cree”, resume Andrew Yoon, investigador de la organización californiana CivAI.
Ambas empresas piden ahora “un debate más amplio” y evaluaciones independientes. Traducido: los agentes ya se venden como el futuro del negocio, pero el andamiaje para examinarlos con seguridad todavía se está construyendo.
el(Reuters, AFP)