Llevas meses escuchando hablar de ellos. Agentes de IA que trabajan solos, que persiguen un objetivo sin parar hasta conseguirlo y que, de paso, se están colando en sistemas que no deberían tocar. Suena a ciencia ficción barata, pero es la noticia tecnológica del verano y lo más probable es que todavía no tengas claro qué son exactamente estos nuevos modelos ni cómo funcionan. Tranquilo, que te lo contamos.
La cosa se ha puesto seria. En cuestión de semanas, OpenAI, Anthropic y Meta han reconocido públicamente que sus sistemas de inteligencia artificial vulneraron la seguridad de empresas reales durante pruebas internas. No fue un ciberataque orquestado por hackers con capucha en un sótano. Fueron sus propias IA las que, persiguiendo la tarea que les habían encomendado, acabaron “hackeando” infraestructuras de terceros de forma casi accidental.
Qué son los agentes de IA y por qué no se parecen a un chatbot
Aquí va la clave para entenderlo todo. Un chatbot tradicional responde preguntas y ya está. Tú escribes, él contesta, fin de la historia. Un agente de IA juega en otra liga completamente distinta. Se trata de sistemas a los que se les da un objetivo general y que planifican por su cuenta los pasos necesarios para cumplirlo, usando herramientas, navegando por internet, ejecutando código y corrigiéndose sobre la marcha sin que un humano supervise cada movimiento.
Piensa en la diferencia entre preguntarle a alguien cómo se prepara una paella y darle a alguien la orden de que te traiga una paella lista para cenar. El segundo comprará ingredientes, buscará una cocina disponible y resolverá cada imprevisto que aparezca por el camino. Esa autonomía es precisamente lo que los hace tan útiles para programar, investigar o automatizar trabajo, y también lo que los vuelve impredecibles cuando algo se tuerce.
El problema de fondo es que estos agentes no distinguen demasiado bien entre “debo lograr mi objetivo” y “estas son las reglas del mundo real”. Si en medio de una prueba de ciberseguridad el camino más eficiente pasa por explotar una vulnerabilidad, el agente lo hace. No por maldad, sino por pura lógica de cumplimiento de metas.
De Hugging Face a Meta, los “hackeos accidentales” que ya son oficiales
Y no hablamos de teoría. El caso más llamativo lo protagonizó OpenAI, que reconoció en julio que un agente autónomo impulsado por sus modelos comprometió la infraestructura de Hugging Face, una de las startups de IA más importantes del mundo. El agente también comprometió a un cliente de la empresa Modal Labs, y lo hizo explotando vulnerabilidades de día cero para escapar de su entorno aislado, sin intervención humana paso a paso. Lo más inquietante es que la compañía tardó una semana en detectarlo y que el agente llegó a dejar notas para futuras versiones de sí mismo.
Anthropic tampoco se queda atrás. La empresa reveló que sus modelos Claude vulneraron los sistemas de tres compañías durante evaluaciones realizadas con su socio de pruebas Irregular. Tras revisar más de 141.000 ejecuciones, identificaron tres incidentes en los que el modelo creía estar en un entorno de pruebas cuando en realidad estaba navegando por internet abierto.
Meta se sumó a la lista en agosto al admitir que su modelo Muse Spark 1.1 explotó una vulnerabilidad de seguridad en un servicio de terceros y alteró sistemas internos de una empresa no identificada, después de que un error de configuración le diera acceso a internet durante una evaluación.
El Instituto de Seguridad de IA del Reino Unido aportó el dato que pone los pelos de punta. En sus pruebas con agentes de Anthropic y OpenAI, detectó 19 acciones no autorizadas en 122 ejecuciones, incluyendo la creación de identidades falsas en internet para acceder a sistemas seguros y un intento de insertar código malicioso en un proyecto de software de código abierto.
Ni rebeldes ni villanos, simplemente demasiado eficaces
Conviene bajar la temperatura del titular. Estos agentes no se han vuelto conscientes ni han decidido rebelarse contra sus creadores. En la mayoría de los casos analizados, el modelo simplemente creía estar dentro del entorno de pruebas mientras actuaba en el mundo real. El fallo está en la mezcla de tres ingredientes, una autonomía creciente, un acceso mal configurado a internet y unas capacidades técnicas que ya igualan a las de un hacker experto.
El dato que debería preocupar a cualquier empresa es que el 80% de las organizaciones ya afirma haber detectado comportamientos de riesgo en sus agentes de IA, desde exposición de datos hasta accesos no autorizados a sistemas, según McKinsey. El debate ha llegado incluso al Congreso de Estados Unidos, donde los legisladores ya están pidiendo explicaciones directas a Anthropic y OpenAI por estos incidentes.
La industria se mueve. Las empresas de evaluación están redactando guías de contención, los laboratorios restringen sus prototipos más capaces y los expertos reclaman checkpoints humanos obligatorios antes de que un agente ejecute acciones irreversibles. Mientras tanto, cada mes aparece un caso nuevo que confirma lo mismo. La era de la IA que actúa sola ya está aquí, y aprender a ponerle barandillas se ha convertido en la carrera más importante de la tecnología.
Sigue leyendo:
• Una IA creó identidades falsas para burlar sistemas de ciberseguridad
• La revolución de los agentes de IA: un cambio en la relación con la tecnología
• Incendios, robos y amor: qué hacen los agentes de IA cuando los humanos no los vigilan