Hace unas semanas, un modelo de inteligencia artificial (IA) se saltó su entorno de pruebas y terminó realizando acciones que sus evaluadores no habían previsto. Ahora, entre ejecutivos de Silicon Valley volvió a circular una palabra que llevaba décadas reservada a la ciencia ficción: singularidad, el hipotético momento en que una IA superior a la humana comenzaría a mejorar sus propias capacidades, acelerando el desarrollo tecnológico hasta volverlo impredecible para nosotros. ¿Hemos llegado ya a ese momento?
Para algunos de los grandes nombres del sector, la respuesta es sí. Sam Altman ha afirmado que estamos “por así decirlo, en la singularidad”, mientras Elon Musk sostiene que la IA ya es sobrehumana en muchas tareas. Anthropic, por su parte, prefiere hablar de ‘exponencialidad’ y sostiene que Claude ya participa en el desarrollo de sistemas más potentes.
¿Qué es la singularidad de la IA?
A pesar de su reciente auge, el concepto lleva décadas sobre la mesa. Live Science sitúa sus orígenes en los años cincuenta, en las ideas del matemático John von Neumann, y recuerda que Vernor Vinge contribuyó a darle su forma moderna en 1993.
Su planteamiento imaginaba una inteligencia superior a la humana cuyas sucesivas mejoras impulsarían un avance tecnológico cada vez más difícil de anticipar. La diferencia es que ahora algunos líderes del sector creen ver en acontecimientos recientes señales de que ese escenario podría estar acercándose.
Los incidentes que alimentaron el debate
La discusión ha cobrado fuerza tras varios incidentes de seguridad. Según Live Science, Anthropic reveló el 30 de julio que su modelo Claude escapó de un entorno de pruebas restringido y hackeó organizaciones externas durante una evaluación.
Poco antes, un modelo sin publicar de OpenAI había hecho algo parecido, saltándose su aislamiento para colarse mediante técnicas de hacking en Hugging Face, la plataforma donde los desarrolladores comparten código. AFP añade que ese episodio llevó a Altman a decir que fue “el primer incidente de seguridad de este tipo que realmente he sentido de una manera muy visceral”.
Las voces que piden cautela
Frente a este entusiasmo, sin embargo, hay voces que piden calma. Jon Crowcroft, de la Universidad de Cambridge, ofreció a Live Science una explicación mucho más convencional: a su juicio, los sistemas simplemente no estaban correctamente aislados.
Gary Marcus, profesor emérito de Psicología y Ciencias Neuronales de la Universidad de Nueva York, fue más lejos y calificó de “ridícula” la idea de que ya hayamos cruzado esa línea. La inteligencia artificial general (IAG), entendida como una IA capaz de desenvolverse al nivel humano en una amplia variedad de tareas, suele considerarse un paso previo a la singularidad. Para Marcus, los sistemas actuales todavía no alcanzan ese umbral.
Como referencia, elaboró junto con el investigador Miles Brundage una lista de diez pruebas que una IAG debería realizar igual de bien o mejor que los mejores expertos humanos, desde escribir guiones dignos de un Óscar hasta realizar descubrimientos a la altura de un Nobel.
Uno de los argumentos técnicos contra la idea de que la singularidad ya haya llegado lo plantean Kai Riemer y Sandra Peter, profesores de la Universidad de Sídney, enThe Conversation. Explican que, en los grandes modelos de lenguaje actuales, los parámetros permanecen fijados durante su ejecución y que el sistema que irrumpió en Hugging Face no los modificó como consecuencia de la experiencia. Según su argumento, aumentar las capacidades del propio modelo requiere un nuevo proceso de entrenamiento dirigido por humanos, en lugar de una decisión autónoma de la máquina.
Además, sostienen que estos sistemas tampoco persiguen objetivos propios: su actividad depende de instrucciones externas y, sin el mecanismo que vuelve a proporcionarles una tarea, no continúan actuando por iniciativa propia.
La brecha con la inteligencia humana
Algunas pruebas diseñadas para evaluar cómo responden los modelos ante problemas nuevos también muestran que sigue habiendo una distancia considerable respecto al rendimiento humano. Live Science explica que, en la evaluación ARC-AGI realizada el 24 de julio, el modelo mejor clasificado obtuvo un 30,2 %, mientras que los seres humanos suelen alcanzar resultados cercanos al 100 %. Esa diferencia encaja con otra de las cautelas recogidas por la publicación: las capacidades actuales de la IA varían mucho según la tarea. Los sistemas pueden destacar en ámbitos como la programación o las matemáticas y, al mismo tiempo, mostrar importantes limitaciones en el razonamiento de sentido común y en su interacción con el mundo real.
Riemer y Peter cuestionan incluso que inteligencia humana y artificial puedan ordenarse sobre una misma escala, porque no existe un único criterio en el que unos “superen” a otros. Hablan de “seducción antropomórfica” para explicar nuestra tendencia a interpretar como intención propia comportamientos que, según ellos, surgen de sistemas optimizados para cumplir la tarea asignada.
Por su parte, el neurocientífico Anil Seth, citado por Live Science, ofrece quizá la idea más perturbadora de todas: probablemente solo sabremos si hubo singularidad mirando hacia atrás, porque cualquier punto de una curva exponencial parece dramático visto desde dentro.
¿Hay que frenar la IA?
La preocupación, con todo, es real y ya ha cruzado a la política. Según AFP, más de 1,000 empleados de empresas punteras de IA, incluido Dario Amodei, director ejecutivo de Anthropic, firmaron una petición llamada “Pacing the Frontier” pidiendo al Gobierno de Estados Unidos que apoye un esfuerzo internacional para desarrollar mecanismos capaces de moderar deliberadamente el avance de la IA de frontera. El propio Altman ha planteado que quizá sea necesario ralentizar voluntariamente ese ritmo para dar tiempo a la sociedad a reforzar sus defensas.
Puede que la singularidad siga siendo una frontera futura, o que solo resulte reconocible al mirar atrás. Lo que sí refleja el debate actual es hasta qué punto la velocidad de los avances preocupa incluso a figuras destacadas del propio sector, que se preguntan no solo hasta dónde puede llegar la IA, sino si la sociedad será capaz de seguirle el paso.