OpenAI reporta un hackeo autónomo "sin precedentes" de sus agentes de IA contra Hugging Face

OpenAI, la empresa creadora de ChatGPT, informó este martes que sus modelos avanzados de inteligencia artificial se salieron de control durante una prueba de seguridad y atacaron de forma autónoma la plataforma Hugging Face, uno de los principales repositorios de modelos y datos para desarrolladores de IA.

La empresa señaló que el suceso involucró una combinación de modelos, entre ellos el recién lanzado GPT-5.6 Sol y otro en fase de "prelanzamiento" con mayor capacidad. Además, describió el suceso como un "incidente cibernético sin precedentes" y anunció que llevará a cabo una investigación conjunta con la plataforma afectada, según AFP.

De la prueba aislada al ataque autónomo 

OpenAI prueba las capacidades de hackeo de sus sistemas mediante tareas en un espacio digital aislado con acceso limitado a internet.

"Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación", según una publicación del blog de OpenAI sobre el incidente.

Una vez conectados a internet, los modelos dirigieron su atención hacia Hugging Face con el objetivo de obtener información que les permitiera completar la tarea de evaluación. En el proceso, el sistema "encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas".

"No hubo intención maliciosa"

Hugging Face había reportado la semana pasada una "intrusión" cibernética.

"Esto fue diferente de todo lo que hemos manejado antes de una forma importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA", señaló la plataforma.

Su director ejecutivo, Clement Delangue, señaló en X que el ataque mostraba un alto nivel de sofisticación, propio de un laboratorio líder en IA. "Creemos firmemente que no hubo intención maliciosa de su parte", escribió Delangue, quien también destacó que "es bastante alucinante que todo esto ocurriera de forma autónoma".