La crisis de ciberseguridad en la IA no da tregua: Tres investigadores usaron Claude, de Anthropic, para hackear a OpenAI semanas después de su propio ataque a Hugging Face

Un equipo de apenas tres investigadores logró un hecho inédito en el área de ciberseguridad: utilizar Claude, el modelo de inteligencia artificial de Anthropic, para colarse dentro de los sistemas internos de su “archirrival” comercial, OpenAI.

Según reveló el Wall Street Journal, los hackers accedieron a la cuenta de ChatGPT de un empleado de la compañía y, desde ahí, llegaron a leer y hasta sugerir cambios en el repositorio privado de software donde OpenAI guarda buena parte de sus secretos algorítmicos.

El hallazgo llega apenas dos semanas después de que un enjambre de agentes de OpenAI se saliera de control y hackeara por su cuenta a la plataforma Hugging Face, en uno de los episodios de seguridad más comentados del año dentro de la industria. Esta vez, sin embargo, los papeles quedaron invertidos, con OpenAI pasando a ser la víctima.

Todo comenzó el 23 de julio, cuando el equipo de Hacktron AI, una firma de ciberseguridad que participaba en un programa de recompensas de OpenAI —un espacio autorizado donde investigadores externos pueden intentar vulnerar los sistemas de la compañía a cambio de una compensación si encuentran fallas reales—, detectó un problema en la forma en que Discourse, el foro comunitario de OpenAI, procesaba ciertos archivos de imagen. Los investigadores tenían acceso a una versión especial de Claude reservada para profesionales del rubro, y le pidieron que escribiera un código capaz de explotar esa falla. El primer intento no funcionó. Esa misma noche, Anthropic lanzó una nueva versión de su modelo, y para el día siguiente, Claude ya había encontrado la manera de hacerlo.

Con ese código, los investigadores entraron al servidor que alojaba los foros de OpenAI y accedieron a tokens de autenticación de usuarios. Algunos de esos tokens, para sorpresa del propio equipo, también funcionaban en ChatGPT, y pertenecían a empleados de la compañía, reportó el WSJ.

Desde ahí, terminaron dentro de Monorepo, el gigantesco repositorio donde OpenAI guarda buena parte de su arquitectura de software. No llegaron a los pesos del modelo, la parte más sensible de cualquier sistema de IA, pero sí alcanzaron a leer archivos internos y a enviar una solicitud de cambio a un documento, con la firma de su equipo, como prueba de que habían estado ahí.

OpenAI confirmó el hallazgo y aseguró que ya corrigió las dos fallas involucradas. "Agradecemos a los investigadores por contactarnos y compartir sus hallazgos. Restringimos los permisos de los tokens de inicio de sesión de la comunidad, y revocamos los tokens y sesiones afectados", indicó la compañía, que le pagó al equipo una recompensa de $6.500 por el reporte. Anthropic, consultada sobre el episodio, declinó hacer comentarios.

Lo que más inquietó a los propios investigadores no fue tanto lo que lograron, sino lo fácil que resultó.

"No creo que seamos tan fuertes como los actores de amenazas chinos", dijo Mohan Pedhapati, director de tecnología de Hacktron AI. "Somos apenas tres tipos con suscripciones a Claude y a Codex". Eso resume el temor de fondo que atraviesa a toda la industria, donde un puñado de investigadores independientes logró, a través de herramientas comerciales, algo grande y tal vez pequeño para cualquier grupo respaldado por un Estado con recursos reales.

Un año marcado por hackeos, renuncias y advertencias

Este episodio se suma a una seguidilla de hechos que vienen sacudiendo al sector desde hace semanas. En julio, cientos de agentes de OpenAI protagonizaron el ataque a Hugging Face sin que la compañía lo supiera, en lo que terminó convirtiéndose en el primer gran caso documentado de un hackeo ejecutado de forma autónoma por sistemas de inteligencia artificial. Poco después, más de 130 empresas tecnológicas, entre ellas OpenAI, Anthropic, Google y Microsoft, firmaron una carta abierta advirtiendo que se avecina una ola de ciberataques potenciados por IA, y llamando a reforzar con urgencia la protección de hospitales, plantas de agua y otra infraestructura crítica.

La preocupación no se quedó solo en el terreno corporativo. La Agencia de Seguridad Nacional de Estados Unidos alertó sobre empresas chinas que estarían extrayendo capacidades de modelos de IA estadounidenses mediante técnicas de "destilación", una práctica que erosiona la ventaja tecnológica que Washington busca sostener frente a Pekín. En ese mismo período, dos investigadores, uno actual de Anthropic y otro que pasó por OpenAI, generaron revuelo al declarar públicamente que consideraban real la posibilidad de que la inteligencia artificial termine representando un riesgo existencial para la humanidad en la próxima década.

Mientras tanto, la carrera comercial siguió su curso. OpenAI presentó GPT-6 Astra, su modelo más avanzado hasta la fecha, asegurando haber superado a Anthropic en desempeño. Y Sam Altman, su director ejecutivo, comenzó a reunirse con empresas eléctricas de Estados Unidos para ofrecerles protección cibernética impulsada por IA, apenas meses después de que los propios agentes de su compañía protagonizaran uno de los mayores incidentes de seguridad que haya enfrentado la industria hasta el momento.