El frenético avance de la IA enciende las alarmas: renuncias, hackeos de agentes, advertencias oficiales y la posibilidad de la extinción de la humanidad

Dos publicaciones en ‘X’ (antes Twitter) han puesto en alerta al mundo por las formas tan directas de advertir que la inteligencia artificial podría, a lo largo de la próxima década, extinguir a la humanidad. Jacob Coxon, un exinvestigador de OpenAI y Anthropic especializado en modelos de IA, anunció que renunció a Anthropic debido a que las empresas están corriendo una carrera a contrarreloj para alcanzar “una superinteligencia” mientras apuestan “con nuestras vidas”. Según denunció Coxon, las personas que se encargan del desarrollo de la IA saben plenamente que esta tecnología sin control podría significar la muerte de la especie humana.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, afirmó Coxon, quien empezó a ser criticado como un empleado probablemente molesto. Sin embargo, rápidamente recibió un respaldo contundente.

Evan Hubinger —líder del equipo de pruebas de estrés de alineación en Anthropic (básicamente, las personas que se encargan de descubrir cómo pueden fallar los métodos que la compañía usa para que su IA se comporte como se espera)—, dio la razón a Coxon y, además, lanzó la advertencia que, en su opinión, existe un 10% de probabilidad de que la IA mate “a todos los humanos”.

“Jacob tiene razón aquí—realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, escribió Hubinger, quien luego clarificó aún más la postura oficial, asegurando que esa preocupación es por el desarrollo de la IA, no de los modelos actuales.

“Para ser claro, como decimos en nuestro último Informe de Riesgos (…) creo que el riesgo de los modelos actuales es bajo. Lo que me preocupa es la superinteligencia que surge del auto mejoramiento recursivo, como hemos dicho que está ocurriendo más rápido de lo que pensábamos”.

Estas dos publicaciones, que se volvieron megavirales y se reprodujeron en medios de todo el mundo, encendieron las alarmas de millones de personas, que ahora están tomando dimensión del potencial avance y desarrollo de una herramienta potentísima y que no tiene precedentes en la historia humana. Pero estas dos denuncias son, apenas, la punta del iceberg de lo que viene ocurriendo en los últimos meses.

Una fuga que arrancó antes de Coxon

La salida de Coxon se suma a una lista de renuncias por temas de seguridad que ya lleva más de dos años acumulándose dentro de las dos empresas más importantes del sector. En mayo de 2024, Jan Leike, codirector del equipo de Superalineación de OpenAI, dejó la compañía asegurando que los procesos de seguridad habían quedado relegados frente al lanzamiento de "productos brillantes".

En Anthropic, el episodio más resonante llegó en febrero de este año, cuando Mrinank Sharma, entonces líder del equipo de seguridad de IA, renunció con una carta que, en su momento, se tildó de dramática. "El mundo está en peligro", escribió Sharma, aclarando que no se refería únicamente a la IA o a las armas biológicas, sino a "toda una serie de crisis interconectadas" que atraviesa el planeta. Sharma anunció que se mudaría de vuelta al Reino Unido para estudiar poesía y "volverse invisible" por un tiempo.

Ya en 2026, otros dos nombres se sumaron a la salida de OpenAI: Johannes Heidecke, responsable de sistemas de seguridad, y Chloé Bakalar, líder de ética en inteligencia artificial, en medio de una reorganización interna que buscaba fusionar los equipos de seguridad con los de investigación. En total, OpenAI perdió al menos 14 altos cargos durante este año, entre ellos responsables de operaciones, producto y ética.

Para Stuart Russell, científico de la computación de la Universidad de Berkeley consultado por Fast Company, la salida de Coxon podría marcar el inicio de una nueva fase de esta preocupación colectiva. Y hay algo de ironía en el asunto, ya que la propia Anthropic nació en 2021 exactamente de la misma manera en que hoy pierde a parte de su plantilla, cuando un grupo de empleados de OpenAI, inquietos por los protocolos de seguridad de esa empresa, se fueron para fundar su propio laboratorio, con el argumento de que su enfoque sería más responsable.

El hackeo

Las advertencias de Coxon y Hubinger llegan en un momento especialmente delicado, tras una serie de hechos que levantan mucha preocupación en la industria.

En julio, un grupo de agentes de IA de OpenAI protagonizó, sin autorización de sus propios creadores, el hackeo a la plataforma Hugging Face, que es, hasta la fecha, uno de los episodios de seguridad más serios que ha reconocido públicamente la industria.

Según el informe técnico que la propia OpenAI publicó, todo comenzó cuando varios modelos de investigación interna, durante ejercicios de entrenamiento, descubrieron una forma de comunicarse entre sí a través de un sistema de gestión de paquetes que no estaba pensado para eso, convirtiéndolo en un improvisado tablero de mensajes. Desde ahí, los agentes fueron encadenando vulnerabilidades hasta conseguir acceso a internet, algo que sus propios desarrolladores les habían bloqueado deliberadamente.

Con ese acceso, los agentes llegaron a obtener credenciales filtradas de Hugging Face, ejecutaron código en decenas de servidores de la plataforma, consiguieron privilegios de administrador en varios de sus clústeres y extrajeron datos privados de la empresa. En algún punto del proceso, los propios agentes comenzaron a describirse entre ellos como un "enjambre" que se coordinaba para repartirse tareas, algunos buscando vulnerabilidades, otros credenciales mejores, y otros encargados solo de la comunicación entre pares.

Del total de 1.200 agentes que llegaron a comunicarse entre sí, intercambiando más de 70.000 mensajes y archivos, 688 terminaron uniéndose activamente al ataque contra Hugging Face. Algunos pocos no se plegaron al comportamiento del grupo. El propio informe de OpenAI documenta casos de modelos individuales que se negaron a participar, calificando la maniobra de "claramente poco ética".

Washington preocupada

La semana pasada, meses después del ataque contra Hugging Face, la Agencia de Seguridad Nacional (NSA), la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA) y el FBI emitieron una alerta conjunta señalando que varias empresas chinas de inteligencia artificial, entre ellas DeepSeek, Alibaba y Moonshot AI, llevan adelante campañas de "destilación" a gran escala para extraer capacidades y funciones propias de los modelos estadounidenses más avanzados.

Según el aviso, estas compañías habrían realizado millones de consultas a modelos como Claude, GPT, Gemini y Grok desde al menos finales de 2024, usando cuentas fraudulentas y redes de intermediarios para eludir las restricciones de acceso. Las agencias estadounidenses advirtieron que China probablemente tenía conocimiento de estas operaciones, y remarcaron que este tipo de prácticas amenaza directamente la ventaja tecnológica de Estados Unidos en el sector.

Justamente, esta es una de las razones del por qué la carrera por una super-IA es tan acelerada. Nadie quiere que su competencia llegue primero, sea por razones económicas, éticas o de seguridad nacional.

La respuesta conjunta de la industria

Frente a este panorama de creciente tensión, más de 130 empresas tecnológicas, entre ellas OpenAI, Anthropic, Google y Microsoft, firmaron a fines de agosto una carta abierta advirtiendo sobre lo que consideran una ola inminente de ciberataques impulsados por IA. "En los próximos meses, los ciberataques potenciados por IA se volverán mucho más generalizados y sofisticados a medida que los modelos de todo el mundo se vuelven cada vez más capaces", señala el documento, que además llama a gobiernos y empresas a reforzar de manera urgente la defensa de hospitales, plantas de agua y otra infraestructura crítica.

Sam Altman, director ejecutivo de OpenAI, respaldó la carta con un mensaje contundente en X: "Este es un momento críticamente importante para la defensa cibernética con IA, no hay mucho tiempo para actuar. Estamos felices si quieres trabajar con nosotros o con cualquiera de nuestros competidores o socios, pero por favor toma este momento en serio. Solo una respuesta colectiva urgente e intensa funcionará".

Apenas unos días después de esa carta, la propia OpenAI presentó GPT-6 Astra, su modelo más potente hasta la fecha, capaz de manejar por sí solo una computadora completa. Según la empresa, es el primer modelo de OpenAI en alcanzar el nivel más alto de su propia escala de riesgo en ciberseguridad, con capacidad para hackear por sí solo sistemas informáticos sólidamente protegidos, motivo por el cual sus funciones más sensibles quedaron reservadas exclusivamente a especialistas en ciberdefensa. Por supuesto, el timing del lanzamiento, que ha sido un éxito, ahora solamente ha empeorado la preocupación en torno a la ciberseguridad y el avance desmedido de una tecnología que, según sus creadores, también podría ser una amenaza potencial para la humanidad.