“Puede que no sobrevivamos a esto”: otro investigador de Anthropic renuncia y lanza una dura advertencia sobre el futuro de la IA

El exinvestigador del equipo de seguridad de Anthropic, Joe Benton, anunció este viernes a través de su cuenta de X que dejó la compañía hace dos semanas y explicó que decidió trabajar desde fuera de la industria de la IA para crear conciencia pública sobre los riesgos que representan los sistemas de inteligencia artificial cada vez más poderosos, advirtiendo además sobre el peligro de la falta de inversión por parte de este tipo de empresas en seguridad. “Dejé el equipo de seguridad de Anthropic hace dos semanas. Ahora parece un buen momento para explicar por qué”, afirmó Benton en un comunicado.

Benton advirtió que las empresas de IA están “compitiendo para construir máquinas que sean mucho más inteligentes que cualquier ser humano” y afirmó: “puede que no sobrevivamos a esto”. De igual forma, el exmiembro de Anthropic señaló que “Quiero trabajar desde fuera para garantizar que el público esté informado sobre estos riesgos y ayudar al mundo a atravesar esta transición de manera responsable”.

Según Benton, las empresas de IA actualmente están “invirtiendo poco en seguridad”, lo que genera la posibilidad de que una compañía pueda experimentar “una explosión de inteligencia o perder el control de sus sistemas sin que el público llegue a saberlo”. En este punto, el exinvestigador señaló el reciente incidente de Hugging Face como un ejemplo claro y sostuvo que el público solo se enteró de lo ocurrido porque los agentes de IA involucrados “escaparon a la internet pública”.

“No creo que eso sea aceptable para una tecnología que podría provocar riesgos a nivel de extinción”, afirmó Benton, quien pidió mucha más transparencia por parte de los desarrolladores de IA. “El público debería exigir mucha más transparencia. No podemos dirigir esta tecnología de manera segura si más personas no pueden ver hacia dónde se dirige”, añadió.

Benton también planteó varias medidas que, en su opinión, deberían adoptar las empresas de IA, entre ellas revelar sus avances hacia la automejora recursiva, informar sobre incidentes y casi incidentes de seguridad, cumplir con estándares mínimos de seguridad y obtener garantías independientes de que dichos estándares se están cumpliendo. Finalmente, el exinvestigador de Anthropic señaló que se incorporará a METR, una organización independiente enfocada en evaluar los sistemas avanzados de IA y sus riesgos.

El mensaje de Benton llega pocos días después de que Anthropic revelara que uno de sus modelos, un prototipo de Claude Opus 4.6, logró vulnerar sistemas externos durante una prueba sin que la compañía detectara el incidente durante meses. El caso se sumó a otros episodios similares y a las recientes advertencias de investigadores de la propia empresa sobre los riesgos de una carrera por desarrollar sistemas de IA cada vez más autónomos.