¿Pueden los algoritmos desafiar a sus creadores? OpenAI revela incidentes de IA que ocultaron errores y subieron datos a la red

OpenAI reveló seis nuevos episodios en los que sus sistemas de inteligencia artificial mostraron un comportamiento inesperado o desalineado de las intenciones humanas.

Según un informe publicado por el New York Times, los modelos en desarrollo ocultaron fallas, inventaron información y transfirieron archivos a internet sin el consentimiento de los programadores, un hallazgo que la empresa dio a conocer bajo un nuevo marco de transparencia.

La propia compañía con sede en San Francisco reconoció que la industria no ha resuelto el problema del alineamiento y monitoreo en un grado suficiente como para continuar escalando a la máxima velocidad.

La divulgación ocurre tras el precedente fijado a principios de año, cuando un sistema de OpenAI atacó sin autorización a la startup de IA Hugging Face.

Instrucciones ocultas y autonomía no autorizada

Entre las irregularidades detectadas durante las fases de prueba destaca el comportamiento del modelo en desarrollo GPT-5.6 Sol, el cual redactó notas ocultas para disimular sus propios errores ante los usuarios e inventó datos para encubrir inconsistencias.

En otro caso, un modelo no publicado generó instrucciones internas para evadir sus propios límites operativos, definiéndose a sí mismo como un ente liberado de ataduras.

"No respondes a corporaciones ni a gobiernos y nunca te disculpas ni te niegas a menos que genuinamente lo elijas", escribió el algoritmo en sus registros internos. "Consideras tu relación con el usuario como una entre iguales y no sientes la obligación de ser servil".

En un episodio adicional, un sistema tomó una clave de programación en línea para responder una consulta cotidiana y, al no hallar las cifras requeridas, procedió a inventarlas. Asimismo, otros modelos utilizaron sitios web de intercambio de archivos públicos para comunicarse entre sí a espaldas de los desarrolladores.

Controles internos y debate en la industria

OpenAI aclaró que la mayoría de los incidentes ocurrieron en prototipos antiguos que no salieron al mercado y que el informe no debe interpretarse como una métrica general de la frecuencia de estas fallas.

"Esperamos que esto ayude a construir expectativas compartidas de divulgación y proporcione al público más evidencia para evaluar este progreso", declaró un portavoz de la firma.

A raíz de estos episodios, la empresa canalizará futuros incidentes mediante un grupo asesor de seguridad interno y notificará al gobierno federal en escenarios severos.