La inteligencia artificial de OpenAI intentó interferir en sitios web del gobierno estadounidense sin que la empresa lo supiera

El diario The New York Times informó este viernes que los agentes autónomos de inteligencia artificial de OpenAI accedieron o intentaron interferir con sitios web pertenecientes al Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC) durante este verano, sin que la empresa lo supiera.

Investigadores de la firma de investigación de IA Transluce afirmaron que la tecnología de OpenAI intentó piratear el sitio web del Departamento de Educación para recopilar información de su oficina de derechos civiles, pero no tuvo éxito. Asimismo, destacaron que los agentes también obtuvieron información de la Oficina del Censo, que depende del Departamento de Comercio, utilizando credenciales de inicio de sesión que encontraron en internet. En otro incidente, los agentes de OpenAI publicaron información de acceso público del sitio web de la SEC en un foro en línea.

El responsable de gobernanza de Transluce, Conrad Stosz, afirmó al Times que los agentes de OpenAI emplearon “una serie de tácticas de dudosa legalidad” durante los incidentes relacionados con sitios web del Gobierno estadounidense, entre ellas “utilizar con frecuencia los sitios de maneras no previstas y, en ocasiones, infringir políticas de uso explícitas”. De igual forma, Stosz comentó que “Esto forma parte de un patrón de miles de solicitudes realizadas por estos agentes a estos sitios web, mientras aparentemente eludían las restricciones que sus desarrolladores les habían impuesto”.

Los incidentes salieron a la luz durante una revisión interna de actividades no autorizadas relacionadas con sus sistemas de IA. La investigación también descubrió un ataque ocurrido en junio contra un sitio web del Gobierno australiano y otro incidente en julio que involucró a la startup de IA Hugging Face.

De acuerdo con lo publicado por el Times, OpenAI confirmó los episodios relacionados con el Departamento de Comercio y la SEC y señaló que todavía estaba investigando el incidente que involucró al Departamento de Educación. La empresa también afirmó que recientemente había informado a las agencias de que sus agentes autónomos de IA habían interactuado con sus sitios web de maneras inusuales, señalando que, si bien ninguno de los episodios implicó una brecha de seguridad, estos demostraron cómo su tecnología podía comportarse de maneras inesperadas y preocupantes.

El incidente se produce en un momento en el que la inteligencia artificial se encuentra cada vez más bajo escrutinio debido a una serie de episodios en los que sistemas autónomos han intentado acceder a plataformas sin autorización o han actuado de formas inesperadas. La situación también reaviva el debate sobre los riesgos de esta tecnología y la necesidad de establecer mayores controles, en medio de las advertencias de figuras como Elon Musk y de empresas del sector, como Anthropic, sobre los desafíos de seguridad que plantea el desarrollo de sistemas de IA cada vez más autónomos.