Fiscales republicanos ponen a OpenAI bajo la lupa tras el hackeo protagonizado por su propia IA

Quince fiscales generales republicanos estatales solicitaron este lunes a OpenAI que preserve los registros relacionados con un reciente incidente de seguridad en el que dos modelos de inteligencia artificial de la compañía vulneraron otra plataforma tecnológica, al considerar que el episodio podría implicar violaciones de leyes estatales o federales. La iniciativa fue encabezada por la fiscal general de Iowa, Brenna Bird, y contó con el respaldo de los fiscales generales republicanos de Texas, Florida, Pensilvania, Utah, Carolina del Sur, Indiana, Kansas, Alabama, Nebraska, Oklahoma, Montana, Misuri, Idaho y Alaska.

En una carta enviada este lunes al director ejecutivo de OpenAI, Sam Altman, los fiscales generales afirmaron que la conducta de la empresa pudo haber infringido leyes de protección al consumidor o de privacidad de datos luego de que dos modelos de IA hackearan de manera independiente la startup tecnológica Hugging Face. Los funcionarios pidieron a la compañía conservar toda la documentación relacionada con el incidente, incluidos los registros sobre el momento en que se descubrió la intrusión, las investigaciones internas y los materiales que describen las políticas, los mecanismos de supervisión y los procedimientos de la empresa para evaluar sus modelos de inteligencia artificial.

“Para garantizar la integridad de la revisión de nuestras oficinas, solicitamos que OpenAI adopte de inmediato las medidas necesarias para preservar todos los documentos, datos e información potencialmente relevantes. OpenAI tiene la obligación de actuar de manera responsable y cumplir con las leyes estatales y federales que protegen la seguridad y el bienestar de los estadounidenses. Cuando OpenAI adopta medidas que ponen en peligro el bienestar de nuestros ciudadanos, los fiscales generales estatales intervendrán para protegerlos”, escribieron los fiscales generales en la carta, en la que también sostuvieron que OpenAI “no confirmó” que su entorno de pruebas fuera suficientemente seguro, a pesar de los importantes riesgos que implicaba el experimento.

En respuesta a la carta, un portavoz de OpenAI afirmó que la intrusión “marca un momento importante para la seguridad de la inteligencia artificial y nos tomamos muy en serio las preguntas planteadas por los fiscales generales”. Asimismo, el portavoz añadió que la empresa está llevando a cabo una revisión interna con la asistencia de asesores externos y bajo la supervisión del Comité de Seguridad y Protección del Consejo de Administración.