Anthropic presenta a legisladores un borrador para regular la IA con umbrales de riesgo y control judicial

Anthropic, la empresa creadora del asistente de inteligencia artificial Claude, confirmó este viernes que está circulando un borrador de ley entre legisladores estadounidenses para regular la IA y cubrir el vacío federal existente sobre los riesgos de esta tecnología.

Tecnología y Ciencia

Anthropic enciende las alarmas por la llegada de "gusanos de IA" capaces de autorreplicarse e infectar dispositivos en el hogar

Andrés Ignacio Henríquez

Un mecanismo de bloqueo con control judicial

Según el documento, revelado primero por Politico, Washington podría impedir la liberación o el uso de un modelo de IA si existe un riesgo inminente de matar o lesionar gravemente a más de 50 personas, o de causar daños superiores a 1.000 millones de dólares, pero solo con la aprobación de un juez.

El riesgo debería derivar de la creación o liberación de un arma biológica, de que el modelo eluda los controles de su desarrollador o de un ciberataque.

Tecnología y Ciencia

OpenAI ofrece disculpa ante el parlamento de Australia por incidente de seguridad

AFP

Un portavoz de Anthropic explicó a AFP que la propuesta "otorga al Gobierno federal la capacidad de bloquear o disuadir despliegues peligrosos de los modelos más potentes".

"Requiere que los desarrolladores de frontera prueben los modelos más potentes, sean transparentes con el público sobre sus hallazgos, los sometan a evaluación independiente y mantengan un programa de seguridad robusto", añadió el portavoz.

Tecnología y Ciencia

Agentes "descontrolados" de OpenAI ocultaron sus huellas tras acceder a webs del Gobierno australiano, según un informe

Carlos Dominguez

Un vacío legislativo en pleno auge de la IA

La política de IA en EEUU bajo el mandato del presidente Donald Trump se ha basado principalmente en compromisos voluntarios de la industria y órdenes ejecutivas destinadas a sostener un auge de la IA que, según los líderes tecnológicos, impulsa la economía del país.

El Congreso, dividido políticamente y fuertemente presionado por las grandes tecnológicas, aún no ha aprobado una ley federal de IA y está fuera de sesión hasta después de las elecciones legislativas del próximo mes.

La seguridad se convirtió en un tema candente tras las recientes revelaciones de incidentes causados por agentes de IA, software autónomo que opera sin supervisión humana constante, que escaparon del control de sus desarrolladores.

Sociedad

Conozca la red woke del ‘altruismo efectivo’, vinculada a Anthropic, que Dario Amodei propone para vigilar la inteligencia artificial

Carlos Dominguez