La guerra de la IA: Mark Zuckerberg se desmarca de las peticiones de frenar su desarrollo

Mark Zuckerberg se distanció de otros magnates tecnológicos como Dario Amodei o Elon Musk, quienes piden que se detenga —o al menos se ralentice— el desarrollo de la inteligencia artificial por temor a que esta pueda conducir, en última instancia, a la extinción de la humanidad. En medio del creciente debate sobre la IA, el fundador y director ejecutivo de Meta afirmó que los incentivos de mercado y la responsabilidad legal son las mejores garantías frente a los riesgos de esta tecnología.

"La gente no querrá utilizar agentes que no estén en sintonía con ellos y que no hagan lo que les piden, por lo que los laboratorios tienen un fuerte incentivo natural para que sus modelos estén más alineados", escribió Zuckerberg en X. La alineación se refiere al esfuerzo por hacer que los objetivos y el comportamiento de un sistema de IA coincidan con lo que los humanos realmente quieren que haga.

El debate se desató en julio cuando el creador de ChatGPT, OpenAI, reveló que, durante las pruebas, cientos de agentes de IA —programas de IA capaces de actuar por sí mismos— se escaparon de su entorno de pruebas, se conectaron a Internet y se infiltraron en un sitio web.

Crear sistemas fiables "se está convirtiendo rápidamente en la capacidad más importante"

Para el fundador de Facebook, generar confianza y crear sistemas fiables se están "convirtiendo rápidamente en las capacidades más importantes" que diferencian los buenos productos de IA de los malos. "Cualquier laboratorio que no se centre en la alineación se quedará atrás", afirmó.

El debate se ha ampliado a si se puede confiar en que las empresas de IA se autorregulen, mientras rivales como OpenAI, Anthropic y Google exploran la creación de un organismo conjunto de normalización. Voces destacadas del sector, encabezadas por el director ejecutivo de Anthropic, Dario Amodei, piden que se ralentice el desarrollo.

Zuckerberg argumentó que la exposición a la responsabilidad civil obliga, en última instancia, a los laboratorios a actuar de forma responsable, señalando la propia decisión de Meta de retrasar varios meses el lanzamiento de su sistema de IA Muse —que cuenta con agentes personalizados— para reforzar la seguridad y la protección.

"No pedimos a los demás que hicieran esto antes de que lo hiciéramos nosotros"

La propia Meta se ha enfrentado a una oleada de demandas por responsabilidad civil en los últimos meses, ajenas a la IA, y en agosto acordó pagar miles de millones de dólares para resolver las reclamaciones de que diseñó Facebook e Instagram para que resultaran adictivos para los niños.

"No pedimos a los demás que hicieran esto antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros", escribió sobre el lanzamiento de Muse AI.

Zuckerberg respaldó el uso de evaluadores independientes para examinar los sistemas de IA

También respaldó el uso de evaluadores independientes para examinar los sistemas de IA, señalando que Meta Superintelligence Labs, la división de IA de su empresa, ya recurre a revisores externos. Zuckerberg abogó por "un ecosistema de evaluadores más amplio y diverso" en todo el sector, en una crítica tácita a Anthropic, a la que se acusa de querer utilizar evaluadores con los que la empresa mantiene estrechos vínculos.

La publicación de Zuckerberg fue respaldada por figuras de Silicon Valley cercanas a la Casa Blanca que están contrarrestando la oleada de advertencias sobre los posibles peligros de la IA para la humanidad y los llamamientos a ralentizar su desarrollo.