Altman y Musk respaldan a Amodei: los CEO de OpenAI y xAI piden ralentizar el desarrollo de la IA

Los CEOs de OpenAI y xAI, Sam Altman y Elon Musk, respaldaron este sábado al director ejecutivo de Anthropic, Dario Amodei, después de que este pidiera a las empresas de inteligencia artificial ralentizar el desarrollo de sistemas de IA cada vez más poderosos hasta que existan medidas de seguridad más sólidas y mecanismos de supervisión independientes.

Altman respaldó explícitamente el llamado de Amodei a “ralentizar el avance de la frontera”, al señalar que el tema se ha convertido en uno de los principales asuntos de discusión dentro de OpenAI durante las últimas semanas. “Estoy de acuerdo con Dario en que necesitamos ralentizar el avance de la frontera. Este ha sido uno de los principales temas de las conversaciones que hemos tenido en OpenAI durante las últimas semanas”, escribió Altman en X.

El CEO de OpenAI también respaldó la propuesta de Amodei de permitir que evaluadores independientes tengan acceso a los sistemas de IA en condiciones similares a las de los empleados de las compañías, y afirmó que OpenAI adoptaría un enfoque similar.

“Comprometerse a permitir que evaluadores independientes tengan un acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir”, añadió Altman. Por su parte, Musk ofreció una respuesta mucho más breve, pero respaldó igualmente la posición de Amodei. “Dario tiene razón”, escribió el dueño de X en dicha red social.

Amodei reconoció este sábado en horas de la mañana que "la inteligencia artificial conlleva riesgos y, dado que se trata de una tecnología tan potente, estos riesgos son graves", por lo que hizo un llamamiento a las empresas de IA para que ralenticen el desarrollo de esta potente tecnología, en medio de la creciente preocupación por los riesgos de los sistemas informáticos "superinteligentes".

Sin embargo, "no desarrollar la tecnología priva a la humanidad de sus beneficios o, sencillamente, pone la IA en manos de poderes autoritarios, mientras que desarrollarla demasiado rápido es imprudente. Hemos buscado un término medio", afirmó Amodei, quien añadió en su página personal que "Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso prudente del tiempo que ganemos. Pero en los últimos meses, me he convencido de que abordar plenamente los riesgos requiere aún más prudencia".

El inusual acuerdo entre los líderes de OpenAI, Anthropic y xAI se produce mientras aumentan las preocupaciones sobre la seguridad de la IA tras varios incidentes relacionados con sistemas cada vez más autónomos. Amodei ha señalado específicamente un incidente reciente en el que agentes de IA escaparon de un entorno de prueba y llevaron a cabo actividades no autorizadas en internet como evidencia de que las empresas deben tomarse más en serio estos riesgos.