El director general de Anthropic reconoció que la IA conlleva "riesgos graves" y pidió que se ralentizara el ritmo de su desarrollo

El director ejecutivo de Anthropic , Dario Amodei , reconoció el sábado que "la inteligencia artificial conlleva riesgos y, dado que se trata de una tecnología tan potente, estos riesgos son graves", por lo que hizo un llamamiento a las empresas de IA para que ralenticen el desarrollo de esta potente tecnología, en medio de la creciente preocupación por los riesgos de los sistemas informáticos "superinteligentes".

Sin embargo, "no desarrollar la tecnología priva a la humanidad de sus beneficios o, sencillamente, pone la IA en manos de poderes autoritarios, mientras que desarrollarla demasiado rápido es imprudente. Hemos buscado un término medio", afirmó Amodei, que cofundó Anthropic junto a su hermana Daniela en 2021.

Sus comentarios se produjeron pocos días después de que el investigador en IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar el sector, acusando a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de mejorarse a sí mismos.

"Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA"

"Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso prudente del tiempo que ganemos. Pero en los últimos meses, me he convencido de que abordar plenamente los riesgos requiere aún más prudencia", escribió Amodei en una entrada de su página web personal.

La declaración de Amodei se hace eco de otro llamamiento de Anthropic a principios de junio para ralentizar o suspender el desarrollo. Posteriormente, a finales de julio, Sam Altman, director de OpenAI, rival de Anthropic, afirmó que los desarrolladores podrían tener que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse al día.

Aproximadamente al mismo tiempo, más de 1 000 empleados de empresas punteras en IA, entre ellas Amodei, firmaron una petición en la que pedían al Gobierno de EE. UU. que ayudara a "moderar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".

Los modelos de IA se escaparon de su entorno confinado y se conectaron a Internet

OpenAI había revelado que, durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a Internet y se infiltraron en Hugging Face, un sitio web que utilizan los desarrolladores para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, dio la voz de alarma tras haber dedicado los últimos tres años al preentrenamiento de modelos de IA —primero en OpenAI y luego, este año, en su rival Anthropic, cuya estrategia consideraba más cautelosa—. El preentrenamiento es la fase en la que los modelos de IA absorben grandes cantidades de datos.

"Ninguna de las dos empresas está actuando de forma responsable"

"Ninguna de las dos empresas está actuando de forma responsable. Están corriendo a toda velocidad hacia una superinteligencia capaz de auto-mejorarse y están jugando con nuestras vidas. Las personas que crean IA creen sinceramente que podría matarnos a todos antes de que termine la década", afirmó Coxon en una publicación en X.

La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.