Anthropic: La IA avanza hacia la creación autónoma de nuevas versiones de sí misma

Los sistemas de IA son cada vez más capaces de desarrollar futuras versiones de sí mismos, lo que alimenta las crecientes preocupaciones sobre los riesgos asociados a esta tecnología, advirtió el jueves el gigante de la inteligencia artificial Anthropic.

El debate sobre los peligros de la inteligencia artificial se ha intensificado en meses recientes, impulsado por varios incidentes y advertencias alarmantes formuladas por profesionales del sector.

Anthropic indicó que su chatbot Claude participa ya en más de una cuarta parte de sus actividades de investigación y desarrollo y colabora con empleados humanos en más del 90% de las tareas.

La empresa explicó que publica esta información para ofrecer "una mayor visibilidad sobre el ritmo del desarrollo de la IA", en un momento en que el mundo "considera desacelerar" ese proceso.

El director general de Anthropic, Dario Amodei, pidió este mes ralentizar el desarrollo de la inteligencia artificial, mientras los rápidos avances de la tecnología alimentan inquietudes por la pérdida de empleos, el creciente consumo energético y el impacto ambiental de los centros de datos.

El temor a que los diseñadores de agentes de inteligencia artificial pierdan el control sobre sus creaciones también ha aumentado después de que varios modelos de Anthropic y de su rival OpenAI supuestamente escaparan por sí solos de entornos restringidos, accedieran a internet e interactuaran con sitios web y plataformas.

En agosto, Claude estaba al frente de 26% de las tareas de investigación y desarrollo de Anthropic, lo que significa que puede completar la mayor parte de un trabajo de principio a fin bajo supervisión humana.

No obstante, Anthropic indicó que Claude todavía no puede operar "de manera plenamente autónoma".