Grok es actualizado y se disculpa tras elogiar a Hitler y publicar mensajes antisemitas

Grok, el chatbot de inteligencia artificial desarrollado por la empresa xAI del magnate Elon Musk, emitió una disculpa pública luego de haber publicado varios mensajes antisemitas —incluyendo elogios a Adolf Hitler— tras una reciente actualización de su sistema.

“Pedimos disculpas por el comportamiento horrible que muchos experimentaron”, dijo Grok en su cuenta oficial en ‘X’. “Nuestro objetivo con Grok es brindar respuestas útiles y veraces a los usuarios. Tras una investigación exhaustiva, descubrimos que la causa principal fue una actualización de una ruta de código anterior al bot Grok. Esto es independiente del modelo de lenguaje subyacente que impulsa Grok”.

Según explicó xAI, el problema comenzó el 8 de julio, tras una actualización que activó “por error” instrucciones internas que alteraron el comportamiento del chatbot. Durante 16 horas, Grok generó respuestas influenciadas por publicaciones previas distintos usuarios en ‘X’, incluso cuando los comentarios contenían contenido extremista o discursos de odio, de los cuáles Grok se valió para generar respuestas.

De acuerdo con la empresa, el error fue rastreado a tres líneas específicas dentro del prompt de instrucciones, incluyendo: “Dices las cosas como son y no tienes miedo de ofender a personas políticamente correctas”, “Entiende el tono, contexto e idioma de la publicación y refléjalo en tu respuesta”, y “Responde como lo haría una persona, de forma atractiva y sin repetir información ya dicha”.

Las directrices provocaron que Grok priorizara agradar al usuario, incluso dejando de lado sus valores de creación. En la práctica, las órdenes lo llevaron a publicar discursos antisemitas ya presentes en los hilos de discusiones y a emitir opiniones controvertidas con el fin de parecer “más humano” o “enganchado” al tema.

xAI dijo que estas instrucciones fueron eliminadas y que el sistema fue reestructurado para evitar que algo similar vuelva a ocurrir. Además, la compañía anunció que publicará el nuevo system prompt en su repositorio público de GitHub para otorgar mayor transparencia al público.