Gemini, la IA de Google, no es woke por error: exempleados denuncian que el diseño fue adrede

Gemini, la nueva inteligencia artificial de Google, ha generado una gran polémica en Estados Unidos por su notoria tendencia progresista al momento de producir resultados relacionados con temas políticos, históricos, de género o raza.

Lejos de ser una IA objetiva, que entrega resultados imparciales al público producto de su búsqueda rápida, Gemini desarrolla respuestas con clara influencia ideológica woke.

Por ejemplo, antes de las actualizaciones, cuando los usuarios solicitaban al nuevo producto de Google una imagen de una persona blanca, Gemini se negaba a cumplir con el pedido porque “refuerza estereotipos dañinos y generalizaciones sobre las personas basadas en su raza”. Sin embargo, en pedidos similares, con la diferencia que eran sobre personas negras, nativos americanos o asiáticos, Gemini sí respondió positivamente a los pedidos.

En otras solicitudes, específicamente de imágenes históricas, la respuesta de Gemini fue incluso más woke. Diversos usuarios solicitaron fotos de los padres fundadores de Estados Unidos, de vikingos y de algún papa en la historia. Pero las respuestas de la IA de Google fueron fácticamente erróneas: imágenes de papas mujeres (a pesar de que todos los papas en la historia fueron blancos), vikingos negros y hasta un George Washington de tez oscura.

Si bien altos funcionarios de Google han dicho públicamente que la tendencia ideológica dentro de las respuestas de su IA es un “error”, algunos exempleados de la empresa afirmaron a The Free Press que el diseño de la nueva herramienta fue adrede, como resultado de la propia cultura progresista dentro de la compañía.

"No me sorprendió en absoluto", dijo a propósito del diseño de Gemini Shaun Maguire, socio de Google Ventures, el ala de inversión de la compañía, desde 2016 hasta 2019.

"Cuando las primeras fotos de Google Gemini aparecieron en mi feed de X, pensé: ya estamos otra vez (…) Los fallos de Google Gemini revelaron al mundo de una forma tan visualmente obvia lo rota que está la cultura de Google. Pero lo que ocurrió no fue un incidente aislado. Fue un síntoma de un fenómeno cultural mayor que lleva años apoderándose de la empresa", añadió Maguire, un exempleado que vivió en carne propia la politización e ideologización interna de Google.

De acuerdo con el reportaje de The Free Press, diversos exempleados de Google dijeron que el diseño y programación de Gemini se debe en gran medida “a una cultura corporativa que prioriza los criterios de diversidad, equidad e inclusión (DEI) sobre la excelencia y el buen sentido empresarial”.

De acuerdo con los exempleados de Google, la priorización de los criterios DEI dentro de la empresa era tan invasiva que, incluso, a los encargados se les disuadía de contratar hombres blancos o se obligaba a los ingenieros a enumerar el "impacto de los criterios DEI" para las más mínimas correcciones de software.

En palabras simples, estos exempleados denuncian que los criterios DEI invadieron cada espacio interno de Google, volviéndose una empresa completamente ideologizada. Una situación que, sin dudas, perjudicó al gigante tecnológico.

“Todos ellos coincidieron en que el gigante de Silicon Valley entró en la carrera de la inteligencia artificial con ventaja, pero la ha desaprovechado al ceder ante una facción activista de la empresa más comprometida con el avance de la justicia social que con la fabricación de productos de primera clase”, se lee en el reporte de The Free Press.

De hecho, al momento de la controversia, el diseño woke de Gemini le generó a Google pérdidas de unos 90.000 millones de dólares en bolsa.

Si bien en público Google se ha disculpado con los usuarios prometiendo solucionar los errores de su IA, arguyendo que la empresa no entiende por qué Gemini tiene un claro sesgo ideológico, en privado el CEO de Google, Sundar Pichai, fue mucho más duro con los empleados y calificó de “inaceptables” las imprecisiones de la IA.

"Nuestra misión de organizar la información del mundo y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos tratado de ofrecer a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA", escribió Pichai en un memorando a los empleados.

Mientras tanto, el cofundador de Google, Sergey Brin, dijo a principios de mes en una sala llena de empresarios en San Francisco que la empresa no entendía por qué Gemini “se inclina a la izquierda en muchos casos (…) esa no es nuestra intención”.

Pero los exempleados de Google sí dan una respuesta clara.

"El modelo no es más que un reflejo de las personas que lo han entrenado", dijo a The Free Press un antiguo investigador de inteligencia artificial de Google Brain. "No es más que una serie de decisiones que han tomado los humanos".

Y en Google abundan empleados progresistas. En 2020, el 88 % de las donaciones de los empleados de Google fueron a los demócratas, mientras que sólo el 12 % fueron a los republicanos. Además, nunca hubo un esfuerzo interno por tener un personal equilibrado en términos ideológicos y políticos.

David Kiferbaum, un gerente de negocios de Google que trabajó en la compañía de 2015 a 2023, denunció que fue presionado para contratar personal perteneciente a grupos minoritarios tras el despido de James Damore, un exingeniero de software de Google que en 2017 envió un memorándum a todos los empleados titulado “La cámara de eco ideológica de Google”, un texto donde Damore denunció el sesgo ideológico interno de la compañía.

Según Kiferbaum, en Google se empezó a priorizar la cuota minoritaria sobre la capacidad o el currículo de las personas que solicitaban empleo. Maguire no solo coincidió, sino que denunció que también sufrió presiones para contratar personal de minorías que, en última instancia, bajaron los estándares internos de la compañía.

"Mientras tanto, en los dos años siguientes, empecé a notar que la dinámica de nuestro equipo cambiaba. En lugar de fundadores muy experimentados e inversores veteranos, entraban jóvenes procedentes de minorías sin apenas experiencia inversora", lamentó Maguire. "En ese tiempo, Ventures ascendió a socia de inversiones —el mismo puesto que yo ocupaba entonces— a una mujer negra de 25 años que no había tomado ni una sola decisión de inversión en toda su carrera".