En las entrañas de DeepSeek: censura y datos expuestos al Partido Comunista de China

China puso patas arriba la bolsa de Estados Unidos esta semana cuando anunció el estreno de DeepSeek, su inteligencia artificial de modelos de lenguaje extenso en código abierto. ¿Pero hasta qué punto este producto chino es un rival para los desarrollos norteamericanos ?

Pronto saltaron varias alarmas entre los expertos en ciberseguridad y periodistas acerca de los peligros que entraña DeepSeek, no para la industria americana, pero para los propios usuarios. Si bien se denomina de código abierto -lo que ofrece mayor colaboración abierta y adaptación del software-, está expuesto a las mismas amenazas que el resto de desarrollos tecnológicos chinos. 

Censura del Partido Comunista de China

DeepSeek ha revolucionado el mercado, pero queda por ver si los usuarios y las industrias estarán dispuestos a usar e integrar en sus procesos una herramienta sujeta por completo al control del Gobierno chino. 

Tal y como se ha podido comprobar, la herramienta generativa de texto de DeepSeek es objeto de una dura censura que sigue el corte oficialista del partido comunista chino. Como reportaron cientos de usuarios de redes sociales y VOZ pudo comprobar, la herramienta rechaza dar información acerca de episodios polémicos para Pekín, tal y fueron las protestas de la plaza de Tiananmén en 1989. 

En algunas ocasiones, como cuando se le pide a DeepSeek dar su respuesta reemplazando letras por caracteres numéricos, sí que comienza a generar un texto, que rápidamente es suplantado por un mensaje de error y disculpas.

Es algo que no ocurre cuando se le pide información acerca de cualquier otro conflicto o episodio violento y político fuera de China. 

DeepSeek no parece contar con un departamento de prensa y VOZ no ha recibido ninguna respuesta o comentario que justifique o explique estos borrados en la historia reciente e incómoda para China. 

Datos privados y servidores en China

El principal peligro para los usuarios reside en la misma condición que afecta a la red social TikTok y que llevó a los litigios entre su dirección y el Gobierno de los Estados Unidos.  Los servidores que albergan toda la información que corre por DeepSeek están físicamente ubicados en China y operados por empresas chinas.

Cualquier empresa con servidores en China, como DeepSeek, está legalmente obligada a proporcionar acceso a los datos almacenados si las autoridades chinas lo requieren. No hay posibilidad de rechazar estas solicitudes, lo que plantea un alto riesgo de control gubernamental y censura.

Esta obligación está amparada por las leyes chinas de 2017 sobre Inteligencia Nacional y Seguridad Cibernética, además de la ley de Seguridad de Datos de 2021.

La información a la cual gana acceso el Estado chino a través de los servidores de DeepSeek recopila datos de mucha variedad. Direcciones IP que identifican y ubicar geográficamente a los usuarios. Patrones de pulsación de teclas que pueden revelar hábitos de escritura y posibles intenciones del usuario. Información sobre el hardware y software utilizados para acceder al servicio, como el sistema operativo y el modelo del dispositivo. Detalles financieros proporcionados durante transacciones. Preferencias lingüísticas del usuario. Historial de chat: registros de las interacciones del usuario con el chatbot. Cookies y otras tecnologías de seguimiento usadas para recopilar información adicional sobre la actividad del usuario en la plataforma.

Realizando una breve comparación con OpenAI, es evidente que al menos en el aspecto público, la matriz de ChatGPT es mucho menos invasiva en cuanto a informaciones personales y tiene más garantías para el tratamiento de los datos de usuarios. 

OpenAI no dispone de servidores en China y asegura que tal solo cede información de usuarios si esta es solicitada por orden judicial. Tampoco asegura recopilar muchos de los datos de los que DeepSeek sí guarda registro.

Con todas estas especificaciones, queda ver qué pasará con DeepSeek en los mercados occidentales, ya que existen precedentes como el de TikTok. En Europa su futuro también podría estar en juego debido a que Euroconsumers, una organización no gubernamental, asegura que la IA viola potencialmente las leyes de protección de datos de la Unión Europea. 

De momento, la autoridad italiana de protección de datos pidió a DeepSeek respuestas formales sobre cómo gestiona los datos de los italianos cuando utilizan su aplicación de chatbot de inteligencia artificial.