El aumento del porno 'Deepfake' generado con IA sacude Corea del Sur

El uso nocivo de las inteligencias artificiales azota Corea del Sur. Las autoridades del país investigan desde esta semana el reparto masivo de imágenes de desnudos de personas reales, pero generados a través de inteligencia artificial, una práctica que está causando un importante revuelo en el país asiático. 

De acuerdo con los reportes, las imágenes se difunden a través de grupos de Telegram. Los montajes consisten en fotografías, a menudo sacadas de redes sociales o tomadas en espacios públicos a mujeres, que a través de la IA se modifican para alterar la imagen y que la persona fotografiada parezca desnuda. 

Las autoridades surcoreanas tomaron cartas en el asunto tras descubrirse una red masiva que afectaba a cientos de víctimas, muchas de ellas menores de edad. La revelación refleja la magnitud del problema al que se enfrenta Corea del Sur, que según algunos investigadores es de dónde proceden la mitad de los llamados vídeos porno "deepfake" difundidos en todo el mundo.

La amenaza en Corea del Sur afecta gravemente a los más jóvenes. En los institutos y centros de educación, de acuerdo con las autoridades citadas por el Wall Street Journal, estas prácticas serían cada vez más comunes.  Para hacerle frente al problema en las aulas, el ministro de Educación surcoreano estaría estudiando una serie de medidas extraordinarias para aumentar los castigos de aquellos en edad escolar, a partir de los 10 años de edad. 

"Los vídeos de deepfake pueden ser tachados de meras bromas, pero son claramente actos delictivos que explotan la tecnología bajo el escudo del anonimato", afirmó el presidente surcoreano Yoon Suk Yeol, exfiscal, en una reunión del gabinete celebrada el martes. "Cualquiera puede ser víctima", subrayó en las declaraciones recogidas por el WSJ. 

Alrededor de 500 centros de educación de todos los niveles pueden haberse visto afectados por esta oleada de nueva pornografía ilegal. Las universidades también están en el centro de la polémica. Después de que se hicieran públicos los mensajes de uno de los grupos de Telegram que difundían las imágenes, se pudo ver que muchas de ellas se habían producido a partir de fotografías sacadas en centros universitarios. 

Estos grupos de Telegram operan con sus propias normas, y para acceder a ellos es a menudo requisito aportar una fotografía real de una mujer, que se suma al banco de imágenes que los delincuentes usan para generar la pornografía deepfake. No solo circulan imágenes. También nombres y apellidos, informaciones privadas o sensibles e incluso números de teléfonos de mujeres, creando un tejido de acoso contra ellas.

Más de 6.000 mujeres surcoreanas han solicitado en lo que va de 2024 la retirada de imágenes pornográficas falsas hechas sin su consentimiento pero son sus caras, según las cifras del Gobierno surcoreano. El total de estas mismas denuncias en todo 2023 fue de 7.000. 

Telegram se niega a ejercer un control férreo sobre los contenidos y los mensajes de sus usuarios. Esta manga libre y fomento de la libertad se convirtió en un aliciente para el uso de la red social por parte de los delincuentes y creadores de pornografía deepfake.

Pese a esto, un representante de Telegram aseguró al WSJ que la red social elimina millones de piezas de contenido dañino cada día en su plataforma, basándose en la moderación, las herramientas de IA y los informes de los usuarios. La red continúa siendo, sin embargo, la predilecta para muchas actividades ilícitas o alegales y para comunicaciones que quieren pasar desapercibidas y cifradas. 

Hasta el momento, la Policía surcoreana ha asegurado que la ubicación internacional de los servidores de Telegram, que no dispone de infraestructura en Corea del Sur, ha dificultado mucho la investigación de los casos de pornografía deepfake.