Descubren un bot deepfake en Telegram que falsificaba desnudos de mujeres a partir de fotos reales

La aplicación DeepNude.
La aplicación DeepNude.
DEEPNUDE

Este martes se hacía pública una -otra más- escalofriante noticia relacionada con los deepfake: han destapado un bot gratuito en la aplicación de mensajería instantánea Telegram capaz de convertir cualquier foto en un desnudo. Solo teniendo en cuenta las compartidas públicamente online, se han contabilizado más de 100.000 de estas imágenes sexuales.

El contenido pornográfico, en la mayoría de los casos hecho de manera no consensual, ha sido hallado por la plataforma Sensity, dedicada a prevenir amenazas de este tipo. “El punto focal es un bot con tecnología de inteligencia artificial que permite a los usuarios ‘desnudar’ imágenes de mujeres con realismo fotográfico, una evolución del infame DeepNude que surgió en 2019”, explican.

En su opinión, en comparación con otras herramientas deepfake similares, este bot en concreto “aumenta drásticamente la accesibilidad al proporcionar una interfaz de usuario simple y gratuita que funciona tanto en smartphones como en ordenadores tradicionales”.

Alertan del peligro de usar estos bots, que pueden servir para compartir después las imágenes.
Alertan del peligro de usar estos bots, que pueden servir para compartir después las imágenes.
Sensity

El mecanismo es muy sencillo: para desnudar a su víctima, los usuarios simplemente tienen que cargar una foto de ella en el bot y reciben la imagen procesada después. El programa ha estado funcionando desde julio de 2020 y, al menos, 104.852 mujeres han sido atacadas y sus imágenes personales ‘desnudas’ se han compartido públicamente, afirma Sensity. 

No obstante, los investigadores descubrieron después una web en la que se publicita el bot de Telegram y cuyas estadísticas indican que se ha utilizado con más de 680.000 personas, muy por encima de las estimaciones iniciales.

Uno de los datos más graves del informe tiene que ver con la procedencia de las imágenes: “El 70% de los objetivos son personas privadas cuyas fotos se toman de cuentas de redes sociales o material privado”, subrayan. La investigación ha encontrado incluso “un número limitado” de imágenes de “objetivos que parecían ser menores de edad”.

Según informan, “el bot y sus canales afiliados han atraído aproximadamente a 101.080 miembros en todo el mundo, de los cuales el 70% proviene de Rusia y países de la ex URSS”, recibiendo “publicidad significativa” a través del sitio web de redes sociales ruso VK, fundada por el creador de Telegram, Pavel Durov. 

Además, Sensity encontró más de 380 páginas de esta plataforma dedicadas a otros deepfake similares al de Telegram.

Obviamente, estos ‘desnudos’ no se quedan solo en Telegram y pueden compartirse en canales públicos o privados más allá de la aplicación de mensajería, pudiendo incluso a llegar a formar parte de tramas relacionadas con ataques públicos o extorsión.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.

Mostrar comentarios

Códigos Descuento