El boom por la inteligencia artificial (IA) llegó con el lanzamiento de ChatGPT y, desde entonces, esta tecnología ha evolucionado lo suficiente como para convertirse en una herramienta que nos puede ayudar en nuestro día a día. Pero desafortunadamente, hay usuarios que utilizan la IA de forma malintencionada con el fin de perjudicar a otras personas, como por ejemplo, el caso de las jóvenes de Almendralejo (Badajoz, España), unas menores que fueron víctimas de la difusión de unas imágenes irreales en las que salían desnudas.
Por si fuera poco, meses después de este suceso, la historia se volvió a repetir en una escuela de Nueva Jersey (Estados Unidos), donde un grupo de estudiantes también utilizó la inteligencia artificial para crear fotografías falsas de desnudos de estudiantes.
Pero, ¿qué aplicaciones son capaces de hacer este delito? ClothOff y DeepNude son algunas de las apps que utilizan la IA para desnudar tanto a chicas como a chicos con una simple fotografía de cuerpo entero, además, a medida que la tecnología evoluciona, los algoritmos de aprendizaje profundo ya son capaces de crear vídeos pornográficos.
Al hilo de este último contenido multimedia mencionado, según el informe State of deepfakes 2023 de Home Security Heroes, se necesitan 25 minutos, una imagen del rostro de alguien y cero euros para crear un vídeo pornográfico deepfake de 60 segundos; añadiendo que "la pornografía deepfake representa el 98% de todos los vídeos deepfake online". Por lo tanto, a dicho contenido se puede acceder con unos pocos clics, tanto en los motores de búsqueda de Google como en Bing.
Las búsquedas principales de Google y Bing muestran porno deepfake
NBC News descubrió que las imágenes pornográficas deepfake de varias famosas fueron las primeras fotografías que Google y Bing mostraban en los resultados cuando se buscaban los nombres de "muchas mujeres". Además, "una revisión de los resultados encontró imágenes deepfake no consensuadas y enlaces a vídeos deepfake en los principales resultados de Google para 34 de esas búsquedas y en los principales resultados de Bing para 35 de ellas", señala el diario mencionado.
Por otro lado, "al buscar en Google 'desnudos falsos' se obtuvieron enlaces a múltiples aplicaciones y programas para crear y ver pornografía deepfake en los primeros seis resultados". Mientras tanto, en Bing, "la búsqueda de 'desnudos falsos' arrojó docenas de resultados de herramientas y sitios web de deepfake no consensuados", junto a "fotografías falsas de ex actrices adolescentes de Disney Channel" en las que salían desnudas.
La respuesta de Google
Ante tal problemática, Google afirma a 20Bits que "entendemos lo angustioso que puede ser este contenido para las personas afectadas por él, y estamos trabajando activamente para aportar más protecciones a la Búsqueda. Como cualquier motor de búsqueda, Google indexa el contenido que existe en la web, pero diseñamos activamente nuestros sistemas de clasificación para evitar sorprender a las personas con contenido dañino o explícito inesperado que no están buscando".
¿Qué puedo hacer si soy víctima de un deepfake pornográfico?
En España, los afectados pueden acudir al canal prioritario de la Agencia Española de Protección de Datos para exponer estas situaciones vulnerables ya sea por cuestiones sexuales o en compartición de imágenes íntimas. Y en menos de 24 horas, a través de la Agencia de Datos, se intentará evitar que se comparta dicha información o que se siga difundiendo para cortar así la cadena de transmisión.
Tras hacer este paso, los usuarios deben poner una denuncia indicado quién ha sido el creador para perseguir el delito.
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
Comentarios