La Policía Nacional investiga a siete menores en Almendralejo, (Extremadura) por crear desnudos con un app de inteligencia artificial (IA) usando las caras de una veintena de chicas de entre 11 y 17 años de su municipio y alrededores. El caso, que está ya en manos de la Fiscalía de Menores, es el primero de una denuncia masiva en España de porno no consentido por IA que afecta a chicas menores de edad, pero esta práctica es cada día más habitual contra muchas mujeres.

Miriam Al Adib, madre de dos de las niñas afectadas por la difusión de sus 'desnudos' creados, de 14 y 17 años, y portavoz del grupo de 27 madres de Almendralejo confirma a 20minutos que todos los investigados, "los que están detrás de las fotos que han hecho daño a nuestras hijas", son menores de edad. Confiesa Al Adib que no saben todavía cuál será su estrategia jurídica, que no tienen ni abogado, pero solicita que se investiguen bien los hechos. Asegura que lo que buscan las madres que se han unido para dar publicidad a sus denuncias es "una ola de indignación", pero sobre todo "que los que lo han hecho y el resto de los jóvenes sepan que esto es un delito y aprendan. Que a nivel educativo saquemos en claro algo para mejorar".

España no tiene una ley específica que regule el porno no consentido creado a través de Inteligencia Artificial, también llamado 'deepfake'. Una situación que solo este verano han denunciado varias famosas, como Laura Escanes o Rosalía, y que consiste en crear desnudos de gran verosimilitud utilizando partes del cuerpo reales de las víctimas.

Una veintena de madres denuncia la difusión del falso desnudo de sus hijas realizado con inteligencia artificial

En la tramitación parlamentaria de la Ley del Sí es Sí, la diputada de Junts Pilar Calvo intentó introducir una enmienda que incluyese la pena de prisión de seis meses a dos años a quien utilizara porno no consentido generado con IA, pero su petición resultó rechazada por una mayoría PP-PSOE que no lo consideró oportuno. 

"Se perdió una muy buena oportunidad de castigar el 'deepfake' cuando la inteligencia artificial se utiliza para degradar y perjudicar la imagen de una persona, hasta el punto de convertirla en protagonista involuntaria de una escena pornográfica", lamenta Pilar Calvo que no se rindió y ante la negativa optó por registrar una proposición de ley, que la convocatoria de elecciones  "dejó en el dique seco". En conversación con 20minutos, la diputada está convencida de que habrá oportunidad de retomar el tema, dado que que la tecnología cada vez más se utiliza más para hostigar.

La UE tampoco ha legislado sobre estos deepfake sexuales creados y difundidos sin consentimiento, dejando hasta ahora la decisión a cada estado. En EE UU, sin embargo, territorios como Virginia, Nueva York, California o Minnesota disponen de leyes que multan con un año de cárcel y 2.500 dólares a quien "con intención de coaccionar, acosar o intimidar" difunda falsos desnudos de mujeres reales.

Que no exista una ley que persiga esta tecnología no significa que los menores extremeños que hicieron porno con fotos de chicas del pueblo y las difundieron, en algún caso con intención extorsionadora, salgan indemnes. Pero ¿qué delitos habrían cometido?

Hay juristas que defienden que, concretamente este caso, podría llegar a ser considerado un delito de "pseudo pornografía infantil".  

En la llamada pseudo pornografía infantil no se utiliza realmente al menor, sino que se abusa de su imagen manipulándola con artificios técnicos, dice la ley. Concretamente afecta a quien produce, vende, distribuye, exhibe o facilita por cualquier medio material pornográfico en el que no habiendo sido utilizados directamente menores, se emplee su imagen alterada o modificada.

"El delito, contemplado en el artículo 189 de código penal, establece condenas de hasta nueve años de prisión por pseudopornografía con el agravante de que algunas víctimas son menores de 16 años", expone Borja Adsuara, abogado experto en derecho digital. "Eso sí, como los autores también son menores, y no se va a la cárcel hasta los 18, como mucho irán a un centro de delincuentes juveniles".

Sin embargo, la Fiscalía General del Estado establece que "en todo caso, para poder considerar penalmente trascendente este tipo de material, será necesario, como en el caso de la pornografía virtual, que sea realista, que trate de aproximarse a la realidad, quedando excluidos del concepto de pornografía infantil los materiales que por su tosquedad revelen su condición de montaje".

Por otra parte, si se usaron esas imágenes para extorsionar a alguna de las menores, es el caso de al menos una víctima entre las denunciantes en Almendralejo, también se incurriría en el delito contemplado en el artículo 243 del Código Penal, agrega Adsuara.

"Ahora serán los abogados los que planteen todos los delitos que puedan derivarse de los hechos, según los derechos vulnerados (secretos revelados, art. 197, integridad moral, art. 173, el derecho a la imagen, al honor, de injurias o a la libertad si te extorsionan...) y el juez dictaminará finalmente qué aplica", explica Adsuara. "Incluso aunque el montaje sea burdo es injurioso, porque ofende. El derecho a la propia imagen existe. Y si la caricatura, dentro de los usos sociales, se admite, esto en ningún caso lo es porque resulta injurioso", insiste.

A modo resumen, Maitane Valdecantos, experta en derecho digital, explica que "al caso Almendralejo podrían serle de aplicación las acciones civiles derivadas del incumplimiento del derecho al honor, intimidad y propia imagen y, además, el delito de producción (como mínimo) de contenido pornográfico infantil, teniendo en cuenta las agravantes del artículo 189.2., entre las que se encuentra la circunstancia de que las menores son menores de 16 años, hecho que elevaría la pena de prisión de los cinco hasta los nueve años". 

La agencia de protección de datos ya impone multas de hasta 10.000 euros a padres por las ciberagresiones que cometen sus hijos

Además de la vía penal y la civil, las madres de Almendralejo podrían recurrir a la vía administrativa, bajo el amparo de la Ley de Protección de Datos. Fuentes de la Asociación Española de Protección de Datos (AEPD) explican a 20minutos "que los padres y madres e incluso las propias menores pueden denunciarlo en el Canal Prioritario indicando las 'urls' donde se están colgadas esas imágenes, de forma que la Agencia pueda exigir su retirada urgente". 

El asunto crucial para la agencia es que se ha utilizado la cara de las chicas, "que es un dato personal", explican. "La retirada urgente de las imágenes es independiente de la denuncia planteada ante la Policía". Si con posterioridad y a raíz de los hechos concretos se inicia un procedimiento sancionador, los autores podrían ser multados con hasta 10.000 euros, que en caso de que los menores deben abonar sus padres.

La ministra de Justicia en funciones, Pilar Llop, ha manifestado su deseo de que no quede impune la creación y difusión de contenidos generados con Inteligencia Artificial y ha pedido tener en cuenta por encima de todo "la protección penal de las víctimas".

Llop ha destacado que este tipo de conductas son "gravísimas" y "generan obstáculos muy importantes en las investigaciones" para identificar a las víctimas, sobre todo cuando se trata de imágenes manipuladas con IA. Ha solicitado a los encargados del caso que se tenga especialmente en cuenta la protección del "interés superior del menor".

Antecedentes con famosas

Los juristas explican que aún no ha llegado al Tribunal Supremo ningún caso por porno no consentido creado con Inteligencia Artificial, por lo que no hay jurisprudencia. Sin embargo, los montajes con el cuerpo de las mujeres se vienen haciendo desde hace años. "En los años noventa a Shakira se le hacían con photoshop y ella misma, asesorada, decidió no denunciarlos para no darles más difusión", recuerda Adsuara. 

Solo este verano, Laura Escanes y Rosalía han denunciado la publicación de desnudos trucados con IA. A Escanes, como a las chicas de Almendralejo, se le ha afeado que suba fotos sexis en sus redes sociales. Escanes dejó claro que lo relevante es que las imágenes creadas no tienen su consentimiento. Así lo corrobora la abogada Valdecantos: "El uso del 'deepfake' es un uso no autorizado del derecho a la propia imagen de estas personas y en el caso de usarlo en el contexto pornográfico, constituiría una intromisión ilegítima en el derecho al honor".

El experto en derecho digital Borja Adsuara, por su parte, pone otro ejemplo de condena por suplantación de imagen, es el caso de un soldado que fue condenado por el Tribunal Supremo en el año 2020 por compartir la foto de una mujer desnuda que se parecía mucho a una compañera en un grupo de whatapp del Ejército.