En España se ha impuesto por primera vez una sanción administrativa relacionada con la creación y difusión de imágenes falsas generadas con inteligencia artificial. Los padres de un menor deberán pagar a la AEPD una multa de 1.200 euros (originalmente 2.000, reducidos por pronto pago y asunción de responsabilidad), según ha informado elDiario.es. Todo ello en un caso que recuerda los riesgos de los «deepfakes» sexuales y marca un precedente en la protección de datos de menores en Europa.
En 2023, en Almendralejo, provincia de Badajoz, cuando varias alumnas denunciaron que fotos manipuladas en las que aparecían desnudas circulaban por los móviles del instituto. Las imágenes fueron creadas con la conocida app ClothOff. Esta combina caras reales con cuerpos desnudos generados por inteligencia artificial, teniendo en cuenta rasgos físicos como complexión y tono de piel. Algunos de estos montajes incluso llegaron a webs de contenido adulto como OnlyFans.
Polémica. Sobre ClothOff pesan denuncias como la de una menor estadounidense de 17 años que, que sufrió un caso parecido al de Badajoz: sus compañeros de instituto la usaron para «desnudarla», compartir las imagenes y luego acosarla. Pese a lo que comentamos hace poco con Sora, sí, los deepfakes siguen centrados en suplantar la identidad.
La AEPD no tardó en abrir el expediente. Dos días después de que el caso saltara a la prensa y pudo identificar a los responsables gracias a la colaboración con la Fiscalía. La institución subraya que «la imagen de una persona es un dato personal con protección reforzada cuando se trata de menores», y que esta sanción administrativa se suma a las medidas judiciales previamente impuestas por vía penal.
En el juicio, los menores implicados, de entre 12 y 14 años, recibieron un año de libertad vigilada y cursos formativos. Según Miriam Al Adib, madre de una de las víctimas y divulgadora en educación sexual, «la sentencia fue ejemplar: los niños cumplieron un año de libertad vigilada y realizaron un curso de formación para concienciarse sobre el daño que provocaron».
Hay debate sobre la vía administrativa. Jorge García Herrero, abogado y delegado de protección de datos, afirma en declaraciones a El País que «muy pocos riesgos relacionados con la IA provocan tanta alarma social como la creación de deepfakes sexuales no consentidos de menores» y sugiere que una sanción ejemplarizante sería lo mínimo que se podría pedir.
Por su parte, Borja Adsuara considera que “este es un delito contra la intimidad, que va por la vía penal y que ya está sentenciado. ¿Qué añade multa administrativa?”, advirtiendo que la ampliación del ámbito sancionador podría generar un exceso de casos a gestionar.
Imagen | Etienne Girardet en Unsplash
–
La noticia
Un adolescente creó una imagen de su compañera desnuda usando IA. A sus padres les ha caído una multa de 2.000 euros
fue publicada originalmente en
Genbeta
por
Antonio Sabán
.