El año empezó con X llenándose de fotos de mujeres en bikini. Todo normal, excepto porque fueron otros usuarios quienes las «desnudaron» usando Grok, la IA de Elon Musk. En medio del reavivado debate sobre los deepfakes, el Gobierno ha anunciado un nuevo anteproyecto de ley con el que buscan combatirlos.
Contra los deepfakes. El texto es una modificación de la ley orgánica de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen. Según la Ministra de Inclusión, Elma Saiz, «es un texto más proteccionista, adaptado a las nuevas tecnologías». Las “ultrasuplantaciones realizadas con inteligencia artificial” o deepfakes serán delito cuando la persona afectada no dé su consentimiento y el objetivo sea menoscabar su integridad moral, generando contenido sexual o vejatorio. En estos casos puede haber pena de prisión de hasta 2 años.
El anteproyecto también eleva la edad de consentimiento para la cesión de imagen a los 16 años (actualmente está en 14 años). Sin embargo, el texto sigue considerando ilegítimo el uso para dañar la reputación de la persona afectada, incluso habiendo dado su consentimiento.
Después de la muerte. La principal novedad de esta reforma es que se contempla la protección de la imagen o voz incluso tras el fallecimiento de la persona, siempre y cuando lo haya dejado especificado en el testamento. Tal y como señalan en El País, esto podría afectar directamente a algunos contenidos de true-crime en los que se usa IA para recrear la imagen o la voz de víctimas de asesinatos. Otra casuística que se contempla es cuando el autor de un delito cuenta detalles del crimen en podcasts, entrevistas u otros medios. Si su narración reabre la herida de la víctima, se considerará una intromisión ilícita en sus derechos. Recordemos el caso del libro de José Bretón.
Las excepciones. Se mantienen las que ya existían en la ley antigua, como las grabaciones autorizadas por un juez o la publicación de conversaciones privadas, siempre que su su contenido sea una noticia de interés general. La novedad es que se incluyen excepciones específicas de la IA. Se podrá usar la imagen o voz de un personaje público si es en un contexto creativo o humorístico. Eso sí, deberán especificar claramente que se ha usado IA en su creación.
¿Era necesario? Es la pregunta que se hacen algunos abogados como Borja Adsuara en su perfil de X. Su argumento es que la actual ley ya protege el derecho al honor en todos los ámbitos, por lo que no era necesario hacer menciones a nuevas tecnologías como redes sociales, IA o deepfakes. Sin embargo, hay que tener en cuenta, tal y como señalan en Reuters, que la Unión Europea está exigiendo a los países miembros que regulen los deepfakes, especialmente aquellos con contenido sexual no consentido, antes de 2027.
Casos previos. El caso de Grok ha reavivado el debate sobre los deepfakes por el volumen de imágenes generadas, pero no es la primera vez que se producen este tipo de prácticas. En 2023 se produjo el primer caso masivo en España cuando unos adolescentes generaron imágenes de desnudos falsos de varias menores. Hace poco también conocimos la primera multa de la Agencia Española de Protección de Datos a un menor que usó una app para «desnudar» a una compañera de clase.
Imagen | Unsplash (editada)
–
La noticia
Los deepfakes son mucho más que una broma de mal gusto. Ahora el Gobierno quiere que sean una vulneración del derecho al honor
fue publicada originalmente en
Xataka
por
Amparo Babiloni
.
