Durante mucho tiempo, buena parte de la conversación sobre la IA se ha movido entre promesas de productividad, creatividad y automatización. Pero hay usos que exhiben una realidad mucho más áspera: la posibilidad de generar contenido sexual no consentido. No es un detalle menor, porque afecta directamente a la intimidad y a la dignidad de las víctimas. La Unión Europea ha decidido responder a ese punto concreto con una prohibición que ya tiene acuerdo político.
La novedad. Estamos ante una prohibición que llega integrada en una negociación más amplia sobre el AI Act. La Eurocámara explica que sus negociadores y los del Consejo han cerrado un acuerdo provisional para ajustar varias obligaciones de la norma, con el argumento de hacerla más fácil de cumplir sin alterar su enfoque basado en el riesgo. Dentro de ese paquete aparece la pieza que cambia el tablero para estas apps: los colegisladores han pactado prohibir los sistemas capaces de crear este tipo de contenido. El trámite final, eso sí, aún requiere adopción formal.
El papel de España. El Gobierno español reivindica un papel directo en la medida. La Moncloa sostiene que la prohibición acordada en Bruselas procede de una propuesta que España puso sobre la mesa en enero, tras la polémica generada por los desnudos de mujeres y menores creados con Grok, el asistente virtual de X. Según esa versión oficial, la iniciativa logró a mediados de marzo el apoyo de la Unión para ser incluida en la reforma de la Ley Europea de Inteligencia Artificial. Pedro Sánchez también ha celebrado el acuerdo con un mensaje político directo: “Se acabó hacer negocio vulnerando la dignidad de nuestros hijos e hijas”.
La línea roja. El texto identifica dos categorías especialmente sensibles. Por un lado, los sistemas usados para crear material de abuso sexual infantil. Por otro, los que permiten representar las partes íntimas de una persona identificable o mostrarla en actividades sexualmente explícitas sin consentimiento. La prohibición, cabe señalar, cubre imágenes, vídeo y audio. Además, el acuerdo no se limita a los sistemas diseñados para generar ese material: también alcanza a quienes los pongan en el mercado europeo sin medidas razonables para impedirlo y a los responsables del despliegue que los utilicen con esa finalidad.
La fecha clave. La prohibición ya tiene un calendario sobre la mesa, y eso cambia bastante la lectura del asunto. La nota oficial fija el 2 de diciembre de 2026 como fecha límite para que las compañías adapten sus sistemas a la nueva regla. Antes de llegar ahí queda un paso formal importante: el acuerdo provisional debe ser adoptado por el Parlamento Europeo y el Consejo para entrar en la legislación europea. Aun así, el camino está marcado, porque apuntan a cerrar este trámite antes del 2 de agosto de 2026.
Las multas. En el comunicado oficial no hemos encontrado referencia a las sanciones. Sin embargo, la firma jurídica irlandesa Matheson señalaba en abril que tanto el Consejo como el Parlamento defendían incorporar esta práctica al artículo 5 del AI Act, el apartado reservado a las prácticas prohibidas. Ese encaje es relevante porque, en el AI Act, el artículo 99 prevé para el incumplimiento de esas prohibiciones multas administrativas de hasta 35 millones de euros o hasta el 7% del volumen de negocio mundial anual de la empresa, si esa cantidad resulta superior. Para las pymes se contempla un criterio más limitado.
Imágenes | Xataka con Nano Banana
En Xataka | Cómo solicitar eliminar fotos en las que te han desnudado sexualizado con inteligencia artificial
–
La noticia
La UE ha pactado prohibir las apps de IA para crear desnudos: una propuesta de España tras la polémica de Grok
fue publicada originalmente en
Xataka
por
Javier Marquez
.
