La Eurocámara y el Parlamento Europeo han alcanzado un acuerdo para vetar los modelos de inteligencia artificial (IA) que posibilitan la creación de ‘deepfakes’ sexuales, así como las aplicaciones diseñadas para desnudar a personas. Esta medida responde a una iniciativa promovida por España, centrada en los sistemas de IA considerados de alto riesgo y enmarcada en una Ley Ómnibus.
Esta modificación legislativa se produce tras una enmienda que buscaba simplificar la normativa del nuevo marco regulatorio para empresas e IA. Dicha enmienda fue introducida a raíz de las controversias surgidas el año pasado con Grok y la generación de imágenes sexualizadas de mujeres sin su consentimiento.
La propuesta inicial de España, que contó con el respaldo de varios países europeos, tenía como objetivo principal prohibir aquellos sistemas de IA con la capacidad de “generar, manipular o reproducir” contenido audiovisual de carácter sexual de forma realista. Además, se busca atajar el uso de estas herramientas para la creación de pornografía infantil.
Las reformas regulatorias en el ámbito de la IA no solo vetan los modelos diseñados explícitamente para generar ‘deepfakes’ sexuales, sino también aquellos sistemas que, aunque no tengan ese propósito inicial, sí permiten su creación. No obstante, se contempla una excepción para estos últimos, siempre que implementen “medidas de seguridad razonables para impedir dicha creación”.
Adiós a los ‘nudes’ creados con IA
Queda directamente prohibida la introducción en el mercado europeo de herramientas cuya única finalidad sea la generación de este tipo de contenido sexual, abarcando imágenes, vídeos y audio.
La entrada en vigor de esta prohibición está fijada para el 2 de diciembre de este año. Sin embargo, como contrapartida, se ha pospuesto la implementación de diversas disposiciones relativas a la IA de alto riesgo, con el fin de conceder más tiempo a los distintos sectores para adaptarse a la nueva normativa.
Asimismo, se eliminan algunas superposiciones regulatorias, como las normas específicas de ciertos sectores que ahora quedarán excluidas de la Ley de la IA. La aplicación de las obligaciones de marca de agua en el contenido generado por IA también se adelanta a la misma fecha (en lugar del 2 de febrero de 2027, como había propuesto la Comisión).
