Radio CNN

La Unión Europea prohíbe la creación de imágenes sexualizadas generadas con inteligencia artificial

Por
La Unión Europea prohíbe la creación de imágenes sexualizadas generadas con inteligencia artificial

(EFE) – Este jueves, las instituciones de la Unión Europea llegaron a un acuerdo para prohibir la creación de imágenes sexualizadas generadas con inteligencia artificial, sin el consentimiento de las personas afectadas.

El pacto, cerrado de madrugada, prohíbe los sistemas de IA cuyo único propósito es el de generar este tipo de imágenes o de abuso sexual infantil, además de los que se pueden emplear para múltiples propósitos, si no tienen “medidas de seguridad razonables” para evitar la propagación de este contenido.

El veto, que entrará en vigor el 2 de diciembre de 2026, se ha pactado tras el escándalo que ha causado la generación de fotografías con Grok, la herramienta de inteligencia artificial de la red social X, que ahora tendrá hasta finales de año para diseñar medidas de protección adecuadas.

“Nuestras empresas y ciudadanos quieren dos cosas de las reglas de inteligencia artificial. Quieren poder innovar y sentirse seguros. El acuerdo de hoy hace ambas cosas”, dijo en redes sociales la vicepresidenta de la Comisión Europea encargada de la política digital, Henna Virkkunen.

En una iniciativa que ha promovido España junto a otros países como Francia y Alemania, la UE añade así una limitación adicional a la generación de este tipo de contenido, perseguido ya por el derecho penal en los Estados miembros.

“España sigue liderando el despliegue de un modelo europeo propio de IA, que ha de caracterizarse por ser el más confiable de todos, en línea con las iniciativas aprobadas por el Gobierno de España en los últimos meses”, señaló también el ministro para la Transformación Digital y la Función Pública de España, Óscar López.

Además, las instituciones comunitarias retrasaron hasta diciembre de 2026 la obligación de incorporar marcas de agua a todo tipo de contenido generado con inteligencia artificial, ya sean fotos, videos o audio, para que los usuarios puedan detectar con facilidad que se han generado con una máquina.

El acuerdo pospone también hasta el 2 de diciembre de 2027 las obligaciones que la ley de inteligencia artificial de la UE impone a los sistemas de alto riesgo, como los que se usan para proteger a infraestructuras críticas, los que emplean los bancos para calcular la probabilidad de devolución de un préstamo, para contratar a personal o, por ejemplo, gestionar el control de las fronteras.

Inicialmente, la ley estableció este año para la entrada en vigor de estas obligaciones, pero las instituciones comunitarias pactaron un retraso de 16 meses porque Bruselas aún no ha diseñado los requisitos técnicos que deberán cumplir los sistemas de IA para ser seguros, sin poner en riesgo a las personas o vulnerar derechos fundamentales.

El acuerdo también permite el procesamiento de datos personales cuando sea “estrictamente necesario para detectar y corregir sesgos” que puedan adquirir los sistemas de inteligencia artificial durante su fase de entrenamiento, con el riesgo de amplificarlos posteriormente.

La reforma de la ley de inteligencia artificial se ha pactado, principalmente, con el pretexto de reducir la carga burocrática a las empresas y con este objetivo, se ha eximido a varios sectores industriales de tener que cumplir los requisitos de transparencia o de notificación de incidentes que la norma prevé para los sistemas de alto riesgo.

Productos como dispositivos médicos, juguetes o ascensores estarán exentos de tener que demostrar que sus sistemas de IA son seguros si otras normas sectoriales ya les imponen requisitos similares.

“Para que Europa se convierta en un continente de IA, necesitamos promover la innovación, apoyar a las empresas emergentes y a las empresas en expansión”, dijo la eurodiputada Arba Kokalari, ponente en la Eurocámara de la reforma de la normativa.

La organización CCIA Europe, que representa los intereses de las grandes tecnológicas, mostró su rechazo a la reforma.

“Dadas las mínimas mejoras introducidas en la Ley de IA, resulta difícil ignorar la enorme brecha que existe entre la retórica política sobre la simplificación regulatoria y los resultados concretos”, dijo esa plataforma en un comunicado.

Lo más leído

Lee también