La presidencia del Consejo de la UE y los negociadores del Parlamento Europeo han alcanzado un acuerdo provisional para modificar la ley europea de Inteligencia Artificial (IA). Con dicho acuerdo, se incorporan nuevas prohibiciones sobre contenidos sexuales generados sin consentimiento y aplaza determinadas obligaciones previstas en la normativa comunitaria.
El pacto veda expresamente los sistemas de IA diseñados exclusivamente para producir imágenes sexuales o íntimas sin el permiso de las personas involucradas como el material de abuso sexual infantil generado mediante esta tecnología. Además, las empresas que desarrollan modelos de IA de uso general quedarán obligadas a implementar medidas de seguridad para evitar la difusión de este tipo de contenidos.
Prórroga a las empresas tecnológicas para incorporar controles
En materia de transparencia, las instituciones europeas han acordado posponer hasta el 2 de diciembre de este año la obligación de que imágenes, vídeos y audios creados con IA incorporen mecanismos que permitan a los usuarios identificarlos como contenido artificial.
El pacto introduce también ajustes para evitar requisitos duplicados en productos industriales ya sujetos a otras normativas europeas específicas, como dispositivos médicos, juguetes, ascensores o embarcaciones.
Las empresas tecnológicas tendrán hasta el 2 de diciembre para que incorporen mecanismos de identificación para usuarios cuando el contenido sea generado por IA.
Se mantiene, no obstante, la obligación de registrar en la base de datos europea los sistemas que sus proveedores consideren exentos de la clasificación de alto riesgo, y se recupera el criterio de «estricta necesidad» para el uso de datos personales sensibles.
Finalmente, el acuerdo aclara las competencias de la Oficina Europea de IA para supervisar modelos de propósito general. No obstante, preserva las atribuciones de las autoridades nacionales en ámbitos como el control fronterizo, la justicia, las fuerzas de seguridad y las entidades financieras.