La Unión Europea está trabajando en un texto normativo que regule la utilización de la IA en la UE. En este sentido, la Presidencia del Consejo y los negociadores del Parlamento Europeo alcanzaron recientemente un primer acuerdo con carácter provisional relativo a las normas armonizadas en materia de inteligencia artificial (IA), conocido como Reglamento de Inteligencia Artificial.
¿Cuál es el objetivo de este reglamento sobre inteligencia artificial?
El texto tiene como objetivo garantizar que los sistemas de IA utilizados en la UE sean seguros y respeten los derechos fundamentales. Es indiscutible su carácter pionero.
Esta normativa busca limitar el riesgo que el uso de la IA puede implicar y, para ello persigue establecer un sistema de sanciones y la creación de un ente supervisor independiente, además de prohibir varios sistemas de vigilancia biométrica tales como los sistemas de categorización biométrica; el reconocimiento de emociones o el social scoring.
Otro de los aspectos interesantes que se contemplará es la obligación de que las entidades titulares de herramientas de IA consideradas de alto riesgo lleven a cabo una examen del modo en que puede impactar en los derechos fundamentales un sistema de IA antes de su implementación. Ello implica un debate seguro sobre los modos en que se puede producir ese impacto.
Hablamos por el momento de arduas negociaciones que dan lugar a un acuerdo provisional alcanzado por los Estados y el Parlamento Europeo, cuyo texto deberá ser ratificado antes de entrar en vigor, lo cual nos lleva a un escenario del año 2026.
¿Supone esta norma un cambio importante?
La aprobación de esta norma por parte de la Unión Europea tiene un carácter pionero e implica un cambio significativo en la visión frente a estas herramientas cuyo desarrollo y crecimiento es exponencial y la conciencia de la necesidad de regulación de esta tecnología a nivel mundial.
El reglamento incorpora por primera vez normas sobre modelos de IA de uso general de gran impacto que pueden causar un riesgo sistémico en el futuro, así como sobre los sistemas de IA de alto riesgo; un sistema revisado de gobernanza con algunas competencias de ejecución a escala de la UE; ampliación de la lista de prohibiciones, pero con la posibilidad de utilizar la identificación biométrica remota por parte de las autoridades policiales en espacios públicos, con sujeción a salvaguardias; una mejor protección de los derechos mediante la obligación de que los implementadores de sistemas de IA de alto riesgo lleven a cabo una evaluación del impacto en los derechos fundamentales antes de poner en marcha un sistema de IA.
¿Qué es la IA de uso general?
Los sistemas de IA pueden utilizarse con muchos y diferentes propósitos. Es entonces cuando hablamos de IA de uso general.
En Europa también se ha alcanzado un acuerdo sobre normas específicas que afectarán a los modelos fundacionales, es decir, a los sistemas de gran magnitud capaces de realizar una amplia gama de tareas diferenciadas, como la generación de vídeo, texto e imágenes, la conversión en lenguaje lateral, la informática o la generación de códigos informáticos.
El acuerdo obliga a que los modelos fundacionales sean transparentes antes de su puesta a disposición del público. Es decir, se crea un régimen más estricto para las herramientas de IA más habituales y de uso más extendido.
¿Incluye sanciones para las empresas?
Sí. Se contemplan multas por infracciones del Reglamento de Inteligencia Artificial que han quedado fijadas como un porcentaje del volumen de negocios anual global de la empresa infractora en el ejercicio financiero anterior o un importe predeterminado, si este fuera superior.