La Unión Europea pacta la primera ley de inteligencia artificial

Las negociaciones se han centrado principalmente en la regulación de la vigilancia biométrica y el uso por parte de las fuerzas de seguridad para garantizar la seguridad nacional y prevenir delitos

Los negociadores del Parlamento Europeo y del Consejo han logrado este viernes, tras más de 35 horas de negociación, cerrar un acuerdo histórico para fijar las primeras reglas con las que limitar los riesgos de la Inteligencia Artificial (IA).

El objetivo de la nueva regulación europea es fijar estándares de seguridad y de derechos fundamentales que eviten que la tecnología se use con fines represivos, de manipulación o discriminatorios; pero sin que se traduzca en una hiperregulación que lastre la competitividad de la Unión Europea.

“La ley de inteligencia artificial de la UE es pionera en el mundo. Un marco legal único para el desarrollo de la inteligencia artificial el que se puede confiar”, ha escrito la presidenta de la Comisión Europea, Ursula von der Leyen, en un mensaje en la red social X (antes Twitter).

Vigilancia biométrica

Los negociadores iniciaron el miércoles la que estaba llamada a ser la última ronda de negociación para un acuerdo que finalmente no ha llegado hasta última hora del viernes, tras superar los últimos escollos respecto a la vigilancia biométrica y el uso por parte de las fuerzas de seguridad para garantizar la seguridad nacional y prevenir delitos como el terrorismo o la protección de infraestructuras.

En concreto, la norma prohíbe las cámaras de reconocimiento facial en espacios públicos, pero los gobiernos han presionado para permitirlas en casos concretos, siempre con previa autorización judicial.

Siguiendo por la prohibición de varios sistemas de vigilancia biométrica, se consideran inaceptables también los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y televisión.

Tampoco se consiente el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas; el social scoring (sistemas que puntúan a las personas en función de su comportamiento social o características personales).

Y por último, se prohíben los sistemas que manipulan comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas (por ejemplo por su edad o situación social o económica).

Chat GPT

Las negociaciones también se han centrado en la regulación de los modelos fundacionales de inteligencia artificial, los sistemas en los que se basan programas como ChatGPT, de la empresa OpeanAI, o Bard, de Google.

Estos programas tendrán que cumplir criterios de transparencia, como especificar que si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial, así como garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.

Pendiente de ratificar

El texto final todavía deberá ser ratificado por el Parlamento Europeo y el Consejo de la UE antes de entrar en vigor, previsiblemente a finales de 2026, aunque algunas partes empezarán a funcionar antes.

Está previsto que la Oficina de IA empiece a funcionar en cuanto se ratifique el reglamento, mientras que la prohibición de los sistemas prohibidos de inteligencia artificial llegará a los seis meses y los requisitos para los sistemas y modelos de IA generativa, a los 12.