Acuerdo histórico para limitar los riesgos de la Inteligencia Artificial

El nuevo reglamento adopta un enfoque basado en los diferentes niveles de peligro

El pleno del Parlamento Europeo ha dado luz verde este miércoles al acuerdo histórico alcanzado el pasado diciembre entre instituciones para establecer las primeras regulaciones destinadas a limitar los riesgos de la Inteligencia Artificial (IA) en la Unión Europea, un nuevo marco cuya implementación completa está programada a partir de 2026.

La recién aprobada legislación ha sido respaldada durante la sesión plenaria celebrada en Estrasburgo (Francia) con el apoyo de 523 eurodiputados, mientras que 46 han votado en contra y 49 se han abstenido. Sin embargo, aún está pendiente la aprobación por parte de los 27 Estados miembros, así como la realización de una última revisión jurídica y lingüística antes de su entrada en vigor.

Categorización por riesgos

El nuevo reglamento adopta un enfoque basado en los diferentes niveles de peligro y las restricciones que deben aplicarse en función de la magnitud del riesgo, lo que implica la prohibición en casos de riesgo “inasumible”, como los sistemas de categorización biométrica, la recolección no dirigida de imágenes para crear bases de datos de reconocimiento facial, el reconocimiento de emociones, sistemas de puntuación social o sistemas que manipulan el comportamiento.

Con todo, están previstas una serie de estrictas excepciones que permitirán el uso de sistemas de vigilancia biométrica en espacios públicos, siempre que haya orden judicial previa y para una lista de delitos estrictamente definidos.

De este modo, la supervisión biométrica en tiempo real se limitará en tiempo y ubicación y ello sólo para la búsqueda selectiva de víctimas de secuestro, trata o explotación sexual, para evitar una amenaza terrorista específica y presente y para localizar o identificar a un sospechoso de haber cometido un delito de los recogidos en la norma.

También quedan definidos los sistemas de IA autorizados pero considerados de muy alto riesgo por su importante impacto en la salud, la seguridad, los derechos fundamentales, el medio ambiente y el Estado de derecho.

Los sistemas de Inteligencia Artificial utilizados para influir en el resultado de las elecciones y el comportamiento de los votantes también se clasifican como de alto riesgo, y los ciudadanos tendrán derecho a presentar quejas y recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos.

Otra de las claves ha sido cómo introducir reglas específicas para los modelos fundacionales, como las plataformas ChatGPT o DALL-E, que vieron la luz después de que la Comisión Europea presentara su primera propuesta de regulación por lo que este capítulo se ha ido desarrollando en el curso de la negociación.

Sanciones

La legislación pionera también prevé sanciones para los incumplidores que irán desde los 35 millones de euros o el 7% del volumen de negocio global hasta los 7,5 millones, en función del tamaño de la compañía.

El objetivo de la nueva regulación europea es fijar estándares de seguridad y de derechos fundamentales que eviten que la tecnología se use con fines represivos, de manipulación o discriminatorios; pero sin que se traduzca en una hiperregulación que lastre la competitividad de la Unión Europea.