El Consejo ha adoptado el 6 de diciembre de 2022 su posición común («orientación general») sobre el Reglamento de Inteligencia Artificial, encaminado a garantizar que los sistemas de inteligencia artificial (IA) introducidos en el mercado de la UE y utilizados en la Unión sean seguros y respeten la legislación vigente en materia de derechos fundamentales, así como los valores de la Unión.

La propuesta de Reglamento presentada por la Comisión en abril de 2021 es un elemento clave de la política de la UE encaminada a fomentar el desarrollo y la adopción, en todo el mercado único, de una IA segura y legal que respete los derechos fundamentales. Dicha propuesta sigue un enfoque basado en los riesgos y establece un marco jurídico horizontal y uniforme para la IA encaminado a garantizar la seguridad jurídica. Promueve la inversión y la innovación en IA, mejora la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y seguridad, y facilita el desarrollo de un mercado único para las aplicaciones de IA. Va acompañada de otras iniciativas, como el Plan Coordinado sobre la Inteligencia Artificial, cuyo objetivo es acelerar la inversión en IA en Europa.

Definición de un sistema de IA

Para garantizar que la definición de los sistemas de IA proporcione criterios suficientemente claros para distinguirlos de otros sistemas de software más sencillos, el texto del Consejo restringe dicha definición a los sistemas desarrollados a través de estrategias de aprendizaje automático y estrategias basadas en la lógica y el conocimiento.

Prácticas de IA prohibidas

En relación con las prácticas de IA prohibidas, el texto amplía a los agentes privados la prohibición de utilizar la IA con fines de puntuación ciudadana. Además, la disposición por la que se prohíbe el uso de sistemas de IA que explotan las vulnerabilidades de grupos específicos de personas ahora incluye también a las personas vulnerables por su situación social o económica.

Por lo que respecta a la prohibición relativa al uso de sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público por parte de las autoridades encargadas de la aplicación de la ley, el texto aclara los objetivos para cuya consecución dicho uso es estrictamente necesario con fines de aplicación de la ley y a qué autoridades encargadas de la aplicación de la ley se les debe, por tanto, permitir excepcionalmente el uso de dichos sistemas.

Clasificación de los sistemas de IA como de alto riesgo

En cuanto a la clasificación de los sistemas de IA como de alto riesgo, el texto añade una serie de criterios horizontales a la clasificación de sistemas de alto riesgo, con el fin de garantizar que no se incluyan en dicha clasificación sistemas de IA que probablemente no acarrearán violaciones graves de los derechos fundamentales ni otros riesgos considerables.

Requisitos para los sistemas de IA de alto riesgo

Se han aclarado y precisado muchos de los requisitos para los sistemas de IA de alto riesgo de manera que sean más viables desde el punto de vista técnico y supongan una carga menor para las partes interesadas, por ejemplo, en lo que respecta a la calidad de los datos o a la documentación técnica que deben elaborar las pymes para demostrar que sus sistemas de IA de alto riesgo cumplen los requisitos establecidos.

Dado que los sistemas de IA se desarrollan y distribuyen mediante cadenas de valor complejas, el texto incluye cambios que aclaran la asignación de responsabilidades y las funciones de los distintos agentes de dichas cadenas, en particular los proveedores y los usuarios de sistemas de IA. Asimismo, aclara la relación entre las obligaciones establecidas en virtud del Reglamento de Inteligencia Artificial y las obligaciones ya vigentes en virtud de otros actos legislativos, como la legislación pertinente en materia de protección de datos o la legislación sectorial de la Unión, también en lo que respecta al sector de los servicios financieros.

Sistemas de IA de uso general

Se han añadido nuevas disposiciones para tener en cuenta aquellas situaciones en las que los sistemas de IA pueden utilizarse con muchos fines diferentes (IA de uso general) y aquellas en las que la tecnología de IA de uso general se integra posteriormente en otro sistema de alto riesgo.

El texto especifica que determinados requisitos relativos a los sistemas de IA de alto riesgo también se aplicarán a los sistemas de IA de uso general en estos casos. No obstante, estos requisitos no se aplicarán directamente, sino que será necesario adoptar un acto de ejecución que especifique cómo deben aplicarse en relación con los sistemas de IA de uso general. Dicho acto de ejecución se basará en una consulta y una evaluación de impacto detallada y tendrá en cuenta las características específicas de estos sistemas y la correspondiente cadena de valor, la viabilidad técnica y la evolución tecnológica y del mercado.

Ámbito de aplicación y disposiciones relativas a las autoridades encargadas de la aplicación de la ley

Se han excluido explícitamente del ámbito de aplicación del Reglamento de Inteligencia Artificial los fines militares, de defensa o de seguridad nacional. Asimismo, se ha aclarado que el Reglamento de Inteligencia Artificial no debe aplicarse a los sistemas de IA, incluida su información de salida, que se utilicen únicamente con fines de investigación y desarrollo ni a las obligaciones de las personas que utilizan la IA con fines no profesionales, que quedarán fuera del ámbito de aplicación del Reglamento de Inteligencia Artificial, excepto por lo que respecta a las obligaciones de transparencia.

Dadas las particularidades de las distintas autoridades encargadas de la aplicación de la ley, se han hecho varias modificaciones a las disposiciones relativas a la utilización de sistemas de IA con fines de aplicación de la ley. En particular, con sujeción a las garantías oportunas, estos cambios tienen por objeto reflejar la necesidad de respetar la confidencialidad de los datos operativos delicados relativos a sus actividades.

Marco de cumplimiento y Comité de IA

Con el fin de simplificar el marco de cumplimiento del Reglamento de Inteligencia Artificial, el texto contiene varias aclaraciones y simplificaciones de las disposiciones sobre los procedimientos de evaluación de la conformidad.

También se han aclarado y simplificado las disposiciones relativas a la vigilancia del mercado para que sean más eficaces y fáciles de aplicar. El texto también modifica sustancialmente las disposiciones relativas al Comité de IA, con el fin de garantizar que tenga una mayor autonomía y de reforzar su papel en la arquitectura de gobernanza del Reglamento de Inteligencia Artificial. Con el fin de garantizar la participación de las partes interesadas en todas las cuestiones relacionadas con la aplicación del Reglamento de Inteligencia Artificial, incluida la elaboración de actos de ejecución y delegados, se ha añadido el requisito de que el Comité cree un subgrupo permanente que sirva de plataforma para un amplio abanico de partes interesadas.

Por lo que se refiere a las sanciones por el incumplimiento de las disposiciones del Reglamento de Inteligencia Artificial, el texto establece unos límites más proporcionados a las multas administrativas que pueden imponerse a las pymes y las empresas emergentes.

Transparencia y otras disposiciones a favor de las personas afectadas

El texto incluye varios cambios que refuerzan la transparencia en relación con el uso de sistemas de IA de alto riesgo. Concretamente, se han actualizado varias disposiciones para indicar que determinados usuarios de un sistema de IA de alto riesgo que sean entidades públicas también estarán obligados a registrarse en la base de datos de la UE de sistemas de IA de alto riesgo.

Además, una nueva disposición hace hincapié en la obligación de los usuarios de un sistema de reconocimiento de emociones de informar a las personas físicas a las que se exponga a un sistema de este tipo.

El texto también deja claro que una persona física o jurídica puede presentar una reclamación ante la autoridad de vigilancia del mercado pertinente en relación con el incumplimiento del Reglamento de Inteligencia Artificial y esperar que dicha reclamación se tramite de conformidad con los procedimientos específicos de dicha autoridad.

Medidas de apoyo a la innovación

Con vistas a crear un marco jurídico más favorable a la innovación y a promover un aprendizaje reglamentario basado en pruebas, se han modificado sustancialmente en el texto las disposiciones relativas a las medidas de apoyo a la innovación.

En particular, se ha aclarado que los espacios controlados de pruebas para la IA, cuya finalidad es ofrecer un entorno controlado para desarrollar, probar y validar sistemas innovadores de IA, también deben permitir probar sistemas innovadores de IA en condiciones reales.

Además, se han añadido nuevas disposiciones que permiten llevar a cabo pruebas no supervisadas en condiciones reales de los sistemas de IA, siempre que se cumplan determinadas condiciones y se ofrezcan determinadas garantías. Por último, con el fin de aliviar la carga administrativa de las empresas más pequeñas, el texto incluye una lista de las acciones que se deben emprender para ayudar a dichos operadores, y prevé algunas excepciones limitadas y claramente especificadas.

Actuaciones futuras

La adopción de la orientación general permitirá al Consejo entablar negociaciones con el Parlamento Europeo (“diálogos tripartitos”) una vez que este adopte su propia posición con vistas a alcanzar un acuerdo sobre la propuesta de Reglamento.