María Loza Corera

Nos encontramos a las puertas de la inminente aprobación del Reglamento europeo de Inteligencia Artificial (RIA), pendiente ya únicamente de la aprobación del Consejo de la UE para su publicación en el Diario Oficial de la Unión Europea. Este es un artículo introductorio sobre el RIA que vendrá acompañado de otros que vamos a publicar y que profundizarán sobre determinados aspectos del mismo. Han pasado casi cuatro años desde la propuesta de reglamento confeccionada por la Comisión Europea en abril de 2021, lo que significa que la Unión Europea ha tenido claro, desde el inicio, la necesidad de establecer un nuevo marco legislativo para garantizar la seguridad, la salud y los derechos fundamentales de las personas en relación al uso de los sistemas de Inteligencia Artificial (IA). El RIA se prevé que tenga un impacto global, como ya ocurrió con el Reglamento General de Protección de Datos (RGPD), por lo que desde Govertis, como parte de Telefónica Tech dedicada a servicios en Gobernanza, Riesgo y Cumplimiento normativo (GRC) llevamos tiempo trabajando sobre el mismo y, en general, sobre la IA y su aplicación en las organizaciones. Para establecer este nuevo marco normativo único, RIA combina varias técnicas: un enfoque basado en el riesgo y el sistema de evaluación de la conformidad proveniente de la normativa europea sobre seguridad de los productos. Prácticas de IA prohibidas La clasificación de los sistemas de Inteligencia Artificial que realiza el RIA es la plasmación del enfoque basado en el riesgo. Así, hay unos riesgos inaceptables que se traducen en prácticas de IA prohibidas, tales como: Sistemas que permitan la manipulación de personas. Reconocimiento de emociones. Sistemas de categorización biométrica. Sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley, salvo que concurran determinadas circunstancias. Sistemas que permitan la búsqueda no selectiva de imágenes para reconocimiento facial. Sistemas que permitan evaluar o predecir la probabilidad de que una persona física cometa una infracción penal. Sistemas de IA de alto riesgo En segundo lugar, se clasifican como sistemas de IA de alto riesgo aquellos que pueden tener un mayor impacto en la salud, seguridad y derechos fundamentales de las personas. Así, se incluyen en este grupo aquellos sistemas de IA que se engloben dentro del ámbito de aplicación de la legislación armonizada de seguridad de productos y aquellos que pertenezcan a uno de los ocho ámbitos enumerados en el Anexo III: Biometría en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable; Infraestructuras críticas; Educación y formación profesional; Empleo, gestión de los trabajadores y acceso al autoempleo; Acceso a servicios privados esenciales y a servicios y prestaciones públicos esenciales y disfrute de estos servicios y prestaciones; Aplicación de la ley, en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable; Migración, asilo y gestión del control fronterizo, en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable; Administración de justicia y procesos democráticos. Es precisamente a los sistemas de IA de alto riesgo a los que el RIA dedica una profusa regulación, en atención al alto riesgo que de entrada se prevé tendrán y, que deberá mitigarse mediante la adopción de los requerimientos establecidos en el RIA. Requisitos para los sistemas de alto riesgo De este modo, se establecen requisitos para los propios sistemas de alto riesgo, tales como contar con un sistema de gestión de riesgos; los conjuntos de datos de entrenamiento, validación y prueba utilizados deberán cumplir con unos determinados criterios de calidad; deberá confeccionarse antes de introducirse en el mercado una específica documentación técnica; deberán permitir técnicamente el registro automático de eventos ("logs") durante toda la vida útil del sistema; deberán cumplir con un nivel de transparencia que permita a los implementadores interpretar los resultados del sistema y utilizarlos adecuadamente e incluir unas instrucciones de uso; se establecerá una supervisión humana y deberán alcanzar un nivel adecuado de precisión, solidez y ciberseguridad a lo largo de su ciclo de vida. Proveedores e implementadores Además, establece obligaciones específicas para los proveedores de los sistemas de alto riesgo, que deberán velar por el cumplimiento de todos los requisitos exigidos al sistema, así como establecer un sistema de gestión de la calidad que garantice el cumplimiento del RIA. Por su parte, los implementadores o responsables del despliegue deberán adoptar las medidas técnicas y organizativas adecuadas para garantizar que utilizan dichos sistemas con arreglo a las instrucciones de uso facilitadas, realizar la supervisión humana y, en el caso de tener control sobre los datos de entrada, se asegurará de que sean pertinentes y suficientemente representativos. Obligaciones de transparencia En tercer lugar, el RIA establece concretas obligaciones de transparencia para determinados sistemas de IA, tales como indicar que se está interactuando con un sistema de IA o para aquellos sistemas de IA de uso general que generen contenido sintético de audio, imagen, vídeo o texto, la información de salida estará marcada de forma que sea posible detectar que ha sido generada o manipulada de manera artificial. Modelos de propósito general En cuarto lugar, el RIA también ha establecido obligaciones para los modelos de propósito general. La aprobación del RIA evidencia que nos encontramos en un momento crucial en el que las organizaciones deben establecer las bases necesarias para integrar con garantías la utilización de soluciones basadas en Inteligencia Artificial, lo cual implica el diseño de una estrategia y el establecimiento de los medios necesarios que permita implantar un sistema de gobernanza liderado y supervisado por los órganos de gobierno o dirección, con el debido asesoramiento experto. MÁS DE ESTA SERIE Cyber Security AI of Things El ámbito de aplicación del Reglamento de Inteligencia Artificial (RIA) 16 de abril de 2024 Cyber Security AI of Things Los sistemas de IA de Alto Riesgo en el Reglamento de Inteligencia Artificial (RIA) 9 de mayo de 2024 Cyber Security AI of Things Evaluaciones de impacto de derechos fundamentales sobre sistemas de IA de alto riesgo en el RIA 20 de mayo de 2024 Ciberseguridad IA & Data Los modelos de IA de uso general en el Reglamento de Inteligencia Artificial 24 de junio de 2024 AI of Things Códigos de conducta en el Reglamento de Inteligencia Artificial de la Unión Europea 2 de septiembre de 2024 Foto de Cash Macanaya / Unsplash.