Artículo 15 — Exactitud, solidez y ciberseguridad (Reglamento IA de la UE)

Artículo 15 del Reglamento (UE) 2024/1689 — Exactitud, solidez y ciberseguridad. Texto oficial, interpretación práctica, obligaciones clave e implicaciones para el cumplimiento.

Resumen del texto oficial

El Artículo 15 del Reglamento (UE) 2024/1689 establece requisitos técnicos de exactitud, solidez y ciberseguridad que deben cumplir los sistemas de IA de alto riesgo a lo largo de todo su ciclo de vida. El artículo se estructura en torno a tres obligaciones interrelacionadas.

En primer lugar, los sistemas de IA de alto riesgo deben ser diseñados y desarrollados para alcanzar un nivel apropiado de exactitud para su finalidad prevista. Los proveedores están obligados a declarar las métricas de exactitud pertinentes en la documentación técnica adjunta, permitiendo la verificación posterior y el escrutinio regulatorio.

En segundo lugar, los sistemas deben demostrar solidez — la capacidad de manejar errores, fallos e inconsistencias derivados del propio sistema, de su entorno operativo, o de manipulación adversarial deliberada. El Reglamento menciona expresamente la necesidad de abordar el riesgo de bucles de retroalimentación no deseados, en particular cuando un sistema de IA de alto riesgo influye en sus propios datos de entrenamiento o resultados.

En tercer lugar, los sistemas deben incorporar medidas de ciberseguridad proporcionales a los riesgos que plantean. Estas medidas deben proteger contra los intentos de terceros de explotar las vulnerabilidades del sistema que podrían hacer que el sistema se comporte de maneras dañinas, sesgadas o de otro modo no conformes. El Reglamento reconoce que la resiliencia en ciberseguridad no es una condición estática, sino que debe mantenerse a medida que evoluciona el panorama de amenazas.

En conjunto, el Artículo 15 pone en práctica el principio más amplio — articulado en los Considerandos 51 y 52 — de que la fiabilidad técnica es un requisito previo para el despliegue de la IA en ámbitos de consecuencias importantes.

Qué significa esto en la práctica

El Artículo 15 crea obligaciones concretas de ingeniería y gobernanza para cualquier organización que comercialice un sistema de IA de alto riesgo en el mercado de la UE o lo ponga en servicio.

Para los proveedores, la implicación inmediata es que la exactitud no es meramente una afirmación comercial, sino un compromiso regulatorio que debe documentarse, medirse y mantenerse. Un fabricante de dispositivos médicos que integra una herramienta de diagnóstico de IA debe especificar si la exactitud se mide como sensibilidad, especificidad, AUC u otra métrica — y esa elección debe alinearse con la finalidad prevista y el perfil de riesgo del sistema. Las declaraciones de exactitud vagas o aspiracionales no satisfarán el requisito.

Las pruebas de solidez deben ir más allá del aseguramiento de calidad estándar. Los proveedores deben realizar pruebas de estrés, pruebas fuera de distribución y — cuando el sistema está expuesto a entradas controladas por el usuario — pruebas de confrontación adversarial. Cuando un sistema incorpora bucles de retroalimentación (por ejemplo, un algoritmo de contratación que aprende de las decisiones de los reclutadores), los proveedores deben mapear y mitigar el riesgo de que los resultados sesgados corrompan los ciclos de entrenamiento futuros.

Las obligaciones de ciberseguridad en virtud del Artículo 15 deben leerse en conjunción con la postura de seguridad de la información más amplia del proveedor. Los sistemas de IA de alto riesgo que procesan datos personales o se conectan a infraestructuras críticas enfrentan obligaciones compuestas tanto en virtud de este Reglamento como de la Directiva NIS 2. Los pasos prácticos incluyen controles de acceso a los modelos, saneamiento de entradas, detección de anomalías en las solicitudes de inferencia y procedimientos de divulgación de vulnerabilidades.

Para los responsables del despliegue, el cumplimiento del Artículo 15 depende sustancialmente de preservar las condiciones de funcionamiento validadas descritas por el proveedor. Desplegar un sistema en distribuciones de datos materialmente diferentes de las utilizadas en la validación — por ejemplo, aplicar un modelo de calificación crediticia entrenado en un mercado nacional a una jurisdicción diferente — puede socavar las propiedades de exactitud y solidez sobre las que se otorgó el marcado CE.

Obligaciones clave

• Declarar métricas de exactitud: Los proveedores deben especificar las métricas de exactitud pertinentes para el sistema de IA de alto riesgo e incluirlas en la documentación técnica exigida por el Artículo 11 y el Annex IV. Las métricas deben ser apropiadas para la finalidad prevista del sistema.
• Alcanzar y mantener una exactitud apropiada: El sistema debe ser diseñado y desarrollado para alcanzar el nivel de exactitud declarado; la exactitud no debe tratarse como un resultado de validación único, sino que debe supervisarse tras el despliegue mediante el sistema de vigilancia poscomercialización exigido por el Artículo 72.
• Garantizar la solidez frente a errores e inconsistencias: Deben implementarse medidas técnicas y organizativas para que el sistema pueda manejar errores, fallos e inconsistencias — ya sean derivados de fallos internos, variabilidad ambiental o entradas adversariales deliberadas — sin producir resultados inseguros o no conformes.
• Proteger contra ataques adversariales: Cuando el sistema está expuesto a entradas de terceros, los proveedores deben implementar medidas para detectar y resistir la manipulación adversarial, incluida la inyección de prompts, la inversión de modelos o los ataques de envenenamiento de datos cuando proceda.
• Abordar los riesgos de bucles de retroalimentación: Cuando los resultados de un sistema puedan influir en los datos de entrenamiento futuros o en el comportamiento del modelo, los proveedores deben identificar este riesgo en la documentación técnica e implementar salvaguardias para prevenir la degradación del rendimiento o la amplificación del sesgo a lo largo del tiempo.
• Implementar medidas de ciberseguridad proporcionales: Las soluciones técnicas — incluidos los controles de acceso, la monitorización y los procedimientos de respuesta a incidentes — deben ser proporcionales a los riesgos de ciberseguridad que plantea el sistema, teniendo en cuenta su finalidad prevista, el contexto de despliegue y la exposición a redes externas o entradas controladas por el usuario.

Relación con otros artículos

El Artículo 15 no puede leerse de forma aislada. Se sitúa en el núcleo de los requisitos técnicos para los sistemas de IA de alto riesgo y se intersecta con varias otras disposiciones del Reglamento.

El Artículo 9 (sistema de gestión de riesgos) proporciona el marco general en el que deben identificarse, evaluarse y mitigarse los riesgos de exactitud, solidez y ciberseguridad. El sistema de gestión de riesgos es el vehículo procedimental para cumplir muchos de los requisitos sustantivos que impone el Artículo 15.

El Artículo 10 (datos y gobernanza de datos) es fundamental para la exactitud: un sistema entrenado con datos de baja calidad, no representativos o sesgados no puede ofrecer garantías significativas de exactitud. Las obligaciones de calidad de los datos permiten directamente el cumplimiento del Artículo 15.

El Artículo 11 y el Annex IV especifican lo que debe aparecer en la documentación técnica, incluidas las métricas de exactitud exigidas por el Artículo 15(1).

El Artículo 17 (sistema de gestión de la calidad) exige a los proveedores incorporar el cumplimiento del Artículo 15 en sus procesos organizativos, incluidos los controles de diseño, los protocolos de prueba y los procedimientos de gestión de cambios.

El Artículo 72 (vigilancia poscomercialización) crea la obligación continua de verificar que los niveles de exactitud y solidez se mantienen tras el despliegue, cerrando el bucle del ciclo de vida que el Artículo 15 abre en la etapa de diseño.

Para los sistemas que también son dispositivos médicos o componentes de seguridad, el Artículo 15 debe leerse junto con la legislación de armonización de la Unión aplicable incluida en el Annex I.

Calendario de cumplimiento

El Artículo 15 sigue el calendario de aplicación gradual establecido por el Artículo 113 del Reglamento (UE) 2024/1689, que entró en vigor el 1 de agosto de 2024.

Los proveedores que desarrollan o comercializan sistemas de IA de alto riesgo antes de la fecha aplicable deben, no obstante, preparar la documentación, los protocolos de prueba y las arquitecturas de ciberseguridad con antelación — las evaluaciones de preparación regulatoria y las evaluaciones de conformidad en virtud de los Artículos 43–47 requieren un tiempo de preparación considerable. Los retrasos en los organismos notificados y la complejidad de las pruebas adversariales significan que las organizaciones que apuntan a un lanzamiento en 2026 deben comenzar las evaluaciones de brechas del Artículo 15 a más tardar a mediados de 2025.