Article 15 du Règlement (UE) 2024/1689 — Exactitude, robustesse et cybersécurité. Texte officiel, interprétation pratique, obligations clés et implications en matière de conformité.
Résumé du texte officiel
L'Article 15 du Règlement (UE) 2024/1689 établit des exigences techniques en matière d'exactitude, de robustesse et de cybersécurité que les systèmes d'IA à haut risque doivent respecter tout au long de leur cycle de vie complet. L'article s'articule autour de trois obligations interdépendantes.
Premièrement, les systèmes d'IA à haut risque doivent être conçus et développés de manière à atteindre un niveau approprié d'exactitude pour leur finalité prévue. Les fournisseurs sont tenus de déclarer les métriques d'exactitude pertinentes dans la documentation technique d'accompagnement, permettant ainsi une vérification en aval et un contrôle réglementaire.
Deuxièmement, les systèmes doivent faire preuve de robustesse — la capacité à gérer les erreurs, défauts et incohérences provenant du système lui-même, de son environnement opérationnel ou d'une manipulation adversariale délibérée. Le Règlement mentionne expressément la nécessité de traiter le risque de boucles de rétroaction involontaires, notamment lorsqu'un système d'IA à haut risque influence ses propres données d'entraînement ou ses sorties.
Troisièmement, les systèmes doivent intégrer des mesures de cybersécurité proportionnées aux risques qu'ils présentent. Ces mesures doivent protéger contre les tentatives de tiers d'exploiter les vulnérabilités du système susceptibles d'amener ce dernier à se comporter de manière préjudiciable, biaisée ou autrement non conforme. Le Règlement reconnaît que la résilience en matière de cybersécurité n'est pas une condition statique mais doit être maintenue à mesure que le paysage des menaces évolue.
Pris ensemble, l'Article 15 opérationnalise le principe plus large — formulé dans les considérants 51 et 52 — selon lequel la fiabilité technique est un prérequis au déploiement de l'IA dans des domaines à fort impact.
Ce que cela signifie en pratique
L'Article 15 crée des obligations concrètes en matière d'ingénierie et de gouvernance pour toute organisation qui met un système d'IA à haut risque sur le marché de l'UE ou le met en service.
Pour les fournisseurs, l'implication immédiate est que l'exactitude n'est pas simplement une affirmation commerciale mais un engagement réglementaire qui doit être documenté, mesuré et maintenu. Un fabricant de dispositifs médicaux intégrant un outil de diagnostic IA doit préciser si l'exactitude est mesurée en termes de sensibilité, de spécificité, d'AUC ou d'une autre métrique — et ce choix doit correspondre à la finalité prévue et au profil de risque du système. Des déclarations d'exactitude vagues ou aspirationnelles ne satisferont pas à l'exigence.
Les tests de robustesse doivent aller au-delà de l'assurance qualité standard. Les fournisseurs devraient effectuer des tests de résistance, des tests hors distribution et — lorsque le système est exposé à des entrées contrôlées par l'utilisateur — un red-teaming adversarial. Lorsqu'un système intègre des boucles de rétroaction (par exemple, un algorithme de recrutement qui apprend à partir des décisions des recruteurs), les fournisseurs doivent cartographier et atténuer le risque que des sorties biaisées corrompent les cycles d'entraînement futurs.
Les obligations de cybersécurité en vertu de l'Article 15 doivent être lues en conjonction avec la posture plus large de sécurité de l'information du fournisseur. Les systèmes d'IA à haut risque qui traitent des données personnelles ou se connectent à des infrastructures critiques font face à des obligations cumulées en vertu du présent Règlement et de la directive NIS 2. Les étapes pratiques comprennent les contrôles d'accès aux modèles, la désinfection des entrées, la détection d'anomalies sur les requêtes d'inférence et les procédures de divulgation des vulnérabilités.
Pour les déployeurs, la conformité à l'Article 15 dépend substantiellement du maintien des conditions opérationnelles validées décrites par le fournisseur. Déployer un système sur des distributions de données matériellement différentes de celles utilisées lors de la validation — par exemple, appliquer un modèle de notation de crédit entraîné sur un marché national à une autre juridiction — peut compromettre les propriétés d'exactitude et de robustesse sur lesquelles le marquage CE a été accordé.
Obligations clés
- Déclarer les métriques d'exactitude : Les fournisseurs doivent préciser les métriques d'exactitude pertinentes pour le système d'IA à haut risque et les inclure dans la documentation technique requise en vertu de l'Article 11 et de l'Annex IV. Les métriques doivent être appropriées à la finalité prévue du système.
- Atteindre et maintenir un niveau d'exactitude approprié : Le système doit être conçu et développé pour atteindre le niveau d'exactitude déclaré ; l'exactitude ne doit pas être traitée comme un résultat de validation ponctuel mais doit être surveillée après le déploiement via le système de surveillance post-commercialisation requis en vertu de l'Article 72.
- Assurer la robustesse face aux erreurs et incohérences : Des mesures techniques et organisationnelles doivent être en place pour que le système puisse gérer les erreurs, défauts et incohérences — qu'ils proviennent de défaillances internes, d'une variabilité environnementale ou d'entrées adversariales délibérées — sans produire de sorties dangereuses ou non conformes.
- Se protéger contre les attaques adversariales : Lorsque le système est exposé à des entrées de tiers, les fournisseurs doivent mettre en œuvre des mesures pour détecter et résister à la manipulation adversariale, y compris les attaques par injection de prompt, inversion de modèle ou empoisonnement de données, le cas échéant.
- Traiter les risques de boucles de rétroaction : Lorsque les sorties d'un système pourraient influencer les données d'entraînement futures ou le comportement du modèle, les fournisseurs doivent identifier ce risque dans la documentation technique et mettre en place des garanties pour prévenir la dégradation des performances ou l'amplification des biais au fil du temps.
- Mettre en œuvre des mesures de cybersécurité proportionnées : Les solutions techniques — incluant les contrôles d'accès, la surveillance et les procédures de réponse aux incidents — doivent être proportionnées aux risques de cybersécurité posés par le système, en tenant compte de sa finalité prévue, de son contexte de déploiement et de son exposition aux réseaux externes ou aux entrées contrôlées par l'utilisateur.
Relation avec d'autres Articles
L'Article 15 ne peut pas être lu de manière isolée. Il se situe au cœur des exigences techniques pour les systèmes d'IA à haut risque et recoupe plusieurs autres dispositions du Règlement.
L'Article 9 (système de gestion des risques) fournit le cadre général dans lequel les risques d'exactitude, de robustesse et de cybersécurité doivent être identifiés, évalués et atténués. Le système de gestion des risques est le véhicule procédural permettant de satisfaire à de nombreuses exigences substantielles imposées par l'Article 15.
L'Article 10 (données et gouvernance des données) est fondamental pour l'exactitude : un système entraîné sur des données de faible qualité, non représentatives ou biaisées ne peut pas offrir des garanties d'exactitude significatives. Les obligations de qualité des données permettent directement la conformité à l'Article 15.
L'Article 11 et l'Annex IV précisent ce qui doit figurer dans la documentation technique, y compris les métriques d'exactitude requises par l'Article 15(1).
L'Article 17 (système de gestion de la qualité) exige des fournisseurs qu'ils intègrent la conformité à l'Article 15 dans leurs processus organisationnels, y compris les contrôles de conception, les protocoles de test et les procédures de gestion des changements.
L'Article 72 (surveillance post-commercialisation) crée l'obligation continue de vérifier que les niveaux d'exactitude et de robustesse sont maintenus après le déploiement, bouclant la boucle du cycle de vie que l'Article 15 ouvre au stade de la conception.
Pour les systèmes qui sont également des dispositifs médicaux ou des composants de sécurité, l'Article 15 doit être lu en parallèle avec la législation d'harmonisation de l'Union applicable figurant à l'Annex I.
Calendrier de conformité
L'Article 15 suit le calendrier d'application par phases établi par l'Article 113 du Règlement (UE) 2024/1689, entré en vigueur le 1er août 2024.
| Date | Étape |
|---|---|
| 1er août 2024 | Le Règlement entre en vigueur. L'Article 15 est légalement promulgué mais pas encore applicable. |
| 2 février 2025 | Les pratiques d'IA interdites (Titre II, Article 5) deviennent applicables. L'Article 15 ne s'applique pas encore. |
| 2 août 2025 | Les obligations relatives aux modèles GPAI (Titre VIII) deviennent applicables. L'Article 15 reste inapplicable. |
| 2 décembre 2027 | L'Article 15 devient applicable aux systèmes d'IA à haut risque listés à l'Annex III (par exemple : identification biométrique, gestion des infrastructures critiques, outils d'emploi, systèmes éducatifs, applications de maintien de l'ordre). |
| 2 août 2028 | L'Article 15 devient applicable aux systèmes d'IA à haut risque régis par la législation d'harmonisation de l'Union à l'Annex I (par exemple : dispositifs médicaux, machines, composants d'aviation civile). |
Les fournisseurs développant ou mettant des systèmes d'IA à haut risque sur le marché avant la date applicable doivent néanmoins préparer en amont la documentation, les protocoles de test et les architectures de cybersécurité — les évaluations de préparation réglementaire et les évaluations de conformité en vertu des Articles 43 à 47 nécessitent un délai de préparation substantiel. Les délais d'attente des organismes notifiés et la complexité des tests adversariaux signifient que les organisations visant un lancement en 2026 devraient commencer les évaluations des lacunes au regard de l'Article 15 au plus tard à mi-2025.
Calendrier officiel de conformité AI Act
Mis à jour le · Sources : Règlement (UE) 2024/1689 et Digital Omnibus AI 2026.
| Obligation | S'applique à | Date initiale | Nouvelle date | Statut | Compte à rebours | Base légale |
|---|---|---|---|---|---|---|
| Pratiques interdites (Art. 5) | Tous les fournisseurs et déployeurs | active | — | AI Act Art. 5 | ||
| Règles GPAI (chapitre 5) | Fournisseurs de modèles GPAI | active | — | AI Act Art. 51-56 | ||
| Pouvoirs de sanction de la Commission sur les modèles GPAI | Fournisseurs de modèles GPAI | active | — | AI Act Art. 88-94, 101 | ||
| Obligations de transparence (Art. 50) | Fournisseurs et déployeurs de chatbots, IA générative, reconnaissance des émotions | active | — | AI Act Art. 50 | ||
| Nouvelle interdiction Art. 5 (pédopornographie / contenus intimes non consentis) | Fournisseurs et déployeurs de systèmes d'IA générative | active | — | Omnibus AI 2026 Art. 5 | ||
| Marquage contenu IA (transparence) | Fournisseurs de systèmes d'IA générative sur le marché avant le 2 août 2026 | active | — | AI Act Art. 50(2) — transitoire | ||
| Bacs à sable réglementaires | Autorités nationales compétentes | deferred | — | Omnibus AI 2026 Art. 57 | ||
| IA à haut risque — Annexe III (autonomes) | Fournisseurs de systèmes autonomes Annexe III | deferred | — | Omnibus AI 2026 Art. 6(2) | ||
| IA à haut risque — Annexe I (embarquée) | Systèmes IA embarqués dans produits réglementés Annexe I | deferred | — | Omnibus AI 2026 Art. 6(1) |
⬇ Télécharger JSON · CC BY 4.0
Convergence AI Act – DORA – NIS2
Votre organisation est-elle soumise à la fois à l'AI Act et à DORA ? Les deux règlements se croisent sur la résilience opérationnelle des systèmes d'IA financiers. Notre site jumeau regulation-dora.eu couvre DORA en profondeur — et détaille ce que l'AI Act ajoute par-dessus un programme DORA existant.
L'AI Act pour les institutions financières ↗ Explorer regulation-dora.eu ↗Questions fréquentes
L'Article 15 exige que les systèmes d'IA à haut risque soient conçus et développés de manière à atteindre un niveau approprié d'exactitude, de robustesse et de cybersécurité tout au long de leur cycle de vie. Les fournisseurs doivent préciser les métriques d'exactitude dans la documentation technique et veiller à ce que les systèmes restent résilients face aux erreurs, défauts, incohérences et attaques adversariales.
L'Article 15 lie principalement les fournisseurs de systèmes d'IA à haut risque tels que définis à l'Article 6 et à l'Annex III du Règlement (UE) 2024/1689. Les déployeurs ont des responsabilités secondaires, notamment en ce qui concerne le maintien des conditions dans lesquelles le système a été validé.
Les attaques adversariales désignent des tentatives délibérées de tiers de manipuler ou de tromper un système d'IA en lui fournissant des entrées conçues pour provoquer des sorties incorrectes. L'Article 15 impose des mesures techniques de robustesse — telles que l'entraînement adversarial ou la validation des entrées — pour atténuer ce risque.
Non. L'Article 15 s'inscrit dans le Titre III, Chapitre 2, qui s'applique exclusivement aux systèmes d'IA à haut risque. Les modèles d'IA à usage général (GPAI) sont régis par le Titre VIII du Règlement, notamment les Articles 51 à 56, qui comportent des obligations distinctes.
L'Article 15 s'applique aux systèmes d'IA à haut risque relevant de l'Annex III à partir du 2 décembre 2027, et aux systèmes d'IA à haut risque réglementés par la législation d'harmonisation de l'Union figurant à l'Annex I à partir du 2 août 2028, sous réserve de certaines dispositions transitoires.
Les niveaux d'exactitude doivent être déterminés en fonction de la finalité prévue du système et précisés dans la documentation technique requise en vertu de l'Article 11 et de l'Annex IV. Il n'existe pas de référence universelle unique ; les fournisseurs doivent sélectionner des métriques adaptées au domaine de la tâche — par exemple, la sensibilité et la spécificité pour les systèmes de diagnostic médical, ou les taux de faux positifs/négatifs pour l'identification biométrique.
Restez informé des évolutions AI Act
Recevez les alertes compliance quand les délais ou obligations changent.
Pas de spam. Désabonnement en un clic.
Passez à la pratique avec l'Academy AI Act
Templates, formations et Q&A live — tout ce qu'il faut pour implémenter la conformité AI Act.