Article 14 du règlement (UE) 2024/1689 — Surveillance humaine. Texte officiel, interprétation pratique, obligations clés et implications pour la mise en conformité.
Résumé du texte officiel
L'Article 14 du règlement (UE) 2024/1689 établit des exigences obligatoires en matière de surveillance humaine pour les systèmes d'IA à haut risque, formant un pilier central du cadre réglementaire au Titre III, Chapitre 2. L'article exige que les systèmes d'IA à haut risque soient conçus et développés de manière à pouvoir être effectivement surveillés par des personnes physiques pendant la période d'utilisation.
Plus précisément, l'Article 14(1) impose aux fournisseurs de s'assurer, dans la mesure où cela est techniquement réalisable, que des mesures de surveillance humaine sont intégrées dans le système avant sa mise sur le marché ou sa mise en service. Ces mesures doivent permettre aux personnes chargées de la surveillance de comprendre les capacités et les limitations du système (Article 14(4)(a)), de surveiller le fonctionnement pour détecter des signes d'anomalie, de dysfonctionnement ou de performance inattendue (Article 14(4)(b)), de rester conscientes du risque de biais d'automatisation (Article 14(4)(c)), d'interpréter correctement les résultats (Article 14(4)(d)), et de décider de ne pas utiliser le système ou de l'annuler, de ne pas en tenir compte ou de l'arrêter dans toute situation (Article 14(4)(e)).
L'Article 14(3) exige que les personnes physiques affectées à la surveillance disposent des compétences, de l'autorité et des ressources nécessaires pour s'acquitter de leur rôle. Lorsqu'un système est destiné à être utilisé par des personnes physiques, les mesures de surveillance doivent, dans la mesure techniquement réalisable, être intégrées directement dans l'interface du système. L'Article 14(5) traite des systèmes ayant une fonction de composant de sécurité, imposant des attentes renforcées lorsque les résultats de l'IA alimentent des décisions critiques pour la sécurité.
Ce que cela signifie en pratique
L'Article 14 crée des obligations pour les fournisseurs et les déployeurs, bien que la nature de ces obligations diffère à chaque étape du cycle de vie du système d'IA.
Pour les fournisseurs, l'obligation est principalement une question de conception : la surveillance humaine ne doit pas être une réflexion après coup ajoutée après le développement, mais une fonctionnalité intégrée dans le système dès le départ. Cela implique de créer des interfaces affichant des indicateurs de confiance significatifs, de signaler les résultats à faible certitude, de permettre l'interruption ou l'annulation sans friction technique, et de fournir une documentation permettant aux déployeurs de comprendre quelle surveillance est réalistement réalisable.
Pour les déployeurs, l'obligation est opérationnelle : ils doivent affecter des personnes qualifiées pour surveiller le système, s'assurer que ces personnes sont formées et informées sur les limitations du système, établir des procédures d'escalade et d'intervention, et maintenir des registres de l'activité de surveillance. Un déployeur utilisant un outil de présélection pour le recrutement alimenté par l'IA, par exemple, doit s'assurer que les recruteurs humains examinent les candidats signalés, comprennent les critères appliqués par le modèle, et conservent le pouvoir d'annuler les classements sans pénalité ni obstacle procédural.
Une préoccupation pratique essentielle est le biais d'automatisation — la tendance documentée des superviseurs humains à se fier sans esprit critique aux résultats de l'IA. L'Article 14(4)(c) exige explicitement que les personnes de surveillance soient conscientes de ce risque. En pratique, cela signifie que les programmes de formation doivent traiter des biais cognitifs, et les flux de travail doivent être structurés pour exiger une véritable délibération plutôt qu'une simple validation automatique.
Les déployeurs dans des secteurs réglementés tels que la santé, l'application de la loi et l'évaluation du crédit font face à des attentes renforcées, compte tenu de la gravité du préjudice pouvant résulter de recommandations d'IA non vérifiées dans ces contextes.
Obligations clés
- Intégration au stade de la conception : Les fournisseurs doivent intégrer des capacités de surveillance humaine dans les systèmes d'IA à haut risque avant la mise sur le marché, en s'assurant qu'elles sont techniquement réalisables et non simplement nominales.
- Compréhensibilité : Les mesures de surveillance doivent permettre aux personnes affectées de comprendre les capacités, l'objectif visé et les limitations du système, y compris les conditions dans lesquelles les performances peuvent se dégrader.
- Surveillance des anomalies : Les personnes affectées doivent être en mesure de détecter les dysfonctionnements, les résultats inattendus et les écarts par rapport au comportement attendu du système pendant le fonctionnement.
- Sensibilisation aux biais : Les personnes responsables de la surveillance doivent être sensibilisées au risque de biais d'automatisation et à la tendance à surexploiter les résultats générés par l'IA sans vérification indépendante.
- Autorité d'annulation : Les superviseurs doivent avoir la capacité réelle et non obstruée de ne pas tenir compte du système d'IA, de l'annuler ou de l'arrêter à tout moment pendant l'utilisation, sans obstacles techniques ou organisationnels empêchant l'intervention.
- Exigences en matière de compétences et de ressources : Les déployeurs doivent s'assurer que les personnes affectées à la surveillance disposent de compétences, d'une formation, d'une autorité et d'un temps suffisants pour exercer une supervision significative — la surveillance ne peut être déléguée à des personnes dépourvues des qualifications ou des capacités nécessaires.
Relation avec d'autres articles
L'Article 14 ne fonctionne pas de manière isolée. Il présuppose la conformité à l'Article 9 (système de gestion des risques), puisqu'une surveillance effective dépend de l'identification des risques que le système présente et des conditions dans lesquelles la surveillance devient critique. Il se connecte étroitement à l'Article 13 (transparence et communication d'informations aux déployeurs), qui exige des fournisseurs qu'ils fournissent les informations nécessaires aux déployeurs pour comprendre et superviser le système — sans ces informations, la surveillance telle qu'envisagée par l'Article 14 ne peut fonctionner.
L'Article 16 et l'Article 26 énoncent les obligations générales des fournisseurs et des déployeurs respectivement, dans lesquelles les obligations de l'Article 14 sont imbriquées. L'Article 17 (système de management de la qualité) exige que les procédures de surveillance humaine soient documentées dans le cadre du système qualité du fournisseur.
Pour les systèmes ayant un composant de sécurité, l'Article 14(5) recoupe la législation sur la sécurité des produits référencée à l'Annex I, et les exigences sectorielles spécifiques susceptibles d'imposer des obligations de surveillance supplémentaires ou plus prescriptives. Enfin, l'Article 72 (surveillance post-commercialisation) étend la logique de la surveillance au-delà du déploiement dans le cycle de vie opérationnel continu du système.
Calendrier de conformité
Le règlement (UE) 2024/1689 est entré en vigueur le 1er août 2024, vingt jours après sa publication au Journal officiel. Ses dispositions s'appliquent selon un calendrier progressif :
- 2 février 2025 : Les interdictions relatives aux pratiques d'IA présentant des risques inacceptables (Article 5) sont devenues applicables.
- 2 août 2025 : Les règles relatives aux modèles d'IA à usage général (Titre VIII) et les obligations de gouvernance (Titre III, Chapitre 4) sont devenues applicables.
- 2 décembre 2027 : Les obligations pour les systèmes d'IA à haut risque figurant à l'Annex III — notamment l'Article 14 — deviennent pleinement applicables pour la plupart des catégories. Il s'agit de la principale échéance de conformité pour les fournisseurs et les déployeurs de systèmes d'IA à haut risque soumis aux exigences de surveillance humaine.
- 2 août 2028 : Délai prolongé pour certains systèmes d'IA à haut risque déjà soumis à la législation d'harmonisation sectorielle de l'Union (systèmes de l'Annex I), donnant à ces chaînes d'approvisionnement un délai supplémentaire pour adapter les procédures d'évaluation de la conformité.
Les fournisseurs et les déployeurs de systèmes d'IA à haut risque devraient traiter le 2 août 2026 comme l'échéance opérationnelle pour la conformité à l'Article 14, les travaux préparatoires de conception et de gouvernance devant commencer bien avant cette date pour permettre l'évaluation de la conformité et la documentation.
Calendrier officiel de conformité AI Act
Mis à jour le · Sources : Règlement (UE) 2024/1689 et Digital Omnibus AI 2026.
| Obligation | S'applique à | Date initiale | Nouvelle date | Statut | Compte à rebours | Base légale |
|---|---|---|---|---|---|---|
| Pratiques interdites (Art. 5) | Tous les fournisseurs et déployeurs | active | — | AI Act Art. 5 | ||
| Règles GPAI (chapitre 5) | Fournisseurs de modèles GPAI | active | — | AI Act Art. 51-56 | ||
| Pouvoirs de sanction de la Commission sur les modèles GPAI | Fournisseurs de modèles GPAI | active | — | AI Act Art. 88-94, 101 | ||
| Obligations de transparence (Art. 50) | Fournisseurs et déployeurs de chatbots, IA générative, reconnaissance des émotions | active | — | AI Act Art. 50 | ||
| Nouvelle interdiction Art. 5 (pédopornographie / contenus intimes non consentis) | Fournisseurs et déployeurs de systèmes d'IA générative | active | — | Omnibus AI 2026 Art. 5 | ||
| Marquage contenu IA (transparence) | Fournisseurs de systèmes d'IA générative sur le marché avant le 2 août 2026 | active | — | AI Act Art. 50(2) — transitoire | ||
| Bacs à sable réglementaires | Autorités nationales compétentes | deferred | — | Omnibus AI 2026 Art. 57 | ||
| IA à haut risque — Annexe III (autonomes) | Fournisseurs de systèmes autonomes Annexe III | deferred | — | Omnibus AI 2026 Art. 6(2) | ||
| IA à haut risque — Annexe I (embarquée) | Systèmes IA embarqués dans produits réglementés Annexe I | deferred | — | Omnibus AI 2026 Art. 6(1) |
⬇ Télécharger JSON · CC BY 4.0
Convergence AI Act – DORA – NIS2
Votre organisation est-elle soumise à la fois à l'AI Act et à DORA ? Les deux règlements se croisent sur la résilience opérationnelle des systèmes d'IA financiers. Notre site jumeau regulation-dora.eu couvre DORA en profondeur — et détaille ce que l'AI Act ajoute par-dessus un programme DORA existant.
L'AI Act pour les institutions financières ↗ Explorer regulation-dora.eu ↗Questions fréquentes
Les fournisseurs de systèmes d'IA à haut risque supportent la responsabilité principale de concevoir et d'intégrer des capacités de surveillance humaine dans leurs systèmes avant de les mettre sur le marché. Les déployeurs sont ensuite responsables de la mise en œuvre pratique de ces mesures, de l'affectation de personnes physiques qualifiées pour superviser le fonctionnement du système, et de s'assurer que ces personnes disposent de l'autorité et des compétences nécessaires pour intervenir.
Une surveillance effective signifie que les personnes physiques chargées de surveiller un système d'IA à haut risque doivent être en mesure de comprendre pleinement les capacités et les limitations du système, de détecter et de traiter les défaillances ou les comportements inattendus, d'interpréter correctement ses résultats, et de choisir de ne pas tenir compte du système, de l'annuler ou de l'arrêter dans toute situation. Il ne suffit pas d'affecter nominalement une personne — cette personne doit avoir une réelle capacité et une réelle autorité pour agir.
Non. L'Article 14 n'impose pas l'approbation humaine de chaque résultat individuel. Il exige que la surveillance humaine soit intégrée dans le système et son contexte de déploiement afin qu'une personne responsable puisse surveiller le fonctionnement, identifier les anomalies et intervenir. L'intensité de la surveillance doit être proportionnelle au risque ; certains contextes à haut risque peuvent nécessiter un examen humain plus étroit et plus fréquent que d'autres.
L'Article 14(4) reconnaît que pour certains systèmes destinés à être utilisés par des personnes physiques, les mesures de surveillance humaine doivent être intégrées dans le système dans la mesure techniquement réalisable, compte tenu de l'objectif visé. Lorsqu'une surveillance complète ne peut pas être intégrée, les fournisseurs doivent documenter cette limitation et les déployeurs doivent compenser par des garanties organisationnelles et procédurales.
Oui. L'Article 14 s'applique à tous les systèmes d'IA à haut risque tels que définis à l'Annex III et à l'Article 6, que le système prenne des décisions entièrement autonomes ou qu'il se contente d'assister les décideurs humains. Même les systèmes d'assistance peuvent influencer les résultats d'une manière qui nécessite une surveillance structurée, surtout lorsque les résultats peuvent être exploités de manière non critique.
Restez informé des évolutions AI Act
Recevez les alertes compliance quand les délais ou obligations changent.
Pas de spam. Désabonnement en un clic.
Passez à la pratique avec l'Academy AI Act
Templates, formations et Q&A live — tout ce qu'il faut pour implémenter la conformité AI Act.