Articolo 14 del Regolamento (UE) 2024/1689 — Supervisione umana. Testo ufficiale, interpretazione pratica, obblighi principali e implicazioni per la conformità.
Sintesi del testo ufficiale
L'Articolo 14 del Regolamento (UE) 2024/1689 stabilisce requisiti obbligatori di supervisione umana per i sistemi di IA ad alto rischio, costituendo un pilastro fondamentale del quadro normativo ai sensi del Titolo III, Capitolo 2. L'articolo richiede che i sistemi di IA ad alto rischio siano progettati e sviluppati in modo tale da poter essere efficacemente supervisionati da persone fisiche durante il periodo di utilizzo.
In particolare, l'Articolo 14(1) impone ai fornitori di garantire, laddove tecnicamente fattibile, che le misure di supervisione umana siano integrate nel sistema prima dell'immissione sul mercato o della messa in servizio. Tali misure devono consentire alle persone designate alla supervisione di comprendere le capacità e i limiti del sistema (Articolo 14(4)(a)), monitorare il funzionamento per segnali di anomalia, disfunzione o prestazioni impreviste (Articolo 14(4)(b)), rimanere consapevoli del rischio di distorsione da automazione (Articolo 14(4)(c)), interpretare correttamente gli output (Articolo 14(4)(d)) e decidere di non utilizzare il sistema o di ignorarlo, annullarlo o fermarlo in qualsiasi situazione (Articolo 14(4)(e)).
L'Articolo 14(3) richiede che le persone fisiche designate alla supervisione abbiano la competenza, l'autorità e le risorse necessarie per svolgere il loro ruolo. Laddove un sistema sia destinato ad essere utilizzato da persone fisiche, le misure di supervisione devono, nella misura in cui è tecnicamente fattibile, essere integrate direttamente nell'interfaccia del sistema. L'Articolo 14(5) riguarda i sistemi con una funzione di componente di sicurezza, imponendo aspettative più elevate laddove l'output dell'IA alimenta decisioni critiche per la sicurezza.
Cosa significa in pratica
L'Articolo 14 crea obblighi sia per i fornitori che per i deployment, sebbene la natura di tali obblighi differisca in ciascuna fase del ciclo di vita del sistema di IA.
Per i fornitori, l'obbligo è principalmente di progettazione: la supervisione umana non deve essere un'aggiunta posticcia imbullonata dopo lo sviluppo, ma una caratteristica ingegnerizzata nel sistema fin dall'inizio. Ciò significa costruire interfacce che visualizzino indicatori di confidenza significativi, segnalare gli output a bassa certezza, consentire l'interruzione o l'annullamento senza attrito tecnico e fornire documentazione che consenta ai deployment di comprendere quale supervisione è realisticamente realizzabile.
Per i deployment, l'obbligo è operativo: devono assegnare individui qualificati al monitoraggio del sistema, garantire che tali individui siano formati e informati sui limiti del sistema, stabilire procedure di escalation e intervento e mantenere registri dell'attività di supervisione. Un deployment che utilizza uno strumento di screening per il reclutamento basato sull'IA, ad esempio, deve garantire che i reclutatori umani esaminino i candidati segnalati, comprendano i criteri applicati dal modello e mantengano l'autorità di annullare le classifiche senza penalità o ostacoli procedurali.
Una preoccupazione pratica critica è la distorsione da automazione — la documentata tendenza degli supervisori umani a deferire in modo acritico agli output dell'IA. L'Articolo 14(4)(c) richiede esplicitamente che le persone di supervisione siano consapevoli di questo rischio. In pratica, ciò significa che i programmi di formazione devono affrontare i bias cognitivi e i flussi di lavoro devono essere strutturati per richiedere una vera deliberazione piuttosto che una ratifica automatica.
I deployment in settori regolamentati come l'assistenza sanitaria, l'applicazione della legge e la valutazione del credito affrontano aspettative più elevate, dati la gravità dei danni che possono derivare da raccomandazioni IA non controllate in tali contesti.
Obblighi principali
- Integrazione nella fase di progettazione: I fornitori devono integrare le capacità di supervisione umana nei sistemi di IA ad alto rischio prima dell'immissione sul mercato, garantendo che siano tecnicamente realizzabili e non meramente nominali.
- Comprensibilità: Le misure di supervisione devono consentire alle persone designate di comprendere le capacità, la finalità prevista e i limiti del sistema, incluse le condizioni in cui le prestazioni possono degradarsi.
- Monitoraggio delle anomalie: Le persone designate devono essere in grado di rilevare malfunzionamenti, output imprevisti e deviazioni dal comportamento atteso del sistema durante il funzionamento.
- Consapevolezza dei bias: Le persone responsabili della supervisione devono essere rese consapevoli del rischio di distorsione da automazione e della tendenza a fare eccessivo affidamento sugli output generati dall'IA senza verifica indipendente.
- Autorità di annullamento: I supervisori devono avere la capacità reale e non ostacolata di ignorare, annullare o fermare il sistema di IA in qualsiasi momento durante l'utilizzo, senza barriere tecniche o organizzative che impediscano l'intervento.
- Requisiti di competenza e risorse: I deployment devono garantire che le persone designate alla supervisione abbiano competenza, formazione, autorità e tempo sufficienti per svolgere una supervisione significativa — la supervisione non può essere delegata a persone prive delle qualifiche o della capacità necessarie.
Relazione con altri articoli
L'Articolo 14 non opera in isolamento. Presuppone la conformità all'Articolo 9 (sistema di gestione dei rischi), poiché la supervisione efficace dipende dall'aver identificato i rischi che il sistema pone e le condizioni in cui la supervisione diventa critica. Si collega strettamente all'Articolo 13 (trasparenza e fornitura di informazioni ai deployment), che richiede ai fornitori di fornire le informazioni necessarie affinché i deployment comprendano e supervisionino il sistema — senza tali informazioni, la supervisione prevista dall'Articolo 14 non può funzionare.
L'Articolo 16 e l'Articolo 26 stabiliscono gli obblighi generali rispettivamente dei fornitori e dei deployment, nell'ambito dei quali sono annidati gli obblighi dell'Articolo 14. L'Articolo 17 (sistema di gestione della qualità) richiede che le procedure di supervisione umana siano documentate come parte del quadro di qualità del fornitore.
Per i sistemi con una componente di sicurezza, l'Articolo 14(5) si interseca con la legislazione sulla sicurezza dei prodotti citata nell'Allegato I, e con requisiti settoriali specifici che possono imporre obblighi di supervisione aggiuntivi o più prescrittivi. Infine, l'Articolo 72 (monitoraggio post-commercializzazione) estende la logica della supervisione oltre il deployment nel ciclo di vita operativo continuativo del sistema.
Calendario di conformità
Il Regolamento (UE) 2024/1689 è entrato in vigore il 1° agosto 2024, venti giorni dopo la pubblicazione nella Gazzetta Ufficiale. Le sue disposizioni si applicano secondo un calendario graduale:
- 2 febbraio 2025: Sono diventati applicabili i divieti sulle pratiche di IA a rischio inaccettabile (Articolo 5).
- 2 agosto 2025: Sono diventate applicabili le norme sui modelli di IA di uso generale (Titolo VIII) e gli obblighi di governance (Titolo III, Capitolo 4).
- 2 agosto 2026: Gli obblighi per i sistemi di IA ad alto rischio elencati nell'Allegato III — incluso l'Articolo 14 — diventano pienamente applicabili per la maggior parte delle categorie. Questa è la scadenza di conformità primaria per i fornitori e i deployment di sistemi di IA ad alto rischio soggetti ai requisiti di supervisione umana.
- 2 agosto 2027: Scadenza prorogata per determinati sistemi di IA ad alto rischio già soggetti alla legislazione di armonizzazione dell'Unione settoriale specifica (sistemi dell'Allegato I), che concede a quelle catene di fornitura ulteriore tempo per adeguare le procedure di valutazione della conformità.
I fornitori e i deployment di sistemi di IA ad alto rischio dovrebbero trattare il 2 agosto 2026 come la scadenza operativa per la conformità all'Articolo 14, con il lavoro preparatorio di progettazione e governance che richiede l'avvio con largo anticipo rispetto a tale data per consentire la valutazione della conformità e la documentazione.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
I fornitori di sistemi di IA ad alto rischio hanno la responsabilità primaria di progettare e integrare le capacità di supervisione umana nei loro sistemi prima di immetterli sul mercato. I deployment sono quindi responsabili dell'attuazione di tali misure in pratica, dell'assegnazione di persone fisiche qualificate alla supervisione del funzionamento del sistema e di garantire che tali persone abbiano l'autorità e la competenza necessarie per intervenire.
La supervisione efficace significa che le persone fisiche designate per monitorare un sistema di IA ad alto rischio devono essere in grado di comprendere appieno le capacità e i limiti del sistema, rilevare e affrontare guasti o comportamenti imprevisti, interpretare correttamente i suoi output e scegliere di ignorare, ignorare o fermare il sistema quando necessario. Non è sufficiente assegnare nominalmente una persona — quella persona deve avere reale capacità e autorità di agire.
No. L'Articolo 14 non impone l'approvazione umana di ogni singolo output. Richiede che la supervisione umana sia integrata nel sistema e nel suo contesto di deployment in modo che una persona responsabile possa monitorare il funzionamento, identificare anomalie e intervenire. L'intensità della supervisione deve essere proporzionale al rischio; alcuni contesti ad alto rischio possono richiedere una revisione umana più ravvicinata e frequente rispetto ad altri.
L'Articolo 14(4) riconosce che per determinati sistemi destinati ad essere utilizzati da persone fisiche, le misure di supervisione umana devono essere integrate nel sistema nella misura in cui è tecnicamente fattibile, data la finalità prevista. Laddove la supervisione completa non possa essere incorporata, i fornitori devono documentare questa limitazione e i deployment devono compensare attraverso salvaguardie organizzative e procedurali.
Sì. L'Articolo 14 si applica a tutti i sistemi di IA ad alto rischio come definiti nell'Allegato III e nell'Articolo 6, indipendentemente dal fatto che il sistema prenda decisioni completamente autonome o si limiti ad assistere i decisori umani. Anche i sistemi assistivi possono influenzare i risultati in modi che richiedono una supervisione strutturata, specialmente quando gli output possono essere utilizzati in modo acritico.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.