Articolo 15 — Accuratezza, robustezza e cybersicurezza (Regolamento UE sull'IA)

Articolo 15 del Regolamento (UE) 2024/1689 — Accuratezza, robustezza e cybersicurezza. Testo ufficiale, interpretazione pratica, obblighi principali e implicazioni per la conformità.

Sintesi del testo ufficiale

L'Articolo 15 del Regolamento (UE) 2024/1689 stabilisce i requisiti tecnici in materia di accuratezza, robustezza e cybersicurezza che devono essere soddisfatti dai sistemi di IA ad alto rischio per tutto il loro ciclo di vita. L'articolo è strutturato attorno a tre obblighi interconnessi.

In primo luogo, i sistemi di IA ad alto rischio devono essere progettati e sviluppati per raggiungere un livello appropriato di accuratezza per il loro scopo previsto. I fornitori sono tenuti a dichiarare le metriche di accuratezza pertinenti nella documentazione tecnica allegata, consentendo la verifica a valle e il controllo normativo.

In secondo luogo, i sistemi devono dimostrare robustezza — la capacità di gestire errori, guasti e incoerenze derivanti dall'interno del sistema stesso, dal suo ambiente operativo o da una deliberata manipolazione avversariale. Il Regolamento menziona espressamente la necessità di affrontare il rischio di circuiti di retroazione indesiderati, in particolare quando un sistema di IA ad alto rischio influenza i propri dati di addestramento o i propri output.

In terzo luogo, i sistemi devono incorporare misure di cybersicurezza proporzionate ai rischi che presentano. Tali misure devono proteggere contro i tentativi di terze parti di sfruttare le vulnerabilità del sistema che potrebbero indurre il sistema a comportarsi in modi dannosi, distorti o altrimenti non conformi. Il Regolamento riconosce che la resilienza in materia di cybersicurezza non è una condizione statica, ma deve essere mantenuta con l'evolversi del panorama delle minacce.

Complessivamente, l'Articolo 15 concretizza il principio più ampio — enunciato nei Considerando 51 e 52 — secondo cui l'affidabilità tecnica è un prerequisito per il dispiegamento dell'IA in settori d'impatto.

Cosa significa in pratica

L'Articolo 15 crea obblighi concreti di ingegneria e governance per qualsiasi organizzazione che immette sul mercato UE un sistema di IA ad alto rischio o lo mette in servizio.

Per i fornitori, l'implicazione immediata è che l'accuratezza non è semplicemente un'affermazione commerciale, ma un impegno regolatorio che deve essere documentato, misurato e mantenuto. Un produttore di dispositivi medici che integra uno strumento diagnostico basato sull'IA deve specificare se l'accuratezza viene misurata come sensibilità, specificità, AUC o un'altra metrica — e tale scelta deve essere coerente con lo scopo previsto e il profilo di rischio del sistema. Dichiarazioni di accuratezza vaghe o aspirazionali non soddisferanno il requisito.

I test di robustezza devono andare oltre la normale garanzia della qualità. I fornitori devono condurre stress test, test fuori distribuzione e — quando il sistema è esposto a input controllati dall'utente — red-teaming avversariale. Quando un sistema incorpora circuiti di retroazione (ad esempio, un algoritmo di selezione del personale che apprende dalle decisioni dei selezionatori), i fornitori devono mappare e mitigare il rischio che output distorti corrompano i futuri cicli di addestramento.

Gli obblighi di cybersicurezza ai sensi dell'Articolo 15 devono essere letti in combinazione con la più ampia postura di sicurezza informatica del fornitore. I sistemi di IA ad alto rischio che trattano dati personali o si connettono a infrastrutture critiche devono far fronte a obblighi composti sia ai sensi del presente Regolamento sia della Direttiva NIS 2. Le misure pratiche includono controlli di accesso ai modelli, sanificazione degli input, rilevamento delle anomalie nelle richieste di inferenza e procedure di divulgazione delle vulnerabilità.

Per i responsabili del dispiegamento, la conformità all'Articolo 15 dipende in modo sostanziale dalla preservazione delle condizioni operative validate descritte dal fornitore. Dispiegare un sistema su distribuzioni di dati materialmente diverse da quelle utilizzate nella validazione — ad esempio, applicare un modello di credit scoring addestrato su un mercato nazionale a una giurisdizione diversa — può compromettere le proprietà di accuratezza e robustezza sulla base delle quali è stata concessa la marcatura CE.

Obblighi principali

• Dichiarare le metriche di accuratezza: I fornitori devono specificare le metriche di accuratezza pertinenti per il sistema di IA ad alto rischio e includerle nella documentazione tecnica richiesta ai sensi dell'Articolo 11 e dell'Allegato IV. Le metriche devono essere appropriate allo scopo previsto del sistema.
• Raggiungere e mantenere un'accuratezza adeguata: Il sistema deve essere progettato e sviluppato per raggiungere il livello di accuratezza dichiarato; l'accuratezza non deve essere trattata come un risultato di validazione una tantum, ma deve essere monitorata dopo il dispiegamento attraverso il sistema di monitoraggio post-commercializzazione richiesto ai sensi dell'Articolo 72.
• Garantire la robustezza contro errori e incoerenze: Devono essere adottate misure tecniche e organizzative affinché il sistema possa gestire errori, guasti e incoerenze — derivanti da guasti interni, variabilità ambientale o input avversariali deliberati — senza causare output non sicuri o non conformi.
• Proteggersi dagli attacchi avversariali: Quando il sistema è esposto a input di terze parti, i fornitori devono implementare misure per rilevare e resistere alla manipolazione avversariale, inclusi attacchi di prompt injection, inversione del modello o avvelenamento dei dati, ove applicabile.
• Affrontare i rischi dei circuiti di retroazione: Quando gli output di un sistema potrebbero influenzare i futuri dati di addestramento o il comportamento del modello, i fornitori devono identificare questo rischio nella documentazione tecnica e implementare salvaguardie per prevenire il degrado delle prestazioni o l'amplificazione delle distorsioni nel tempo.
• Implementare misure di cybersicurezza proporzionate: Le soluzioni tecniche — inclusi controlli di accesso, monitoraggio e procedure di risposta agli incidenti — devono essere proporzionate ai rischi di cybersicurezza posti dal sistema, tenendo conto del suo scopo previsto, del contesto di dispiegamento e dell'esposizione a reti esterne o a input controllati dall'utente.

Relazione con altri articoli

L'Articolo 15 non può essere letto in isolamento. Si trova al centro dei requisiti tecnici per i sistemi di IA ad alto rischio e si interseca con diverse altre disposizioni del Regolamento.

L'Articolo 9 (sistema di gestione del rischio) fornisce il quadro generale nell'ambito del quale i rischi di accuratezza, robustezza e cybersicurezza devono essere identificati, valutati e mitigati. Il sistema di gestione del rischio è il veicolo procedurale per soddisfare molti dei requisiti sostanziali imposti dall'Articolo 15.

L'Articolo 10 (dati e governance dei dati) è fondamentale per l'accuratezza: un sistema addestrato su dati di scarsa qualità, non rappresentativi o distorti non può garantire un'accuratezza significativa. Gli obblighi di qualità dei dati abilitano direttamente la conformità all'Articolo 15.

L'Articolo 11 e l'Allegato IV specificano cosa deve figurare nella documentazione tecnica, comprese le metriche di accuratezza richieste dall'Articolo 15(1).

L'Articolo 17 (sistema di gestione della qualità) richiede ai fornitori di incorporare la conformità all'Articolo 15 nei propri processi organizzativi, inclusi i controlli di progettazione, i protocolli di test e le procedure di gestione delle modifiche.

L'Articolo 72 (monitoraggio post-commercializzazione) crea l'obbligo continuativo di verificare che i livelli di accuratezza e robustezza siano mantenuti dopo il dispiegamento, chiudendo il ciclo del ciclo di vita che l'Articolo 15 apre nella fase di progettazione.

Per i sistemi che sono anche dispositivi medici o componenti di sicurezza, l'Articolo 15 deve essere letto insieme alla legislazione di armonizzazione dell'Unione applicabile elencata nell'Allegato I.

Calendario di conformità

L'Articolo 15 segue il calendario di applicazione graduale stabilito dall'Articolo 113 del Regolamento (UE) 2024/1689, entrato in vigore il 1° agosto 2024.

I fornitori che sviluppano o immettono sul mercato sistemi di IA ad alto rischio prima della data applicabile devono comunque preparare in anticipo la documentazione, i protocolli di test e le architetture di cybersicurezza — le valutazioni di prontezza normativa e le valutazioni di conformità ai sensi degli Articoli 43–47 richiedono un significativo anticipo temporale. I ritardi degli organismi notificati e la complessità dei test avversariali significano che le organizzazioni che puntano a un lancio nel 2026 dovrebbero iniziare le valutazioni dei gap dell'Articolo 15 entro la metà del 2025.