Settore Pubblico e Giustizia — Conformità all'EU AI Act

Obblighi dell'EU AI Act per l'IA nella pubblica amministrazione, nell'applicazione della legge, nel controllo delle frontiere e nel sistema giudiziario. Comprende le categorie 5-8 dell'Allegato III e le valutazioni obbligatorie dell'impatto sui diritti fondamentali.

Il Settore Pubblico e l'AI Act — Perché il Governo È il Deployer ad Alto Rischio per Eccellenza

L'EU AI Act (Regolamento (UE) 2024/1689) si applica orizzontalmente a tutti i settori, ma la concentrazione più elevata di obblighi vincolanti ricade sugli enti pubblici. Le amministrazioni governative, le autorità di contrasto, le istituzioni giudiziarie e gli organismi preposti alla gestione delle frontiere sono al tempo stesso i principali deployer di IA con effetti rilevanti per gli individui e i soggetti il cui uso dell'IA crea il maggior rischio strutturale per i diritti fondamentali. Il Regolamento riflette questa asimmetria in due modi strutturali.

In primo luogo, quattro delle otto categorie ad alto rischio dell'Allegato III riguardano direttamente l'IA nel settore pubblico — le categorie da 5 a 8 coprono i servizi pubblici essenziali, l'applicazione della legge, la migrazione e il controllo delle frontiere, e l'amministrazione della giustizia. Queste categorie non sono contenitori residuali: elencano specifiche applicazioni di IA comunemente utilizzate nelle operazioni governative che per definizione comportano un rischio di livello classificatorio.

In secondo luogo, l'Art. 27 impone una valutazione obbligatoria dell'impatto sui diritti fondamentali (FRIA) agli enti pubblici prima del deployment di sistemi di IA ad alto rischio. Per i deployer del settore privato, la FRIA è fortemente raccomandata; per gli enti pubblici, costituisce un obbligo giuridico. La valutazione deve esaminare l'impatto del sistema di IA sui diritti delle persone ai sensi della Carta dei diritti fondamentali dell'UE, inclusi il diritto alla dignità (Art. 1), la protezione dei dati personali (Art. 8), il diritto a un ricorso effettivo (Art. 47) e la presunzione di innocenza (Art. 48).

Il quadro di conformità per gli enti pubblici è ulteriormente complicato dalla stratificazione degli obblighi dell'AI Act su regimi settoriali preesistenti: la Direttiva sull'applicazione della legge 2016/680, il Regolamento sul Sistema d'Informazione Schengen, il Regolamento Frontex 2019/1896, il Regolamento generale sulla protezione dei dati e i requisiti costituzionali della Convenzione europea dei diritti dell'uomo come interpretati dalla Corte europea dei diritti dell'uomo. Ciascuno di questi quadri normativi crea obblighi autonomi che devono essere soddisfatti parallelamente ai requisiti dell'EU AI Act.

Sistemi di IA ad Alto Rischio — Categorie da 5 a 8

Allegato III, Categoria 5 — Servizi Pubblici Essenziali e Valutazione delle Prestazioni

L'Allegato III, punto 5(b) classifica come ad alto rischio qualsiasi sistema di IA utilizzato per valutare l'idoneità di persone fisiche a prestazioni di servizi pubblici essenziali e per adottare decisioni in tale contesto. Questa categoria comprende l'intero spettro dell'IA nel welfare state:

• Valutazione automatizzata delle prestazioni di disoccupazione: sistemi di IA che determinano se un richiedente soddisfa i criteri di idoneità sulla base di registrazioni lavorative, attività di ricerca di impiego o verifiche reddituali.
• Decisioni su alloggi e indennità di disabilità: strumenti algoritmici che assegnano punteggi alle domande di accesso prioritario all'edilizia residenziale pubblica, alle prestazioni per disabilità o ai pagamenti per l'autonomia personale.
• Rilevamento delle frodi in materia di assistenza sociale: sistemi di profilazione tramite IA che generano punteggi di rischio per sospette frodi ai danni delle prestazioni, con possibile attivazione di indagini o sospensione dei pagamenti.

Il punto 5(b) comprende anche i sistemi di IA per il merito creditizio e le assicurazioni in relazione a persone fisiche, sebbene la principale esposizione del settore pubblico riguardi l'idoneità alle prestazioni e ai servizi. In tutti i casi, la classificazione si applica quando il sistema di IA esercita un'influenza sostanziale sull'accesso a un servizio pubblico — indipendentemente dal fatto che la decisione finale sia adottata da un funzionario umano.

Allegato III, Categoria 6 — Applicazione della Legge

La categoria 6 riguarda l'IA utilizzata dalle autorità di contrasto in tre ambiti:

Valutazione del rischio e profilazione: sistemi di IA che valutano la probabilità che un individuo commetta un reato, recidivi o costituisca una minaccia per la sicurezza — inclusi i sistemi di scoring della recidiva utilizzati nelle udienze di custodia cautelare, nelle decisioni sulla libertà condizionale e nelle raccomandazioni di condanna. Questi sistemi sono ad alto rischio ai sensi dell'Allegato III, punto 6(a).

Rilevamento e analisi nel corso delle indagini: IA per il rilevamento di stati emotivi, tratti della personalità o comportamenti ingannevoli a partire da espressioni facciali, voce o indicatori fisiologici utilizzati nelle indagini penali. L'Art. 5(1)(f) vieta separatamente i sistemi di IA che inferiscono le emozioni di individui in contesti di applicazione della legge e gestione delle frontiere, salvo specifiche finalità di sicurezza, tracciando un limite esterno invalicabile per questo caso d'uso.

Rilevamento di deepfake e documenti: IA utilizzata per rilevare contenuti digitali manipolati o valutare l'autenticità di documenti nei procedimenti penali — classificata ad alto rischio ai sensi dell'Allegato III, punto 6(c).

Allegato III, Categoria 7 — Migrazione, Asilo e Controllo delle Frontiere

La categoria 7 si applica all'IA deplorata nel contesto della migrazione e della gestione delle frontiere:

Valutazione del rischio alle frontiere: sistemi di IA che valutano il rischio di migrazione irregolare o generano punteggi di minaccia per individui in transito alle frontiere — inclusi gli strumenti di profilazione integrati nel SIS e i sistemi di analisi del rischio di Frontex operativi ai sensi del Regolamento 2019/1896.

Verifica di documenti e identità: sistemi di IA che valutano l'autenticità di documenti di viaggio, visti, permessi di soggiorno o documenti d'identità ai fini dell'attraversamento delle frontiere o per scopi di immigrazione.

Trattamento delle domande di asilo: IA che esamina le domande di asilo, valuta la credibilità delle dichiarazioni individuali o profila i richiedenti per procedure accelerate o semplificate.

Tutti i sistemi della categoria 7 devono essere valutati per la conformità non solo all'AI Act, ma anche alla Convenzione sui rifugiati del 1951, all'Art. 18 della Carta UE (diritto d'asilo) e al principio di non-refoulement come interpretato nella giurisprudenza della CEDU — un vincolo di carattere costituzionale che la FRIA ai sensi dell'Art. 27 deve affrontare esplicitamente.

Allegato III, Categoria 8 — Amministrazione della Giustizia e Processi Democratici

La categoria 8 riguarda l'IA deplorata nell'ambito del sistema giudiziario stesso:

IA di supporto giudiziario: sistemi che assistono nella ricerca di giurisprudenza, nell'identificazione delle disposizioni giuridiche applicabili o nella strutturazione del ragionamento giuridico per giudici, pubblici ministeri o cancellieri — ad alto rischio ai sensi dell'Allegato III, punto 8(a).

Strumenti di giustizia predittiva: sistemi di IA che prevedono il probabile esito di contenziosi, le fasce di condanna o le decisioni giudiziarie sulla base di dati storici sulle cause. Questi sistemi sollevano preoccupazioni acute ai sensi dell'Art. 47 della Carta UE in merito al diritto a un equo processo, poiché il loro utilizzo nel processo decisionale giudiziario può svantaggiare strutturalmente le parti il cui profilo si discosta dalle norme storiche.

La categoria 8 non vieta il lavoro giudiziario assistito dall'IA; lo assoggetta al regime di conformità per i sistemi ad alto rischio e richiede che tribunali e ministeri della giustizia garantiscano che gli output dell'IA siano sempre soggetti a una revisione umana sostanziale — il giudice o il decisore deve essere in grado di, e nella pratica deve effettivamente, discostarsi dall'output dell'IA ove questo non sia appropriato.

Obblighi Vincolanti per gli Enti Pubblici Deployer

Gli enti pubblici che operano in qualità di deployer di sistemi di IA ad alto rischio ai sensi dell'AI Act sono titolari di un insieme definito e non delegabile di obblighi ai sensi dell'Art. 26 e dell'Art. 27.

Valutazione dell'Impatto sui Diritti Fondamentali (Art. 27)

La FRIA è l'obbligo più caratteristico per i deployer pubblici. Deve essere effettuata prima del deployment e deve trattare: le specifiche finalità del sistema che incidono sui diritti; le categorie di individui i cui diritti possono essere interessati; i rischi prevedibili di danno e la probabilità e gravità di tali rischi; in che misura le garanzie giuridiche esistenti attenuano tali rischi; e le misure adottate per monitorare il sistema dopo il deployment. La FRIA completata deve essere messa a disposizione dell'autorità nazionale di vigilanza sull'IA su richiesta e deve essere aggiornata quando il sistema viene modificato o deplorato in un nuovo contesto.

Supervisione Umana e Responsabilità Designata

L'Art. 26(1) richiede ai deployer di affidare la supervisione umana dei sistemi di IA ad alto rischio a persone fisiche dotate della necessaria competenza, autorità e risorse per intervenire. Nella pubblica amministrazione, ciò significa che ciascun processo automatizzato che incide sulle persone — che si tratti di idoneità alle prestazioni, scoring del rischio alle frontiere o output di supporto giudiziario — deve avere un funzionario identificato che possa sovvertire l'output del sistema e che non sia strutturalmente incentivato a deferirvi.

Trasparenza nei Confronti delle Persone Interessate

L'Art. 13 richiede ai deployer di garantire che le persone soggette a decisioni assistite dall'IA siano chiaramente informate del fatto che viene utilizzato un sistema di IA. Nella pubblica amministrazione, questo obbligo richiede tipicamente di inserire comunicazioni sull'utilizzo dell'IA nelle lettere di decisione, nelle comunicazioni amministrative e nelle procedure d'udienza. L'Art. 86 tutela la riservatezza dei dati trasmessi alle autorità di vigilanza nel contesto del monitoraggio della conformità, offrendo un canale per la comunicazione di documentazione interna sensibile senza esposizione pubblica.

Logging, Conservazione dei Registri e Segnalazione degli Incidenti

I deployer devono conservare i log operativi dell'attività del sistema di IA per un periodo minimo — almeno sei mesi per la maggior parte dei sistemi ad alto rischio, con una conservazione estesa laddove il quadro giuridico che disciplina il procedimento amministrativo sottostante lo richieda. Gli incidenti gravi — incidenti che causano morte, lesioni gravi, danni significativi alla proprietà o violazioni dei diritti fondamentali — devono essere segnalati all'autorità nazionale di vigilanza sull'IA competente senza indebito ritardo.

Pratiche Vietate nella Pubblica Amministrazione

Alcune pratiche di IA sono assolutamente vietate ai sensi dell'Art. 5 dell'EU AI Act. Per le autorità pubbliche, tre divieti hanno diretta rilevanza operativa.

Art. 5(1)(c) — Social scoring da parte di autorità pubbliche: i sistemi di IA che valutano o classificano individui in base al loro comportamento sociale o alle loro caratteristiche personali per generare un punteggio utilizzato per determinare l'accesso a servizi pubblici, prestazioni o trattamento giuridico sono vietati. Questo divieto è specificamente rivolto alle autorità pubbliche e prende di mira i cosiddetti meccanismi di credito sociale indipendentemente da come vengono denominati o strutturati.

Art. 5(1)(d) — Identificazione biometrica remota in tempo reale in spazi pubblici: l'utilizzo di sistemi di identificazione biometrica remota in tempo reale basati sull'IA (riconoscimento facciale, analisi dell'andatura o altri strumenti biometrici) in spazi accessibili al pubblico da parte delle autorità di contrasto è vietato, salvo tre eccezioni limitate: ricerche mirate di minori scomparsi; prevenzione di specifiche e imminenti minacce terroristiche; e identificazione di sospettati di reati gravi ove sia stata ottenuta una previa autorizzazione giudiziaria o amministrativa indipendente. Queste eccezioni sono tassative; nessun programma generale di sorveglianza vi rientra.

Art. 5(1)(e) — Tecniche subliminali e manipolative: i sistemi di IA che impiegano tecniche che operano al di sotto della soglia della consapevolezza cosciente per manipolare il comportamento individuale, o che sfruttano le vulnerabilità di specifici gruppi, sono vietati per tutti i deployer, comprese le autorità pubbliche.

Applicazione — Autorità di Vigilanza e Meccanismi di Controllo

L'architettura di applicazione dell'AI Act nel settore pubblico coinvolge molteplici livelli di autorità competente.

Le autorità nazionali di vigilanza sull'IA designate ai sensi dell'Art. 70 sono i principali organismi di applicazione del Regolamento in ciascuno Stato membro. Nella maggior parte delle giurisdizioni, queste sono o saranno integrate con le autorità per la protezione dei dati esistenti o strettamente allineate a esse. Hanno il potere di condurre audit, richiedere documentazione tecnica e risultati della FRIA, emettere ordini correttivi e irrogare sanzioni amministrative.

Le sanzioni per gli enti pubblici sono soggette alla discrezionalità degli Stati membri ai sensi dell'Art. 99(6): gli Stati membri possono prevedere che le autorità pubbliche non siano soggette a sanzioni pecuniarie, ma devono garantire che siano disponibili meccanismi alternativi di vigilanza e correzione — inclusi audit obbligatori, pubblicazione dei risultati di non conformità e sospensione dell'utilizzo del sistema di IA. Questa discrezionalità non si estende al consentire la non conformità; riguarda unicamente il meccanismo della sanzione pecuniaria.

Le autorità per la protezione dei dati (DPA) e l'EDPB mantengono una competenza parallela sulle dimensioni di trattamento dei dati personali dell'IA del settore pubblico ai sensi del GDPR e della LED. La non conformità agli obblighi del GDPR o della LED nel contesto del funzionamento di un sistema di IA è soggetta all'applicazione da parte della DPA in modo indipendente dall'autorità di vigilanza sull'AI Act.

La Corte europea dei diritti dell'uomo costituisce un vincolo costituzionale esterno: le decisioni adottate sulla base di processi algoritmici — in particolare nella giustizia penale e nell'immigrazione — devono soddisfare gli standard convenzionali degli Art. 6 (equo processo) e Art. 8 (vita privata) come interpretati nella giurisprudenza in evoluzione della CEDU sul processo decisionale automatizzato.

Roadmap di Implementazione per le Amministrazioni Pubbliche

Fase 1 — Inventario e Classificazione dei Sistemi di IA (Mesi 1-3)

Gli enti pubblici devono innanzitutto predisporre un inventario completo di tutti i sistemi di IA attualmente in uso o in fase di approvvigionamento. Ciascun sistema deve essere valutato rispetto alle categorie da 5 a 8 dell'Allegato III e alle disposizioni di divieto dell'Art. 5. I sistemi che comportano il trattamento di dati personali devono essere valutati simultaneamente rispetto ai requisiti del GDPR e della LED. Il risultato di questa fase è un inventario classificato — vietato, ad alto rischio, a rischio limitato o a rischio minimo — che orienta il programma di conformità.

Fase 2 — Valutazioni dell'Impatto sui Diritti Fondamentali (Mesi 3-6)

Per ciascun sistema ad alto rischio identificato, gli enti pubblici devono commissionare e completare una FRIA ai sensi dell'Art. 27. Ciò richiede contributi giuridici, tecnici e di policy: analisi giuridica dei diritti in gioco; documentazione tecnica del funzionamento del sistema, dei dati di addestramento e delle modalità di errore note; e una valutazione di policy delle misure di mitigazione disponibili. Le FRIA devono essere documentate e pronte per la trasmissione alle autorità di vigilanza.

Fase 3 — Verifica dei Fornitori e Riforma degli Appalti (Mesi 3-9)

Le procedure di appalto pubblico devono essere aggiornate per richiedere ai fornitori di IA di dimostrare la conformità all'EU AI Act come condizione per l'aggiudicazione del contratto. I deployer devono verificare la marcatura CE, la Dichiarazione di Conformità, la documentazione tecnica e gli impegni di monitoraggio post-commercializzazione prima del deployment. Gli enti pubblici che agiscono come operatori congiunti o co-sviluppatori con fornitori tecnologici devono chiarire contrattualmente la ripartizione delle responsabilità in materia di obblighi di valutazione della conformità.

Fase 4 — Salvaguardie Operative e Formazione del Personale (Mesi 6-12)

I funzionari designati alla supervisione umana devono essere identificati per ciascun sistema di IA ad alto rischio, formati sulle capacità e i limiti del sistema e dotati di procedure di override. Le comunicazioni sulla trasparenza destinate alle persone interessate devono essere redatte e integrate nelle procedure amministrative esistenti. Le infrastrutture di logging devono essere verificate o predisposte. I protocolli di segnalazione degli incidenti devono essere integrati con i processi di gestione degli incidenti amministrativi e in materia di protezione dei dati già esistenti.

Fase 5 — Monitoraggio Continuo e Revisione Annuale

La conformità dei sistemi di IA ad alto rischio non è un esercizio di certificazione una tantum. Gli obblighi di monitoraggio post-commercializzazione richiedono agli enti pubblici di tracciare attivamente le prestazioni del sistema, documentare qualsiasi variazione di accuratezza, bias o comportamento, e aggiornare le FRIA quando si verificano modifiche sostanziali. La rendicontazione annuale alle autorità di vigilanza, ove richiesta dal diritto nazionale, deve essere supportata dalla documentazione prodotta attraverso il programma di monitoraggio.