Articolo 5 — Pratiche di IA vietate (Regolamento UE sull'IA)

Articolo 5 del Regolamento (UE) 2024/1689 — Pratiche di IA vietate. Testo ufficiale, interpretazione pratica, obblighi principali e implicazioni per la conformità.

Sintesi del testo ufficiale

L'articolo 5 del Regolamento (UE) 2024/1689 (Regolamento UE sull'IA) costituisce l'intero Titolo II e stabilisce un elenco tassativo di pratiche di IA vietate nell'intera Unione europea. I divieti prendono di mira i sistemi di IA il cui potenziale di danno è ritenuto così grave che nessuna misura di gestione del rischio o valutazione di conformità può renderli accettabili.

L'articolo vieta: (1) i sistemi di IA che impiegano tecniche subliminali al di là della coscienza di una persona o sfruttano deliberatamente debolezze o vulnerabilità psicologiche per distorcere materialmente il comportamento in modo da causare o da poter causare danni significativi; (2) i sistemi di IA che sfruttano l'età, la disabilità o le circostanze socioeconomiche per distorcere il comportamento in modo dannoso; (3) i sistemi di IA utilizzati da autorità pubbliche o per loro conto per il rating sociale — valutare o classificare persone fisiche in base al comportamento sociale o a caratteristiche personali inferite — quando ciò porta a un trattamento pregiudizievole o sfavorevole; (4) i sistemi di IA che valutano il rischio che un individuo commetta un reato basandosi esclusivamente su profili o tratti della personalità; (5) l'identificazione biometrica remota in tempo reale di persone fisiche in spazi pubblicamente accessibili a fini di contrasto, soggetta a limitate eccezioni rigorosamente controllate; (6) sistemi biometrici in tempo reale o differiti utilizzati per inferire attributi sensibili quali razza, opinione politica, affiliazione sindacale, credenze religiose o orientamento sessuale; (7) i sistemi di IA che creano o ampliano banche dati di riconoscimento facciale attraverso lo scraping non mirato di internet o di filmati CCTV; e (8) i sistemi di IA che inferiscono le emozioni di persone fisiche in contesti lavorativi e scolastici, salvo per motivi di sicurezza.

Cosa significa in pratica

L'articolo 5 traccia una linea di conformità rigida che interessa ogni organizzazione che sviluppa, impiega o importa sistemi di IA nel mercato UE, indipendentemente dalle dimensioni o dal settore.

Per i fornitori di tecnologia e gli sviluppatori di IA, i divieti significano che determinate categorie di prodotti non possono semplicemente essere immesse legalmente sul mercato UE. Un fornitore che commercializza uno strumento di produttività del lavoro che include il riconoscimento delle emozioni per monitorare il coinvolgimento dei dipendenti — segnalando ai manager i lavoratori stressati o disimpegnati — deve rimuovere o riprogettare tale funzionalità prima del 2 febbraio 2025. Analogamente, una startup di analisi della vendita al dettaglio il cui sistema inferisce l'umore dei clienti dalle espressioni facciali in negozio rientra nel divieto di inferenza delle emozioni in contesti non di sicurezza.

Per le organizzazioni che utilizzano strumenti di IA di terze parti, la due diligence è ugualmente obbligatoria. Un dipartimento delle risorse umane che impiega una piattaforma di reclutamento che esegue una profilazione psicografica occulta per selezionare i candidati rischia una responsabilità solidale come deployer.

Per le autorità pubbliche, il divieto di rating sociale è particolarmente significativo. Qualsiasi sistema di IA che aggrega dati comportamentali — cronologia dei pagamenti, modelli di mobilità, attività online — per produrre un punteggio del cittadino che poi limita l'accesso ai servizi o alle prestazioni pubbliche è illegale, indipendentemente dalla sofisticazione tecnica del sistema.

Per gli organismi di contrasto, l'eccezione limitata al divieto di identificazione biometrica in tempo reale richiede solide procedure di autorizzazione preventiva, limiti geografici e temporali, registrazione obbligatoria e reporting ex-post alle autorità nazionali di vigilanza. Il dispiegamento ad hoc o continuativo senza previa autorizzazione giudiziaria o amministrativa è illegale anche nell'ambito della portata dell'eccezione.

Le organizzazioni dovrebbero condurre un inventario di tutti i sistemi di IA in uso o in fase di sviluppo, mappare ciascuno rispetto ai criteri dell'articolo 5 e cessare immediatamente le operazioni vietate.

Obblighi principali

• Cessare o non dispiegare mai alcun sistema di IA che utilizzi tecniche subliminali, manipolative o che sfruttino le vulnerabilità per distorcere il comportamento umano in modi che possono causare danni significativi, senza possibilità di eccezioni o bilanciamento della proporzionalità.
• Vietare il rating sociale da parte di autorità pubbliche o entità che agiscono per loro conto: non utilizzare l'IA per valutare o classificare persone fisiche per comportamento sociale o tratti della personalità inferiti quando il risultato porta a un trattamento pregiudizievole o discriminatorio.
• Dismettere gli strumenti di polizia predittiva che valutano il rischio di criminalità individuale basandosi esclusivamente su profili, tratti della personalità o associazioni passate senza concrete prove comportamentali.
• Astenersi dallo scraping di dati biometrici da internet, CCTV o altre fonti per creare o ampliare banche dati di riconoscimento facciale; le banche dati esistenti costruite con tali mezzi non devono essere utilizzate.
• Non dispiegare sistemi di IA che inferiscono attributi personali sensibili — origine razziale o etnica, opinioni politiche, affiliazione sindacale, credenze religiose o filosofiche, orientamento sessuale — da dati biometrici o comportamentali.
• Applicare rigorosi controlli di autorizzazione preventiva e di registrazione se si opera come forza dell'ordine e ci si avvale della limitata eccezione di cui all'articolo 5, paragrafi da 2 a 5, per l'identificazione biometrica remota in tempo reale; ogni dispiegamento deve essere limitato nel tempo, circoscritto geograficamente e soggetto a reporting ex-post.

Relazione con altri articoli

L'articolo 5 deve essere letto come l'apice della gerarchia basata sul rischio del Regolamento UE sull'IA. Opera in congiunzione con le definizioni dell'articolo 3, che stabilisce cosa costituisce un «sistema di IA», un «fornitore» e un «deployer» — gli attori soggetti ai divieti. La distinzione tra pratiche vietate ai sensi dell'articolo 5 e sistemi di IA ad alto rischio ai sensi dell'articolo 6 e dell'Allegato III è fondamentale: i sistemi vietati non possono essere utilizzati legalmente in alcun caso, mentre i sistemi ad alto rischio possono essere dispiegati soggetti a valutazioni di conformità, registrazione e obblighi di monitoraggio continuo.

L'articolo 9 (sistemi di gestione del rischio) e gli articoli 10–15 (governance dei dati, trasparenza, supervisione umana) si applicano a valle ai sistemi ad alto rischio consentiti ma non hanno alcun ruolo riparatorio per i divieti dell'articolo 5. L'articolo 99 stabilisce la struttura delle sanzioni, compresa la multa di livello massimo applicabile alle violazioni dell'articolo 5. L'articolo 85 e le disposizioni sulla vigilanza del mercato (articoli 74–78) disciplinano l'enforcement. Le autorità nazionali competenti designate ai sensi dell'articolo 70 sono responsabili del monitoraggio della conformità ai divieti a livello degli Stati membri.

Calendario di conformità

• 1° agosto 2024 — Il Regolamento (UE) 2024/1689 è entrato in vigore, venti giorni dopo la pubblicazione nella Gazzetta ufficiale dell'Unione europea.
• 2 febbraio 2025 — I divieti dell'articolo 5 sono diventati direttamente applicabili in tutti gli Stati membri dell'UE. Questa è stata la prima data di applicazione sostanziale nell'ambito del calendario graduale stabilito dall'articolo 113. Da tale data, qualsiasi dispiegamento, immissione sul mercato o messa in servizio di un sistema di IA vietato costituisce una violazione normativa soggetta a sanzioni ai sensi dell'articolo 99.
• 2 agosto 2025 — Le norme sui modelli di IA per finalità generali (Titolo VIII, articoli 51–56) sono diventate applicabili.
• 2 agosto 2026 — Si applicano gli obblighi per la maggior parte dei sistemi di IA ad alto rischio elencati nell'Allegato III, insieme alle disposizioni in materia di governance e vigilanza del mercato.
• 2 agosto 2027 — Termine esteso per i sistemi di IA ad alto rischio già sul mercato prima dell'agosto 2024 che rientrano nell'Allegato I (componenti di sicurezza in prodotti regolamentati).

Per l'articolo 5 in particolare, non esistono periodi di tolleranza o disposizioni transitorie: il termine era il 2 febbraio 2025 e la conformità è ora in ritardo per qualsiasi organizzazione che non abbia ancora agito.