Articolul 5 — Practici AI interzise (Regulamentul UE privind IA)

Articolul 5 din Regulamentul (UE) 2024/1689 — Practici AI interzise. Text oficial, interpretare practică, obligații cheie și implicații pentru conformitate.

Rezumatul Textului Oficial

Articolul 5 din Regulamentul (UE) 2024/1689 (Regulamentul UE privind IA) constituie întregul Titlu II și stabilește o listă absolută a practicilor AI care sunt interzise în întreaga Uniune Europeană. Interdicțiile vizează sistemele AI al căror potențial de vătămare este considerat atât de grav încât nicio măsură de gestionare a riscurilor sau evaluare a conformității nu le poate face acceptabile.

Articolul interzice: (1) sistemele AI care utilizează tehnici subliminale care depășesc conștiința unei persoane sau care exploatează deliberat slăbiciunile sau vulnerabilitățile psihologice pentru a distorsiona material comportamentul într-un mod care cauzează sau este susceptibil să cauzeze un prejudiciu semnificativ; (2) sistemele AI care exploatează vârsta, dizabilitatea sau circumstanțele socioeconomice pentru a distorsiona în mod dăunător comportamentul; (3) sistemele AI utilizate de autoritățile publice sau în numele acestora pentru scoruri sociale — evaluarea sau clasificarea persoanelor fizice pe baza comportamentului social sau a caracteristicilor personale deduse — atunci când aceasta conduce la un tratament defavorabil sau nefavorabil; (4) sistemele AI care evaluează riscul ca o persoană să comită o infracțiune bazându-se exclusiv pe profilare sau trăsături de personalitate; (5) identificarea biometrică de la distanță în timp real a persoanelor fizice în spații accesibile publicului în scopul aplicării legii, sub rezerva unor excepții limitate și strict controlate; (6) sistemele biometrice la distanță în timp real sau post utilizate pentru a deduce atribute sensibile precum rasa, opinia politică, apartenența la sindicate, convingerile religioase sau orientarea sexuală; (7) sistemele AI care creează sau extind baze de date de recunoaștere facială prin scraping nespecific al internetului sau al imaginilor de supraveghere video; și (8) sistemele AI care deduc emoțiile persoanelor fizice în medii de muncă și educaționale, cu excepția unor motive de siguranță.

Ce Înseamnă Aceasta în Practică

Articolul 5 trasează o linie fermă de conformitate care afectează fiecare organizație care dezvoltă, utilizează sau importă sisteme AI pe piața UE, indiferent de dimensiune sau sector.

Pentru furnizorii de tehnologie și dezvoltatorii de AI, interdicțiile înseamnă că anumite categorii de produse pur și simplu nu pot fi introduse legal pe piața UE. Un furnizor care comercializează un instrument de productivitate a forței de muncă ce include recunoașterea emoțiilor pentru a monitoriza implicarea angajaților — semnalând managerilor angajații stresați sau dezangajați — trebuie să elimine sau să reproiecteze acea funcție înainte de 2 februarie 2025. În mod similar, un startup de analiză retail al cărui sistem deduce starea de spirit a clienților din expresiile faciale în magazin se încadrează în interdicția privind inferența emoțiilor în contexte care nu sunt legate de siguranță.

Pentru organizațiile care utilizează instrumente AI ale unor terțe părți, diligența necesară este la fel de obligatorie. Un departament de resurse umane care utilizează o platformă de recrutare ce efectuează profilare psihografică disimulată pentru a selecta candidații riscă răspunderea solidară în calitate de operator.

Pentru autoritățile publice, interdicția privind scorurile sociale este deosebit de semnificativă. Orice sistem AI care agregă date comportamentale — istoricul plăților, tiparele de mobilitate, activitatea online — pentru a produce un scor cetățenesc care restricționează ulterior accesul la servicii sau beneficii publice este ilegal, indiferent dacă sistemul este din punct de vedere tehnic sofisticat.

Pentru organismele de aplicare a legii, excepția restrânsă de la interdicția privind identificarea biometrică în timp real impune proceduri robuste de autorizare prealabilă, limite geografice și temporale, înregistrare obligatorie și raportare ex-post către autoritățile naționale de supraveghere. Utilizarea ad hoc sau continuă fără autorizare judiciară sau administrativă prealabilă este ilegală chiar și în domeniul de aplicare al excepției.

Organizațiile ar trebui să efectueze un inventar al tuturor sistemelor AI utilizate sau în curs de dezvoltare, să mapeze fiecare față de criteriile Articolului 5 și să înceteze operațiunile interzise fără întârziere.

Obligații Cheie

• Încetarea sau neutilizarea niciodată a oricărui sistem AI care utilizează tehnici subliminale, manipulatoare sau care exploatează vulnerabilitățile pentru a distorsiona comportamentul uman în moduri susceptibile să cauzeze un prejudiciu semnificativ, fără nicio excepție sau echilibru de proporționalitate disponibil.
• Interzicerea scorurilor sociale de către autoritățile publice sau entitățile care acționează în numele acestora: nu se utilizează AI pentru a evalua sau clasifica persoanele fizice în funcție de comportamentul social sau trăsăturile de personalitate deduse atunci când rezultatul conduce la un tratament defavorabil sau discriminatoriu.
• Dezafectarea instrumentelor de poliție predictivă care evaluează riscul criminal individual bazându-se exclusiv pe profilare, trăsături de personalitate sau asocieri anterioare fără dovezi comportamentale concrete.
• Abținerea de la scraping a datelor biometrice de pe internet, camere de supraveghere video sau alte surse pentru a crea sau extinde baze de date de recunoaștere facială; bazele de date existente create prin astfel de mijloace nu trebuie utilizate.
• Neutilizarea sistemelor AI care deduc atribute personale sensibile — origine rasială sau etnică, opinii politice, apartenența la sindicate, convingeri religioase sau filosofice, orientare sexuală — din date biometrice sau comportamentale.
• Aplicarea unor controale stricte de autorizare prealabilă și înregistrare dacă operați în calitate de forță de ordine și vă bazați pe excepția restrânsă din Articolul 5(2)–(5) pentru identificarea biometrică de la distanță în timp real; fiecare utilizare trebuie să fie limitată în timp, delimitată geografic și supusă raportării ex-post.

Relația cu Alte Articole

Articolul 5 trebuie citit ca vârful ierarhiei bazate pe riscuri a Regulamentului UE privind IA. Funcționează împreună cu definițiile din Articolul 3, care stabilește ce constituie un „sistem AI", un „furnizor" și un „operator" — actorii supuși interdicțiilor. Distincția dintre practicile interzise în temeiul Articolului 5 și sistemele AI cu risc ridicat în temeiul Articolului 6 și Anexei III este fundamentală: sistemele interzise nu pot fi utilizate legal deloc, în timp ce sistemele cu risc ridicat pot fi utilizate sub rezerva evaluărilor de conformitate, înregistrării și obligațiilor de monitorizare continuă.

Articolul 9 (sisteme de gestionare a riscurilor) și Articolele 10–15 (guvernanța datelor, transparența, supravegherea umană) se aplică în aval sistemelor cu risc ridicat permise, dar nu au niciun rol de remediere pentru interdicțiile din Articolul 5. Articolul 99 stabilește structura penalităților, inclusiv amenda de nivel maxim aplicabilă încălcărilor Articolului 5. Articolul 85 și dispozițiile privind supravegherea pieței (Articolele 74–78) reglementează aplicarea. Autoritățile naționale competente desemnate în temeiul Articolului 70 sunt responsabile de monitorizarea conformității cu interdicțiile la nivelul statelor membre.

Calendarul de Conformitate

• 1 august 2024 — Regulamentul (UE) 2024/1689 a intrat în vigoare, la douăzeci de zile după publicarea în Jurnalul Oficial al Uniunii Europene.
• 2 februarie 2025 — Interdicțiile din Articolul 5 au devenit direct aplicabile în toate statele membre ale UE. Aceasta a fost prima dată de aplicare substanțială în cadrul calendarului etapizat stabilit în Articolul 113. De la această dată, orice utilizare, introducere pe piață sau punere în funcțiune a unui sistem AI interzis constituie o încălcare a reglementărilor supusă penalităților în temeiul Articolului 99.
• 2 august 2025 — Regulile privind modelele AI de uz general (Titlul VIII, Articolele 51–56) au devenit aplicabile.
• 2 august 2026 — Obligațiile pentru majoritatea sistemelor AI cu risc ridicat enumerate în Anexa III se aplică, împreună cu dispozițiile privind guvernanța și supravegherea pieței.
• 2 august 2027 — Termen extins pentru sistemele AI cu risc ridicat deja pe piață înainte de august 2024 care intră sub incidența Anexei I (componentă de siguranță în produsele reglementate).

Pentru Articolul 5 în mod specific, nu există nicio perioadă de grație sau dispoziție tranzitorie: termenul limită a fost 2 februarie 2025, iar conformitatea este acum întârziată pentru orice organizație care nu a acționat încă.