Practici Interzise conform Regulamentului UE privind IA (Art. 5): În Vigoare din Februarie 2025

Articolul 5 al Regulamentului UE privind IA interzice opt practici AI cu risc inacceptabil. Aceste interdicții se aplică din 2 februarie 2025. Ele acoperă manipularea subliminală, scorarea socială, identificarea biometrică în timp real în spații publice, recunoașterea emoțiilor la locul de muncă, categorizarea biometrică care deduce trăsături sensibile și generarea de NCII/MISA.

Practicile interzise sunt deja lege — din 2 februarie 2025

Articolul 5 al Regulamentului UE privind IA interzice opt categorii de practici AI considerate că prezintă risc inacceptabil. Aceste interdicții au intrat în vigoare la 2 februarie 2025 — la șase luni după intrarea în vigoare a Regulamentului — și se aplică tuturor furnizorilor și operatorilor din UE fără excepție. Omnibusul Digital 2026 nu a modificat aceste interdicții.

Aplicarea este activă. Autoritățile naționale de supraveghere a pieței și Biroul AI al UE au autoritatea de a investiga, de a impune injoncțiuni și de a aplica amenzi.

Cele opt practici interzise

1. Manipularea subliminală

Sisteme AI care utilizează tehnici care operează sub pragul conștiinței umane pentru a distorsiona comportamentul în moduri care cauzează sau sunt susceptibile să cauzeze prejudicii semnificative. Aceasta vizează AI care exploatează prejudecăți cognitive, slăbiciuni psihologice sau declanșatori subconștienți pentru a orienta comportamentul împotriva intereselor proprii ale utilizatorilor.

Caracteristică distinctivă: manipularea trebuie să fie sub percepția conștientă ȘI să cauzeze (sau să fie susceptibilă să cauzeze) prejudicii semnificative. AI-ul persuasiv, dar transparent, nu este interzis.

2. Exploatarea vulnerabilităților

AI care exploatează vulnerabilități specifice ale unor grupuri particulare — copii, persoane în vârstă, persoane cu dizabilități, cei în dificultate economică — pentru a distorsiona comportamentul într-un mod care cauzează sau este susceptibil să cauzeze prejudicii semnificative.

3. Scorarea socială de către autoritățile publice

Sisteme de scorare socială de uz general operate de autoritățile publice care evaluează sau clasifică persoanele fizice pe baza comportamentului lor social sau a caracteristicilor personale, unde scorarea duce la tratament dăunător fără legătură cu contextul în care au fost generate datele.

Aceasta vizează sistemele de credit social în stil chinez. Se aplică numai autorităților publice — scorarea de credit din sectorul privat în domenii specifice (solvabilitate financiară) rămâne permisă conform Anexei III.

4. Identificarea biometrică la distanță în timp real în spații publice (forțele de ordine)

Identificarea biometrică la distanță în timp real a persoanelor fizice în spații accesibile publicului în scopul aplicării legii este interzisă, cu trei excepții restrânse:

• Căutarea direcționată a victimelor specifice ale infracțiunilor (răpire, trafic, exploatare sexuală)
• Prevenirea unei amenințări teroriste specifice, substanțiale și iminente
• Identificarea autorilor infracțiunilor grave enumerate care atrag pedepse privative de libertate mai mari de 3 ani

Excepțiile necesită autorizare judiciară sau administrativă independentă prealabilă, sunt limitate în timp și spațiu și sunt notificate unei autorități naționale.

5. Predicția individuală a riscului penal bazată pe AI

Sisteme AI care evaluează sau prezic riscul ca o persoană fizică să comită o infracțiune numai pe baza profilării sau caracteristicilor de personalitate, fără referire la fapte obiective, verificabile, direct legate de activitatea criminală.

6. Recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ

Sistemele AI utilizate pentru a deduce emoțiile persoanelor fizice la locul de muncă sau în instituțiile de învățământ sunt interzise. Există excepții în scopuri medicale (de ex., evaluarea durerii) și de siguranță (detectarea somnolenței pentru operatorii de vehicule).

7. Categorizarea biometrică care deduce caracteristici sensibile

Sistemele AI care categorizează persoanele pe baza datelor biometrice pentru a deduce sau a descoperi rasa, opiniile politice, apartenența la sindicate, credințele religioase sau filozofice, orientarea sexuală sau starea de sănătate sunt interzise.

Recunoașterea facială standard pentru controlul accesului (identificarea cui este cineva) este diferită de categorizare (deducerea grupului căruia îi aparțin). Aceasta din urmă este interzisă.

8. Generarea de NCII și MISA

Sistemele AI care generează sau manipulează conținut de imagine, audio sau video constituind imagini intime neconsensuale (NCII) sau material de abuz sexual asupra copiilor (MISA) sunt interzise. Aceasta a fost adăugată pentru a aborda prejudiciul specific al modelelor AI generative în aceste categorii.

Sancțiuni

Neconformitatea cu Articolul 5 atrage cel mai înalt nivel de amenzi conform Regulamentului privind IA:

• 35 milioane EUR sau 7% din cifra de afaceri anuală totală mondială din exercițiul financiar precedent, oricare este mai mare
• Pentru IMM-uri și startup-uri: se aplică suma mai mică dintre cele două

Autoritățile naționale competente au de asemenea competențe de a solicita retragerea imediată a sistemului AI de pe piață.