Articolul 55 — Evaluarea și testarea adversarială a modelelor de IA de uz general cu risc sistemic (Regulamentul UE privind IA)

Articolul 55 din Regulamentul (UE) 2024/1689 — Evaluarea și testarea adversarială a modelelor de IA de uz general cu risc sistemic. Text oficial, interpretare practică, obligații esențiale și implicații pentru conformitate.

Rezumatul Textului Oficial

Articolul 55 din Regulamentul (UE) 2024/1689 stabilește obligații specifice de evaluare și testare adversarială pentru furnizorii de modele de IA de uz general (GPAI) care prezintă risc sistemic. Bazându-se pe setul mai larg de obligații prevăzute la articolul 53 și pe criteriile de clasificare a riscului sistemic din articolul 51, articolul 55 impune acestor furnizori să efectueze evaluări ale modelelor în conformitate cu protocoale standardizate și să efectueze teste adversariale — denumite în mod obișnuit red-teaming — în mod regulat.

Evaluările necesare în temeiul alineatului (1) litera (a) trebuie să urmeze protocoale și instrumente standardizate care reflectă stadiul tehnicii, inclusiv cele elaborate sau avizate de Biroul AI. Acolo unde nu există protocoale standardizate, furnizorii trebuie să conceapă și să aplice metodologii adecvate pentru a identifica și a evalua natura și amploarea riscurilor sistemice.

Alineatul (1) litera (b) impune efectuarea de teste adversariale, care trebuie realizate fie intern, fie prin angajarea unor experți externi acreditați, cu scopul de a identifica riscuri care nu sunt surprinse de procedurile de evaluare standard. Furnizorii trebuie să documenteze metodologia, domeniul de aplicare și rezultatele atât ale evaluărilor, cât și ale exercițiilor de testare adversarială, și să raporteze constatările semnificative Biroului AI. Biroul AI însuși păstrează autoritatea în temeiul alineatului (2) de a organiza sau de a comanda teste adversariale independente în orice moment. Articolul îi obligă, de asemenea, pe furnizori să partajeze rezultatele evaluărilor și rapoartele de testare cu autoritățile competente la cerere.

Ce Înseamnă Aceasta în Practică

Pentru organizațiile care dezvoltă sau implementează modele GPAI de frontieră, articolul 55 impune un proces structurat și documentat de asigurare a calității axat în mod specific pe identificarea prejudiciilor sistemice. În practică, aceasta înseamnă că înainte de lansarea unui model calificant — și în mod continuu după lansare — furnizorii trebuie să efectueze atât evaluări standardizate ale capacităților, cât și exerciții adversariale direcționate, concepute pentru a sonda riscuri catastrofice sau generalizate, cum ar fi manipularea la scară masivă, generarea de conținut legat de arme, atacuri cibernetice la scară largă sau perturbarea infrastructurii critice.

Din punct de vedere operațional, conformitatea necesită constituirea sau contractarea unei capacități multidisciplinare de red-team cu expertiză în domenii precum securitatea IA, securitatea cibernetică, dezinformarea, biosecuritatea și alte domenii relevante. Evaluările trebuie efectuate în raport cu repere și protocoale care reflectă stadiul actual al tehnicii; furnizorii nu se pot baza exclusiv pe metodologii proprietare, nepublicate, dacă există alternative standardizate.

Documentarea este esențială. Furnizorii trebuie să mențină înregistrări detaliate ale fiecărui ciclu de evaluare — inclusiv domeniul de aplicare, componența echipei, scenariile testate, rezultatele observate și măsurile de atenuare aplicate — și trebuie să poată prezenta aceste înregistrări Biroului AI la cerere. Acolo unde testarea relevă riscuri sistemice noi sau agravate, furnizorii sunt obligați să implementeze măsuri corective și, dacă riscul este grav, să notifice Biroul AI fără întârziere nejustificată.

De exemplu, un furnizor care lansează un model multimodal mare care depășește pragul de antrenament de 10^25 FLOP ar trebui să planifice exerciții de red-team înainte de lansare acoperind cel puțin: obținerea de cunoștințe științifice cu dublă utilizare, generarea de conținut persuasiv la scară și facilitarea atacurilor cibernetice automatizate. După lansare, aceste exerciții trebuie să se repete ori de câte ori modelul suferă ajustări fine semnificative sau actualizări ale capacităților.

Obligații Esențiale

• Evaluări standardizate: Efectuarea de evaluări ale modelelor utilizând protocoale și instrumente standardizate de ultimă generație, inclusiv cele elaborate sau avizate de Biroul AI, înainte de plasarea pe piață și în mod continuu.
• Testare adversarială (red-teaming): Realizarea de exerciții structurate de testare adversarială — intern sau prin intermediul unor terți externi calificați — concepute pentru a detecta riscurile sistemice neidentificate prin evaluarea standard.
• Documentare și păstrarea înregistrărilor: Menținerea de înregistrări detaliate ale metodologiei de evaluare, domeniului de aplicare, scenariilor testate, rezultatelor și oricăror măsuri corective luate, cu înregistrări disponibile Biroului AI la cerere.
• Raportarea constatărilor semnificative: Notificarea Biroului AI cu privire la riscurile sistemice grave sau nou identificate descoperite prin evaluări sau testare adversarială, fără întârziere nejustificată.
• Cooperarea cu testele mandatate de Biroul AI: Facilitarea și cooperarea la testarea adversarială independentă organizată sau mandatată direct de Biroul AI în temeiul competențelor sale de supraveghere.
• Conformitate continuă după lansare: Repetarea evaluărilor și a testelor adversariale în urma actualizărilor semnificative ale modelului, ajustărilor fine sau modificărilor cazurilor de utilizare prevăzute care pot modifica profilul de risc al modelului.

Relația cu Alte Articole

Articolul 55 funcționează ca omologul operațional al clasificării riscului sistemic stabilite la articolul 51 și al obligațiilor generale GPAI prevăzute la articolul 53. Acesta trebuie citit împreună cu articolul 52, care definește pragul și criteriile pentru desemnarea riscului sistemic, și cu articolul 54, care abordează obligațiile privind documentația tehnică pentru modelele GPAI cu risc sistemic. Obligația de raportare a incidentelor din articolul 73 se intersectează cu articolul 55 acolo unde testarea adversarială descoperă un incident grav sau un cvasi-incident care necesită notificare. La nivel de supraveghere, autoritatea Biroului AI de a mandata teste în temeiul articolului 55 alineatul (2) se întemeiază pe competențele mai largi de supraveghere conferite de articolele 88 și 89. Furnizorii ar trebui, de asemenea, să consulte Considerentul 110, care clarifică rațiunea pentru distingerea modelelor cu risc sistemic și importanța evaluării siguranței pre-piață ca complement al monitorizării continue.

Calendarul de Conformitate

• 1 august 2024 — Regulamentul (UE) 2024/1689 a intrat în vigoare, pornind ceasul de aplicare graduală.
• 2 februarie 2025 — Practicile de IA interzise (Titlul II) au devenit aplicabile.
• 2 august 2025 — Dispozițiile Titlului V care reglementează modelele de IA de uz general, inclusiv articolul 55, au devenit pe deplin aplicabile. Furnizorii de modele GPAI calificante deja pe piață au fost obligați să atingă conformitatea până la această dată.
• 2 decembrie 2026 — Obligațiile privind sistemele de IA cu risc ridicat în temeiul Anexei I (sisteme de componente de siguranță) devin aplicabile.
• 2 august 2027 — Obligațiile rămase privind sistemele de IA cu risc ridicat (sistemele din Anexa III) devin aplicabile.

Articolul 55 este prin urmare deja în vigoare. Furnizorii de modele GPAI cu risc sistemic care nu au stabilit încă programe de evaluare și testare adversarială încalcă obligațiile actuale și ar trebui să trateze remedierea ca pe o prioritate imediată.