Articolul 51 — Clasificarea modelelor de IA de uz general ca modele cu risc sistemic (Regulamentul UE privind IA)

Articolul 51 din Regulamentul (UE) 2024/1689 — Clasificarea modelelor de IA de uz general ca modele cu risc sistemic. Text oficial, interpretare practică, obligații-cheie și implicații privind conformitatea.

Rezumatul textului oficial

Articolul 51 din Regulamentul (UE) 2024/1689 (Regulamentul UE privind IA) stabilește mecanismul de clasificare a modelelor de IA de uz general (GPAI) ca modele cu risc sistemic. Acesta se află în Titlul V, care creează un nivel de reglementare dedicat pentru modelele GPAI, distinct de cadrul sistemelor de IA cu risc ridicat din Titlul III.

În temeiul Articolului 51(1), un model GPAI este clasificat ca prezentând risc sistemic atunci când îndeplinește una din două condiții. În primul rând, are capacități de impact ridicat evaluate pe baza unor instrumente și metodologii tehnice adecvate, inclusiv indicatori și parametri de referință — cu o prezumție relativă că orice model antrenat folosind un calcul cumulat de peste 10^25 FLOPs se încadrează în această categorie. În al doilea rând, este desemnat de Comisie în temeiul Articolului 51(2) pe baza altor criterii, indiferent dacă pragul de calcul este atins.

Articolul 51(2) conferă Comisiei puterea de a actualiza pragul de calcul prin intermediul actelor delegate pe măsură ce dezvoltarea tehnologică evoluează, asigurând că cadrul rămâne calibrat la realitatea pieței. Furnizorii care consideră că, deși îndeplinesc pragul, modelul lor nu prezintă risc sistemic, pot notifica Comisia și furniza dovezi justificative. Comisia face apoi o determinare finală. Clasificarea în temeiul Articolului 51 declanșează setul suplimentar de obligații cuprinse în Articolul 55, care reprezintă cel mai exigent nivel de obligații din cadrul GPAI.

Ce înseamnă acest lucru în practică

Articolul 51 afectează direct furnizorii de modele GPAI de frontieră — în principal, marile laboratoare de IA și companiile de tehnologie care dezvoltă și lansează modele de fundație sau modele de limbaj de mari dimensiuni antrenate la scară. Orice furnizor al cărui model atinge sau depășește pragul de calcul de antrenare de 10^25 FLOPs trebuie să trateze acel model ca prezumtiv purtând risc sistemic și să înceapă pregătirea pentru conformitatea cu regimul de obligații din Articolul 55, cu excepția cazului în care infirmă cu succes prezumția în fața Comisiei.

În termeni concreți, un furnizor ar trebui să auditeze infrastructura de antrenare și documentația pentru a determina dacă pragul de calcul a fost depășit. Aceasta necesită menținerea unor înregistrări exacte ale rulărilor de antrenare, inclusiv FLOPs cumulați. Atunci când un model nou este în curs de dezvoltare și se preconizează că se va apropia de prag, furnizorii ar trebui să înceapă planificarea conformității înainte de lansare și nu după, deoarece obligațiile sunt atașate în momentul punerii modelului pe piață sau al punerii sale în funcțiune.

Pentru furnizorii ale căror modele sunt desemnate de Comisie pe criterii calitative — de exemplu, datorită implementării foarte largi pe piața UE, capacităților de luare a deciziilor autonome sau acoperirii multimodale — declanșatorul nu este autoexecutabil în același mod, dar desemnarea produce consecințe juridice identice. Prin urmare, furnizorii ar trebui să monitorizeze registrul public al modelelor cu risc sistemic al Biroului pentru IA și orientările Comisiei privind criteriile pe care le aplică în temeiul Articolului 51(2).

Implementatorii din aval și companiile care se bazează pe modele GPAI prin acces API ar trebui, de asemenea, să fie conștienți: dacă modelul de bază pe care îl folosesc este clasificat în temeiul Articolului 51, pot face față unor cerințe suplimentare de divulgare contractuală din partea furnizorului și ar trebui să ia în considerare statutul de risc sistemic în propriile procese de diligență.

Obligații-cheie

• Monitorizarea pragului de calcul: Furnizorii trebuie să urmărească și să documenteze calculul de antrenare cumulat al modelelor lor GPAI pentru a determina dacă pragul de 10^25 FLOPs este atins, ceea ce declanșează prezumția relativă de risc sistemic în temeiul Articolului 51(1)(a).
• Notificare proactivă: Furnizorii care consideră că modelul lor nu prezintă risc sistemic în ciuda îndeplinirii pragului trebuie să notifice proactiv Comisia cu dovezi justificative, în loc să aștepte măsuri de executare.
• Conformitatea cu desemnarea Comisiei: Atunci când Comisia desemnează un model ca prezentând risc sistemic în temeiul Articolului 51(2) — fie pe criterii de calcul, fie pe alte criterii — furnizorul trebuie să respecte acea desemnare și obligațiile pe care le declanșează.
• Monitorizarea actualizărilor pragului: Furnizorii trebuie să urmărească modificările aduse pragului de calcul de către Comisie prin intermediul actelor delegate în temeiul Articolului 51(2), deoarece modelele care nu sunt în prezent captate pot intra în domeniu de aplicare pe măsură ce pragul este ajustat.
• Pregătire pentru păstrarea evidențelor: Furnizorii trebuie să mențină documentație tehnică suficientă pentru a demonstra dacă pragurile de clasificare sunt sau nu sunt atinse, sprijinind atât autoevaluarea, cât și orice revizuire a Comisiei.
• Comunicare în aval: Furnizorii de modele GPAI cu risc sistemic clasificate trebuie să se asigure că furnizorii și implementatorii din aval care accesează modelul prin API-uri sau alte interfețe sunt informați cu privire la statutul de clasificare al modelului, astfel cum se prevede în obligațiile de transparență în temeiul Articolului 53.

Relația cu alte articole

Articolul 51 funcționează ca dispoziția de acces pentru cel mai exigent nivel al cadrului GPAI. Acesta trebuie citit împreună cu Articolul 52, care stabilește procedura de clasificare și competențele de desemnare ale Comisiei mai detaliat, și Articolul 55, care enumeră obligațiile de fond — testarea adversarială, raportarea incidentelor către Biroul pentru IA, măsuri de securitate cibernetică și raportarea eficienței energetice — care se aplică odată ce clasificarea are loc.

Articolul 53 stabilește obligațiile de bază aplicabile tuturor furnizorilor de modele GPAI indiferent de clasificarea riscului sistemic, inclusiv documentația tehnică, conformitatea cu legea drepturilor de autor și publicarea rezumatelor datelor de antrenare. Articolul 51 se construiește pe această bază identificând furnizorii care se confruntă cu regimul ridicat al Articolului 55.

Articolul 4 conferă Comisiei puterea de a emite acte delegate pentru a ajusta detaliile tehnice, inclusiv pragul de calcul din Articolul 51. Considerentele 110 până la 114 din Regulament oferă orientări interpretative privind motivul pentru care clasificarea riscului sistemic este justificată pentru modelele cu calcul ridicat și modul în care Comisia intenționează să aplice criteriile de desemnare calitative. Biroul pentru IA înființat în temeiul Articolului 64 joacă un rol central în monitorizarea conformității cu cadrul de clasificare al Articolului 51.

Calendarul de conformitate

Regulamentul UE privind IA a intrat în vigoare la 1 august 2024, la douăzeci de zile de la publicarea sa în Jurnalul Oficial al Uniunii Europene. Regulamentul se aplică în etape:

• Februarie 2025: Interdicțiile privind practicile de IA cu risc inacceptabil (Articolul 5) au devenit aplicabile.
• August 2025: Cadrul GPAI din Titlul V, inclusiv Articolul 51, a devenit aplicabil. Furnizorii de modele GPAI cu risc sistemic erau obligați să respecte procedurile de clasificare și obligațiile din Articolul 55 începând cu această dată. Aceasta este termenul cel mai direct relevant pentru Articolul 51.
• Decembrie 2026: Se aplică obligațiile pentru sistemele de IA cu risc ridicat enumerate în Anexa I (sisteme de componente de siguranță reglementate în temeiul dreptului Uniunii existent).
• August 2027: Aplicarea deplină a obligațiilor pentru sistemele de IA cu risc ridicat enumerate în Anexa III.

Pentru Articolul 51 în mod specific, furnizorii de modele GPAI la scară largă trebuiau să evalueze calculul de antrenare și să determine dacă pragul de risc sistemic a fost atins începând din august 2025. Biroul pentru IA a început să emită orientări și coduri de bune practici în perioada premergătoare acestei date pentru a sprijini furnizorii în luarea acestei determinări.