Articolul 60 — Testarea sistemelor de IA cu risc ridicat în condiții reale în afara mediilor de testare reglementare pentru IA (Regulamentul UE privind IA)

Articolul 60 din Regulamentul (UE) 2024/1689 — Testarea sistemelor de IA cu risc ridicat în condiții reale în afara mediilor de testare reglementare pentru IA. Text oficial, interpretare practică, obligații cheie și implicații de conformitate.

Rezumatul textului oficial

Articolul 60 din Regulamentul (UE) 2024/1689 stabilește condițiile în care furnizorii și potențialii furnizori de sisteme de IA cu risc ridicat pot efectua testări în condiții reale în afara cadrului structurat al mediilor de testare reglementare pentru IA înființate în temeiul Articolelor 57-59. Această dispoziție recunoaște că evaluarea semnificativă a sistemelor de IA cu risc ridicat necesită adesea expunerea la medii operaționale autentice, menținând în același timp garanții proporționale cu riscurile implicate.

Articolul impune ca testarea în afara mediilor de testare să fie efectuată numai atunci când sunt îndeplinite o serie de condiții cumulative. Furnizorul sau potențialul furnizor trebuie să prezinte o notificare autorității naționale competente cu cel puțin 30 de zile înainte de începerea testării. Notificarea trebuie să includă un plan de testare care să descrie domeniul de aplicare, durata, zona geografică, categoriile de persoane implicate și măsurile de atenuare a riscurilor în vigoare.

Consimțământul informat al subiecților este o cerință centrală. Atunci când sistemul de IA interacționează cu sau ia decizii care afectează persoane fizice identificabile, aceste persoane trebuie să fie informate cu privire la participarea lor și trebuie să își exprime consimțământul în mod explicit, cu excepția cazului în care legislația sectorială aplicabilă prevede altfel. Testarea nu trebuie să depășească ceea ce este strict necesar pentru atingerea obiectivelor declarate și nu trebuie să expună subiecții la riscuri sau prejudicii inacceptabile.

Articolul impune, de asemenea, ca testarea să fie efectuată sub supravegherea furnizorului, ca rezultatele să fie înregistrate și ca incidentele grave întâlnite în cursul testării să fie raportate autorității competente. Statele membre păstrează posibilitatea de a autoriza sau refuza activitățile de testare pe teritoriul lor și pot impune condiții suplimentare.

Ce înseamnă acest lucru în practică

Articolul 60 este relevant în principal pentru organizațiile care dezvoltă sau implementează sisteme de IA cu risc ridicat — definite în conformitate cu Articolul 6 și Anexa III din Regulament — care trebuie să valideze performanța sistemului sau proprietățile de siguranță în medii operaționale autentice înainte sau alături de evaluarea formală a conformității. Aceasta include, de exemplu, un spital care pilotează un instrument de diagnostic asistat de IA într-un mediu clinic activ sau o instituție financiară care testează un model de bonitate cu solicitanți reali în afara unui mediu de testare controlat.

În practică, conformitatea presupune stabilirea unui proces intern pentru gestionarea testelor în condiții reale care să reflecte obligațiile articolului. Înainte de începerea oricărui test, organizația trebuie să pregătească un plan de testare structurat, să verifice că toate mecanismele de consimțământ sunt în vigoare și să depună notificarea necesară la autoritatea competentă cu cel puțin 30 de zile în avans — lăsând timp adecvat pentru ca autoritatea să ridice obiecții sau să impună condiții.

Pe parcursul testului, organizația trebuie să mențină o supraveghere umană activă, să documenteze toate incidentele materiale și să fie pregătită să suspende testarea imediat dacă riscurile depășesc nivelurile anticipate. Datele colectate în cursul testării rămân supuse obligațiilor aplicabile din GDPR, iar prelucrarea categoriilor speciale de date necesită o bază juridică specifică.

Organizațiile trebuie, de asemenea, să se asigure că contractele lor cu operatorii sau cu operatorii de testare terți alocă în mod clar responsabilitatea pentru respectarea condițiilor Articolului 60, deoarece obligația incumbă în primul rând furnizorului sau potențialului furnizor, indiferent de cine efectuează fizic testul. Cadrele interne de guvernanță — inclusiv o persoană responsabilă desemnată și un registru de riscuri documentat pentru test — sunt recomandate cu insistență.

Obligații cheie

• Notificarea prealabilă: Depunerea unui plan de testare la autoritatea națională competentă relevantă cu cel puțin 30 de zile înainte de începerea testării în condiții reale, acoperind domeniul de aplicare, durata, locația, categoriile de subiecți și măsurile de atenuare a riscurilor.
• Consimțământul informat: Obținerea consimțământului informat explicit de la toate persoanele fizice implicate sau afectate de testare și informarea acestora cu privire la dreptul lor necondiționat de retragere în orice moment fără a fi prejudiciate.
• Proporționalitatea riscului: Asigurarea că activitățile de testare nu depășesc ceea ce este strict necesar pentru obiectivul declarat și nu expun subiecții sau terții la riscuri care depășesc beneficiile preconizate.
• Supraveghere și documentare: Menținerea supravegherii active a testului, păstrarea înregistrărilor planului de testare, rezultatelor și oricăror abateri sau incidente întâlnite pe parcursul perioadei de testare.
• Raportarea incidentelor: Raportarea fără întârzieri nejustificate a oricărui incident grav care apare în cursul testării în condiții reale la autoritatea competentă și luarea de măsuri corective imediate pentru a reduce prejudiciul.
• Înregistrarea în baza de date a UE: Înregistrarea activității de testare în condiții reale în baza de date a UE pentru sisteme de IA cu risc ridicat înființată în temeiul Articolului 71, înainte de începerea testării.

Relația cu alte articole

Articolul 60 face parte din Titlul VI (Măsuri de sprijin pentru inovare) și trebuie citit alături de Articolele 57-59, care stabilesc cadrul principal pentru mediile de testare reglementare pentru IA. Articolul 60 funcționează ca o cale complementară pentru testarea care nu are loc în cadrul unui mediu de testare formal, dar nu înlocuiește sau reduce obligațiile substanțiale de siguranță și transparență aplicabile sistemelor de IA cu risc ridicat în temeiul Titlului III (în special Articolele 8-15 privind obligațiile furnizorilor, gestionarea riscurilor și documentația tehnică).

Cerințele de consimțământ și protecție a datelor din Articolul 60 se intersectează direct cu Regulamentul (UE) 2016/679 (GDPR), în special Articolele 6, 9 și 22 privind prelucrarea legală și luarea automată a deciziilor. Articolul 60 se leagă, de asemenea, de Articolul 71 privind baza de date a UE, care reglementează obligațiile de înregistrare, și de Articolul 73 privind supravegherea pieței, deoarece autoritățile competente pot inspecta testele în condiții reale. Furnizorii ar trebui să ia în considerare și Articolul 26 privind obligațiile operatorilor, deoarece testarea în condiții reale implică frecvent infrastructura și datele din partea operatorului.

Calendarul de conformitate

Regulamentul UE privind IA a intrat în vigoare la 1 august 2024, la douăzeci de zile de la publicarea sa în Jurnalul Oficial al Uniunii Europene. Dispozițiile sale se aplică în etape:

• 2 februarie 2025 — Interdicțiile privind practicile de IA cu risc inacceptabil (Articolul 5) au devenit aplicabile.
• 2 august 2025 — Dispozițiile privind modelele de IA de uz general (Titlul III, Capitolul 3, Articolele 51-56) și obligațiile de guvernanță (Titlul VI și VIII în parte) au devenit aplicabile. Cadrul mediului de testare reglementar în temeiul Articolelor 57-59 a devenit, de asemenea, aplicabil de la această dată.
• 2 august 2026 — Data generală de aplicare pentru majoritatea dispozițiilor rămase, inclusiv Articolul 60. De la această dată, furnizorii și potențialii furnizori de sisteme de IA cu risc ridicat care doresc să efectueze testări în condiții reale în afara mediilor de testare trebuie să respecte pe deplin obligațiile de notificare, consimțământ, documentare și raportare a incidentelor stabilite de prezentul articol.
• 2 august 2027 — Termen extins pentru sistemele de IA cu risc ridicat care intră sub incidența Anexei III, punctul 2 (sisteme de IA în produse existente deja supuse legislației de armonizare a Uniunii enumerate în Anexa I), acordând sectoarelor afectate timp suplimentar pentru a se alinia la cerințele de evaluare a conformității și cele operaționale.

Organizațiile care planifică programe de testare în condiții reale ar trebui să înceapă să proiecteze cadre de guvernanță a testării conforme și proceduri de notificare cu mult înainte de data de 2 august 2026, pentru a evita întârzierile atunci când obligația devine aplicabilă.