Articolul 4 — Alfabetizarea în domeniul IA (Regulamentul UE privind IA)

Articolul 4 din Regulamentul (UE) 2024/1689 — Alfabetizarea în domeniul IA. Textul oficial, interpretare practică, obligații esențiale și implicații pentru conformitate.

Rezumatul Textului Oficial

Articolul 4 din Regulamentul (UE) 2024/1689 stabilește o obligație generală de alfabetizare în domeniul IA pentru furnizorii și utilizatorii de sisteme de IA care operează în domeniul de aplicare al Regulamentului. Articolul impune furnizorilor și utilizatorilor să ia măsuri pentru a se asigura, în cel mai bun mod posibil, că personalul lor și orice alte persoane care acționează în numele lor și care sunt implicate în operarea și utilizarea sistemelor de IA dețin un grad suficient de alfabetizare în domeniul IA.

Articolul definește alfabetizarea în domeniul IA ca ansamblul de competențe, cunoștințe și înțelegere care permit persoanelor să ia decizii informate cu privire la sistemele de IA, să le utilizeze și să le implementeze în mod corespunzător și să fie conștiente de impactul pe care aceste sisteme îl pot avea. Obligația este esențialmente calibrată: nivelul necesar de alfabetizare trebuie să fie proporțional cu cunoștințele tehnice, experiența, educația, formarea și contextul persoanelor în cauză, precum și cu sistemele de IA pe care le gestionează.

Articolul 4 nu impune, prin urmare, un standard uniform. În schimb, creează un cadru de diligență corespunzătoare în temeiul căruia organizațiile trebuie să evalueze nevoile de competență ale personalului relevant în raport cu sistemele de IA în cauză și să ia măsuri corective sau de dezvoltare adecvate acolo unde există lacune. Dispoziția reflectă intenția legiuitorului — articulată în Considerentul 20 — că supravegherea umană a sistemelor de IA este semnificativă doar dacă persoanele care exercită această supraveghere dețin înțelegerea fundamentală necesară pentru a o realiza în mod eficace. Obligația are un domeniu de aplicare orizontal: se aplică indiferent de categoria de risc a sistemului de IA în cauză, ceea ce o face una dintre puținele dispoziții din Titlul I care generează obligații directe și acționabile pentru toți actorii din sfera de aplicare a Regulamentului.

Ce Înseamnă Aceasta în Practică

Articolul 4 creează o obligație continuă de guvernanță internă. Orice organizație care se califică drept furnizor (care introduce pe piața UE un sistem de IA sau îl pune în funcțiune) sau utilizator (care folosește un sistem de IA sub autoritatea sa într-un context profesional) trebuie să evalueze și să abordeze activ nivelul de alfabetizare în domeniul IA al personalului relevant.

În practică, aceasta înseamnă că organizațiile ar trebui să înceapă prin a cartografia care roluri interacționează cu sistemele de IA — fie că este vorba de construirea, integrarea, operarea, supravegherea sau revizuirea rezultatelor IA. O echipă juridică care utilizează un instrument de analiză a contractelor, un departament de resurse umane care utilizează un sistem de selecție a CV-urilor sau o echipă de inginerie care menține un model de întreținere predictivă se încadrează toate în domeniul de aplicare. Fiecare titular de rol trebuie să dețină un nivel de alfabetizare în domeniul IA adecvat responsabilităților sale.

În mod concret, acțiunile de conformitate pot include:

• Efectuarea unei evaluări a lacunelor de competențe pentru rolurile adiacente IA
• Conceperea sau procurarea de formare specifică rolului (personalul tehnic necesită cunoștințe mai aprofundate despre comportamentul modelului, distorsiunile și incertitudinea; utilizatorii de afaceri necesită conștientizarea limitărilor și a căilor de escaladare)
• Documentarea măsurilor de alfabetizare adoptate ca parte a înregistrărilor mai largi de guvernanță IA
• Revizuirea și actualizarea programelor de alfabetizare pe măsură ce sistemele de IA evoluează sau sunt introduse sisteme noi

De exemplu, o companie de logistică care utilizează un model de optimizare a rutelor ar trebui să se asigure că operatorii care acționează pe baza recomandărilor modelului înțeleg intervalele de încredere ale sistemului, modurile de defecțiune cunoscute și când să le depășească. În mod similar, un furnizor de asistență medicală care utilizează un instrument de asistență pentru diagnostic trebuie să se asigure că medicii înțeleg ce face și ce nu face instrumentul înainte de a se baza pe rezultatele acestuia. Principiul proporționalității înseamnă că un practician individual care utilizează un instrument de IA simplu va fi supus unor obligații mai ușoare decât o multinațională care utilizează sisteme cu risc ridicat la scară largă.

Obligații Esențiale

• Evaluarea nevoilor de alfabetizare în domeniul IA: Furnizorii și utilizatorii trebuie să identifice care membri ai personalului și persoane desemnate interacționează cu sistemele de IA și să evalueze nivelul lor existent de alfabetizare în domeniul IA în raport cu cerințele acelor roluri.
• Adoptarea de măsuri de alfabetizare adecvate: Organizațiile trebuie să implementeze activ măsuri — formare, documentație, îndrumare sau perfecționare structurată — proporționale cu rolul fiecărei persoane, cu competența existentă și cu sistemele implicate.
• Aplicarea proporționalității: Nivelul de alfabetizare în domeniul IA necesar nu este uniform; trebuie să reflecte complexitatea tehnică a sistemului de IA, gradul de autonomie pe care îl exercită și impactul potențial al deciziilor titularului de rol.
• Menținerea acoperirii continue: Obligația este continuă. Pe măsură ce sistemele de IA se schimbă, pe măsură ce sunt utilizate sisteme noi sau pe măsură ce personalul trece în roluri adiacente IA, măsurile de alfabetizare trebuie revizuite și actualizate în consecință.
• Extinderea obligației la terții care acționează în numele organizației: Articolul acoperă în mod explicit persoanele care acționează în numele furnizorilor sau utilizatorilor, ceea ce înseamnă că personalul contractat, furnizorii de servicii și agenții implicați în operarea sistemului de IA se încadrează în domeniul de aplicare.
• Documentarea eforturilor: Deși Articolul 4 nu prevede o cerință specifică de documentare, alinierea la așteptările mai largi de guvernanță ale Regulamentului (în special pentru sistemele cu risc ridicat) înseamnă că înregistrările evaluărilor de alfabetizare și ale activităților de formare constituie bune practici și susțin conformitatea demonstrabilă.

Relația cu Alte Articole

Articolul 4 se află în Titlul I (Dispoziții Generale) și funcționează ca un facilitator orizontal pentru obligațiile mai specifice ale Regulamentului. Este direct legat de Articolul 9 (sistemul de gestionare a riscurilor pentru IA cu risc ridicat), care impune ca persoanele responsabile de gestionarea riscurilor IA să dețină competența necesară — un standard care presupune o alfabetizare de bază în domeniul IA. Acesta consolidează Articolul 14 (supravegherea umană), unde supravegherea semnificativă de către persoane fizice depinde de înțelegerea de către acele persoane a rezultatelor, limitărilor și modurilor de defecțiune ale sistemului de IA.

Articolul 4 se conectează, de asemenea, la Articolul 16(g), care impune furnizorilor de sisteme de IA cu risc ridicat să ia măsuri pentru a se asigura că utilizatorii pot interpreta și utiliza sistemul în mod corespunzător, și la Articolul 26(2), care obligă utilizatorii să atribuie supravegherea umană unor persoane cu competența necesară. În contextul modelelor de IA de uz general (Titlul VIII), Articolul 4 stă la baza așteptării că utilizatorii care construiesc pe baza rezultatelor modelelor GPAI înțeleg natura și limitările acestor modele. Citirea Articolului 4 împreună cu Considerentul 20 clarifică intenția legiuitorului că alfabetizarea în domeniul IA este o condiție prealabilă pentru exercitarea eficace a tuturor celorlalte obligații prevăzute de Regulament.

Calendarul de Conformitate

Regulamentul UE privind IA a intrat în vigoare la 1 august 2024, la douăzeci de zile după publicarea în Jurnalul Oficial. Regulamentul se aplică în etape:

• 2 februarie 2025 — Interdicțiile privind practicile de IA cu risc inacceptabil (Articolul 5) au devenit aplicabile.
• 2 august 2025 — Articolul 4 a devenit aplicabil, împreună cu dispozițiile privind modelele de IA de uz general (Titlul VIII) și obligațiile care reglementează organismele notificate și autoritățile de supraveghere a pieței. Organizațiile ar fi trebuit să aibă măsuri de alfabetizare în domeniul IA implementate până la această dată.
• 2 august 2026 — Se aplică obligațiile pentru sistemele de IA cu risc ridicat enumerate în Annex I (sisteme de componente de siguranță din produsele reglementate).
• 2 august 2027 — Obligațiile pentru sistemele de IA cu risc ridicat enumerate în Annex III (sisteme autonome cu risc ridicat) se aplică integral, inclusiv Articolele 9-14 și 26, pentru care alfabetizarea prevăzută la Articolul 4 este o condiție prealabilă.

Organizațiile care nu au efectuat încă o evaluare a lacunelor de alfabetizare sau nu au implementat nicio măsură de formare sunt deja în neconformitate cu Articolul 4 începând cu august 2025 și ar trebui să trateze remedierea ca o prioritate imediată.