Člen 4 — Pismenost na področju umetne inteligence (Zakon EU o umetni inteligenci)

Člen 4 Uredbe (EU) 2024/1689 — pismenost na področju umetne inteligence. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 4 Uredbe (EU) 2024/1689 vzpostavlja splošno obveznost pismenosti na področju umetne inteligence za ponudnike in uporabnike sistemov umetne inteligence, ki delujejo v okviru področja uporabe Uredbe. Člen zahteva, da ponudniki in uporabniki sprejmejo ukrepe za zagotovitev, v čim večji možni meri, da imajo njihovi zaposleni in vse druge osebe, ki delujejo v njihovem imenu in so vključene v delovanje in uporabo sistemov umetne inteligence, zadostno stopnjo pismenosti na področju umetne inteligence.

Člen opredeljuje pismenost na področju umetne inteligence kot spretnosti, znanje in razumevanje, ki osebam omogočajo sprejemanje informiranih odločitev o sistemih umetne inteligence, njihovo ustrezno uvajanje in uporabo ter zavedanje vpliva, ki ga ti sistemi lahko imajo. Ključno je, da je obveznost umerjena: zahtevana raven pismenosti mora biti sorazmerna s tehničnim znanjem, izkušnjami, izobrazbo, usposabljanjem in kontekstom zadevnih oseb ter sistemi umetne inteligence, s katerimi ravnajo.

Člen 4 torej ne nalaga enotnega standarda. Namesto tega ustvarja okvir skrbnega ravnanja, v okviru katerega morajo organizacije oceniti potrebe po kompetencah ustreznega osebja glede na zadevne sisteme umetne inteligence in sprejeti ustrezne korektivne ali razvojne ukrepe tam, kjer obstajajo vrzeli. Določba odraža namen zakonodajalca — izražen v uvodni izjavi 20 — da je človeški nadzor nad sistemi umetne inteligence smiseln le, kadar osebe, ki ta nadzor izvajajo, posedujejo temeljno razumevanje, potrebno za učinkovito izvajanje le-tega. Obveznost ima horizontalni obseg: velja ne glede na kategorijo tveganja zadevnega sistema umetne inteligence, kar jo uvršča med redke določbe v Naslovu I, ki ustvarja neposredne, izvršljive obveznosti za vse akterje v okviru Uredbe.

Kaj to pomeni v praksi

Člen 4 ustvarja stalno notranjo obveznost upravljanja. Vsaka organizacija, ki se kvalificira kot ponudnik (ki daje sistem umetne inteligence na trg EU ali ga daje v uporabo) ali uporabnik (ki sistem umetne inteligence uporablja pod svojo pristojnostjo v poklicnem kontekstu), mora aktivno oceniti in obravnavati pismenost ustreznega osebja na področju umetne inteligence.

V praksi to pomeni, da morajo organizacije začeti z ugotavljanjem, katere vloge so v stiku s sistemi umetne inteligence — ne glede na to, ali gre za gradnjo, integracijo, delovanje, nadzor ali pregledovanje izhodnih podatkov umetne inteligence. Pravna ekipa, ki uporablja orodje za analizo pogodb, kadrovski oddelek, ki uvaja sistem za pregled življenjepisov, ali inženirska ekipa, ki vzdržuje model prediktivnega vzdrževanja, vse spadajo v področje uporabe. Vsak imetnik vloge mora imeti raven pismenosti na področju umetne inteligence, primerno njegovi odgovornosti.

Konkretno lahko ukrepi za doseganje skladnosti vključujejo:

• Izvedbo ocene vrzeli v spretnostih pri vlogah, ki so vezane na umetno inteligenco
• Načrtovanje ali zagotavljanje usposabljanja za posamezne vloge (tehnično osebje zahteva poglobljeno znanje o obnašanju modela, pristranskosti in negotovosti; poslovni uporabniki zahtevajo zavedanje omejitev in eskalacijskih poti)
• Dokumentiranje sprejetih ukrepov pismenosti kot del širših evidenc upravljanja umetne inteligence
• Pregledovanje in osvežitev programov pismenosti, ko se sistemi umetne inteligence razvijajo ali se uvajajo novi sistemi

Logistično podjetje, ki uvaja model optimizacije poti, mora na primer zagotoviti, da operaterji, ki delujejo na podlagi priporočil modela, razumejo razpone zaupanja sistema, znane načine odpovedi in kdaj jih preglasiti. Podobno mora ponudnik zdravstvenih storitev, ki uvaja orodje za podporo diagnostiki, zagotoviti, da zdravstveni delavci razumejo, kaj orodje počne in česa ne počne, preden se zanašajo na njegove izhodne podatke. Načelo sorazmernosti pomeni, da bo posamezni strokovnjak, ki uvaja preprosto orodje za umetno inteligenco, imel lažje obveznosti kot multinacionalka, ki v velikem obsegu uvaja visoko tvegane sisteme.

Ključne obveznosti

• Ocena potreb po pismenosti na področju umetne inteligence: Ponudniki in uporabniki morajo ugotoviti, kateri zaposleni in določene osebe so v stiku s sistemi umetne inteligence, in oceniti njihovo obstoječo raven pismenosti na področju umetne inteligence glede na zahteve teh vlog.
• Sprejetje ustreznih ukrepov pismenosti: Organizacije morajo aktivno izvajati ukrepe — usposabljanje, dokumentacijo, smernice ali strukturirano nadgrajevanje znanj — sorazmerne z vlogo vsake osebe, njenimi obstoječimi kompetencami in zadevnimi sistemi.
• Uporaba sorazmernosti: Zahtevana raven pismenosti na področju umetne inteligence ni enotna; odražati mora tehnično kompleksnost sistema umetne inteligence, stopnjo avtonomije, ki jo izvaja, in morebitni vpliv odločitev imetnika vloge.
• Vzdrževanje stalne pokritosti: Obveznost je stalna. Ko se sistemi umetne inteligence spreminjajo, ko se uvajajo novi sistemi ali ko se osebje vrti v vloge, vezane na umetno inteligenco, je treba ukrepe pismenosti pregledati in ustrezno posodobiti.
• Razširitev obveznosti na tretje osebe, ki delujejo v imenu organizacije: Člen izrecno zajema osebe, ki delujejo v imenu ponudnikov ali uporabnikov, kar pomeni, da so pogodbeno osebje, ponudniki storitev in zastopniki, ki sodelujejo pri delovanju sistemov umetne inteligence, v okviru področja uporabe.
• Dokumentiranje prizadevanj: Čeprav člen 4 ne določa zahteve glede dokumentacije, pomeni usklajevanje s širšimi pričakovanji Uredbe glede upravljanja (zlasti za visoko tvegane sisteme), da evidence ocen pismenosti in dejavnosti usposabljanja predstavljajo najboljšo prakso in podpirajo dokazljivo skladnost.

Razmerje do drugih členov

Člen 4 je v Naslovu I (Splošne določbe) in deluje kot horizontalni omogočevalec za posebnejše obveznosti Uredbe. Neposredno je povezan s Členom 9 (sistem upravljanja tveganj za visoko tvegano umetno inteligenco), ki zahteva, da osebe, odgovorne za upravljanje tveganj umetne inteligence, posedujejo potrebne kompetence — standard, ki predpostavlja osnovno pismenost na področju umetne inteligence. Krepi Člen 14 (človeški nadzor), kjer smiseln nadzor s strani fizičnih oseb je odvisen od tega, ali te osebe razumejo izhodne podatke sistemov umetne inteligence, omejitve in načine odpovedi.

Člen 4 se prav tako povezuje s Členom 16(g), ki od ponudnikov visoko tveganih sistemov umetne inteligence zahteva, da storijo korake za zagotovitev, da uporabniki sistem ustrezno interpretirajo in uporabljajo, ter s Členom 26(2), ki obvezuje uporabnike, da dodeli človeški nadzor osebam s potrebnimi kompetencami. V kontekstu modelov umetne inteligence splošnega namena (Naslov VIII) Člen 4 podpira pričakovanje, da uporabniki, ki gradijo na izhodnih podatkih modela UISP, razumejo naravo in omejitve teh modelov. Branje Člena 4 skupaj z uvodno izjavo 20 pojasnjuje namen zakonodajalca, da je pismenost na področju umetne inteligence predpogoj za učinkovito izpolnjevanje vseh drugih obveznosti v okviru Uredbe.

Časovnica skladnosti

Zakon EU o umetni inteligenci je začel veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu. Uredba se uporablja v fazah:

• 2. februarja 2025 — Prepovedi glede praks umetne inteligence z nesprejemljivim tveganjem (Člen 5) so postale veljavne.
• 2. avgusta 2025 — Člen 4 je postal uporaben, skupaj z določbami o modelih umetne inteligence splošnega namena (Naslov VIII) in obveznostmi, ki urejajo priglašene organe in organe za nadzor trga. Organizacije bi morale imeti do tega datuma vzpostavljene ukrepe pismenosti na področju umetne inteligence.
• 2. avgusta 2026 — Obveznosti za visoko tvegane sisteme umetne inteligence, navedene v Prilogi I (varnostni komponentni sistemi v reguliranih izdelkih), se začnejo uporabljati.
• 2. avgusta 2027 — Obveznosti za visoko tvegane sisteme umetne inteligence, navedene v Prilogi III (samostojni visoko tvegani sistemi), se začnejo v celoti uporabljati, vključno s Členi 9–14 in 26, za katere je pismenost na podlagi Člena 4 predpogoj.

Organizacije, ki še niso izvedle ocene vrzeli v pismenosti ali niso uvedle nobenih ukrepov usposabljanja, že od avgusta 2025 ne izpolnjujejo Člena 4 in bi morale sanacijo obravnavati kot takojšnjo prednostno nalogo.