Članak 4. — Pismenost o UI (Uredba EU o umjetnoj inteligenciji)

Članak 4. Uredbe (EU) 2024/1689 — Pismenost o UI. Službeni tekst, praktično tumačenje, ključne obveze i implikacije usklađenosti.

Sažetak službenog teksta

Članak 4. Uredbe (EU) 2024/1689 uspostavlja opću obvezu pismenosti o UI za pružatelje i primatelje sustava UI koji djeluju u okviru opsega Uredbe. Članak zahtijeva da pružatelji i primatelji poduzmu mjere kako bi osigurali, u najvećoj mogućoj mjeri, da njihovi zaposlenici i sve druge osobe koje djeluju u njihovo ime, a koje su uključene u rad i upotrebu sustava UI, posjeduju dovoljan stupanj pismenosti o UI.

Članak definira pismenost o UI kao vještine, znanje i razumijevanje koji osobama omogućuju donošenje informiranih odluka o sustavima UI, pravilnu primjenu i upotrebu istih te svjesnost o utjecaju koji ti sustavi mogu imati. Ključno je da obveza bude kalibrirana: zahtijevana razina pismenosti mora biti razmjerna tehničkom znanju, iskustvu, obrazovanju, osposobljavanju i kontekstu predmetnih osoba, kao i sustavima UI kojima upravljaju.

Članak 4. stoga ne nameće uniformni standard. Umjesto toga, stvara okvir dužne pažnje prema kojemu organizacije moraju procijeniti potrebe kompetencija relevantnog osoblja u odnosu na predmetne sustave UI i poduzeti odgovarajuće korektivne ili razvojne mjere tamo gdje postoje nedostaci. Odredba odražava namjeru zakonodavca — izraženu u uvodnoj izjavi 20. — da je ljudski nadzor sustava UI smislen samo ako osobe koje ga provode posjeduju temeljno razumijevanje potrebno za učinkovito djelovanje. Obveza je horizontalnog opsega: primjenjuje se bez obzira na kategoriju rizika predmetnog sustava UI, što je čini jednom od rijetkih odredbi u Naslovu I. koja generira izravne, provedive obveze za sve aktere u dosegu Uredbe.

Što to znači u praksi

Članak 4. stvara kontinuiranu obvezu unutarnjeg upravljanja. Svaka organizacija koja se kvalificira kao pružatelj (koji stavlja sustav UI na tržište EU ili ga pušta u upotrebu) ili primatelj (koji koristi sustav UI pod vlastitom nadležnošću u profesionalnom kontekstu) mora aktivno procjenjivati i rješavati pismenost o UI relevantnog osoblja.

U praksi to znači da organizacije trebaju početi mapiranjem uloga koje su u interakciji sa sustavima UI — bilo da grade, integriraju, upravljaju, nadziru ili pregledavaju izlazne podatke UI. Pravni tim koji koristi alat za analizu ugovora, HR odjel koji primjenjuje sustav za pregledavanje životopisa ili inženjerski tim koji održava model prediktivnog održavanja svi potpadaju pod opseg. Svaki nositelj uloge mora imati razinu pismenosti o UI primjerenu njegovim odgovornostima.

Konkretno, mjere usklađenosti mogu uključivati:

• Provođenje procjene nedostataka vještina u ulogama vezanim uz UI
• Osmišljavanje ili nabavu osposobljavanja specifičnog za uloge (tehničko osoblje zahtijeva dublje znanje o ponašanju modela, pristranosti i nesigurnosti; poslovni korisnici zahtijevaju svjesnost o ograničenjima i putovima eskalacije)
• Dokumentiranje mjera pismenosti poduzetih kao dio širih evidencija upravljanja UI
• Pregled i osvježavanje programa pismenosti kako se sustavi UI razvijaju ili uvode novi sustavi

Logistička tvrtka koja primjenjuje model optimizacije ruta, primjerice, trebala bi osigurati da operateri koji postupaju prema preporukama modela razumiju raspone pouzdanosti sustava, poznate moduse neuspjeha i kada nadjačati sustav. Slično tome, pružatelj zdravstvene zaštite koji primjenjuje alat za dijagnostičku podršku mora osigurati da kliničari razumiju što alat čini i što ne čini prije oslanjanja na njegove izlazne podatke. Načelo proporcionalnosti znači da će samostalni praktičar koji primjenjuje jednostavan alat UI imati lakše obveze od multinacionalne tvrtke koja u velikom mjerilu primjenjuje visokorizične sustave.

Ključne obveze

• Procijeniti potrebe pismenosti o UI: Pružatelji i primatelji moraju identificirati koje osoblje i imenovane osobe su u interakciji sa sustavima UI i procijeniti njihovu postojeću razinu pismenosti o UI u odnosu na zahtjeve tih uloga.
• Poduzeti odgovarajuće mjere pismenosti: Organizacije moraju aktivno provoditi mjere — osposobljavanje, dokumentaciju, smjernice ili strukturirano usavršavanje — razmjerno ulozi svake osobe, postojećoj kompetenciji i predmetnim sustavima.
• Primijeniti proporcionalnost: Zahtijevana razina pismenosti o UI nije uniformna; mora odražavati tehničku složenost sustava UI, stupanj autonomije koji sustav primjenjuje i potencijalni utjecaj odluka nositelja uloge.
• Održavati kontinuiranu pokrivenost: Obveza je kontinuirana. Kako se sustavi UI mijenjaju, kako se uvode novi sustavi ili kako se osoblje rotira u uloge vezane uz UI, mjere pismenosti moraju se revidirati i ažurirati.
• Proširiti obvezu na treće strane koje djeluju u ime organizacije: Članak izričito obuhvaća osobe koje djeluju u ime pružatelja ili primatelja, što znači da su ugovoreno osoblje, pružatelji usluga i zastupnici uključeni u rad sustava UI unutar opsega.
• Dokumentirati napore: Iako članak 4. ne specificira zahtjev dokumentiranja, usklađenost s općim očekivanjima upravljanja Uredbom (posebno za visokorizične sustave) znači da evidencije procjena pismenosti i aktivnosti osposobljavanja predstavljaju dobru praksu i podupiru dokazivu usklađenost.

Odnos prema drugim člancima

Članak 4. smješten je unutar Naslova I. (Opće odredbe) i funkcionira kao horizontalni omogućivač specifičnijih obveza Uredbe. Izravno je povezan s člankom 9. (sustav upravljanja rizicima za visokorizičnu UI), koji zahtijeva da osobe odgovorne za upravljanje rizicima UI posjeduju potrebnu kompetenciju — standard koji pretpostavlja bazičnu pismenost o UI. Ojačava članak 14. (ljudski nadzor), gdje smislen nadzor od strane fizičkih osoba ovisi o tome da te osobe razumiju izlazne podatke sustava UI, ograničenja i moduse neuspjeha.

Članak 4. također se povezuje s člankom 16. točkom (g), koji zahtijeva da pružatelji visokorizičnih sustava UI poduzmu korake kako bi osigurali da primatelji mogu pravilno tumačiti i koristiti sustav, te s člankom 26. stavkom 2., koji obvezuje primatelje da dodjele ljudski nadzor osobama s potrebnom kompetencijom. U kontekstu modela UI opće namjene (Naslov VIII.), članak 4. podupire očekivanje da primatelji koji grade na izlaznim podacima modela UI opće namjene razumiju prirodu i ograničenja tih modela. Čitanjem članka 4. uz uvodnu izjavu 20. pojašnjava se namjera zakonodavca da je pismenost o UI preduvjet za učinkovito izvršavanje svih ostalih obveza prema Uredbi.

Vremenski okvir usklađenosti

Uredba EU o UI stupila je na snagu 1. kolovoza 2024., dvadeset dana nakon objave u Službenom listu. Uredba se primjenjuje u fazama:

• 2. veljače 2025. — Zabrane prakse UI neprihvatljivog rizika (članak 5.) postale su primjenjive.
• 2. kolovoza 2025. — Članak 4. postao je primjenjiv, zajedno s odredbama o modelima UI opće namjene (Naslov VIII.) i obvezama koje uređuju prijavljena tijela i tijela za nadzor tržišta. Organizacije su trebale imati mjere pismenosti o UI uspostavljene do tog datuma.
• 2. kolovoza 2026. — Obveze za visokorizične sustave UI navedene u Prilogu I. (sustavi sigurnosnih komponenti u reguliranim proizvodima) primjenjuju se.
• 2. kolovoza 2027. — Obveze za visokorizične sustave UI navedene u Prilogu III. (samostalni visokorizični sustavi) u potpunosti se primjenjuju, uključujući članke 9.–14. i 26., za koje je pismenost prema članku 4. preduvjet.

Organizacije koje još nisu provele procjenu nedostataka pismenosti niti implementirale ikakve mjere osposobljavanja već su nesukladne s člankom 4. od kolovoza 2025. i trebale bi tretirati sanaciju kao neposredni prioritet.