Rječnik EU AI akta: Ključne definicije i pojmovi objašnjeni

Službene definicije iz EU AI akta (Čl. 3) i uobičajeno korišteni pojmovi u EU AI regulaciji. Razumijevanje što Akt podrazumijeva pod 'AI sustavom', 'pružateljem', 'visokim rizikom', 'bitnom modifikacijom' i 'GPAI modelom' ključno je za usklađenost. Ovaj rječnik pokriva sve temeljne pojmove s objašnjenjima na jednostavnom jeziku.

Temeljne definicije (Čl. 3)

EU AI akt sadrži 65 definiranih pojmova u Čl. 3. Najvažniji za svrhe usklađivanja sažeti su u nastavku.

AI sustav (Čl. 3(1))

Strojni sustav koji:

• Funkcionira s različitim razinama autonomnosti
• Može pokazivati prilagodljivost nakon raspoređivanja
• Zaključuje iz ulaza kako generirati izlaze (predviđanja, sadržaj, preporuke, odluke) koji mogu utjecati na fizička ili virtualna okruženja

Ključna implikacija: Definicija je tehnološki neutralna. Ne zahtijeva duboko učenje ili neuronske mreže — sustav temeljen na pravilima s adaptivnim komponentama može se kvalificirati. Suprotno tome, jednostavno stablo logike ako-onda bez sposobnosti učenja vjerojatno se ne kvalificira.

Pružatelj (Čl. 3(3))

Svaka fizička ili pravna osoba, javno tijelo, agencija ili tijelo koje razvija AI sustav ili daje AI sustav na razvoj i stavlja ga na tržište ili u pogon pod vlastitim imenom ili zaštitnim znakom — bez obzira je li to za naknadu ili besplatno.

Ključna implikacija: Odgovornost za razvoj + stavljanje na tržište = status pružatelja. Tvrtka koja naručuje prilagođenu AI izgradnju od vanjskog programera je pružatelj ako se sustav stavlja na tržište pod brendom tvrtke.

Korisnik (Čl. 3(4))

Svaka fizička ili pravna osoba, javno tijelo, agencija ili tijelo koje koristi AI sustav pod svojom nadležnošću za profesionalne svrhe — osim ako je upotreba u osobnoj neprofesionalnoj aktivnosti.

Ključna implikacija: Velika većina poduzeća koja koriste AI kupljen od trećih strana su korisnici. Korisničke obveze su manje opterećujuće od obveza pružatelja, ali su i dalje značajne za visokorizične sustave.

Ovlašteni predstavnik (Čl. 3(5))

Svaka fizička ili pravna osoba s poslovnim nastanom u Uniji koja je primila pisani mandat od pružatelja AI sustava osnovanog izvan Unije za izvršavanje obveza u ime tog pružatelja.

Ključna implikacija: Ne-EU pružatelji AI sustava stavljenih na EU tržište moraju odrediti ovlaštenog predstavnika s poslovnim nastanom u EU-u. Ovaj predstavnik može biti pravno odgovoran za obveze pružatelja prema EU AI aktu.

Uvoznik (Čl. 3(6))

Svaka fizička ili pravna osoba s poslovnim nastanom u Uniji koja stavlja na EU tržište AI sustav koji nosi ime ili zaštitni znak fizičke ili pravne osobe s poslovnim nastanom izvan Unije.

Distributer (Čl. 3(7))

Svaka fizička ili pravna osoba u opskrbnom lancu, osim pružatelja ili uvoznika, koja stavlja AI sustav na raspolaganje na tržištu Unije bez modifikacije.

Operater (Čl. 3(8))

Kolektivni pojam koji pokriva pružatelje, ovlaštene predstavnike, uvoznike, distributere, korisnike i sve druge osobe podložne obvezama prema Aktu.

Namijenjena svrha (Čl. 3(12))

Upotreba za koju je AI sustav namijenjen od strane pružatelja, uključujući specifičan kontekst i uvjete upotrebe navedene u informacijama koje dostavlja pružatelj u uputama za korištenje, promotivnim ili prodajnim materijalima ili izjavama.

Ključna implikacija: Namijenjena svrha određuje koja kategorija rizika se primjenjuje i koji zahtjevi moraju biti ispunjeni. Sustav namijenjen za kreditno bodovanje je visokorizičan (Prilog III); isti temeljni model namijenjen za filtriranje neželjene pošte možda nije. Pružatelji ne mogu izbjeći visokorizičnu klasifikaciju ostavljajući namijenjenu svrhu nejasnom — Akt gleda na sve informacije o dizajnu sustava i marketingu.

Razumno predvidiva zlouporaba (Čl. 3(13))

Upotreba AI sustava na način koji nije u skladu s njegovom namijenjenom svrhom, ali koji može rezultirati iz razumno predvidivog ljudskog ponašanja ili interakcije s drugim sustavima.

Ključna implikacija: Pružatelji moraju procijeniti i riješiti predvidivu zlouporabu u sustavima upravljanja rizicima — ne samo namijenjeni slučaj upotrebe. Sustav prepoznavanja lica namijenjen za kontrolu pristupa mora riješiti predvidivi rizik da bi mogao biti korišten za nadzor u realnom vremenu.

Sigurnosna komponenta (Čl. 3(14))

Komponenta proizvoda ili AI sustava koja ispunjava sigurnosnu funkciju za taj proizvod ili AI sustav, ili čiji kvar ili neispravan rad ugrožava zdravlje i sigurnost osoba ili imovine.

Ključna implikacija: AI sustavi koji su sigurnosne komponente proizvoda obuhvaćenih sektorskim zakonodavstvom Priloga I automatski podliježu visokorazinskim zahtjevima, bez obzira predstavlja li sam AI izravni rizik.

Stavljanje na tržište (Čl. 3(9))

Prvo stavljanje AI sustava ili modela opće namjene na raspolaganje na tržištu Unije.

Stavljanje u pogon (Čl. 3(11))

Isporuka AI sustava za prvu upotrebu izravno korisniku ili za vlastitu upotrebu na tržištu Unije za namijenjenu svrhu.

Ključna implikacija: I "stavljanje na tržište" (prodaja drugima) i "stavljanje u pogon" (korištenje sami) aktiviraju obveze pružatelja. Poduzeće koje gradi AI sustav za internu upotrebu stavlja ga u pogon i pružatelj je podložan svim obvezama.

Visokorizični AI sustav

Nije definiran u jednoj rečenici — klasificira se pozivanjem na Prilog I (sigurnosne komponente u reguliranim proizvodima) i Prilog III (samostalni visokorizični slučajevi upotrebe). Razina rizika ovisi o namijenjoj svrhi i kontekstu raspoređivanja, a ne o temeljnoj tehnologiji.

Visokorizične kategorije prema Prilogu III:

1. Biometrijska identifikacija i kategorizacija
2. Upravljanje kritičnom infrastrukturom
3. Obrazovanje i strukovno osposobljavanje
4. Zapošljavanje, upravljanje radnicima, pristup samozapošljavanju
5. Pristup i upotreba osnovnih privatnih usluga i javnih usluga i naknada
6. Kazneno pravosuđe
7. Migracije, azil, upravljanje nadzorom granica
8. Primjena pravosuđa i demokratski procesi

Model opće namjene (GPAI) (Čl. 3(63))

AI model, uključujući onaj obučen na velikoj količini podataka korištenjem samonadziranog učenja u velikom opsegu, koji pokazuje značajnu generalnost i sposoban je kompetentno obavljati širok raspon različitih zadataka bez obzira na način na koji se model stavlja na tržište — koji se može koristiti u raznim downstream aplikacijama.

Ključna razlika od AI sustava: GPAI model još nije AI sustav. Postaje dio AI sustava kada se integrira u proizvod ili aplikaciju. Akt nameće obveze pružateljima GPAI modela zasebno od (i uz) obveze pružatelja AI sustava izgrađenih korištenjem GPAI modela.

GPAI model sa sustavnim rizikom (Čl. 3(65))

GPAI model određen kao sustavni rizik jer ima visoko-utjecajne sposobnosti ocijenjene prema odgovarajućim tehničkim alatima i metodologijama, ili zbog stvarnog ili razumno predvidivog visoko-utjecajnog dosega.

Trenutačni pokazatelj je kumulativni računalni kapacitet za obuku koji premašuje 10^25 FLOP-ova. Dodatni kriteriji mogu biti primijenjeni delegiranim aktom Komisije.

Ozbiljni incident (Čl. 3(49))

Svaki incident ili kvar AI sustava koji izravno ili neizravno dovodi do:

• Smrti osobe ili ozbiljne štete po zdravlje osobe
• Ozbiljnog i nepopravljive smetnje u upravljanju i radu kritične infrastrukture
• Povrede obveza prema pravu Unije namijenjenih zaštiti temeljnih prava
• Ozbiljne štete imovini ili okolišu

Bitna modifikacija (Čl. 3(23))

Promjena AI sustava nakon stavljanja na tržište ili u pogon koja nije predviđena ili planirana u inicijalnoj ocjeni sukladnosti i koja utječe na usklađenost AI sustava sa zahtjevima Akta ili rezultira promjenom namijenjene svrhe.

Ocjena sukladnosti (Čl. 3(20))

Proces provjere ispunjava li visokorizični AI sustav zahtjeve navedene u Poglavlju III, Odjeljku 2 Akta. Ocjene sukladnosti može provoditi pružatelj (samoprocjena) ili prijavljeno tijelo (procjena treće strane), ovisno o vrsti sustava.

Prijavljeno tijelo (Čl. 3(22))

Tijelo za ocjenu sukladnosti koje je odredila država članica za provođenje aktivnosti ocjene sukladnosti treće strane za visokorizične AI sustave. Prijavljena tijela su ekvivalent AI akta tijelima za CE oznaku koji se koriste u tradicionalnoj regulaciji proizvoda.

Tijelo za nadzor tržišta (Čl. 3(26))

Nacionalno tijelo odgovorno za provođenje nadzora tržišta prema AI aktu. Države članice moraju odrediti najmanje jedno tijelo za nadzor tržišta po državi članici.

CE oznaka (Čl. 3(30))

Oznaka kojom pružatelj naznačuje da je visokorizični AI sustav u skladu sa zahtjevima AI akta i drugog primjenjivog zakonodavstva Unije koje predviđa njeno stavljanje.

Sektorski specifični pojmovi

Biometrijski podaci (preuzeto iz GDPR-a)

Osobni podaci koji su rezultat posebne tehničke obrade koja se odnosi na fizičke, fiziološke ili bihevioralne karakteristike fizičke osobe, koji omogućuju ili potvrđuju jedinstvenu identifikaciju te fizičke osobe.

Sustav biometrijske identifikacije na daljinu (Čl. 3(40))

AI sustav namijenjen identifikaciji fizičkih osoba na daljinu putem usporedbe biometrijskih podataka osobe s biometrijskim podacima sadržanim u referentnoj bazi podataka, bez prethodnog znanja korisnika AI sustava hoće li osoba biti prisutna i može li biti identificirana.

Ključna implikacija: Biometrijska identifikacija u realnom vremenu na javno dostupnim mjestima zabranjena je za kazneno pravosuđe uz uske iznimke (Čl. 5).

Temeljni model

Nije definiran u AI aktu — Akt umjesto toga koristi "GPAI model". Temeljni model je uobičajeni industrijski pojam za pre-obučene modele u velikom opsegu. Za regulatorne svrhe, koristite "GPAI model."

Fino podešavanje

Nije definirano u Aktu. Prilagodba GPAI modela specifičnoj domeni ili zadatku putem dodatne obuke. Ako fino podešavanje rezultira bitno drugačijim modelom stavljenim na tržište, fini podešivač može postati pružateljem tog novog modela.

Postupovni pojmovi

Tehnička dokumentacija (Prilog IV)

Strukturirani paket dokumentacije koji pružatelji visokorizičnih AI sustava moraju pripremiti prije stavljanja na tržište i održavati kroz životni ciklus sustava. Uključuje opis sustava, logiku dizajna, informacije o podacima za obuku, rezultate testiranja, dokumentaciju upravljanja rizicima i plan nadzora post-tržišta.

EU Izjava o sukladnosti (Čl. 3(37))

Formalni dokument koji potpisuje pružatelj koji izjavljuje da je visokorizični AI sustav usklađen sa svim primjenjivim zahtjevima Akta. Pravni je temelj za stavljanje CE oznake.

Upute za korištenje (Čl. 3(15))

Informacije koje dostavlja pružatelj kako bi informirao korisnika o namijenjoj svrsi AI sustava, performansama, tehničkim specifikacijama i uvjetima upotrebe — uključujući sva ograničenja i predvidive rizike.

Plan nadzora post-tržišta (Čl. 3(32))

Dokumentirani plan koji uspostavlja pružatelj za prikupljanje i pregled iskustva stečenog iz operiranja visokorizičnog AI sustava nakon stavljanja na tržište ili u pogon.

Procjena utjecaja na temeljna prava (Čl. 27)

Procjena koju korisnici u javnom sektoru (i određeni privatni korisnici) moraju provesti prije raspoređivanja visokorizičnog AI sustava, evaluirajući utjecaj na temeljna prava pogođenih osoba.