Glosar Akta EU o UI: Ključne definicije in pojmi

Uradne definicije iz Akta EU o UI (čl. 3) in pogosto używani pojmi v regulativi EU o UI. Razumevanje, kaj Akt pomeni z 'sistemom UI', 'ponudnik', 'visoko tveganje', 'bistvena modifikacija' in 'model GPAI', je bistveno za skladnost. Ta glosar zajema vse temeljne pojme z razlagami v navadnem jeziku.

Temeljne definicije (čl. 3)

Akt EU o UI vsebuje 65 definiranih pojmov v čl. 3. Spodaj so povzetki najpomembnejših za namene skladnosti.

Sistem UI (čl. 3(1))

Sistem na osnovi stroja, ki:

• Deluje z različnimi stopnjami avtonomije
• Se morda po uvajanju prilagaja
• Sklepa iz vhodov, kako ustvariti izhode (napovedi, vsebino, priporočila, odločitve), ki vplivajo na fizična ali virtualna okolja

Ključna posledica: Definicija je tehnološko nevtralna. Ne zahteva globokega učenja ali nevronskih mrež — morda se kvalificira sistem, ki se utemeljuje na pravilih z adaptivnimi komponentami. Nasprotno pa se enostavno drevo odločanja brez zmogljivosti učenja verjetno ne kvalificira.

Ponudnik (čl. 3(3))

Katera koli naravna ali pravna oseba, javni organ, agencija ali organ, ki razvije sistem UI ali da sistem UI razviti in ga da na trg ali v uporabo pod lastnim imenom ali blagovno znamko — bodisi za plačilo ali brezplačno.

Ključna posledica: Odgovornost za razvoj + dajanje na trg = status ponudnika. Podjetje, ki naroči izgradnjo UI po meri pri zunanjem razvijalcu, je ponudnik, če se sistem da na trg pod blagovno znamko podjetja.

Izvajalec (čl. 3(4))

Katera koli naravna ali pravna oseba, javni organ, agencija ali organ, ki za poklicni namen pod svojo pristojnostjo použija sistem UI — razen kadar se useaba je pri osebni neprofesionalni dejavnosti.

Ključna posledica: Velika večina podjetij, ki useajo UI, kupljeno od tretjih oseb, so izvajalci. Obveznosti izvajalca so manj obremenjujoče od obveznosti ponudnika, toda za visokotveganostne sisteme so še vedno znatne.

Pooblaščeni zastopnik (čl. 3(5))

Katera koli naravna ali pravna oseba, ustanovljena v Uniji, ki je od ponudnika sistema UI, ustanovljenega izven Unije, prejela pisno pooblastilo za izpolnjevanje obveznosti v imenu tega ponudnika.

Ključna posledica: Ponudniki UI, ki niso iz EU in ki sisteme UI dajejo na trg EU, morajo imenovati pooblaščenega zastopnika s sedežem v EU. Ta zastopnik je morda pravno odgovoren za obveznosti Akta EU o UI ponudnika.

Uvoznik (čl. 3(6))

Katera koli naravna ali pravna oseba, ustanovljena v Uniji, ki na trg EU da sistem UI, ki nosi ime ali blagovno znamko naravne ali pravne osebe, ustanovljene izven Unije.

Distributer (čl. 3(7))

Katera koli naravna ali pravna oseba v dobavni verigi, ki ni ponudnik ali uvoznik, ki sistem UI da na voljo na trgu Unije brez njegovega spreminjanja.

Upravljavec (čl. 3(8))

Skupen izraz, ki zajema ponudnike, pooblaščene zastopnike, uvoznike, distributerje, izvajalce in katero koli drugo osebo, zavezano obveznostim po Aktu.

Predvideni namen (čl. 3(12))

Useaba, za katero je sistem UI namenjen s strani ponudnika, vključno s specifičnim kontekstom in pogoji useabe, navedenimi v informacijah, ki jih ponudnik zagotovi v navodilih za useabo, promocijskih ali prodajnih materialih ali izjavah.

Ključna posledica: Predvideni namen določa, katera kategorija tveganja se нanaša in katere zahteve je treba izpolniti. Sistem, namenjen za kreditno točkovanje, je visokotveganostni (Annex III); isti temeljni model, namenjen za filtriranje neželene pošte, morda ni. Ponudniki se ne morejo izogniti klasifikaciji visokotveganostnih, tako da predvideni namen pustijo nejasen — Akt upošteva vse informacije o zasnovi in trženju sistema.

Razumno predvidljiva zloraba (čl. 3(13))

Useaba sistema UI na način, ki ni v skladu z njegovim predvidenim namenom, toda bi se morda zgodila kot posledica razumno predvidljivega človeškega vedenja ali interakcije z drugimi sistemi.

Ključna posledica: Ponudniki morajo v svojih sistemih upravljanja tveganj oceniti in nasloviti predvidljivo zlorabo — ne le predvideni primer useabe. Sistem za prepoznavo obrazov, namenjen za nadzor dostopa, mora nasloviti predvidljivo tveganje, da bi se morda použil za nadzor v realnem času.

Varnostna komponenta (čl. 3(14))

Komponenta produkta ali sistema UI, ki za ta produkt ali sistem UI opravlja varnostno funkcijo ali katere napaka ali okvara ogroža zdravje in varnost oseb ali lastnine.

Ključna posledica: Sistemi UI, ki so varnostne komponente produktov, ki jih zajema sektorska zakonodaja Annex I, so samodejno zavezani zahtevam visokotveganostnih, ne glede na to, ali sam sistem UI predstavlja neposredno tveganje.

Dajanje na trg (čl. 3(9))

Prvič dajanje sistema UI ali modela splošne namenske UI na voljo na trgu Unije.

Dajanje v uporabo (čl. 3(11))

Dobava sistema UI za prvo useabo neposredno izvajalcu ali za lastno useabo na trgu Unije za njegov predvideni namen.

Ključna posledica: Tako "dajanje na trg" (prodaja drugim) kot "dajanje v useabo" (lastna useaba) sprožita obveznosti ponudnika. Podjetje, ki sistem UI zgradi za interno useabo, ga daje v useabo in je ponudnik, zavezani vsem obveznostim.

Visokotveganostni sistem UI

Ni opredeljen v enem samem stavku — razvrščen z referenco na Annex I (varnostne komponente v reguliranih produktih) in Annex III (samostojni primeri visokotveganostne useabe). Raven tveganja je odvisna od predvidenega namena in konteksta uvajanja, ne od temeljne tehnologije.

Kategorije visokotveganostnih Annex III:

1. Biometrična identifikacija in kategorizacija
2. Upravljanje kritične infrastrukture
3. Izobraževanje in poklicno usposabljanje
4. Zaposlovanje, upravljanje delavcev, dostop do samozaposlitve
5. Dostop do bistvenih zasebnih storitev in javnih storitev ter dajatev
6. Kazenski pregon
7. Upravljanje migracij, azila in nadzor meja
8. Uprava pravosodja in demokratični procesi

Model splošne namenske UI (GPAI) (čl. 3(63))

Model UI, vključno kadar je usposobljen na veliki količini podatkov z useabo samo-nadzora v obsegu, ki kaže znatno splošnost in je sposoben kompetentno izvajati širok nabor različnih nalog ne glede na način, kako je model dan na trg — ki se morda useab v različnih spodnjih aplikacijah.

Ključna razlika od sistema UI: Model GPAI še ni sistem UI. Postane del sistema UI, ko je integriran v produkt ali aplikacijo. Akt nalaga obveznosti ponudnikom modelov GPAI ločeno od (in poleg) obveznosti, naloženih ponudnikom sistemov UI, zgrajenih z useabo modelov GPAI.

Model GPAI s sistemskim tveganjem (čl. 3(65))

Model GPAI, označen kot sistemsko tveganostni, ker ima visoko-vplivne zmogljivosti, ocenjene v skladu z ustreznimi tehničnimi orodji in metodologijami, ali zaradi svojega dejanskega ali razumno predvidljivega visoko-vplivnega dosega.

Trenutni kazalnik je kumulativno računanje za usposabljanje, ki presega 10^25 FLOPs. Dodatna merila se morda useajejo z delegiranim aktom Komisije.

Resni incident (čl. 3(49))

Kateri koli incident ali okvara sistema UI, ki neposredno ali posredno vodi do:

• Smrti osebe ali resne škode za zdravje osebe
• Resne in nepopravljive motnje upravljanja in delovanja kritične infrastrukture
• Kršitve obveznosti po pravu Unije, namenjenih zaščiti temeljnih pravic
• Resne škode lastnine ali okolja

Bistvena modifikacija (čl. 3(23))

Sprememba sistema UI po dajanju na trg ali dajanju v useabo, ki ni predvidena ali načrtovana v začetnem ugotavljanju skladnosti in ki vpliva na skladnost sistema UI z zahtevami Akta ali povzroča spremembo predvidenega namena.

Ugotavljanje skladnosti (čl. 3(20))

Postopek preverjanja, ali visokotveganostni sistem UI izpolnjuje zahteve, določene v Poglavju III, Oddelku 2 Akta. Ugotavljanja skladnosti se morda izvedejo s strani ponudnika (samocertifikacija) ali priglašenega organa (ocenjevanje tretje stranke), odvisno od vrste sistema.

Priglašeni organ (čl. 3(22))

Organ za ugotavljanje skladnosti, ki ga imenuje država članica za izvajanje dejavnosti ugotavljanja skladnosti tretjih oseb za visokotveganostne sisteme UI. Priglašeni organi so enakovredni Aktu o UI organom za oznako CE, ki se useajajo v tradicionalni regulativi produktov.

Organ za nadzor trga (čl. 3(26))

Nacionalni organ, odgovoren za izvajanje nadzora trga po Aktu o UI. Države članice morajo določiti vsaj enega organa za nadzor trga na državo članico.

Oznaka CE (čl. 3(30))

Oznaka, s katero ponudnik nakazuje, da je visokotveganostni sistem UI v skladu z zahtevami Akta o UI in drugo veljavno zakonodajo Unije, ki določa njeno pritrjevanje.

Sektorsko specifični pojmi

Biometrični podatki (uvoženi iz GDPR)

Osebni podatki, ki izhajajo iz posebne tehnične obdelave, ki se nanašajo na fizične, fiziološke ali vedenjske značilnosti naravne osebe, ki omogočajo ali potrjujejo edinstveno identifikacijo te naravne osebe.

Sistem za daljinsko biometrično identifikacijo (čl. 3(40))

Sistem UI, namenjen identifikaciji naravnih oseb na daljavo s primerjavo biometričnih podatkov osebe z biometričnimi podatki, ki so vsebovani v referenčni bazi podatkov, brez predhodnega vedenja useabalca sistema UI, ali bo oseba prisotna in se da identificirati.

Ključna posledica: Daljinska biometrična identifikacija naravnih oseb v realnem času v javno dostopnih prostorih je za namene kazenskega pregona prepovedana z ozkimi izjemami (čl. 5).

Temeljni model

Ni opredeljen v Aktu o UI — Akt namesto tega useaba "model GPAI". Temeljni model je pogosto useaban industrijski izraz za modele, predizvajano v velikem obsegu. Za regulativne namene useabite "model GPAI."

Fino nastavljanje

Ni opredeljeno v Aktu. Prilagajanje modela GPAI za specifično domeno ali nalogo s pomočjo dodatnega usposabljanja. Če fino nastavljanje povzroči bistveno drugačen model, dan na trg, je morda tisti, ki fini nastavi, postal ponudnik tega novega modela.

Postopkovni pojmi

Tehnična dokumentacija (Annex IV)

Strukturiran dokumentacijski paket, ki ga morajo ponudniki visokotveganostnih sistemov UI pripraviti pred dajanjem na trg in vzdrževati skozi celoten življenjski cikel sistema. Vključuje opis sistema, logiko oblikovanja, informacije o podatkih za usposabljanje, rezultate preizkušanja, dokumentacijo upravljanja tveganj in načrt nadzora po trženju.

Izjava EU o skladnosti (čl. 3(37))

Formalen dokument, ki ga podpiše ponudnik in s katerim navaja, da visokotveganostni sistem UI izpolnjuje vse veljavne zahteve Akta. Je pravna osnova za pritrjevanje oznake CE.

Navodila za useabo (čl. 3(15))

Informacije, ki jih zagotovi ponudnik, da izvajalca sistema UI obvesti o predvidenem namenu, zmogljivosti, tehničnih specifikacijah in pogojih useabe — vključno z morebitnimi omejitvami in predvidljivimi tveganji.

Načrt nadzora po trženju (čl. 3(32))

Dokumentiran načrt, ki ga ponudnik vzpostavi za zbiranje in pregled izkušenj, pridobljenih z upravljanjem visokotveganostnega sistema UI po dajanju na trg ali dajanju v useabo.

Ocena vpliva na temeljne pravice (čl. 27)

Ocena, ki jo morajo izvajalci v javnem sektorju (in nekateri zasebni izvajalci) opraviti pred uvajanjem visokotveganostnega sistema UI, ki ocenjuje vpliv na temeljne pravice prizadetih oseb.