Uredba EU o umetni inteligenci po sektorjih — Vodnik po skladnosti za posamezne panoge

Sektorsko specifični vodniki po skladnosti z Uredbo EU o umetni inteligenci za zdravstvo, kadrovske zadeve, javni sektor, promet, zavarovalništvo, maloprodajo, MSP in izobraževanje.

Kako sektor oblikuje izpostavljenost Uredbi EU o umetni inteligenci

Uredba EU o umetni inteligenci je horizontalna zakonodaja — velja za sisteme umetne inteligence, ki so dani na trg ali v uporabo v vsakem sektorju gospodarstva Evropske unije. Kljub temu breme skladnosti ni enotno. Sektor določa, katere visokotvegane kategorije iz Annex III so relevantne, kateri predhodni regulatorni okviri ustvarjajo prekrivajoče se obveznosti ter kateri nacionalni ali evropski nadzorni organi bodo imeli pristojnost nad uvajanjem umetne inteligence.

Uredba vzpostavlja arhitekturo tveganj po stopnjah: prepovedane prakse po Art. 5, visokotvegana umetna inteligenca po Art. 6 in Annex III, obveznosti umetne inteligence za splošne namene (GPAI) po Art. 51 do Art. 55 ter obveznosti preglednosti po Art. 50. Vsi sektorji se soočajo s prepovedjo prepovedanih praks in ravnijo preglednosti iz Art. 50. Visokotvegane obveznosti iz Annex III se uporabljajo selektivno, odvisno od tega, katero umetno inteligenco organizacija uvaja in za kakšen namen.

Razumevanje sektorske izpostavljenosti se začne s preslikavo operativnih primerov uporabe umetne inteligence na kategorije iz Annex III. Organizacije morajo prav tako oceniti, ali uvajana umetna inteligenca predstavlja model GPAI po Art. 3(63), ter ali katera koli razmerja z dobavitelji ustvarjajo obveznosti v vlogi upravljavca ali ponudnika GPAI.

Razumevanje Annex III po sektorjih

Annex III Uredbe EU o umetni inteligenci določa 8 kategorij samostojne visokotvegane umetne inteligence. Vsaka kategorija se preslikava na določene panoge in primere uporabe umetne inteligence.

Kategorija 1 — Biometrija (medpanožna)

Art. 6 v zvezi z Annex III točko 1 zajema sisteme umetne inteligence za biometrično identifikacijo in biometrično razvrščanje fizičnih oseb. Daljinska biometrična identifikacija v realnem času na javno dostopnih prostorih s strani organov kazenskega pregona je prepovedana po Art. 5(1)(h), ne zgolj visokotvegana. Sistemi naknadne biometrične identifikacije ter sistemi biometričnega razvrščanja, ki se uporabljajo v zaposlitvenem razmerju, mejnem nadzoru, kazenskem pregonom (v okviru dovoljenih meja) in nadzoru dostopa, ostajajo v kategoriji visokih tveganj. Vsaka organizacija, ki uvaja prepoznavanje obraza, ujemanje prstnih odtisov, prepoznavanje glasu ali podobne sisteme za odločitve s pomembnimi posledicami, je v področju uporabe.

Kategorija 2 — Kritična infrastruktura (promet, energetika, voda)

Annex III točka 2 zajema umetno inteligenco, ki se uporablja kot varnostna komponenta pri upravljanju in delovanju kritične digitalne infrastrukture, cestnega prometa, oskrbe z vodo, plinom, ogrevanjem in električno energijo. Prevozniki, upravljavci energetskih omrežij, komunalna podjetja za vodo in ponudniki digitalne infrastrukture morajo oceniti, ali njihovi sistemi umetne inteligence izpolnjujejo ta merila. Annex I Uredbe o umetni inteligenci se prav tako prepleta s tem področjem: varnostne komponente umetne inteligence, vgrajene v regulirane proizvode iz Annex I (stroji, vozila, oprema za civilno letalstvo, železniški sistemi), so visokotvegane po Art. 6(1), ne po Annex III.

Kategorija 3 — Izobraževanje in poklicno usposabljanje

Annex III točka 3 zajema umetno inteligenco, ki določa dostop do izobraževalnih ustanov, razporeja učence na izobraževalne poti, ocenjuje uspešnost na izpitih ali testih, vrednoti učne dosežke, ki bistveno vplivajo na prihodnje možnosti, ter nadzoruje vedenje učencev med ocenjevanjem. EdTech platforme, univerze, ponudniki poklicnega usposabljanja in izpitna telesa morajo svoja orodja, ki temeljijo na umetni inteligenci, oceniti glede na ta merila.

Kategorija 4 — Zaposlovanje in kadrovanje

Annex III točka 4 zajema umetno inteligenco, ki se uporablja pri zaposlovanju in izbiri kadrov (pregledovanje življenjepisov, razvrščanje kandidatov, avtomatizirana analiza razgovorov), odločitvah o napredovanju, odpuščanju, dodeljevanju nalog delavcem na platformah, nadzoru vedenja zaposlenih in ocenjevanju uspešnosti. Ta kategorija spada med najširše po obsegu — praktično vsaka organizacija, ki uporablja s umetno inteligenco podprte kadrovske procese, mora oceniti skladnost. Obveznost velja za umetno inteligenco, ki jo uporabljajo delodajalci, agencije za zaposlovanje in platforme za priložnostno delo.

Kategorija 5 — Bistvene zasebne in javne storitve (finance, zavarovalništvo, zdravstveno-sorodne, socialne ugodnosti)

Annex III točka 5 je najširša kategorija, ki zajema umetno inteligenco, ki se uporablja pri ocenjevanju kreditne sposobnosti in kreditnem točkovanju fizičnih oseb, ocenjevanju zavarovalnega tveganja in oblikovanju cen, ugotavljanju upravičenosti do javnih dajatev in socialnih storitev ter odločitvah o nujnih intervencijah. Ta kategorija neposredno zadeva banke, zavarovalnice, javne uprave in ponudnike socialnih storitev. Umetna inteligenca, ki posameznike ocenjuje za namen zavarovalniške upravičenosti na podlagi zdravja, prav tako spada sem, kar ustvarja prekrivanje med obveznostmi finančnih storitev in zdravstva.

Kategorije 6, 7 in 8 — Kazenski pregon, migracije, pravosodje

Annex III točke 6, 7 in 8 ciljajo na organe javnega sektorja in njihove dobavitelje tehnologije. Umetna inteligenca pri kazenskem pregonom (točkovanje tveganj, napovedovanje ponovitve kaznivega dejanja, napovedovanje kriminala, vrednotenje dokazov), umetna inteligenca pri migracijah in mejnem nadzoru (ocenjevanje azilnega tveganja, preverjanje dokumentov, obdelava vlog) ter umetna inteligenca pri pravosodju in demokratičnih procesih (orodja za sodne raziskave, umetna inteligenca v zvezi z volitvami) so vse visokotvegane. Te kategorije primarno zadevajo policijske organe, mejne agencije, pritožbena telesa v azilnih zadevah, sodišča in njihove pogodbene ponudnike umetne inteligence.

Sektorski vodniki

Vsak od naslednjih namenskih vodnikov preslikava obveznosti Uredbe EU o umetni inteligenci na specifični regulatorni kontekst, tipične primere uporabe umetne inteligence in arhitekturo izvrševanja v danem sektorju.

Zdravstvo in bioznanosti

Umetna inteligenca v zdravstvu deluje na presečišču Uredbe EU o umetni inteligenci ter Uredbe o medicinskih pripomočkih (MDR) in Uredbe o in vitro diagnostičnih medicinskih pripomočkih (IVDR). Sistemi umetne inteligence, ki se kvalificirajo kot medicinski pripomočki, so primarno regulirani po MDR/IVDR, a ostajajo predmet obveznosti Uredbe o umetni inteligenci glede temeljnih pravic in preglednosti. Annex III točka 5 zajema umetno inteligenco, ki se uporablja za točkovanje zdravstvenega tveganja pri zavarovalništvu in ugotavljanju upravičenosti do javnih ugodnosti. Sistemi za podporo kliničnim odločitvam, diagnostična umetna inteligenca, orodja za triažo bolnikov in umetna inteligenca za odkrivanje zdravil nosijo specifične obveznosti, odvisno od njihove regulatorne klasifikacije.

Kadrovanje in zaposlovanje

Annex III točka 4 uvršča praktično vse s umetno inteligenco podprte kadrovske procese v kategorijo visokih tveganj. Orodja za pregledovanje življenjepisov, platforme za psihometrično ocenjevanje, avtomatizirana video analiza razgovorov, sistemi za upravljanje uspešnosti in umetna inteligenca za razporejanje delovne sile morajo izpolnjevati obveznosti ponudnikov in upravljavcev. Ta vodnik obravnava obveznosti delodajalcev kot upravljavcev po Art. 26, zahteve upravljanja podatkov po Art. 10 in interakcijo z omejitvami profiliranja po GDPR.

Javni sektor in pravosodje

Javni organi so hkrati upravljavci visokotvegane umetne inteligence in subjekti, ki jih bodo pristojni nacionalni organi najpodrobneje nadzirali. Annex III točke 5 do 8 skupno zajemajo velik del umetne inteligence v javnem sektorju: ugotavljanje upravičenosti do ugodnosti, umetna inteligenca za nujne službe, orodja za kazenski pregon, sistemi za upravljanje meja in sodna umetna inteligenca. Ta vodnik obravnava specifične obveznosti javnih upravljavcev, mandate preglednosti za avtomatizirane odločitve, ki zadevajo državljane, ter interakcijo z GDPR in Direktivo o kazenskem pregonom.

Promet in kritična infrastruktura

Prevozniki morajo krmariti med Annex III točko 2 (varnostne komponente v kritični infrastrukturi) in predpisi o varnosti proizvodov iz Annex I. Umetna inteligenca v sistemih avtonomnih vozil, upravljanju železniškega prometa, upravljanju zračnega prometa, pristaniških operacijah in logistični usmerjanju lahko sproži visokotvegano klasifikacijo po več poteh. Ta vodnik obravnava interakcijo z uredbami EASA, Direktivo o varnosti železnic in vlogo priglašenih organov pri ugotavljanju skladnosti.

MSP

Mala in srednja podjetja se soočajo z enakimi obveznostmi po Uredbi EU o umetni inteligenci kot velike organizacije, kadar nastopajo kot ponudniki visokotvegane umetne inteligence ali upravljavci, ki visokotvegano umetno inteligenco uporabljajo. Toda uredba predvideva mehanizme sorazmernosti. Ta vodnik pojasnjuje možnosti poenostavljene tehnične dokumentacije, dostop do regulatornih peskovnikov po Art. 57 do Art. 63 ter kako vzpostaviti minimalen, a pravno zadosten program skladnosti. Obravnava tudi izpostavljenost MSP v vlogi upravljavcev orodij umetne inteligence tretjih strank.

Zavarovalništvo

Umetna inteligenca v zavarovalništvu je predmet Annex III točke 5(b) (ocenjevanje tveganj in oblikovanje cen za življenjsko in zdravstveno zavarovanje fizičnih oseb) ter se prepleta z zahtevami Solvency II glede upravljanja modelov in uporabe notranjih modelov. Umetna inteligenca za oblikovanje cen motornega, zdravstvenega, premoženjskega in življenjskega zavarovanja, orodja za odločitve pri zavarovalniškem pokrivanju ter sistemi za avtomatizirano poravnavo odškodninskih zahtevkov zahtevajo ocenjevanje. Ta vodnik obravnava vloge EIOPA in nacionalnih zavarovalniških nadzornikov ob okviru NCA iz Uredbe o umetni inteligenci.

Maloprodaja in klicni centri

Maloprodajne in storitve za stranke so primarno prizadete z obveznostmi preglednosti iz Art. 50 — razkritje vsebine, generirane z umetno inteligenco, identifikacija klepetalnikov in označevanje deepfake vsebin — ter z zaposlovalnimi sistemi umetne inteligence po Annex III točki 4. Sistemi za prepoznavanje čustev, ki se uporabljajo v okoljih, obrnjenih k strankam, so izrecno regulirani. Ta vodnik obravnava umetno inteligenco v spletni maloprodaji, priporočilne sisteme, avtomatizirano storitev za stranke in upravljanje delovne sile v klicnih centrih.

Izobraževanje in EdTech

Annex III točka 3 uvršča izobraževalno umetno inteligenco v kategorijo visokih tveganj, kadar določa ali bistveno vpliva na dostop do izobraževalnih poti oziroma vrednoti dosežke. Ta vodnik obravnava obveznosti ponudnikov EdTech, univerz, ustanov za poklicno usposabljanje in javnih izpitnih organov. Zajema platforme za prilagodljivo učenje, programsko opremo za nadzor izpitov, avtomatizirano ocenjevanje esejev in orodja za napovedovanje tveganj pri učencih.

Finančni sektor (bančništvo)

Vodnik za bančni sektor obravnava kreditno točkovanje in ocenjevanje kreditne sposobnosti po Annex III točki 5(b), umetno inteligenco za zaznavanje goljufij, sisteme algoritemskega trgovanja, orodja AML/KYC in robo-svetovalske platforme. Preučuje nalaganje obveznosti Uredbe EU o umetni inteligenci na vrh DORA, MiFID II, CRR/CRD in smernic EBA. Osrednja pozornost je namenjena presečišču med zahtevami Uredbe o umetni inteligenci glede upravljanja modelov in obstoječimi okviri za upravljanje modelnih tveganj po smernicah EBA.

Prečne obveznosti

Številne obveznosti iz Uredbe EU o umetni inteligenci se uporabljajo ne glede na sektor. Vsaka organizacija, ki deluje v EU, mora razumeti te temeljne zahteve.

Prepovedane prakse — Art. 5

Art. 5 vzpostavlja absolutne prepovedi, ki so začele veljati od 2. februarja 2025. Te se brez izjeme uporabljajo v vsakem sektorju: subliminalne manipulativne tehnike, ki povzročajo škodo, izkoriščanje ranljivosti fizičnih oseb, socialno točkovanje s strani javnih organov, daljinska biometrična identifikacija v realnem času s strani organov kazenskega pregona v javnih prostorih (ob ozkih izjemah), prepoznavanje čustev na delovnih mestih in v izobraževalnih ustanovah (zunaj določenih uporab), biometrično razvrščanje na podlagi občutljivih lastnosti in prediktivno policijsko delo, ki temelji izključno na profiliranju. Nobena sektorsko specifična izjema teh prepovedi ne preseže.

Obveznosti preglednosti — Art. 50

Art. 50 od ponudnikov in upravljavcev sistemov umetne inteligence, ki vstopajo v interakcijo s fizičnimi osebami, zahteva razkritje umetne narave interakcije. To velja za klepetalnice, virtualne pomočnike, avtomatizirane sisteme klicnih centrov in vsak sistem umetne inteligence, zasnovan tako, da se zdi človeški. Vsebina, generirana z umetno inteligenco — sintetični mediji, deepfake vsebine, besedilo — mora biti strojno berljivo označena. Te obveznosti se uporabljajo v maloprodaji, finančnih storitvah, orodjih za stik s pacienti v zdravstvu, storitvah javnega sektorja za državljane ter v vsakem drugem sektorju, ki uvaja pogovorno ali generativno umetno inteligenco.

Obveznosti modelov GPAI — Art. 51 do Art. 55

Organizacije, ki uvajajo modele GPAI — velike jezikovne modele, temeljne modele, multimodalno umetno inteligenco — morajo oceniti, ali nastopajo kot upravljavci modela GPAI tretje stranke ali kot ponudniki sistema, ki vključuje GPAI. Ponudniki GPAI nosijo obveznosti po Art. 53 (preglednost za gorvodni ponudniki, politika avtorskih pravic, povzetek učnih podatkov). Modeli GPAI s sistemskim tveganjem nosijo dodatne obveznosti po Art. 55. Vsak sektor, ki uporablja komercialne API-je temeljnih modelov ali interno gostovane temeljne modele, mora te obveznosti oceniti.

MSP in sorazmerne obveznosti

MSP predstavljajo večino evropskih podjetij in vse večji delež ponudnikov in upravljavcev sistemov umetne inteligence. Uredba EU o umetni inteligenci ne uvaja splošne izjeme za MSP, toda Art. 9(5), Art. 11 in Art. 16 zahtevajo, da so obveznosti ponudnikov sorazmerne glede na velikost in zmogljivost organizacije.

Okvir regulatornih peskovnikov (Art. 57 do Art. 63) je posebej zasnovan za zagotavljanje MSP in zagonskim podjetjem nadzorovanih razvojnih okolij, manjše regulatorne negotovosti in neposrednega dostopa do smernic pristojnih nacionalnih organov. Udeležba ne zagotavlja potrditve skladnosti, toda ponuja strukturirano pot do vstopa na trg za inovativne produkte umetne inteligence.

Za MSP, ki v vlogi upravljavcev uporabljajo visokotvegano umetno inteligenco tretje stranke, se uporabljajo obveznosti iz Art. 26 — ocenitev primera uporabe, izvajanje človeškega nadzora, ocena vpliva na temeljne pravice. Obseg zahtevane dokumentacije in spremljanja je sorazmeren, a pravne obveznosti niso odpravljene.

Namenski vodnik za MSP zagotavlja načrt za skladnost, prilagojen manjšim organizacijam, ki zajema določanje prednostnih nalog, minimalno izvedljivo dokumentacijo, skrbni pregled dobaviteljev in postopke za dostop do peskovnikov.

Izvrševanje

Uredba EU o umetni inteligenci vzpostavlja večplastno arhitekturo izvrševanja z izrazitimi sektorsko specifičnimi dimenzijami.

Pristojni nacionalni organi

Vsaka država članica EU imenuje enega ali več pristojnih nacionalnih organov (NCA) po Art. 70. NCA so odgovorni za pooblastitev regulatornih peskovnikov, izvajanje tržnega nadzora, prejemanje podatkov o poprometnem spremljanju od ponudnikov, preiskovanje domnevnih kršitev in izrekanje upravnih glob po Art. 99 do Art. 101. Najvišje globe dosegajo 35 milijonov EUR ali 7 % celotnega letnega prometa za kršitve prepovedanih praks iz Art. 5.

Sektorski regulatorji kot organi za nadzor trga

Art. 74(8) in Art. 74(9) določata, da sektorski regulatorji delujejo kot organi za nadzor trga za umetno inteligenco v svojih področjih. Evropski bančni organ (EBA), Evropski organ za zavarovanja in poklicne pokojnine (EIOPA), Evropski organ za vrednostne papirje in trge (ESMA), Evropska agencija za zdravila (EMA) in Agencija Evropske unije za varnost letalstva (EASA) imajo vsak svojo vlogo pri nadzoru umetne inteligence v okviru svojih regulatornih pristojnosti. To ustvarja dvojno izvedbeno izpostavljenost: sistem umetne inteligence za kreditno točkovanje banke je lahko pregledan tako s strani nacionalnega finančnega regulatorja, ki uporablja obveznosti iz Annex III, kot s strani NCA, ki izvaja tržni nadzor po Uredbi o umetni inteligenci.

Urad EU za umetno inteligenco

Urad EU za umetno inteligenco, ustanovljen po Art. 64 do Art. 70, ima neposredno izvršilno pristojnost nad ponudniki modelov GPAI. Za organizacije, ki uvajajo modele GPAI s sistemskim tveganjem, je Urad za umetno inteligenco primarni regulatorni sogovornik — ne nacionalni NCA. Sektorski regulatorji nimajo neposredne pristojnosti nad modeli GPAI kot takimi, čeprav so gorvodni sistemi umetne inteligence, ki vključujejo GPAI, še naprej predmet nacionalnega in sektorskega nadzora.

Časovnica izvrševanja

Prepoved praks po Art. 5 velja od 2. februarja 2025. Obveznosti GPAI po Art. 51 do Art. 55 so začele veljati 2. avgusta 2025. Polne obveznosti za visokotvegane sisteme umetne inteligence iz Annex III — ki zajemajo vseh osem kategorij in vse dolžnosti ponudnikov in upravljavcev — se uporabljajo od 2. decembra 2027 (podaljšano s prvotnega roka 2. avgusta 2026 z amandmajem Digital Omnibus iz leta 2025). Organizacije v vseh sektorjih bi morale obdobje do decembra 2027 obravnavati kot aktivno okno za doseganje skladnosti, ne kot počitniško obdobje.