Člen 16 — Obveznosti ponudnikov visoko tveganih sistemov umetne inteligence (zakon EU o umetni inteligenci)

Člen 16 Uredbe (EU) 2024/1689 — Obveznosti ponudnikov visoko tveganih sistemov umetne inteligence. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 16 Uredbe (EU) 2024/1689 (zakon EU o umetni inteligenci) določa celovit nabor obveznosti, ki jih morajo ponudniki visoko tveganih sistemov umetne inteligence izpolniti, preden dajo svoje sisteme na trg ali v obratovanje. Člen deluje kot osrednje izhodišče za odgovornosti ponudnikov v okviru naslova III, poglavja 3.

V skladu s členom 16 morajo ponudniki zagotoviti, da njihovi visoko tvegani sistemi umetne inteligence izpolnjujejo vse zahteve iz poglavja 2 naslova III, ki zajemajo upravljanje tveganj (člen 9), podatke in upravljanje podatkov (člen 10), tehnično dokumentacijo (člen 11), vodenje evidenc (člen 12), preglednost in zagotavljanje informacij (člen 13), človeški nadzor (člen 14) ter natančnost, robustnost in kibernetsko varnost (člen 15).

Poleg skladnosti s poglavjem 2 člen 16 nalaga specifične upravne in postopkovne obveznosti. Ponudniki morajo vzpostaviti sistem vodenja kakovosti v skladu s členom 17, pripraviti tehnično dokumentacijo, kot je opredeljeno v Prilogi IV, in kadar je to primerno, opraviti postopek ugotavljanja skladnosti, preden namestijo oznako CE. Sisteme morajo registrirati v bazi podatkov EU, vzpostavljeni v skladu s členom 71, kjer je registracija obvezna, na zahtevo sodelovati z nacionalnimi pristojnimi organi ter hraniti vso ustrezno dokumentacijo za obdobje desetih let po dajanju sistema na trg ali v obratovanje. Ponudniki s sedežem zunaj EU morajo v Uniji določiti pooblaščenega zastopnika v skladu s členom 22.

Kaj to pomeni v praksi

Za organizacije, ki razvijajo ali naročajo visoko tvegane sisteme umetne inteligence, se člen 16 prevede v strukturiran program zagotavljanja skladnosti pred dajanjem na trg, ki ga je treba dokončati pred kakršno koli namestitvijo ali komercialnim izpustom.

Razvijalci in prodajalci, ki gradijo sisteme umetne inteligence, ki sodijo v visoko tvegane kategorije, opredeljene v Prilogi III — ki zajemajo področja, kot so biometrična identifikacija, kritična infrastruktura, izobraževanje, zaposlovanje, bistvene storitve, kazensko preganjanje, migracije in uprava pravosodja — morajo člen 16 obravnavati kot svojo primarno kontrolno listo za skladnost. Pred lansiranjem morajo imeti vzpostavljen dokumentiran sistem vodenja kakovosti, opravljeno ugotavljanje skladnosti (lastno ocenjevanje ali s strani tretje osebe, odvisno od kategorije), nameščeno oznako CE in registriran produkt v bazi podatkov zakona EU o umetni inteligenci.

Konkreten primer: podjetje za programsko opremo, ki ponuja orodje za pregledovanje življenjepisov s pomočjo umetne inteligence oddelkom za človeške vire, spada v Prilogo III, točka 4 (zaposlovanje in upravljanje delavcev). Preden da to orodje na trg, mora podjetje dokumentirati svoj postopek upravljanja tveganj, dokazati kakovost svojih podatkov za usposabljanje, zagotoviti tehnično dokumentacijo, ki regulatorjem omogoča oceno skladnosti, uvesti mehanizme človeškega nadzora in registrirati sistem. Če ima podjetje sedež zunaj EU, mora določiti pooblaščenega zastopnika s sedežem v EU.

Stalne obveznosti ostanejo v veljavi po namestitvi. Ponudniki morajo voditi evidence, spremljati delovanje po dajanju na trg v skladu s členom 72, poročati o resnih incidentih v skladu s členom 73 ter posodabljati tehnično dokumentacijo, ko sistem doživi bistvene spremembe. Skladnost ni enkratni dogodek, temveč trajna operativna odgovornost.

Ponudniki, ki delujejo v reguliranih sektorjih proizvodov — kot so medicinski pripomočki ali stroji — morajo poleg tega izpolnjevati sektorsko specifične zahteve za ugotavljanje skladnosti, ki medsebojno delujejo z zakonom o umetni inteligenci v skladu s Prilogo I.

Ključne obveznosti

• Zagotovitev skladnosti s poglavjem 2: Preverjanje, da visoko tvegan sistem umetne inteligence izpolnjuje vse tehnične zahteve in zahteve upravljanja (členi 8–15) pred dajanjem na trg, vključno z upravljanjem tveganj, upravljanjem podatkov, preglednostjo, človeškim nadzorom in robustnostjo.
• Vzpostavitev sistema vodenja kakovosti: Uvedba dokumentiranega SVK v skladu s členom 17, ki zajema politike, postopke, ugotavljanje skladnosti, nadzor po dajanju na trg in delovne tokove poročanja o incidentih.
• Priprava in vzdrževanje tehnične dokumentacije: Priprava in posodabljanje tehnične dokumentacije, določene v Prilogi IV, in njeno posredovanje nacionalnim pristojnim organom ter priglašenim organom na zahtevo.
• Izvedba ugotavljanja skladnosti in namestitev oznake CE: Dokončanje ustreznega postopka ugotavljanja skladnosti (lastno ocenjevanje ali s strani tretje osebe) in namestitev oznake CE, preden je sistem dan na trg ali v obratovanje v EU.
• Registracija v bazi podatkov EU: Vpis sistema v bazo podatkov EU za visoko tvegane sisteme umetne inteligence, vzpostavljeno v skladu s členom 71, kjer je registracija obvezna za ustrezno kategorijo.
• Hramba evidenc deset let in sodelovanje z organi: Hramba vse tehnične dokumentacije, izjav o skladnosti in veljavnih dnevnikov vsaj deset let; odgovarjanje na zahteve za informacije nacionalnih nadzornih organov in organov za nadzor trga; določitev pooblaščenega zastopnika EU, če ponudnik nima sedeža v Uniji.

Razmerje do drugih členov

Člena 16 ni mogoče brati v izolaciji. To je obveznost-vrata, ki aktivira in se sklicuje na praktično vse druge zahteve za ponudnike v naslovu III.

Vsebinske tehnične zahteve, ki jih člen 16 od ponudnikov zahteva, da jih izpolnijo, so v členih 8 do 15 (poglavje 2). Sistem vodenja kakovosti, ki ga nalaga člen 16, je razdelan v členu 17. Specifikacije tehnične dokumentacije so v Prilogi IV, na katero se sklicuje člen 11. Postopki ugotavljanja skladnosti, ki jih sproži člen 16, so podrobno opisani v členu 43, s pravili o izjavi o skladnosti v členu 47 in pravili o oznaki CE v členu 48.

Obveznosti nadzora po dajanju na trg, ki razširijo doseg člena 16 prek začetnega dajanja na trg, so določene v členu 72, s poročanjem o resnih incidentih v členu 73. Pooblaščeni zastopniki — zahtevani za ponudnike zunaj EU v skladu s členom 16 — so urejeni z členom 22. Okoliščine, v katerih uvozniki in distributerji prevzamejo obveznosti ponudnika, so opredeljene v členu 24. Nazadnje se zahteva po registraciji v bazi podatkov EU navezuje na člen 71. Nacionalni pristojni organi, ki uveljavljajo obveznosti iz člena 16, delujejo v okviru, vzpostavljenem v členih 70 in 74.

Časovnica skladnosti

Zakon EU o umetni inteligenci je začel veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu. Vendar se njegove določbe uporabljajo postopno:

• 2. februar 2025: Prepovedi nedopustnih praks umetne inteligence (člen 5) so postale izvršljive.
• 2. avgust 2025: Obveznosti v zvezi z modeli umetne inteligence za splošne namene (naslov VIII, členi 51–56) so začele veljati.
• 2. avgust 2026: Obveznosti iz člena 16 postanejo izvršljive za visoko tvegane sisteme umetne inteligence, navedene v Prilogi III (samostojni sistemi umetne inteligence na področjih, kot so zaposlovanje, izobraževanje, bistvene storitve, biometrika in kazensko preganjanje).
• 2. avgust 2027: Obveznosti iz člena 16 postanejo izvršljive za visoko tvegane sisteme umetne inteligence, zajete v Prilogi I (varnostne komponente proizvodov, ki jih že urejajo obstoječi sektorski predpisi EU, kot so medicinski pripomočki, stroji in civilno letalstvo).

Ponudniki ne smejo čakati na te datume izvrševanja, da bi začeli s pripravo. Vzpostavitev sistema vodenja kakovosti, zbiranje tehnične dokumentacije in dokončanje ugotavljanja skladnosti so procesi, ki zahtevajo veliko virov. Organizacijam, ki dajejo sisteme iz Priloge III na trg, se priporoča, da so operativno skladne najpozneje do sredine leta 2026, pri čemer je treba analize vrzeli in programe odpravljanja pomanjkljivosti začeti najpozneje v začetku leta 2025.