Člen 25 — Odgovornosti v vrednostni verigi AI (Uredba EU o umetni inteligenci)

Člen 25 Uredbe (EU) 2024/1689 — Odgovornosti v vrednostni verigi AI. Uradne besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 25 Uredbe (EU) 2024/1689 (Uredba EU o umetni inteligenci) določa pogoje, pod katerimi stranke, ki niso izvirni ponudnik, prevzamejo odgovornosti na ravni ponudnika za sistem AI z visokim tveganjem. Člen spada v naslov III, poglavje 3, ki ureja obveznosti ponudnikov in ponudnikov storitev skozi celoten življenjski cikel sistemov AI z visokim tveganjem.

Člen določa tri sprožilne scenarije. Prvič, distributer, uvoznik, ponudnik storitev ali druga tretja oseba postane ponudnik — z vsemi s tem povezanimi obveznostmi v skladu s poglavjem 2 naslova III — kadar da sistem AI z visokim tveganjem na trg ali ga uvede v obratovanje pod lastnim imenom ali blagovno znamko. Drugič, status ponudnika se prevzame, ko tretja oseba izvede bistveno spremembo sistema AI z visokim tveganjem. Tretjič, sprememba predvidenega namena sistema AI z visokim tveganjem — celo brez fizične spremembe — lahko sproži zahteve za ponovno razvrščanje in ponovno oceno.

Ko pride do takšnega prenosa odgovornosti, izvirni ponudnik ni samodejno razrešen odgovornosti. Uredba zahteva, da pogodbeni dogovori med strankami v dobavni verigi jasno opredelijo, kdo ima katere obveznosti v vsaki fazi. To zagotavlja, da regulativna odgovornost sledi subjektu, ki izvaja dejansko nadzor nad uvedbo ali spremembo sistema. Člen krepi širše načelo, da Uredba EU o umetni inteligenci dodeljuje obveznosti na podlagi dejanske vloge in vpliva vsakega akterja v vrednostni verigi, ne le na podlagi formalnih pogodbenih oznak.

Kaj to pomeni v praksi

Člen 25 ima neposredne posledice za skladnost za vsako organizacijo, ki integrira, preimenuje, bistveno spremeni ali znova uvede sistem AI z visokim tveganjem tretje osebe. Preprečuje pogosto komercialno prakso, ko se predpostavlja, da odgovornost za skladnost spada izključno na dobavitelja na višji ravni.

Sistemski integratorji in distributerji ki dajo sistem AI z visokim tveganjem na trg EU pod lastno blagovno znamko — na primer programsko podjetje, ki vgradi kreditni ocenjevalni sistem na podlagi AI tretje osebe v lastni produkt in ga trži pod lastnim imenom — postanejo ponudniki v skladu z uredbo. Morajo izpolnjevati vse obveznosti, določene v členu 16, vključno z ocenami skladnosti, tehnično dokumentacijo, registracijo v bazi podatkov EU in namestitvijo oznake CE.

Podjetja, ki spreminjajo sisteme AI, morajo oceniti, ali njihove spremembe predstavljajo bistveno spremembo. Ponovno usposabljanje modela na novem naboru podatkov, prilagoditev pragov odločanja na način, ki spremeni profile tveganja, ali razširitev funkcionalnosti sistema na novo področje so primeri, ki verjetno sprožijo ponovno oceno. Celo zgolj programska sprememba, ki vpliva na rezultate v reguliranem kontekstu, se lahko kvalificira.

Ponudniki storitev, ki preusmerijo sisteme onkraj prvotno predvidenega namena — na primer z uporabo splošnega orodja za analizo delovnega mesta za sprejemanje odločitev o zaposlitvi — morajo oceniti, ali nov primer uporabe spada v kategorijo visokega tveganja in, če je tako, ali so dejansko postali ponudnik sistema.

V praksi bi morale organizacije pregledati vse sisteme AI v svojem skladu, kartirati prvotno predvideni namen, ki ga je dokumentiral izvirni ponudnik, ter vzpostaviti notranje procese upravljanja za opozarjanje, ko se predlagane spremembe ali novi primeri uporabe približajo pragom člena 25.

Ključne obveznosti

• Prevzem obveznosti ponudnika pri preimenovanju blagovne znamke: Vsak distributer, uvoznik ali tretja oseba, ki trži ali uvaja sistem AI z visokim tveganjem pod lastnim imenom ali blagovno znamko, mora izpolnjevati vse obveznosti ponudnika v skladu s členom 16, vključno s tehnično dokumentacijo, oceno skladnosti in registracijo v bazi podatkov EU.
• Ponovna ocena po bistveni spremembi: Vsaka stranka, ki izvede bistveno spremembo sistema AI z visokim tveganjem, mora spremenjen sistem obravnavati kot nov sistem AI z visokim tveganjem, ponoviti ustrezni postopek ocene skladnosti in ustrezno posodobiti vso dokumentacijo.
• Ponovna registracija sistema: Ko se prevzame status ponudnika ali se izvede bistvena sprememba, mora novi ponudnik registrirati sistem (ali njegovo spremenjeno različico) v bazi podatkov EU za sisteme AI z visokim tveganjem, vzpostavljeni v skladu s členom 71.
• Pregled predvidenega namena pred uvedbo: Ponudniki storitev morajo preveriti, da njihova uporaba sistema AI z visokim tveganjem ostaja znotraj predvidenega namena, ki ga je dokumentiral izvirni ponudnik; vsako bistveno odstopanje je treba oceniti glede posledic za skladnost v skladu s členom 25.
• Vzdrževanje jasne pogodbene razporeditve odgovornosti: Vse stranke v vrednostni verigi AI — izvirni ponudniki, uvozniki, distributerji in ponudniki storitev — morajo zagotoviti, da njihovi sporazumi jasno razporedijo odgovornosti za skladnost, zlasti kadar so predvidene spremembe ali preimenovanje blagovne znamke.
• Hranjenje informacij izvirnega ponudnika: Ko tretja oseba prevzame status ponudnika, mora imeti dostop do — in vzdrževati — vso tehnično dokumentacijo in informacije o skladnosti, ki jih je prvotno ustvaril dobavitelj na višji ravni, saj te podpirajo njene lastne obveznosti glede skladnosti.

Razmerje do drugih členov

Člen 25 deluje kot most med obveznostmi ponudnika, opredeljenimi v členu 16 (obveznosti ponudnikov sistemov AI z visokim tveganjem), in obveznostmi ponudnika storitev v členu 26. Zagotavlja, da odgovornosti, navedene v členu 16 — tehnična dokumentacija, ocena skladnosti, upravljanje kakovosti, nadzor po dajanju v promet — ni mogoče zaobiti s pogodbenimi dogovori ali korporativnim strukturiranjem.

Brati ga je treba skupaj s členom 6 (pravila razvrščanja za sisteme AI z visokim tveganjem) in prilogo III, ki opredeljujeta, kdaj je sistem z visokim tveganjem in zato podrejen celotnemu režimu obveznosti ponudnika. Člen 47 (izjava EU o skladnosti) in člen 48 (oznaka CE) sta neposredno udeležena, kadar mora novi ponudnik znova certificirati spremenjen sistem.

Člen 71 (baza podatkov EU sistemov AI z visokim tveganjem) je upošteven, ker je potrebna ponovna registracija ob spremembi statusa ponudnika. Uvodna izjava 79 zagotavlja razlagalne smernice o tem, kaj pomeni bistvena sprememba. Za dobavne verige z modeli GPAI členi 51–56 urejajo obveznosti dobavitelja modela na višji ravni, člen 25 pa določa, kdaj sistemski integrator, ki gradi na tem modelu, postane ponudnik sistema AI z visokim tveganjem po lastni pravici.

Časovni načrt skladnosti

Uredba EU o umetni inteligenci je začela veljati 1. avgusta 2024 (dvajset dni po objavi v Uradnem listu EU 12. julija 2024). Uporaba je postopna:

• 2. februar 2025 — Začele so se uporabljati prepovedi praks AI z nesprejemljivim tveganjem (naslov II). Člen 25 se še ni uporabljal.
• 2. avgust 2025 — Začele so se uporabljati obveznosti za modele AI splošnega namena (naslov VIII, členi 51–56) in določbe o upravljanju (naslov III, poglavje 4; naslov V). Člen 25 se še ni uporabljal za sisteme AI z visokim tveganjem, navedene v prilogi III.
• 2. avgust 2026 — Člen 25 in celotni režim obveznosti ponudnikov in ponudnikov storitev iz poglavja 3 se uporabljata za sisteme AI z visokim tveganjem, navedene v prilogi III (vključno z biometričnimi sistemi, kritično infrastrukturo, zaposlovanjem, izobraževanjem, dostopom do bistvenih storitev in primeri uporabe pri izvrševanju zakonov). Organizacije, ki delujejo v teh sektorjih, morajo do tega datuma imeti vzpostavljene procese upravljanja, pogodbene okvire in postopke ocene sprememb.
• 2. avgust 2027 — Obveznosti iz člena 25 se razširijo na sisteme AI z visokim tveganjem, zajete v prilogi I (zakonodaja o varnosti proizvodov, kot so medicinski pripomočki in stroji), kjer so bili ti sistemi že na trgu pred avgustom 2026 in so predmet prehodnega obdobja.

Organizacije bi morale začeti kartiranje skladnosti s členom 25 — zlasti revizije dobavne verige in protokole upravljanja sprememb — dovolj zgodaj pred rokom avgusta 2026.