Člen 55 — Vrednotenje in adversarialno testiranje modelov umetne inteligence splošnega namena s sistemskim tveganjem (Akt EU o umetni inteligenci)

Člen 55 Uredbe (EU) 2024/1689 — Vrednotenje in adversarialno testiranje modelov umetne inteligence splošnega namena s sistemskim tveganjem. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 55 Uredbe (EU) 2024/1689 določa posebne obveznosti vrednotenja in adversarialnega testiranja za ponudnike modelov umetne inteligence splošnega namena (GPAI), ki predstavljajo sistemsko tveganje. Nadgrajuje širši nabor obveznosti iz člena 53 in merila za klasifikacijo sistemskega tveganja iz člena 51, člen 55 pa od takšnih ponudnikov zahteva, da izvajajo vrednotenja modelov v skladu s standardiziranimi protokoli ter redno izvajajo adversarialno testiranje — ki se pogosto imenuje red-teaming.

Vrednotenja, ki se zahtevajo v skladu z odstavkom 1(a), morajo upoštevati standardizirane protokole in orodja, ki odražajo stanje tehnike, vključno s tistimi, ki jih je razvil ali potrdil Urad za umetno inteligenco. Kadar standardizirani protokoli ne obstajajo, morajo ponudniki oblikovati in uporabljati ustrezne metodologije za ugotavljanje in ocenjevanje narave ter obsega sistemskih tveganj.

Odstavek 1(b) nalaga adversarialno testiranje, ki ga je treba izvajati interno ali z angažiranjem akreditiranih zunanjih strokovnjakov, z namenom ugotavljanja tveganj, ki jih standardni postopki vrednotenja ne zajamejo. Ponudniki morajo dokumentirati metodologijo, obseg in rezultate vrednotenj ter vaj adversarialnega testiranja ter poročati o pomembnih ugotovitvah Uradu za umetno inteligenco. Urad za umetno inteligenco sam ohranja pooblastilo v skladu z odstavkom 2, da kadar koli organizira ali naroči neodvisno adversarialno testiranje. Člen ponudnike tudi zavezuje, da delijo rezultate vrednotenj in poročila o testiranju s pristojnimi organi na zahtevo.

Kaj to pomeni v praksi

Za organizacije, ki razvijajo ali uvajajo mejne modele GPAI, člen 55 nalaga strukturiran in dokumentiran proces zagotavljanja kakovosti, ki je osredotočen posebej na ugotavljanje sistemskih škod. V praksi to pomeni, da morajo ponudniki pred izdajo modela, ki izpolnjuje pogoje — in na tekoči osnovi po izdaji — izvajati tako standardizirana vrednotenja zmogljivosti kot usmerjene adversarialne vaje, zasnovane za sondiranje katastrofalnih ali razširjenih tveganj, kot so manipulacija v masovnem merilu, ustvarjanje vsebine v zvezi z orožjem, obsežni kibernetski napadi ali motnje kritične infrastrukture.

Z operativnega vidika je za skladnost potrebno sestaviti ali pogodbeno zagotoviti multidisciplinarno zmogljivost red-team s strokovnim znanjem s področij varnosti umetne inteligence, kibernetske varnosti, dezinformacij, biološke varnosti in drugih ustreznih področij. Vrednotenja morajo biti izvedena v skladu z merili in protokoli, ki odražajo trenutno stanje tehnike; ponudniki se ne smejo zanašati izključno na lastniške, neobjavljene metodologije, če obstajajo standardizirane alternative.

Dokumentacija je osrednjega pomena. Ponudniki morajo voditi podrobne evidence vsakega cikla vrednotenja — vključno z obsegom, sestavo ekipe, testiranimi scenariji, opaženimi rezultati in uporabljenimi blažitvenimi ukrepi — in morajo biti sposobni predložiti te evidence Uradu za umetno inteligenco na zahtevo. Kadar testiranje razkrije nova ali poslabšana sistemska tveganja, so ponudniki dolžni izvesti korektivne ukrepe in, kadar je tveganje resno, brez nepotrebnega odlašanja obvestiti Urad za umetno inteligenco.

Na primer, ponudnik, ki izdaja velik multimodalni model, ki presega prag 10^25 FLOP usposabljanja, bi moral pred lansiranjem načrtovati vaje red-team, ki pokrivajo vsaj: pridobivanje znanstvenega znanja z dvojno rabo, ustvarjanje prepričljivih vsebin v obsegu in olajšanje avtomatiziranih kibernetskih napadov. Po lansiranju se morajo te vaje ponavljati vsakič, ko model doživi pomembno fino nastavljanje ali posodobitve zmogljivosti.

Ključne obveznosti

• Standardizirana vrednotenja: Izvajanje vrednotenj modelov z uporabo najsodobnejših standardiziranih protokolov in orodij, vključno s tistimi, ki jih je razvil ali potrdil Urad za umetno inteligenco, pred umestitvijo na trg in na tekoči osnovi.
• Adversarialno testiranje (red-teaming): Izvajanje strukturiranih vaj adversarialnega testiranja — interno ali prek usposobljenih zunanjih tretjih oseb — zasnovanih za odkrivanje sistemskih tveganj, ki jih standardno vrednotenje ne ugotovi.
• Dokumentacija in vodenje evidenc: Vodenje podrobnih evidenc o metodologiji vrednotenja, obsegu, testiranih scenarijih, rezultatih in vseh sprejetih korektivnih ukrepih, pri čemer so evidence na voljo Uradu za umetno inteligenco na zahtevo.
• Poročanje o pomembnih ugotovitvah: Brez nepotrebnega odlašanja obvestiti Urad za umetno inteligenco o resnih ali na novo ugotovljenih sistemskih tveganjih, odkritih z vrednotenjem ali adversarialnim testiranjem.
• Sodelovanje pri testiranju, ki ga naroči Urad za umetno inteligenco: Olajšanje in sodelovanje pri neodvisnem adversarialnem testiranju, ki ga neposredno organizira ali naroči Urad za umetno inteligenco v okviru svojih nadzornih pooblastil.
• Tekoča skladnost po izdaji: Ponavljanje vrednotenj in adversarialnega testiranja po pomembnih posodobitvah modela, finem nastavljanju ali spremembah predvidenih primerov uporabe, ki lahko spremenijo profil tveganja modela.

Razmerje z drugimi členi

Člen 55 deluje kot operativni dvojnik klasifikacije sistemskega tveganja, določene v členu 51, in splošnih obveznosti GPAI, določenih v členu 53. Brati ga je treba skupaj s členom 52, ki določa prag in merila za določitev sistemskega tveganja, in členom 54, ki obravnava obveznosti v zvezi s tehnično dokumentacijo za modele GPAI s sistemskim tveganjem. Dolžnost poročanja o incidentih iz člena 73 se prepleta s členom 55, kadar adversarialno testiranje odkrije resen incident ali skorajšnji incident, ki zahteva uradno obvestilo. Na nadzorni ravni je pooblastilo Urada za umetno inteligenco za naročanje testiranja v skladu s členom 55(2) utemeljeno na širših nadzornih pooblastilih, podeljenih z členoma 88 in 89. Ponudniki bi morali prav tako pregledati uvodno izjavo 110, ki pojasnjuje razloge za razlikovanje modelov s sistemskim tveganjem in pomen predtržne varnostne ocene kot dopolnila tekočemu nadzoru.

Časovnica skladnosti

• 1. avgust 2024 — Uredba (EU) 2024/1689 je začela veljati in sprožila uro postopne uporabe.
• 2. februar 2025 — Prepovedane prakse umetne inteligence (Naslov II) so postale uporabne.
• 2. avgust 2025 — Določbe Naslova V, ki urejajo modele umetne inteligence splošnega namena, vključno s členom 55, so postale v celoti uporabne. Od ponudnikov kvalificiranih modelov GPAI, ki so bili že na trgu, se je zahtevalo, da do tega datuma dosežejo skladnost.
• 2. december 2026 — Obveznosti za visoko tvegane sisteme umetne inteligence v skladu s Prilogo I (sistemi varnostnih komponent) postanejo uporabne.
• 2. avgust 2027 — Preostale obveznosti za visoko tvegane sisteme umetne inteligence (sistemi iz Priloge III) postanejo uporabne.

Člen 55 je torej že v veljavi. Ponudniki modelov GPAI s sistemskim tveganjem, ki še niso vzpostavili programov vrednotenja in adversarialnega testiranja, kršijo veljavne obveznosti in bi morali sanacijo obravnavati kot takojšnjo prednostno nalogo.