Článok 55 — Hodnotenie a adversariálne testovanie modelov umelej inteligencie všeobecného určenia so systémovým rizikom (Nariadenie EÚ o UI)

Článok 55 nariadenia (EÚ) 2024/1689 — Hodnotenie a adversariálne testovanie modelov umelej inteligencie všeobecného určenia so systémovým rizikom. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre dodržiavanie predpisov.

Zhrnutie oficiálneho textu

Článok 55 nariadenia (EÚ) 2024/1689 stanovuje špecifické povinnosti týkajúce sa hodnotenia a adversariálneho testovania pre poskytovateľov modelov umelej inteligencie všeobecného určenia (GPAI), ktoré predstavujú systémové riziko. Vychádzajúc zo širšieho súboru povinností stanovených v článku 53 a kritérií klasifikácie systémového rizika v článku 51, článok 55 od takýchto poskytovateľov vyžaduje, aby vykonávali hodnotenia modelov v súlade so štandardizovanými protokolmi a aby na pravidelnom základe vykonávali adversariálne testovanie — bežne označované ako red-teaming.

Hodnotenia požadované podľa odseku 1 písm. a) musia dodržiavať štandardizované protokoly a nástroje, ktoré odrážajú stav techniky, vrátane tých, ktoré vypracoval alebo schválil Úrad pre UI. Ak neexistujú štandardizované protokoly, poskytovatelia musia navrhnúť a uplatňovať vhodné metodológie na identifikáciu a posúdenie povahy a rozsahu systémových rizík.

Odsek 1 písm. b) nariaďuje adversariálne testovanie, ktoré sa má vykonávať interne alebo angažovaním akreditovaných externých expertov, s cieľom identifikovať riziká, ktoré nie sú zachytené štandardnými postupmi hodnotenia. Poskytovatelia musia dokumentovať metodológiu, rozsah a výsledky hodnotení aj cvičení adversariálneho testovania a hlásiť významné zistenia Úradu pre UI. Samotný Úrad pre UI si podľa odseku 2 zachováva právomoc organizovať alebo povereniť nezávislé adversariálne testovanie kedykoľvek. Článok tiež zaväzuje poskytovateľov zdieľať výsledky hodnotení a testovacie správy s príslušnými orgánmi na požiadanie.

Čo to znamená v praxi

Pre organizácie, ktoré vyvíjajú alebo nasadzujú hraničné modely GPAI, článok 55 ukladá štruktúrovaný a zdokumentovaný proces zabezpečenia kvality zameraný konkrétne na identifikáciu systémových škôd. V praxi to znamená, že pred vydaním kvalifikujúceho modelu — a priebežne po vydaní — musia poskytovatelia vykonávať štandardizované hodnotenia kapacít aj cielené adversariálne cvičenia určené na sondovanie katastrofických alebo rozsiahlejších rizík, ako je manipulácia v masovom meradle, generovanie obsahu súvisiaceho so zbraňami, rozsiahle kybernetické útoky alebo narušenie kritickej infraštruktúry.

Z operačného hľadiska si súlad vyžaduje zostavenie alebo zmluvné zabezpečenie multidisciplinárnej kapacity red-team s odbornosťou zahŕňajúcou bezpečnosť UI, kybernetickú bezpečnosť, dezinformácie, biologickú bezpečnosť a iné relevantné oblasti. Hodnotenia sa musia vykonávať podľa referenčných kritérií a protokolov, ktoré odrážajú aktuálny stav techniky; poskytovatelia sa nemôžu spoliehať výlučne na proprietárne, nepublikované metodológie, ak existujú štandardizované alternatívy.

Dokumentácia je kľúčová. Poskytovatelia musia viesť podrobné záznamy o každom hodnotiacom cykle — vrátane rozsahu, zloženia tímu, testovaných scenárov, pozorovaných výstupov a uplatňovaných zmierňujúcich opatrení — a musia byť schopní predložiť tieto záznamy Úradu pre UI na požiadanie. Keď testovanie odhalí nové alebo zhoršené systémové riziká, poskytovatelia sú povinní implementovať nápravné opatrenia a v prípade, že riziko je závažné, bezodkladne oznámiť Úradu pre UI.

Napríklad poskytovateľ vydávajúci veľký multimodálny model presahujúci tréningový prah 10^25 FLOP by mal naplánovať cvičenia red-team pred spustením pokrývajúce minimálne: získavanie vedeckých znalostí s dvojakým využitím, generovanie persuazívneho obsahu vo veľkom meradle a uľahčovanie automatizovaných kybernetických útokov. Po spustení musia tieto cvičenia opakovať vždy, keď model podstúpi významné doladenie alebo aktualizácie kapacít.

Kľúčové povinnosti

• Štandardizované hodnotenia: Vykonávanie hodnotení modelov pomocou najmodernejších štandardizovaných protokolov a nástrojov vrátane tých, ktoré vypracoval alebo schválil Úrad pre UI, pred uvedením na trh a priebežne.
• Adversariálne testovanie (red-teaming): Vykonávanie štruktúrovaných cvičení adversariálneho testovania — interne alebo prostredníctvom kvalifikovaných externých tretích strán — určených na odhalenie systémových rizík neidentifikovaných štandardným hodnotením.
• Dokumentácia a vedenie záznamov: Vedenie podrobných záznamov o metodológii hodnotenia, rozsahu, testovaných scenároch, výsledkoch a akýchkoľvek prijatých nápravných opatreniach, pričom záznamy sú dostupné Úradu pre UI na požiadanie.
• Hlásenie významných zistení: Bezodkladné oznámenie Úradu pre UI o závažných alebo novoidentifikovaných systémových rizikách objavených prostredníctvom hodnotení alebo adversariálneho testovania.
• Spolupráca pri testovaní poverenom Úradom pre UI: Uľahčovanie a spolupráca pri nezávislom adversariálnom testovaní organizovanom alebo poverenom priamo Úradom pre UI v rámci jeho dozorných právomocí.
• Priebežný súlad po vydaní: Opakovanie hodnotení a adversariálneho testovania po významných aktualizáciách modelu, doladení alebo zmenách v zamýšľaných prípadoch použitia, ktoré môžu zmeniť rizikový profil modelu.

Vzťah k iným článkom

Článok 55 funguje ako operačný náprotivok klasifikácie systémového rizika stanovenej v článku 51 a všeobecných povinností GPAI stanovených v článku 53. Mal by sa čítať spolu s článkom 52, ktorý definuje prah a kritériá pre označenie systémového rizika, a článkom 54, ktorý sa zaoberá povinnosťami týkajúcimi sa technickej dokumentácie pre modely GPAI so systémovým rizikom. Povinnosť hlásenia incidentov v článku 73 sa prelína s článkom 55, keď adversariálne testovanie odhalí závažný incident alebo takmer-incident vyžadujúci oznámenie. Na úrovni dozoru je právomoc Úradu pre UI poverovať testovanie podľa článku 55 ods. 2 zakotvená v širších dozorných právomociach zverených článkami 88 a 89. Poskytovatelia by mali tiež nahliadnuť do odôvodnenia 110, ktoré objasňuje dôvody pre rozlišovanie modelov so systémovým rizikom a dôležitosť hodnotenia bezpečnosti pred uvedením na trh ako doplnku priebežného monitorovania.

Časový plán súladu

• 1. august 2024 — Nariadenie (EÚ) 2024/1689 nadobudlo účinnosť a spustil sa hodinový mechanizmus postupného uplatňovania.
• 2. február 2025 — Zakázané praktiky v oblasti UI (Hlava II) sa stali uplatniteľnými.
• 2. august 2025 — Ustanovenia hlavy V upravujúce modely umelej inteligencie všeobecného určenia vrátane článku 55 sa stali plne uplatniteľnými. Od poskytovateľov kvalifikujúcich modelov GPAI, ktoré už boli na trhu, sa vyžadovalo, aby dosiahli súlad do tohto dátumu.
• 2. december 2026 — Povinnosti týkajúce sa systémov UI s vysokým rizikom podľa prílohy I (systémy bezpečnostných komponentov) sa stanú uplatniteľnými.
• 2. august 2027 — Zostávajúce povinnosti týkajúce sa systémov UI s vysokým rizikom (systémy prílohy III) sa stanú uplatniteľnými.

Článok 55 je teda už v platnosti. Poskytovatelia modelov GPAI so systémovým rizikom, ktorí ešte nezaviedli programy hodnotenia a adversariálneho testovania, porušujú aktuálne povinnosti a mali by považovať nápravu za bezprostredný prioritný zámer.