Článok 51 — Klasifikácia modelov umelej inteligencie všeobecného určenia ako modelov so systémovým rizikom (Akt EÚ o umelej inteligencii)

Článok 51 nariadenia (EÚ) 2024/1689 — Klasifikácia modelov umelej inteligencie všeobecného určenia ako modelov so systémovým rizikom. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad.

Zhrnutie oficiálneho textu

Článok 51 nariadenia (EÚ) 2024/1689 (Akt EÚ o umelej inteligencii) stanovuje mechanizmus klasifikácie modelov umelej inteligencie všeobecného určenia (GPAI) ako modelov so systémovým rizikom. Nachádza sa v hlave V, ktorá vytvára vyhradenú regulačnú vrstvu pre modely GPAI, odlišnú od rámca systémov umelej inteligencie s vysokým rizikom v hlave III.

Podľa článku 51(1) sa model GPAI klasifikuje ako model predstavujúci systémové riziko, keď spĺňa jednu z dvoch podmienok. Po prvé, má schopnosti s vysokým dosahom hodnotené na základe vhodných technických nástrojov a metodík, vrátane ukazovateľov a referenčných hodnôt — s vyvrátiteľnou domnienkou, že akýkoľvek model trénovaný s použitím kumulatívnych výpočtov presahujúcich 10^25 FLOPs patrí do tejto kategórie. Po druhé, je označený Komisiou podľa článku 51(2) na základe iných kritérií, bez ohľadu na to, či je dosiahnutá prahová hodnota výpočtov.

Článok 51(2) udeľuje Komisii právomoc aktualizovať prahovú hodnotu výpočtov prostredníctvom delegovaných aktov v súlade s vývojom technológií, čím sa zabezpečuje, že rámec zostáva kalibrovaný na trhovú realitu. Poskytovatelia, ktorí sa napriek splneniu prahovej hodnoty domnievajú, že ich model nepredstavuje systémové riziko, môžu Komisiu o tom informovať a poskytnúť podporné dôkazy. Komisia potom vydá konečné rozhodnutie. Klasifikácia podľa článku 51 spúšťa ďalší súbor povinností obsiahnutých v článku 55, ktorý predstavuje najnáročnejšiu úroveň povinností v rámci GPAI.

Čo to znamená v praxi

Článok 51 sa priamo dotýka poskytovateľov frontálnych modelov GPAI — predovšetkým veľkých laboratórií umelej inteligencie a technologických spoločností, ktoré vyvíjajú a vydávajú základné modely alebo veľké jazykové modely trénované vo veľkom rozsahu. Každý poskytovateľ, ktorého model dosahuje alebo prekračuje prahovú hodnotu trénovacích výpočtov 10^25 FLOPs, musí tento model považovať za model predpokladane nesúci systémové riziko a začať sa pripravovať na súlad s režimom povinností článku 55, pokiaľ úspešne nevyvráti domnienku pred Komisiou.

V konkrétnych podmienkach by mal poskytovateľ vykonať audit svojej trénovacej infraštruktúry a dokumentácie s cieľom zistiť, či bola prekročená prahová hodnota výpočtov. Vyžaduje si to vedenie presných záznamov o trénovacích behoch, vrátane kumulatívnych FLOPs. Keď je nový model vo vývoji a predpokladá sa, že sa bude blížiť k prahovej hodnote, poskytovatelia by mali začať plánovanie súladu pred vydaním, nie po ňom, keďže povinnosti sa viažu k momentu uvedenia modelu na trh alebo jeho uvedenia do prevádzky.

Pre poskytovateľov, ktorých modely sú označené Komisiou na základe kvalitatívnych dôvodov — napríklad z dôvodu veľmi širokého nasadenia na trhu EÚ, schopností autonómneho rozhodovania alebo multimodálneho dosahu — spúšťač nefunguje rovnako automaticky, ale označenie má identické právne následky. Poskytovatelia by preto mali sledovať verejný register modelov so systémovým rizikom Úradu pre umelú inteligenciu a usmernenia Komisie o kritériách, ktoré uplatňuje podľa článku 51(2).

Downstream poskytovatelia a podniky spoliehajúce sa na modely GPAI prostredníctvom prístupu cez API by si tiež mali byť vedomé: ak je základný model, ktorý používajú, klasifikovaný podľa článku 51, môžu čeliť ďalším zmluvným požiadavkám na zverejňovanie informácií od poskytovateľa a mali by zohľadniť stav systémového rizika vo vlastných procesoch náležitej starostlivosti.

Kľúčové povinnosti

• Monitorovanie prahovej hodnoty výpočtov: Poskytovatelia musia sledovať a dokumentovať kumulatívne trénovacie výpočty svojich modelov GPAI s cieľom zistiť, či je dosiahnutá prahová hodnota 10^25 FLOPs, čo spúšťa vyvrátiteľnú domnienku systémového rizika podľa článku 51(1)(a).
• Proaktívne oznámenie: Poskytovatelia, ktorí sa napriek dosiahnutiu prahovej hodnoty domnievajú, že ich model nepredstavuje systémové riziko, musia proaktívne informovať Komisiu s podpornými dôkazmi namiesto čakania na vykonávacie opatrenia.
• Súlad s označením Komisie: Keď Komisia označí model ako model predstavujúci systémové riziko podľa článku 51(2) — či už na základe výpočtov alebo iných kritérií — poskytovateľ musí toto označenie dodržiavať a plniť povinnosti, ktoré spúšťa.
• Monitorovanie aktualizácií prahovej hodnoty: Poskytovatelia musia sledovať zmeny prahovej hodnoty výpočtov vykonané Komisiou prostredníctvom delegovaných aktov podľa článku 51(2), keďže modely, ktoré v súčasnosti nespadajú do rozsahu, môžu do neho spadnúť v prípade úpravy prahovej hodnoty.
• Pripravenosť na vedenie záznamov: Poskytovatelia musia viesť technickú dokumentáciu postačujúcu na preukázanie toho, či sú alebo nie sú splnené klasifikačné prahové hodnoty, čím podporujú ako sebahodnotenie, tak aj prípadné preskúmanie zo strany Komisie.
• Downstream komunikácia: Poskytovatelia klasifikovaných modelov GPAI so systémovým rizikom musia zabezpečiť, aby downstream poskytovatelia a prevádzkovatelia, ktorí pristupujú k modelu prostredníctvom API alebo iných rozhraní, boli informovaní o klasifikačnom statuse modelu, ako to vyžadujú povinnosti transparentnosti podľa článku 53.

Vzťah k iným článkom

Článok 51 plní funkciu vstupného ustanovenia pre najnáročnejšiu úroveň rámca GPAI. Musí sa čítať spolu s článkom 52, ktorý podrobnejšie stanovuje postup klasifikácie a právomoci Komisie v oblasti označovania, a s článkom 55, ktorý uvádza hmotnoprávne povinnosti — adversariálne testovanie, oznamovanie incidentov Úradu pre umelú inteligenciu, opatrenia kybernetickej bezpečnosti a vykazovanie energetickej efektívnosti — ktoré sa uplatňujú po uskutočnení klasifikácie.

Článok 53 stanovuje základné povinnosti uplatniteľné na všetkých poskytovateľov modelov GPAI bez ohľadu na klasifikáciu systémového rizika, vrátane technickej dokumentácie, súladu s autorským právom a zverejňovania súhrnov trénovacích údajov. Článok 51 na tomto základe stavia tým, že identifikuje poskytovateľov, na ktorých sa vzťahuje zvýšený režim článku 55.

Článok 4 udeľuje Komisii právomoc vydávať delegované akty na úpravu technických podrobností, vrátane prahovej hodnoty výpočtov v článku 51. Odôvodnenia 110 až 114 nariadenia poskytujú interpretačné usmernenie o tom, prečo je klasifikácia systémového rizika opodstatnená pre modely s vysokými výpočtami a ako Komisia zamýšľa uplatňovať kvalitatívne kritériá označovania. Úrad pre umelú inteligenciu zriadený podľa článku 64 zohráva ústrednu úlohu pri monitorovaní súladu s klasifikačným rámcom článku 51.

Časový harmonogram súladu

Akt EÚ o umelej inteligencii nadobudol účinnosť 1. augusta 2024, dvadsať dní po uverejnení v Úradnom vestníku Európskej únie. Akt sa uplatňuje postupne:

• Február 2025: Nadobudli účinnosť zákazy praktík umelej inteligencie s neprijateľným rizikom (článok 5).
• August 2025: Nadobudol účinnosť rámec GPAI podľa hlavy V, vrátane článku 51. Poskytovatelia modelov GPAI so systémovým rizikom boli povinní dodržiavať klasifikačné postupy a povinnosti článku 55 od tohto dátumu. Toto je pre článok 51 priamo najpodstatnejší termín.
• December 2026: Uplatňujú sa povinnosti pre systémy umelej inteligencie s vysokým rizikom uvedené v prílohe I (systémy bezpečnostných komponentov regulované podľa existujúceho práva Únie).
• August 2027: Plné uplatňovanie povinností pre systémy umelej inteligencie s vysokým rizikom uvedené v prílohe III.

Pokiaľ ide konkrétne o článok 51, poskytovatelia rozsiahlych modelov GPAI museli od augusta 2025 posúdiť svoje trénovacie výpočty a určiť, či bola dosiahnutá prahová hodnota systémového rizika. Úrad pre umelú inteligenciu začal vydávať usmernenia a kódexy správania v predstihu pred týmto dátumom s cieľom pomôcť poskytovateľom pri tomto rozhodovaní.