53. pants — Vispārīgās nozīmes mākslīgā intelekta modeļu ar sistēmisku risku sniedzēju pienākumi (ES MI akts)

Regulas (ES) 2024/1689 53. pants — Vispārīgās nozīmes mākslīgā intelekta modeļu ar sistēmisku risku sniedzēju pienākumi. Oficiālais teksts, praktiskā interpretācija, galvenie pienākumi un atbilstības sekas.

Oficiālā teksta kopsavilkums

Regulas (ES) 2024/1689 53. pants nosaka pienākumus, kas attiecas tikai uz vispārīgās nozīmes mākslīgā intelekta (MI) modeļu sniedzējiem, kuri klasificēti kā sistēmisku risku radoši saskaņā ar 51. pantu. Šie ir modeļi, kas apmācīti ar aprēķinu kapacitāti, kas pārsniedz 10^25 peldošā komatā operācijas (FLOPs), vai modeļi, kurus MI birojs noteicis, pamatojoties uz spēju vai ietekmes novērtējumu.

Papildus pamatpienākumiem, kas piemērojami visiem VNMI modeļu sniedzējiem saskaņā ar 52. pantu, 53. panta darbības jomai pakļautajiem sniedzējiem ir: jāveic modeļu novērtēšana, tostarp adversariālā testēšana saskaņā ar standartizētiem protokoliem vai apstiprinātām metodikām; jānovērtē un jāmazina sistēmiskie riski Savienības līmenī; nekavējoties jāziņo MI birojam par nopietniem incidentiem un darbības traucējumiem; jānodrošina atbilstošs kiberdrošības aizsardzības līmenis modelim, tā infrastruktūrai un fiziskajai videi; un jādokumentē modeļu novērtēšanas rezultāti un jādara tie pieejami MI birojam pēc pieprasījuma.

53. panta 2. punkts paredz, ka sniedzēji var paļauties uz rīcības kodeksiem, kas pieņemti saskaņā ar 56. pantu, lai pierādītu atbilstību. Eiropas Komisija ir pilnvarota izdot deleģētos aktus, kuros precizē novērtēšanas saturu un procedūras, un pielāgot robežvērtības, attīstoties zinātniskajām atziņām. MI birojs uzrauga atbilstību un var pieprasīt papildu informāciju vai korektīvus pasākumus.

Ko tas nozīmē praksē

53. pants rada atsevišķu atbilstības līmeni ES tirgū visspējīgākajiem un potenciāli visietekmīgākajiem VNMI modeļiem. Jebkurai organizācijai — neatkarīgi no tās reģistrācijas vietas — kas dara šādu modeli pieejamu ES esošajiem izvietotājiem vai gala lietotājiem, ir jānovērtē, vai tā pārsniedz sistēmiskā riska robežvērtību.

Sniedzējiem virs 10^25 FLOP aprēķinu robežvērtības pienākumi ir automātiski. Sniedzējiem zem šīs robežvērtības MI birojs joprojām var aktivizēt 53. panta pienākumus pēc katrā gadījumā atsevišķa novērtējuma, pamatojoties uz rādītājiem, piemēram, lietotāju skaitu, spēju plašumu vai integrāciju kritiskajos sektoros.

Praksē atbilstība prasa izveidot robustus iekšējos procesus: modeļu novērtēšanas programmu, kas spēj veikt sarkanās komandas un adversariālo testēšanu pirms un pēc izvietošanas; sistēmiskā riska reģistru un ar to saistīto mazināšanas plānu; kiberdrošības sistēmu, kas aptver modeļa svarus, API un apmācības infrastruktūru; un incidentu reaģēšanas procedūru, kas saistīta ar ziņošanas pienākumu pret MI biroju.

Konkrēti, robežas lielā valodas modeļa sniedzējam, kas to dara pieejamu ar API ES reģistrētajiem izvietotājiem, jāveic adversariālā testēšana — piemēram, jailbreak mēģinājumi un spēju izvilkšana bīstamam saturam —, jādokumentē rezultāti, jāsaglabā tie un jābūt gatavam dalīties ar tiem ar MI biroju. Ja modelis rada izvades datus, kas rada vai gandrīz rada nopietnu kaitējumu personai vai kritiskajai infrastruktūrai, par šo incidentu nekavējoties jāziņo. Dalība MI biroja apstiprinātā rīcības kodeksā saskaņā ar 56. pantu nodrošina strukturētu ceļu atbilstības pierādīšanai bez harmonizētu standartu gaidīšanas.

Galvenie pienākumi

• Modeļu novērtēšana un adversariālā testēšana: Veikt vispusīgu novērtēšanu, tostarp sarkanās komandas un adversariālo testēšanu, izmantojot standartizētus protokolus vai MI biroja apstiprinātos, pirms un pēc būtiskiem modeļa atjauninājumiem.
• Sistēmiskā riska novērtēšana un mazināšana: Identificēt, analizēt un mazināt iespējamos sistēmiskos riskus Savienības līmenī, kas var rasties no modeļa izstrādes, laišanas tirgū vai lietošanas.
• Ziņošana par nopietniem incidentiem: Bez nepamatotas kavēšanās ziņot MI birojam par jebkuru nopietnu incidentu vai darbības traucējumu, kas saistīts ar sistēmisku risku radošu VNMI modeli, tostarp informāciju par incidentu un veiktajiem korektīvajiem pasākumiem.
• Kiberdrošības aizsardzība: Ieviest un uzturēt atbilstošus kiberdrošības pasākumus, kas aizsargā modeli, tā fizisko infrastruktūru un piegādes ķēdi — tostarp modeļa svarus, API un apmācības cauruļvadus — atbilstoši identificētajiem riskiem.
• Dokumentācija un pārskatāmība pret MI biroju: Glabāt novērtēšanas rezultātu, testēšanas metodiku un riska mazināšanas pasākumu uzskaiti; darīt tos pieejamus MI birojam pēc pieprasījuma.
• Atbilstības ceļš caur rīcības kodeksiem: Pierādīt atbilstību 53. panta pienākumiem, ievērojot rīcības kodeksus, kas izstrādāti saskaņā ar 56. pantu, līdz harmonizēto standartu pieejamībai.

Saistība ar citiem pantiem

53. pantu nevar lasīt izolēti. Tas tieši balstās uz 51. pantu, kas definē VNMI modeļa klasifikācijas kā sistēmisku risku radoša kritērijus un procedūras — tostarp 10^25 FLOP aprēķinu robežvērtību un MI biroja diskrecionāro iecelšanas pilnvaru. 52. panta pamatpienākumi paliek pilnībā piemērojami līdzās 53. pantam; pēdējais pievieno papildu slāni, nevis aizstāj pirmo.

55. pants reglamentē kvalificētās atbilstības prezumpcijas, savukārt 56. pants izveido rīcības kodeksu mehānismu, uz kuru 53. panta 2. punkts skaidri atsaucas kā uz atbilstības ceļu. MI biroja uzraudzības loma attiecībā uz 53. panta pienākumiem ir pamatota 88.–90. pantos, kuros izklāstītas izpildes pilnvaras un procedūras. Sniedzējiem, kas ir arī augsta riska MI sistēmu izvietotāji, III nodaļas (9.–16. pants) riska pārvaldības un tehniskās dokumentācijas prasības var pārklāties ar 53. panta prasīto sistēmiskā riska mazināšanas darbu, un atbilstības komandu koordinācija ir ieteicama, lai izvairītos no dublēšanās.

Atbilstības grafiks

ES MI akts stājās spēkā 2024. gada 1. augustā (divdesmit dienas pēc publicēšanas Oficiālajā Vēstnesī 2024. gada 12. jūlijā). 53. pants, kā V sadaļas daļa, kas reglamentē vispārīgās nozīmes MI modeļus, kļuva piemērojams 2025. gada 2. augustā — divpadsmit mēnešus pēc spēkā stāšanās, saskaņā ar 113. panta 3. punktu.

Tas nozīmē, ka sistēmisku risku radošu VNMI modeļu sniedzējiem bija jābūt savām novērtēšanas programmām, incidentu ziņošanas procedūrām un kiberdrošības sistēmām darbotiesspējīgām līdz tai datumam. Pakāpeniskās piemērošanas grafiks uzziņai: ar 5. pantu aizliegtā MI prakse piemērojama no 2025. gada 2. februāra (seši mēneši); VNMI modeļu pienākumi, tostarp 53. pants, no 2025. gada 2. augusta (divpadsmit mēneši); pienākumi attiecībā uz augsta riska MI sistēmām saskaņā ar I pielikumu no 2026. gada 2. augusta (divdesmit četri mēneši); un atlikušie augsta riska MI sistēmu pienākumi no 2027. gada 2. augusta (trīsdesmit seši mēneši). Sniedzējiem arī jāuzrauga Eiropas Komisijas deleģētie akti, kas var precizēt 53. panta novērtēšanas prasības vai pielāgot aprēķinu robežvērtību, attīstoties zinātniskajai izpratnei par robežas modeļu spējām.