55. pants — Vispārīgas nozīmes MI modeļu ar sistēmisku risku novērtēšana un adversariāla testēšana (ES MI akts)

Regulas (ES) 2024/1689 55. pants — Vispārīgas nozīmes MI modeļu ar sistēmisku risku novērtēšana un adversariāla testēšana. Oficiālais teksts, praktiskā interpretācija, galvenie pienākumi un atbilstības sekas.

Oficiālā teksta kopsavilkums

Regulas (ES) 2024/1689 55. pants paredz īpašus novērtēšanas un adversariālās testēšanas pienākumus vispārīgas nozīmes MI (VNMI) modeļu nodrošinātājiem, kas rada sistēmisku risku. Balstoties uz plašāku pienākumu kopumu, kas izklāstīts 53. pantā, un sistēmiskā riska klasifikācijas kritērijiem 51. pantā, 55. pants prasa, lai šādi nodrošinātāji veiktu modeļu novērtējumus saskaņā ar standartizētiem protokoliem un regulāri veiktu adversariālo testēšanu — ko parasti dēvē par red-teaming.

Novērtējumiem, kas prasīti saskaņā ar 1. punkta a) apakšpunktu, jāseko standartizētiem protokoliem un rīkiem, kas atspoguļo mākslas stāvokli, tostarp tiem, ko izstrādājis vai apstiprinājis MI birojs. Ja standartizētu protokolu nav, nodrošinātājiem jāizstrādā un jāpiemēro atbilstošas metodikas, lai identificētu un novērtētu sistēmisko risku raksturu un apmēru.

1. punkta b) apakšpunkts uzliek par pienākumu adversariālo testēšanu, ko veic iekšēji vai piesaistot akreditētus ārējos ekspertus, ar mērķi identificēt riskus, kurus standarta novērtēšanas procedūras nefiksē. Nodrošinātājiem jādokumentē gan novērtējumu, gan adversariālās testēšanas vingrinājumu metodika, tvērums un rezultāti, un par nozīmīgiem atklājumiem jāziņo MI birojam. Pats MI birojs saskaņā ar 2. punktu jebkurā laikā saglabā pilnvaras organizēt vai pasūtīt neatkarīgu adversariālo testēšanu. Pants arī uzliek nodrošinātājiem pienākumu pēc pieprasījuma dalīties ar novērtēšanas rezultātiem un testēšanas ziņojumiem ar kompetentajām iestādēm.

Ko tas nozīmē praksē

Organizācijām, kas izstrādā vai izvieto robežas VNMI modeļus, 55. pants uzliek strukturētu un dokumentētu kvalitātes nodrošinājuma procesu, kas koncentrējas tieši uz sistēmiskā kaitējuma identificēšanu. Praksē tas nozīmē, ka pirms kvalificēta modeļa izlaišanas — un pastāvīgi pēc izlaišanas — nodrošinātājiem jāveic gan standartizēti spēju novērtējumi, gan mērķtiecīgi adversariāli vingrinājumi, kas paredzēti katastrofālu vai plašu risku atklāšanai, piemēram, masveida manipulācija, ar ieročiem saistīta satura ģenerēšana, plaša mēroga kiberuzbrukumi vai kritiskās infrastruktūras traucējumi.

No darbības viedokļa atbilstība prasa izveidot vai slēgt līgumu par multidisciplināru red-team kapacitāti ar ekspertīzi, kas aptver MI drošību, kiberdrošību, dezinformāciju, biodrošību un citas attiecīgās jomas. Novērtējumiem jābūt veiktiem pret etaloniem un protokoliem, kas atspoguļo pašreizējo mākslas stāvokli; nodrošinātāji nevar paļauties tikai uz patentētām, nepublicētām metodikām, ja pastāv standartizētas alternatīvas.

Dokumentācija ir galvenā. Nodrošinātājiem jāuztur detalizēti ieraksti par katru novērtēšanas ciklu — tostarp tvērumu, komandas sastāvu, testētajiem scenārijiem, novērotajiem izvaddatiem un piemērotajiem mazināšanas pasākumiem — un tiem jāspēj pēc pieprasījuma iesniegt šos ierakstus MI birojam. Kur testēšana atklāj jaunus vai pasliktinātus sistēmiskos riskus, nodrošinātājiem ir pienākums īstenot korektīvus pasākumus un, ja risks ir nopietns, bez nepamatotas kavēšanās paziņot MI birojam.

Piemēram, nodrošinātājam, kas izlaiž lielu multimodālu modeli, kas pārsniedz 10^25 FLOP apmācības slieksni, pirms palaišanas jāplāno red-team vingrinājumi, kas aptver vismaz: dubultā lietojuma zinātnisko zināšanu izsaukšanu, pārliecinoša satura ģenerēšanu plašā mērogā un automatizētu kiberuzbrukumu veicināšanu. Pēc palaišanas šie vingrinājumi jāatkārto ikreiz, kad modelis tiek pakļauts nozīmīgai precīzajai tūningēšanai vai spēju atjauninājumiem.

Galvenie pienākumi

• Standartizēti novērtējumi: Veikt modeļu novērtējumus, izmantojot mūsdienīgus standartizētus protokolus un rīkus, tostarp MI biroja izstrādātos vai apstiprinātos, pirms laišanas tirgū un pastāvīgi.
• Adversariālā testēšana (red-teaming): Veikt strukturētus adversariālās testēšanas vingrinājumus — iekšēji vai ar kvalificētu ārējo trešo pušu starpniecību — kas paredzēti sistēmisko risku atklāšanai, kurus standarta novērtēšana neidentificē.
• Dokumentēšana un uzskaites uzturēšana: Uzturēt detalizētus ierakstus par novērtēšanas metodiku, tvērumu, testētajiem scenārijiem, rezultātiem un jebkuriem veiktajiem korektīvajiem pasākumiem, ierakstiem esot pieejamiem MI birojam pēc pieprasījuma.
• Nozīmīgu atklājumu ziņošana: Bez nepamatotas kavēšanās paziņot MI birojam par nopietniem vai jaunatklātiem sistēmiskajiem riskiem, kas atklāti novērtēšanas vai adversariālās testēšanas laikā.
• Sadarbība ar MI biroja pasūtīto testēšanu: Veicināt un sadarboties ar neatkarīgo adversariālo testēšanu, ko MI birojs organizē vai pasūta tieši saskaņā ar uzraudzības pilnvarām.
• Pastāvīga atbilstība pēc izlaišanas: Atkārtot novērtējumus un adversariālo testēšanu pēc nozīmīgiem modeļa atjauninājumiem, precīzās tūningēšanas vai paredzēto lietošanas gadījumu izmaiņām, kas var mainīt modeļa riska profilu.

Saistība ar citiem pantiem

55. pants darbojas kā 51. pantā noteiktās sistēmiskā riska klasifikācijas un 53. pantā izklāstīto vispārīgo VNMI pienākumu operacionālais atbalsts. Tas jālasa kopā ar 52. pantu, kas definē sistēmiskā riska apzīmēšanas slieksni un kritērijus, un 54. pantu, kas attiecas uz pienākumiem saistībā ar tehnisko dokumentāciju sistēmiskā riska VNMI modeļiem. 73. pantā noteiktais incidentu ziņošanas pienākums krustojas ar 55. pantu, kur adversariālā testēšana atklāj nopietnu incidentu vai gandrīz incidentu, kam nepieciešams paziņojums. Uzraudzības līmenī MI biroja pilnvaras pasūtīt testēšanu saskaņā ar 55. panta 2. punktu ir balstītas uz plašākajām uzraudzības pilnvarām, ko piešķir 88. un 89. pants. Nodrošinātājiem arī jāiepazīstas ar 110. apsvērumu, kas precizē sistēmiskā riska modeļu nošķiršanas pamatojumu un pirmstirgus drošības novērtējuma nozīmi kā papildinājumu pastāvīgai uzraudzībai.

Atbilstības grafiks

• 2024. gada 1. augusts — Regula (ES) 2024/1689 stājās spēkā, sākot pakāpeniskas piemērošanas pulksteni.
• 2025. gada 2. februāris — Aizliegtā MI prakse (II sadaļa) kļuva piemērojama.
• 2025. gada 2. augusts — V sadaļas noteikumi, kas regulē vispārīgas nozīmes MI modeļus, tostarp 55. pants, kļuva pilnībā piemērojami. Nodrošinātājiem, kuriem jau tirgū bija kvalificēti VNMI modeļi, bija jāpanāk atbilstība līdz šim datumam.
• 2026. gada 2. decembris — Augsta riska MI sistēmu pienākumi saskaņā ar I pielikumu (drošības komponentu sistēmas) kļūst piemērojami.
• 2027. gada 2. augusts — Atlikušie augsta riska MI sistēmu pienākumi (III pielikuma sistēmas) kļūst piemērojami.

55. pants tāpēc jau ir spēkā. Sistēmiskā riska VNMI modeļu nodrošinātāji, kas vēl nav izveidojuši novērtēšanas un adversariālās testēšanas programmas, pārkāpj pašreizējos pienākumus un savlaicīgai novēršanai jābūt nekavējoties prioritātei.