Reglamento (ES) 2024/1689 55 straipsnis — Bendrosios paskirties DI modelių, keliančių sisteminę riziką, vertinimas ir prieštaraujantis testavimas. Oficialus tekstas, praktinis aiškinimas, pagrindinės pareigos ir atitikties pasekmės.
Oficialaus teksto santrauka
Reglamento (ES) 2024/1689 55 straipsnis nustato konkrečias vertinimo ir prieštaraujančio testavimo pareigas bendrosios paskirties DI (BPDIM) modelių, keliančių sisteminę riziką, tiekėjams. Remiantis platesniu pareigų rinkiniu, nustatytu 53 straipsnyje, ir sisteminės rizikos klasifikavimo kriterijais 51 straipsnyje, 55 straipsnis reikalauja, kad tokie tiekėjai atliktų modelių vertinimus pagal standartizuotus protokolus ir reguliariai vykdytų prieštaraujantį testavimą — paprastai vadinamą raudonosios komandos testais.
Pagal 1 dalies a punktą reikalaujami vertinimai turi atitikti standartizuotus protokolus ir priemones, atspindinčias pažangiausias žinias, įskaitant DI biuro parengtas ar patvirtintas. Kur standartizuotų protokolų nėra, tiekėjai turi sukurti ir taikyti tinkamas metodologijas sisteminių rizikų pobūdžiui ir apimčiai nustatyti ir įvertinti.
1 dalies b punktas įpareigoja atlikti prieštaraujantį testavimą, vykdomą viduje arba pasitelkiant akredituotus išorės ekspertus, siekiant nustatyti standartinių vertinimo procedūrų neaptinkamas rizikas. Tiekėjai turi dokumentuoti vertinimų ir prieštaraujančio testavimo pratybų metodologiją, apimtį ir rezultatus bei pranešti DI biurui apie reikšmingas išvadas. Pats DI biuras pagal 2 dalį išlaiko teisę organizuoti ar užsakyti nepriklausomą prieštaraujantį testavimą bet kuriuo metu. Straipsnis taip pat įpareigoja tiekėjus paprašius dalytis vertinimų rezultatais ir testavimo ataskaitomis su kompetentingomis institucijomis.
Ką tai reiškia praktiškai
Organizacijoms, kurios kuria ar diegia pažangiausius BPDIM modelius, 55 straipsnis nustato struktūrizuotą ir dokumentuotą kokybės užtikrinimo procesą, konkrečiai orientuotą į sisteminės žalos nustatymą. Praktiškai tai reiškia, kad prieš išleidžiant kvalifikuotą modelį — ir nuolat po išleidimo — tiekėjai turi vykdyti tiek standartizuotus pajėgumų vertinimus, tiek tikslingas prieštaraujančias pratybas, skirtas aptikti katastrofines ar plačiai paplitusias rizikas, tokias kaip masinė manipuliacija, su ginklais susijusio turinio generavimas, didelio masto kibernetinės atakos ar kritinės infrastruktūros sutrikimas.
Operaciniu požiūriu atitiktis reikalauja sudaryti ar sudaryti daugiadalykio raudonosios komandos pajėgumų su patirtimi, apimančia DI saugumą, kibernetinį saugumą, dezinformaciją, biosaugumą ir kitas susijusias sritis. Vertinimai turi būti atliekami pagal etalonus ir protokolus, atspindinčius dabartinę technikos pažangą; tiekėjai negali pasikliauti vien nuosavybinėmis, nepaskelbtomis metodologijomis, jei yra standartizuotų alternatyvų.
Dokumentacija yra esminė. Tiekėjai turi tvarkyti išsamius kiekvieno vertinimo ciklo įrašus — įskaitant apimtį, komandos sudėtį, išbandytus scenarijus, stebėtus rezultatus ir taikytas rizikos mažinimo priemones — ir turi gebėti pateikti šiuos įrašus DI biurui pareikalavus. Kai testavimas atskleidžia naujas ar padidėjusias sistemines rizikas, tiekėjai yra įpareigoti įgyvendinti taisomąsias priemones ir, kai rizika yra rimta, be nereikalingo delsimo pranešti DI biurui.
Pavyzdžiui, tiekėjas, išleidžiantis didelį multimodalų modelį, viršijantį 10^25 FLOP mokymo ribą, turėtų suplanuoti raudonosios komandos pratybas prieš paleidimą, apimančias bent: dvejopo naudojimo mokslinių žinių išgavimą, įtikinamo turinio generavimą dideliu mastu ir automatizuotų kibernetinių atakų palengvinimą. Po paleidimo šios pratybos turi kartotis kaskart, kai modelis patiria reikšmingą tikslųjį derinimą ar pajėgumų atnaujinimus.
Pagrindinės pareigos
- Standartizuoti vertinimai: Atlikti modelių vertinimus naudojant pažangiausius standartizuotus protokolus ir priemones, įskaitant DI biuro parengtas ar patvirtintas, prieš pateikiant rinkai ir nuolat.
- Prieštaraujantis testavimas (raudonosios komandos testai): Vykdyti struktūrizuotas prieštaraujančio testavimo pratybas — viduje ar per kvalifikuotas trečiąsias šalis — skirtas atskleisti sistemines rizikas, neidentifikuotas standartinio vertinimo metu.
- Dokumentavimas ir įrašų tvarkymas: Tvarkyti išsamius vertinimo metodologijos, apimties, išbandytų scenarijų, rezultatų ir taikytų taisomųjų priemonių įrašus, kurie DI biurui prieinami pareikalavus.
- Reikšmingų išvadų pranešimas: Be nereikalingo delsimo pranešti DI biurui apie rimtas ar naujai nustatytas sistemines rizikas, aptiktas atliekant vertinimus ar prieštaraujantį testavimą.
- Bendradarbiavimas su DI biuro užsakytais testais: Sudaryti sąlygas ir bendradarbiauti su nepriklausomais prieštaraujančiais testais, kuriuos DI biuras organizuoja ar užsako tiesiogiai pagal priežiūros įgaliojimus.
- Nuolatinė atitiktis po išleidimo: Pakartoti vertinimus ir prieštaraujantį testavimą po reikšmingų modelio atnaujinimų, tikslaus derinimo ar numatytų naudojimo atvejų pakeitimų, kurie gali pakeisti modelio rizikos profilį.
Ryšys su kitais straipsniais
55 straipsnis veikia kaip 51 straipsnyje nustatytos sisteminės rizikos klasifikacijos ir 53 straipsnyje išdėstytų bendrųjų BPDIM pareigų operatyvinis atitikmuo. Jį reikėtų skaityti kartu su 52 straipsniu, kuris apibrėžia sisteminės rizikos paskyrimo ribą ir kriterijus, ir 54 straipsniu, kuris nagrinėja pareigas, susijusias su sisteminės rizikos BPDIM modelių techniniais dokumentais. 73 straipsnio incidentų pranešimo pareiga persidengia su 55 straipsniu, kai prieštaraujantis testavimas atskleidžia rimtą incidentą ar beveik incidentą, reikalaujantį pranešimo. Priežiūros lygmeniu DI biuro teisė užsakyti testavimą pagal 55 straipsnio 2 dalį yra grindžiama platesniais priežiūros įgaliojimais, suteiktais 88 ir 89 straipsniais. Tiekėjai taip pat turėtų susipažinti su 110 konstatuojamąja dalimi, kuri paaiškina sisteminės rizikos modelių atskyrimo pagrindimą ir ikirinkinės saugos vertinimo svarbą kaip papildymą nuolatinei stebėsenai.
Atitikties tvarkaraštis
- 2024 m. rugpjūčio 1 d. — Reglamentas (ES) 2024/1689 įsigaliojo, pradedant laipsniško taikymo laikmatį.
- 2025 m. vasario 2 d. — Uždrausta DI praktika (II antraštinė dalis) tapo taikoma.
- 2025 m. rugpjūčio 2 d. — V antraštinės dalies nuostatos, reglamentuojančios bendrosios paskirties DI modelius, įskaitant 55 straipsnį, tapo visiškai taikomos. Tiekėjai, kurių kvalifikuoti BPDIM modeliai jau buvo rinkoje, privalėjo pasiekti atitiktį iki šios datos.
- 2026 m. gruodžio 2 d. — Didelės rizikos DI sistemų pagal I priedą (saugos komponentų sistemos) pareigos tampa taikomomis.
- 2027 m. rugpjūčio 2 d. — Likusios didelės rizikos DI sistemų pareigos (III priedo sistemos) tampa taikomomis.
55 straipsnis todėl jau yra galiojantis. Sisteminę riziką keliančių BPDIM modelių tiekėjai, dar nenustę vertinimo ir prieštaraujančio testavimo programų, pažeidžia dabartines pareigas ir turėtų taisymą laikyti skubia prioritetine užduotimi.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Prieštaraujantis testavimas, dar vadinamas raudonosios komandos testais, reiškia struktūrizuotus vertinimus, kurių metu ekspertai bando gauti žalingus, šališkus ar kitaip nepageidaujamus bendrosios paskirties DI modelio rezultatus. 55 straipsnis įpareigoja sisteminę riziką keliančių BPDIM modelių tiekėjus atlikti tokį testavimą prieš pateikiant modelį rinkai ir nuolat po to, siekiant nustatyti ir sumažinti rimtas rizikas prieš joms sukeliant žalą.
55 straipsnis taikomas išimtinai bendrosios paskirties DI (BPDIM) modelių tiekėjams, kurie buvo nustatyti kaip keliantys sisteminę riziką — pavadinimas suteikiamas pagal 51 straipsnį, kai modelis buvo apmokytas naudojant daugiau nei 10^25 FLOPs bendrąjį skaičiavimą, arba kai Europos Komisija kitomis priemonėmis daro išvadą, kad modelis kelia sisteminę riziką. Žemiau šios ribos esančių BPDIM modelių tiekėjams 55 straipsnis netaikomas.
55 straipsnis leidžia tiekėjams atlikti prieštaraujantį testavimą naudojant vidinius išteklius arba pasitelkiant kvalifikuotas trečiąsias šalis. Pažymėtina, kad straipsnis suteikia DI biurui įgaliojimus organizuoti ir koordinuoti nepriklausomą sisteminę riziką keliančių BPDIM modelių prieštaraujantį testavimą, įskaitant tokio testavimo užsakymą iš patikimų įstaigų. Rezultatai ir metodologijos turi būti dokumentuoti ir pateikiami DI biurui pareikalavus.
Nuostatos, reglamentuojančios bendrosios paskirties DI modelius, įskaitant 55 straipsnį, tapo taikomos 2025 m. rugpjūčio 2 d., dvylika mėnesių po to, kai Reglamentas įsigaliojo 2024 m. rugpjūčio 1 d. Tiekėjai, kurie iki tos datos pateikė kvalifikuotą BPDIM modelį rinkai, privalėjo iki 2025 m. rugpjūčio 2 d. laikytis sisteminės rizikos pareigų.
Sisteminę riziką keliančių BPDIM modelių pareigų, įskaitant 55 straipsnio reikalavimą dėl prieštaraujančio testavimo, nesilaikymas gali užtraukti administracines baudas iki 3 % pasaulinės metinės apyvartos arba 15 mln. EUR, atsižvelgiant į tai, kuri suma yra didesnė. DI biuras, turintis pirminę priežiūros valdžią BPDIM tiekėjams, taip pat gali imtis taisomųjų priemonių, prašyti papildomos dokumentacijos arba sunkiais atvejais sustabdyti prieigą prie rinkos.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.