ES DI biuras: įgaliojimai, įgaliojimai ir vaidmuo DI akto vykdyme

ES DI biuras, įsteigtas Europos Komisijos sudėtyje, yra pagrindinis ES lygio organas, prižiūrintis GPAI modelius ir koordinuojantis DI akto vykdymą. Šiame puslapyje paaiškinamas jo įgaliojimas, tyrimo įgaliojimai, sankcijų teisė ir kaip jis bendrauja su nacionalinėmis rinkos priežiūros institucijomis.

Kas yra ES DI biuras?

ES DI biuras (oficialiai: Dirbtinio intelekto biuras) yra ES lygio institucija, įsteigta Europos Komisijos sudėtyje, prižiūrinti ES DI akto įgyvendinimą ir vykdymą — su konkrečiu įgaliojimu dėl bendrosios paskirties DI (GPAI) modelių.

Skirtingai nei tradicinės ES agentūros (pvz., ENISA ar EBA), DI biuras nėra nepriklausoma reguliavimo institucija. Jis struktūrizuotas kaip administracinis biuras Ryšių tinklų, turinio ir technologijų generalinio direktorato (DG CONNECT) sudėtyje. Ši struktūra suteikia jam tiesioginę prieigą prie Komisijos išteklių ir darbotvarkės sudarymo, tačiau taip pat reiškia, kad jo vykdymo sprendimai techniškai yra Komisijos sprendimai, pavaldūs ES teisminei peržiūrai.

DI biuras buvo sukurtas anksti — oficialiai įsteigtas 2024 m. vasario mėn., kelis mėnesius prieš DI aktui paskelbiamam Oficialiajame leidinyje (2024 m. liepa) ir įsigaliojant (2024 m. rugpjūtis). Šis ankstyvasis įsteigimas buvo sąmoningas: GPAI reguliavimas yra jautrus laikui, atsižvelgiant į pagrindų modelių kūrimo tempą, ir Komisija norėjo, kad vykdymo infrastruktūra būtų paruošta prieš prasidedant skubiausių įpareigojimų.

Teisinis pagrindas ir įgaliojimas

ES DI biuro teisinis pagrindas yra ES DI akto VIII skyrius (Art. 64–68), papildytas 2024 m. sausio 24 d. Komisijos sprendimu, oficialiai jį įsteigusiu.

Jo pagrindinis įgaliojimas apima tris sritis:

1. GPAI modelių priežiūra (tiesioginis vykdymas)

DI biuras turi išimtinę ES lygio kompetenciją prižiūrėti bendrosios paskirties DI modelių teikėjus. Tai apima:

• V skyriaus įpareigojimų (skaidrumas, techninė dokumentacija, autorių teisių atitiktis, energetinio efektyvumo ataskaitos sistemines rizikas keliantiems modeliams) laikymosi stebėjimą
• Techninės dokumentacijos prašymą ir peržiūrą iš GPAI teikėjų
• GPAI modelių vertinimų atlikimą — įskaitant priešingą testavimą ir raudonosios komandos pratimus — siekiant įvertinti galimybes ir sistemines rizikas
• Perspėjimų išdavimą, kai GPAI modelis kelia sisteminę riziką
• Baudų ir taisomųjų priemonių skyrimą

2. Tarpvalstybinis koordinavimas (didelės rizikos DI sistemos)

Didelės rizikos DI sistemoms vykdymas yra pirmiausia nacionalinis. Tačiau DI biuras atlieka pagrindinį koordinavimo vaidmenį:

• Palengvinant keitimąsi informacija tarp nacionalinių rinkos priežiūros institucijų (RPI)
• Tvarkant atvejus, kai nesuderinta didelės rizikos DI sistema cirkuliuoja keliose valstybėse narėse
• Teikiant techninę ekspertizę ir gaires nacionalinėms institucijoms
• Prašant bendrų tyrimų, kur tarpvalstybinis poveikis yra reikšmingas

3. Mokslinis ir techninis palaikymas

DI biuras valdo Mokslinę patariamąją tarybą, sudarytą iš nepriklausomų DI ekspertų (Art. 68). Ši taryba teikia:

• Techninius GPAI modelių galimybių ir rizikų vertinimus
• Patarimus dėl klasifikavimo slenkstių (pvz., skaičiavimų slenkstis sisteminės rizikos GPAI modeliams)
• Įvestis į standartų, elgesio kodeksų ir vertinimo metodikų kūrimą

Tyrimo ir vykdymo įgaliojimai

ES DI biuras turi reikšmingus tyrimo įgaliojimus GPAI modelių teikėjų atžvilgiu, įskaitant:

Informacijos prašymai

DI biuras gali prašyti bet kokios informacijos iš GPAI teikėjo, kurią laiko reikalinga savo priežiūros užduotims (Art. 91). Teikėjai turi atsakyti per biuro nustatytą laiką. Informacijos nepateikimas arba klaidingos ar klaidinančios informacijos pateikimas yra savaime sankcionuojamas pažeidimas.

Vertinimai ir testavimas

DI biuras gali prašyti, kad GPAI teikėjas pateiktų savo modelį vertinimui, įskaitant:

• Galimybių vertinimus (identifikuojant pavojingas galimybes, pvz., CBRN pagalbą, kibernetinių atakų palengvinimą ar manipuliavimą dideliu mastu)
• Saugos ir suderinimo vertinimus
• Priešingą testavimą / raudonosios komandos veiklą

Biuras gali pats atlikti vertinimus arba juos pavesti kvalifikuotoms trečiosioms šalims ar nacionalinėms institucijoms. DI aktas reikalauja, kad sisteminės rizikos modelius turinčių GPAI teikėjai suteiktų prieigą prie savo modelių vertinimo tikslams.

Tikrinimas vietoje

Sisteminės rizikos GPAI modeliams DI biuras gali atlikti tikrinimą vietoje teikėjo patalpose, padedamas atitinkamos valstybės narės nacionalinių institucijų. Paprastai reikalingas išankstinis pranešimas, nebent biuras turi konkrečių pagrindų manyti, kad išankstinis pranešimas pakenktų tyrimui.

Laikinosios priemonės

Kur yra skubi rizika, DI biuras gali skirti laikinas laikinąsias priemones, kad būtų užkirstas kelias rimtai ir nepataisomai žalai. Šios priemonės turi būti proporcingos ir yra peržiūrimos.

Baudos

Baudos struktūrizuotos trimis lygiais:

MVĮ ir startuoliams taikoma mažesnė iš fiksuotos sumos ar apyvartos procentinės dalies. DI biuras turi atsižvelgti į pažeidimo pobūdį, sunkumą, trukmę ir pasekmes, taip pat į teikėjo bendradarbiavimo lygį.

GPAI elgesio kodeksas

Pagrindinis DI biuro instrumentas yra GPAI elgesio kodeksas — techninis savanoriškas instrumentas, sukurtas daugiašalio proceso metu, kuris verčia akto V skyriaus įpareigojimus į konkrečias įgyvendinimo gaires.

Elgesio kodekso procesas prasidėjo 2024 m. spalio mėn., DI biurui sušaukus darbo grupes iš GPAI teikėjų, akademinių tyrėjų, pilietinės visuomenės organizacijų ir nacionalinių institucijų. Jis apima:

• Skaidrumo įpareigojimus GPAI teikėjams (mokymo duomenų santraukos, galimybių dokumentacija)
• Autorių teisių atitikties procedūras
• Sisteminės rizikos vertinimo modelių vertinimo metodikas
• Saugos ir saugumo standartus sisteminės rizikos GPAI modeliams

Laikymasis elgesio kodeksas sukuria atitikties prezumpciją atitinkamoms V skyriaus įpareigojimams. Tai yra reikšminga nauda: teikėjai, besilaikantys kodekso, gali juo remtis vykdymo procesuose, o ne turėti nuo nulio įrodyti atitiktį.

DI valdyba

DI valdyba (Art. 65) veikia lygiagrečiai su DI biuru. Ji sudaryta iš:

• Vieno atstovo iš kiekvienos ES valstybės narės (nacionalinės priežiūros institucijos)
• Europos duomenų apsaugos priežiūros pareigūno (EDAPP) atstovo
• Komisijos atstovo (ne balsavimo teisę turintis pirmininkas)

DI valdybos funkcijos apima:

• DI biurui ir Komisijai teikiamas nuomones ir rekomendacijas
• Nacionalinių priežiūros metodų koordinavimą
• Patarimus dėl DI sistemų ir modelių klasifikavimo
• Prisidėjimą prie standartų ir vertinimo metodikų kūrimo

Valdyba yra patariamoji ir koordinavimo institucija — ji neturi tiesioginio vykdymo valdžios. Tačiau jos nuomonės turi reikšmingą svorį ir DI biuras tikisi jas atsižvelgti.

Nacionalinės rinkos priežiūros institucijos

Didelės rizikos DI sistemoms (ne GPAI modeliams), nacionalinės rinkos priežiūros institucijos (RPI) yra pagrindiniai vykdymo organai. Kiekviena valstybė narė turi paskirti bent vieną RPI, atsakingą už DI akto vykdymą savo teritorijoje.

RPI turi teisę:

• Atlikti rinkos priežiūros veiklą
• Prašyti techninės dokumentacijos ir prieigos žurnalų iš teikėjų ir naudotojų
• Nurodyti taisomąsias priemones (pašalinimą, atšaukimą, rinkos prieigos apribojimą)
• Skirti baudas pagal nacionalinius įgyvendinimo teisės aktus

DI biuras koordinuoja su RPI per DI valdybą ir dvišalį bendradarbiavimą, tačiau jomis nevadovauja. Valstybės narės atsakingos už savo RPI išteklius ir įgalinimą.

Praktinės reikšmės GPAI teikėjams

Jei kuriate ar diegiate bendrosios paskirties DI modelį, prieinamą ES rinkoje, ES DI biuras yra jūsų pagrindinis reguliavimo partneris. Praktiškai tai reiškia:

1. Registruokitės ir dokumentuokitės aktyviai — DI biuras tikisi, kad teikėjai turės techninę dokumentaciją paruoštą prieš būdami paprašyti. Dokumentacijos rengimas po užklausos nėra stipri atitikties pozicija.

2. Įsitraukite į elgesio kodeksą — dalyvavimas GPAI elgesio kodekso procese ir jo nuostatų priėmimas sukuria atitikties prezumpciją ir parodo gerą valią DI biurui.

3. Žinokite savo sisteminės rizikos statusą — dabartinis sisteminės rizikos klasifikavimo slenkstis yra mokymo skaičiavimai, viršijantys 10^25 skaičiuotinių operacijų. Jei jūsų modelis yra artimas šiam slenksčiui ar viršija jį, aktyviai kreipkitės į DI biurą dėl vertinimo įpareigojimų.

4. Ruoškitės vertinimams — jei kuriate sisteminės rizikos GPAI modelį, turite gebėti suteikti modelio prieigą vertinimui. Tam reikalinga techninė infrastruktūra kontroliuojamam API prieigai, priešingo testavimo bendradarbiavimui ir raudonosios komandos rezultatų dokumentavimui.

5. Stebėkite perspėjimus ir nuomones — DI biuras savo svetainėje skelbia gaires, perspėjimus ir nuomones. Tai nėra privalomi teisės aktai, tačiau jie signalizuoja vykdymo prioritetus ir aiškinimo pozicijas, kurios formuos tyrimus.