EU:n tekoälyvirasto: Mandaatti, toimivaltuudet ja rooli tekoälyasetuksen täytäntöönpanossa

EU:n tekoälyvirasto, joka on perustettu Euroopan komission yhteyteen, on ensisijainen EU-tason elin, joka valvoo GPAI-malleja ja koordinoi tekoälyasetuksen täytäntöönpanoa. Tällä sivulla selitetään sen mandaatti, tutkinnalliset toimivaltuudet, seuraamusvaltuudet ja vuorovaikutus kansallisten markkinavalvontaviranomaisten kanssa.

Mikä on EU:n tekoälyvirasto?

EU:n tekoälyvirasto (virallisesti: tekoälyn virasto) on EU-tason elin, joka on perustettu Euroopan komission yhteyteen EU:n tekoälyasetuksen täytäntöönpanon ja noudattamisen valvomiseksi — erityisellä mandaatilla yleiskäyttöisten tekoälymallien (GPAI) osalta.

Perinteisistä EU-virastoista (kuten ENISA tai EBA) poiketen tekoälyvirasto ei ole riippumaton sääntelyviranomainen. Se on rakenteeltaan hallinnollinen virasto viestintäverkkojen, sisällön ja teknologian pääosaston (DG CONNECT) alaisuudessa. Tämä rakenne antaa sille suoran pääsyn komission resursseihin ja asialistan asettamiseen, mutta tarkoittaa myös, että sen täytäntöönpanopäätökset ovat teknisesti komission päätöksiä, jotka ovat EU:n tuomioistuinvalvonnan alaisia.

Tekoälyvirasto perustettiin varhaisessa vaiheessa — virallisesti helmikuussa 2024 — useita kuukausia ennen kuin tekoälyasetus julkaistiin virallisessa lehdessä (heinäkuussa 2024) ja tuli voimaan (elokuussa 2024). Tämä varhainen perustaminen oli tarkoituksellista: GPAI-sääntely on aikakriittistä perusmallien kehityksen tahdin vuoksi, ja komissio halusi täytäntöönpanon infrastruktuurin valmiiksi ennen kuin kiireellisimmät velvoitteet astuivat voimaan.

Oikeusperusta ja mandaatti

EU:n tekoälyviraston oikeusperusta on EU:n tekoälyasetuksen luku VIII (Art. 64–68), täydennettynä 24. tammikuuta 2024 annetulla komission päätöksellä, jolla se virallisesti perustettiin.

Sen ydínmandaatti kattaa kolme aluetta:

1. GPAI-mallien valvonta (suora täytäntöönpano)

Tekoälyvirastolla on yksinomainen EU-tason toimivalta yleiskäyttöisten tekoälymallien tarjoajien valvomiseksi. Tähän kuuluu:

• Luvun V velvoitteiden (avoimuus, tekninen dokumentaatio, tekijänoikeuksien noudattaminen, energiatehokkuuden raportointi systeemisen riskin malleja varten) noudattamisen seuranta
• Teknisen dokumentaation pyytäminen ja tarkistaminen GPAI-tarjoajilta
• GPAI-mallien arviointien suorittaminen — mukaan lukien vastustajatestaus ja red team -harjoitukset — kyvykkyyksien ja systeemisten riskien arvioimiseksi
• Hälytysten antaminen, kun GPAI-malli aiheuttaa systeemistä riskiä
• Sakkojen ja korjaustoimenpiteiden määrääminen

2. Rajat ylittävä koordinointi (korkeariskiset tekoälyjärjestelmät)

Korkeariskisten tekoälyjärjestelmien osalta täytäntöönpano on ensisijaisesti kansallista. Tekoälyvirasto kuitenkin hoitaa keskeistä koordinointiroolia:

• Tietojenvaihdon helpottaminen kansallisten markkinavalvontaviranomaisten (MSA) välillä
• Tapausten käsittely, joissa vaatimustenvastainen korkeariskinen tekoälyjärjestelmä kiertää useissa jäsenvaltioissa
• Teknisen asiantuntemuksen ja ohjaukseen tarjoaminen kansallisille viranomaisille
• Yhteistutkimusten pyytäminen, joilla on merkittäviä rajat ylittäviä vaikutuksia

3. Tieteellinen ja tekninen tuki

Tekoälyvirasto ylläpitää tieteellistä neuvostoa, joka koostuu riippumattomista tekoälyasiantuntijoista (Art. 68). Tämä neuvosto tarjoaa:

• GPAI-mallien kyvykkyyksien ja riskien tekniset arvioinnit
• Neuvoja luokittelukynnyksistä (esim. systeemisen riskin GPAI-mallien laskentakynnys)
• Panoksia standardien, käytännesääntöjen ja arviointimetodologioiden kehittämiseen

Tutkinnalliset ja täytäntöönpanovaltuudet

EU:n tekoälyvirastolla on merkittäviä tutkinnallisia toimivaltuuksia GPAI-mallien tarjoajien osalta, mukaan lukien:

Tietopyynnöt

Tekoälyvirasto voi pyytää GPAI-tarjoajalta mitä tahansa tietoja, joita se pitää välttämättöminä valvontatehtäviensä kannalta (Art. 91). Tarjoajien on vastattava viraston asettaman aikataulun kuluessa. Tietojen toimittamatta jättäminen tai väärän tai harhaanjohtavan tiedon antaminen on itsessään sanktioitavissa oleva rikos.

Arvioinnit ja testaukset

Tekoälyvirasto voi pyytää GPAI-tarjoajaa toimittamaan mallinsa arviointia varten, mukaan lukien:

• Kyvykkyysarvioinnit (vaarallisten kyvykkyyksien, kuten CBRN-avustuksen, kyberhyökkäyksen helpottamisen tai laajamittaisen manipulaation tunnistaminen)
• Turvallisuus- ja yhdenmukaistamisarvioinnit
• Vastustajatestaus / red-teaming

Virasto voi suorittaa arvioinnit itse tai ulkoistaa ne päteville kolmansille osapuolille tai kansallisille viranomaisille. Tekoälyasetus edellyttää, että systeemisen riskin mallien GPAI-tarjoajat antavat pääsyn malleihiinsa arviointitarkoituksiin.

Paikan päällä tehtävät tarkastukset

Systeemisen riskin GPAI-mallien osalta tekoälyvirasto voi suorittaa paikan päällä tehtäviä tarkastuksia tarjoajan tiloissa asianomaisen jäsenvaltion kansallisten viranomaisten avustuksella. Ennakkoilmoitus on yleensä vaatimus, paitsi jos virastolla on erityisiä perusteita uskoa, että ennakkoilmoitus vaarantaisi tutkinnan.

Väliaikaiset toimenpiteet

Kun on kiireellinen riski, tekoälyvirasto voi määrätä väliaikaisia toimenpiteitä vakavan ja korjaamattoman vahingon estämiseksi. Näiden toimenpiteiden on oltava oikeasuhtaisia ja ne ovat tarkistuksen alaisia.

Sakot

Sakot on rakennettu kolmeen portaaseen:

PK-yrityksille ja startupeille sovelletaan kiinteän summan tai liikevaihdon prosenttiosuuden alempaa määrää. Tekoälyviraston on otettava huomioon rikkomuksen luonne, vakavuus, kesto ja seuraukset sekä tarjoajan osoittama yhteistyötaso.

GPAI:n käytännesäännöt

Tekoälyviraston keskeinen instrumentti on GPAI:n käytännesäännöt — tekninen vapaaehtoinen instrumentti, joka on kehitetty monisidosryhmäprosessissa ja joka kääntää asetuksen luvun V velvoitteet konkreettisiksi toteutusohjeiksi.

Käytännesääntöprosessi alkoi lokakuussa 2024, kun tekoälyvirasto kokosi GPAI-tarjoajien, akateemisten tutkijoiden, kansalaisyhteiskunnan organisaatioiden ja kansallisten viranomaisten työryhmiä. Se kattaa:

• GPAI-tarjoajien avoimuusvelvoitteet (koulutustietojen yhteenvedot, kyvykkyydendokumentaatio)
• Tekijänoikeuksien noudattamismenettelyt
• Mallin arviointimetodologiat systeemisen riskin arviointia varten
• Systeemisen riskin GPAI-mallien turvallisuus- ja tietoturvastandardit

Käytännesääntöjen noudattaminen luo vaatimustenmukaisuusolettaman vastaavien luvun V velvoitteiden osalta. Tämä on merkittävä etu: käytännesääntöjä noudattavat tarjoajat voivat nojautua niihin täytäntöönpanomenettelyissä sen sijaan, että heidän tarvitsisi osoittaa vaatimustenmukaisuus tyhjästä.

Tekoälylautakunta

Tekoälylautakunta (Art. 65) toimii rinnakkain tekoälyviraston kanssa. Se koostuu:

• Yhdestä edustajasta EU:n jäsenvaltiota kohti (kansalliset valvontaviranomaiset)
• Euroopan tietosuojavaltuutetun (EDPS) edustajasta
• Komission edustajasta (äänioikeudeton puheenjohtaja)

Tekoälylautakunnan tehtäviin kuuluu:

• Lausuntojen ja suositusten antaminen tekoälyvirastolle ja komissiolle
• Kansallisten valvontalähestymistapojen koordinointi
• Tekoälyjärjestelmien ja -mallien luokittelusta neuvominen
• Standardien ja arviointimetodologioiden kehittämiseen osallistuminen

Lautakunta on neuvoa-antava ja koordinointielin — sillä ei ole suoraa täytäntöönpanotoimivaltaa. Sen lausunnoilla on kuitenkin merkittävä painoarvo ja tekoälyviraston odotetaan ottavan ne huomioon.

Kansalliset markkinavalvontaviranomaiset

Korkeariskisten tekoälyjärjestelmien (ei GPAI-mallien) osalta kansalliset markkinavalvontaviranomaiset (MSA) ovat ensisijaisia täytäntöönpanoelimiä. Jokaisen jäsenvaltion on nimettävä vähintään yksi MSA, joka vastaa tekoälyasetuksen täytäntöönpanosta alueellaan.

MSA:lla on toimivalta:

• Suorittaa markkinavalvontatoimia
• Pyytää teknistä dokumentaatiota ja käyttölokeja tarjoajilta ja käyttäjiltä
• Määrätä korjaustoimenpiteitä (vetäminen, palautukset, markkinoillepääsyn rajoittaminen)
• Määrätä sakkoja kansallisen täytäntöönpanolainsäädännön nojalla

Tekoälyvirasto koordinoi MSA:iden kanssa tekoälylautakunnan kautta ja kahdenvälisen yhteistyön avulla, mutta ei johda niitä. Jäsenvaltiot vastaavat MSA:idensa resursoinnista ja valtuuttamisesta.

Käytännön seuraukset GPAI-tarjoajille

Jos kehität tai otat käyttöön EU:n markkinoilla saatavilla olevan yleiskäyttöisen tekoälymallin, EU:n tekoälyvirasto on ensisijainen sääntelyosapuolesi. Käytännössä tämä tarkoittaa:

1. Rekisteröidy ja dokumentoi ennakoivasti — tekoälyvirasto odottaa tarjoajien pitävän tekninen dokumentaatio valmiina ennen kuin heitä pyydetään. Dokumentaation valmistelun noputtaminen tiedustelun jälkeen ei ole vahva vaatimustenmukaisuusasenne.

2. Osallistu käytännesääntöihin — GPAI:n käytännesääntöprosessiin osallistuminen ja sen säännösten omaksuminen luo vaatimustenmukaisuusolettaman ja osoittaa vilpitöntä mieltä tekoälyvirastolle.

3. Tiedä systeemisen riskisi tila — systeemisen riskin luokittelun nykyinen kynnys on koulutuksen laskentamäärä, joka ylittää 10^25 FLOPia. Jos mallisi on lähellä tai ylittää tämän kynnyksen, ota yhteyttä tekoälyvirastoon ennakoivasti arviointivelvoitteista.

4. Valmistaudu arviointeihin — jos kehität systeemisen riskin GPAI-mallin, sinun on kyettävä tarjoamaan mallipääsy arviointia varten. Tämä edellyttää teknistä infrastruktuuria hallittua API-pääsyä varten, vastustajatestaukseen yhteistyötä ja red-teaming-tulosten dokumentaatiota.

5. Seuraa hälytyksiä ja lausuntoja — tekoälyvirasto julkaisee ohjausta, hälytyksiä ja lausuntoja verkkosivuillaan. Nämä eivät ole sitovia asetuksia, mutta ne ilmaisevat täytäntöönpanoprioriteetit ja tulkinta-asemat, jotka muovaavat tutkimuksia.