EU:n tekoälyasetuksen avoimuusvelvoitteet (Art. 50) — Chatbotit, syväväärennökset ja synteettinen sisältö

Useimmat tekoälyjärjestelmät eivät ole korkeariskisiä — ne kuuluvat Art. 50:n avoimuusvelvoitteiden piiriin. Jos otat käyttöön chatbotin, tuotat synteettisiä kuvia tai käytät tunnehavaitsemista, tässä on tarkalleen se, mitä sinun on ilmoitettava ja merkittävä.

Ketkä kuuluvat Art. 50:n piiriin (ei korkeariskinen)

EU:n tekoälyasetus luo porrastetun riskikehyksen. Useimmat tänään käyttöön otetut tekoälyjärjestelmät eivät täytä korkeariskistä Annex III:n tai liitteen I mukaista luokittelua — ne kuuluvat yhteen kahdesta kevyemmästä luokasta:

• Pelkät avoimuusvelvoitteet (Art. 50): chatbotit, syväväärennösgeneraattorit, synteettisen sisällön järjestelmät, tunnehavaitsemisjärjestelmät ja biometrisen luokittelun työkalut
• Minimiriski: roskapostisuodattimet, tekoäly peleissä, suosittelujärjestelmät — vain vapaaehtoisten käytännesääntöjen alaisia

Kriittinen ero liitteen III korkeariskisistä järjestelmistä on, että pelkän avoimuusvelvoitteen järjestelmät vaativat ilmoittamisen, ei vaatimustenmukaisuuden arviointia, teknistä dokumentaatiota tai CE-merkintää. Taakka on huomattavasti pienempi, mutta noudattamatta jättäminen on silti sanktioitavissa 7,5 miljoonan euron sakoilla.

Sen ymmärtäminen, mihin luokkaan järjestelmäsi kuuluu, on ensimmäinen vaatimustenmukaisuusvaihe. Tekoälyn riskiLuokittelutyökalu voi auttaa sinua selvittämään, mitä velvoitteita soveltuu.

Art. 50(1) — Vuorovaikutteinen tekoäly ja chatbotit

Minkä tahansa suoraan luonnollisten henkilöiden kanssa vuorovaikutuksessa olevan tekoälyjärjestelmän on ilmoitettava käyttäjälle olevansa tekoälyjärjestelmä. Ilmoituksen on oltava:

• Ajoissa — tehtävä vuorovaikutuksen alussa ennen merkittävää vaihtoa
• Selkeä ja erottuva — ei haudattuna käyttöehtoihin tai pienellä tekstillä alatunnisteisiin
• Ymmärrettävä — asianyhteyttä mukaileva, jotta henkilö todella ymmärtää sen

Soveltamisala: Asiakaspalvelubotit, virtuaaliavustajat, tekoälypohjaiset puhelinasiamiehet, sosiaalisen median vuorovaikutteinen tekoäly ja tekoälypohjaiset tukichatit verkkosivustoilla. Jos ihmiseen päin oleva käyttöliittymä käyttää kielimallia dialogin käymiseen, Art. 50(1) soveltuu.

Poikkeus 1: Jos tekoälyluonne on ilmeinen asianyhteydestä — esimerkiksi selkeästi brändätty tekoälyavustaja robottiavatarilla tuoteliittymässä — ilmoitusvelvoitteen voidaan katsoa täyttyvän. "Ilmeinen" on kuitenkin korkea kynnys; implisiittiset käyttöliittymävihjeet yksinään eivät todennäköisesti riitä, jos käyttäjät voisivat kohtuudella uskoa puhuvansa ihmiselle.

Poikkeus 2: Kansallisella lailla lainvalvontatarkoituksiin valtuutetut järjestelmät (esim. toimivaltaisten viranomaisten käyttämät peitetutkimustyökalut).

Vaatimustenmukaisuuden määräaika: 2. elokuuta 2026 (Digital Omnibus 2026 pidensi alkuperäisestä 2. elokuuta 2025). Ennen tätä määräaikaa käyttöön otetut järjestelmät on saatettava vaatimustenmukaisiksi — niitä ei voida jättää ennalleen.

Art. 50(2) — Tunnehavaitsemisen ilmoittaminen

Tunnehavaitsemisjärjestelmien tarjoajien ja käyttäjien on tiedotettava luonnollisille henkilöille, joiden emotionaalista tai psykologista tilaa päätetään. Tämä sisältää järjestelmät, jotka havaitsevat, luokittelevat tai pisteyttävät tunteita, kuten iloisuutta, vihaa, ahdistusta, sitoutumista tai pettämistä kasvojen ilmeistä, äänensävystä, fysiologisista signaaleista tai käyttäytymisistä.

Soveltamisala: Henkilöstöhaastattelun analyysityökalut, jotka pisteyttävät ehdokkaan sitoutumista tai stressiä; asiakastunnelmajärjestelmät, jotka valvovat puhelinpalvelukeskuksen vuorovaikutuksia; turvallisuusseulontatyökalut, jotka väittävät havaitsevansa petollisen tarkoituksen; vähittäiskaupan järjestelmät, jotka seuraavat emotionaalista reagointia tuotteisiin.

Ei koske: Tekoälyjärjestelmiä, jotka havaitsevat fysiologisia tiloja puhtaasti turvallisuustarkoituksiin — esimerkiksi väsyneen kuljettajan havaitsemisjärjestelmiä, jotka valvovat silmän liikettä ja käynnistävät hälytyksen mutta eivät päättele tai tallenna emotionaalisia tiloja muihin tarkoituksiin. Turvallisuustarkoituksen poikkeus on kapea; muihin tarkoituksiin profilointiin uudelleenkäyttötarkoitetut järjestelmät menettävät poikkeuksen.

Jos tunnehavaitsemisjärjestelmä on myös korkeariskinen liitteen III mukaisesti (esim. työsuhteeseen liittyvä seulonta), täydet korkeariskiset velvoitteet soveltuvat Art. 50(2) ilmoittamisen lisäksi.

Art. 50(3) — Biometrisen luokittelun ilmoittaminen

Tekoälyjärjestelmät, jotka päättelevät arkaluonteisia henkilökohtaisia ominaisuuksia — mukaan lukien rotuun tai etniseen alkuperään, poliittisiin mielipiteisiin, ammattiliiton jäsenyyteen, uskonnollisiin tai filosofisiin vakaumuksiin tai seksuaaliseen suuntautumiseen — biometrisistä tiedoista, on tiedotettava järjestelmälle altistuneille henkilöille.

Tämä velvoite soveltuu järjestelmiin, jotka luokittelevat henkilöitä biometristen syötteiden perusteella, riippumatta siitä, onko luokittelu ensisijainen tarkoitus vai alajuurinen päätelmä. Järjestelmä, joka käyttää kasvojentunnistusta todennäköisten demografisten attribuuttien päättelemiseen, käynnistää Art. 50(3):n, vaikka sen ilmoitettu tarkoitus on jotain muuta.

Tärkeä raja Art. 5:een: Luonnollisten henkilöiden reaaliaikainen etäbiometrinen tunnistaminen julkisesti saavutettavissa tiloissa lainvalvontatarkoituksiin on Art. 5:n mukaan suorasanaisesti kielletty, ei vain ilmoittamisvelvoitteen alainen. Jos järjestelmä on kielletty, avoimuusvelvoitteet ovat merkityksettömiä — sitä ei voida ottaa laillisesti käyttöön lainkaan. Katso kielletyt käytännöt Art. 5:n mukaan täydellisestä kiellettyjen järjestelmien luettelosta.

Art. 50(4) — Tekoälyn tuottama ja synteettinen sisältö: merkintä

Suuressa mittakaavassa synteettistä ääntä, kuvaa, videota tai tekstiä tuottavien tai manipuloivien tekoälyjärjestelmien tarjoajien on teknisesti merkittävä tuotos koneluettavassa muodossa. Merkinnän on:

• Oltava havaittavissa ja yhteentoimiva alustojen ja varmentamistyökalujen välillä
• Pysyttävä, kun sisältöä jaetaan, uudelleenkoodataan tai uudelleenjaetaan
• Noudatettava Euroopan tekoälyviraston kehittämää teknistä standardia (tekoälyn tuottaman sisällön provenienssistandardi, jota kutsutaan joskus ATMF:ksi)

Soveltamisala: Tekstistä kuvaksi -generaattorit (Midjourney, Stable Diffusion, DALL-E-vastaavat); video- synteesi ja syväväärennösvideot; äänen kloonausjärjestelmät; tekoälykirjoitusavustajat, jotka tuottavat laajamittaista tuotosta (esim. automaattinen uutistuotanto, markkinointisisältö laajassa mittakaavassa ilman toimituksellista tarkastusta).

Poikkeus: Tekoälyjärjestelmät, jotka tuottavat ihmisten toimituksellisesti tarkistamaa sisältöä, josta ihminen ottaa toimituksellisen vastuun. Toimittaja, joka käyttää tekoälyn luonnostelua, tarkistaa ja merkittävästi muokkaa tuotosta ennen julkaisemista, jää kyseisen käytön merkintävelvoitteen ulkopuolelle. Sama järjestelmä, jota käytetään ilman toimituksellista valvontaa, ei.

Tarjoajien tulisi toteuttaa tekninen merkintä infrastruktuuritasolla — vesileimaus, kryptografinen provenienssimetadata tai standardien mukainen sisällön tunnistetiedot — ei valinnaisena ominaisuutena vaan oletuksena olevana tuotoskäyttäytymisenä.

Art. 50(5) — Käyttäjän velvoite syväväärennösten ilmoittamiseen

Kun käyttäjä käyttää tekoälyjärjestelmää syväväärennössisällön — reaalihenkilöiden synteettisten tai manipuloitujen kuvien, äänen tai videon — tuottamiseen, käyttäjän on selkeästi merkittävä sisältö tekoälyn tuottamaksi tai manipuloimaksi. Merkinnän on oltava:

• Näkyvä kuva- tai videosisällön tapauksessa
• Kuultava äänisisällön tapauksessa
• Sijoitettu tavalla, joka on yleisölle ilmeinen, ei vain metadataan upotettuna

Poikkeukset: Satiiriin, parodiaan tai taiteelliseen ilmaisuun tuotettu sisältö, jossa tekoälyn tuottama luonne on yleisölle ilmeinen. Selkeästi parodisissa tai satiirimuodoissa työskentelevien tekijöiden tulisi kuitenkin dokumentoida tarkoituksensa, koska täytäntöönpanoviranomaiset arvioivat, oliko tekoälyluonne todella ilmeinen asianyhteydestä.

Tämä velvoite koskee käyttäjää — organisaatiota tai henkilöä, joka saattaa sisällön käyttöön — ei vain järjestelmän tarjoajaa. Kolmannen osapuolen syväväärennösvideota käyttävä markkinointitoimisto on käyttäjä ja kantaa merkintävelvoitteen.

Käytännön vaatimustenmukaisuusvaiheet järjestelmätyypeittäin

Kolmannen osapuolen tekoälyjärjestelmiä käyttävillä käyttäjillä on avoimuusvelvoitteet itsenäisesti riippumatta siitä, onko tarjoaja täyttänyt omansa. Käyttäjä ei voi luottaa tarjoajan ilmoittamiseen omansa korvikkeena.

Suhde GDPR:ään

Art. 50:n avoimuusvelvoitteet ovat oikeudellisesti riippumattomia GDPR:n Art. 22:sta (automatisoitu yksittäinen päätöksenteko). Sama järjestelmä voi käynnistää molemmat kehykset samanaikaisesti.

Esimerkki: Lainahakemusprosessin ensimmäisenä vaiheena käytettävän chatbotin on:

1. Ilmoitettava olevansa tekoälyjärjestelmä vuorovaikutuksen alussa (Art. 50(1))
2. Jos chatbot tekee tai merkittävästi myötävaikuttaa yksinomaiseen automatisoituun päätökseen, jolla on oikeudellisia tai vastaavia merkittäviä vaikutuksia, käyttäjän on myös tarjottava GDPR:n Art. 22:n mukaiset oikeudet — oikeus olla olematta automatisoitua päätöstä, oikeus ihmisen tarkastukseen ja oikeus selitykseen

Tekoälyä säännellyillä aloilla (rahoituspalvelut, vakuutus, henkilöstöhallinto) käyttöönottavien organisaatioiden tulisi kartoittaa sekä Art. 50:n velvoitteet että GDPR:n Art. 22:n soveltuvuus osana samaa vaatimustenmukaisuuden tarkastelua. Kehykset täydentävät toisiaan, eivät sulje toisiaan pois.

Sakot noudattamatta jättämisestä

Art. 50:n avoimuusvelvoitteiden noudattamatta jättämisestä seuraa sakko enintään 7,5 miljoonaa euroa tai 1,5 % edeltävän tilikauden kokonaismaailmanlaajuisesta vuosiliikeVaihdosta, kumpi tahansa on suurempi. PK-yrityksille ja startupeille prosenttikynnys tuottaa yleensä pienemmän luvun; suurille yrityksille absoluuttinen enimmäismäärä on todennäköisemmin sovellettavissa.

Täytäntöönpanotoimivalta kuuluu Art. 74:n mukaisesti nimetyille kansallisille markkinavalvontaviranomaisille ja GPAI-mallien tarjoajien osalta EU:n tekoälyvirastolle. Valvontatoimet voivat sisältää virallisia tutkimuksia, väliaikaisia toimenpiteitä, käyttöönoton keskeyttämismääräyksiä ja julkista ilmoittamista havainnoista.

Merkintä- ja merkitsemisvelvoitteiden noudattamatta jättäminen on odotettavasti ensimmäisten täytäntöönpanoprioriteettitten joukossa, koska synteettinen media ja syväväärennökset ovat julkisesti korkeasti esillä — useiden jäsenvaltioiden sääntelyviranomaiset ovat jo ilmoittaneet aikovansa toimia merkitsemättömien tekoälyn tuottaman sisältöjen osalta ennen laajempaa korkeariskisen tekoälyn täytäntöönpanoa.

Seuraavat vaiheet

• Käytä tekoälyn riskiLuokittelijaa selvittääksesi, onko järjestelmäsi pelkän avoimuusvelvoitteen vai korkeariskisen luokassa
• Tarkista kielletyt käytännöt Art. 5:n mukaan vahvistaaksesi, ettei järjestelmäsi kuulu kiellettyyn luokkaan ennen avoimuusvelvoitteiden arviointia
• Seuraa Euroopan tekoälyviraston tekoälyn tuottaman sisällön provenienssistandardin julkaisemista Art. 50(4):n teknisiä merkintävaatimuksia varten