EL AI seaduse läbipaistvuskohustused (Art. 50) — vestlusrobotid, süvavõltsingud ja sünteetiline sisu

Enamik AI-süsteeme ei ole kõrge riskiga — need kuuluvad Art. 50 läbipaistvuskohustuste alla. Kui kasutate vestlusrobotit, genereerite sünteetilisi pilte või kasutate emotsioonide tuvastamist, siis siin on täpselt see, mida peate avaldama ja märgistama.

Kes allub Art. 50-le (mitte kõrge riskiga)

EL AI seadus kehtestab mitmeastmelise riskide raamistiku. Enamik täna kasutusele võetud AI-süsteeme ei kvalifitseeru kõrge riskiga III lisa või I lisa alusel — need kuuluvad ühte kahest kergemast kategooriast:

• Ainult läbipaistvuskohustused (Art. 50): vestlusrobotid, süvavõltsingute generaatorid, sünteetilise sisu süsteemid, emotsioonide tuvastamise süsteemid ja biomeetrilise kategoriseerimise tööriistad
• Minimaalne risk: rämpsposti filtrid, AI mängudes, soovitussüsteemid — ainult vabatahtlikud tegevusjuhendid

Kriitiline erinevus III lisa kõrge riskiga süsteemidest on see, et ainult läbipaistvusega süsteemid nõuavad avalikustamist, mitte vastavushindamist, tehnilist dokumentatsiooni ega CE-märgist. Koormus on oluliselt madalam, kuid mittevastavus on endiselt sanktsioneeritav rikkumine trahvidega kuni 7,5 miljonit eurot.

Teie süsteemi poolt hõivatava taseme mõistmine on esimene vastavussamm. AI riskiklassifikaatori tööriist aitab teil välja selgitada, millised kohustused kehtivad.

Art. 50(1) — Vestluslik AI ja vestlusrobotid

Iga AI-süsteem, mis on kavandatud otse füüsiliste isikutega suhtlemiseks, peab teavitama kasutajat, et nad suhtlevad AI-süsteemiga. Avalikustamine peab olema:

• Õigeaegne — tehtud suhtluse alguses, enne sisukat vahetust
• Selge ja eristatav — mitte maetud teenuse tingimustesse ega väikese kirja jalustesse
• Arusaadav — kohandatud kontekstile nii, et inimene seda tegelikult mõistab

Ulatus: Klienditeeninduse botid, virtuaalsed assistendid, AI-telefoni agendid, vestluslik AI sotsiaalmeedias integreeritud ja AI-toega tugi veebisaitidel. Kui inimesele suunatud liides kasutab dialoogi pidamiseks keelemudelit, kohaldub Art. 50(1).

Erand 1: Kus AI olemus on kontekstist ilmne — näiteks selgelt kaubamärgistatud AI assistent robotavatariga tooteliideses — võib avalikustamiskohustus olla täidetud. Kuid "ilmne" on kõrge lävi; kaudsed UI-vihjed üksi ei piisa tõenäoliselt seal, kus kasutajad võiksid põhjendatult uskuda, et räägivad inimesega.

Erand 2: Riikliku õiguse alusel õiguskaitse eesmärkidel volitatud süsteemid (nt pädevate asutuste kasutatavad varjatud uurimise tööriistad).

Vastavustähtaeg: 2. august 2026 (pikendatud 2026. aasta digitaalse omnibusega algsest 2. augustist 2025). Enne seda tähtaega kasutusele võetud süsteemid tuleb viia vastavusse — neid ei saa vabastada.

Art. 50(2) — Emotsioonide tuvastamise avalikustamine

Emotsioonide tuvastamise süsteemide pakkujad ja kasutuselevõtjad peavad teavitama füüsilisi isikuid, kelle emotsionaalset või psühholoogilist seisundit järeldatakse. See hõlmab süsteeme, mis tuvastavad, klassifitseerivad või hindavad selliseid emotsioone nagu rõõm, viha, distress, kaasatus või petmine näoilmete, häältooni, füsioloogiliste signaalide või käitumisvihjete põhjal.

Ulatus: Personalijuhtimise intervjuude analüüsivahendid, mis hindavad kandidaatide kaasatust või stressi; kliendi sentimendi süsteemid, mis jälgivad kõnekeskuse suhtlust; turvalisuse sõelumise tööriistad, mis väidavad, et tuvastavad petlikku kavatsust; jaemüügi süsteemid, mis jälgivad emotsionaalset reageerimist toodetele.

Ei hõlma: AI-süsteemid, mis tuvastavad füsioloogilisi seisundeid puhtalt ohutuse eesmärkidel — näiteks unise juhi tuvastamise süsteemid, mis jälgivad silmade liikumist ja käivitavad hoiatuse, kuid ei järelda ega salvesta emotsionaalseid seisundeid muul otstarbel. Ohutuse eesmärgi erand on kitsas; profiilide koostamiseks ümber kasutatud süsteemid kaotavad erandi.

Kus emotsioonide tuvastamise süsteem on ka III lisa kõrge riskiga süsteem (nt tööhõive sõelumine), kohalduvad täielikud kõrge riskiga kohustused lisaks Art. 50(2) avalikustamisele.

Art. 50(3) — Biomeetrilise kategoriseerimise avalikustamine

AI-süsteemid, mis järeldavad tundlikke isikuandmeid — sealhulgas rassiline või etniline päritolu, poliitilised arvamused, ametiühinguliikmelisus, usulised või filosoofilised veendumused või seksuaalne sättumus — biomeetrilistest andmetest, peavad teavitama süsteemile eksponeeritud isikuid.

See kohustus kehtib süsteemidele, mis kategoriseerivad isikuid biomeetriliste sisendite põhjal, olenemata sellest, kas kategoriseerimine on peamine eesmärk või allpool olev järeldus. Süsteem, mis kasutab näotuvastust tõenäoliste demograafiliste omaduste järeldamiseks, käivitab Art. 50(3), isegi kui selle väidetav eesmärk on midagi muud.

Oluline piir Art. 5-ga: Füüsiliste isikute reaalajas kaugbomeetriline tuvastamine avalikult ligipääsetavates kohtades õiguskaitse poolt on Art. 5 alusel täielikult keelatud, mitte ainult avalikustamiskohustusele alluv. Kus süsteem on keelatud, on läbipaistvuskohustused ebaolulised — seda ei saa seaduslikult kasutusele võtta üldse. Vt keelatud tavad Art. 5 alusel keelatud süsteemide täieliku loetelu jaoks.

Art. 50(4) — AI-loodud ja sünteetilise sisu märgistamine

Sünteetilist heli-, pildi-, video- või tekstisisu suuremahuliselt genereerivate või manipuleerivate AI-süsteemide pakkujad peavad tekniliselt märgistama väljundi masinloetavas vormingus. Märgis peab:

• Olema tuvastatav ja koostalitlusvõimeline üle platvormide ja kontrollitööriistade
• Püsima, kui sisu jagatakse, uuesti kodeeritakse või levitatakse
• Vastama Euroopa AI büroo poolt arendatavale tehnilisele standardile (AI-loodud sisu päritolustandard, mõnikord nimetatud ATMF-iks)

Ulatus: Tekst-pilt generaatorid (Midjourney, Stable Diffusion, DALL-E ekvivalendid); video süntees ja süvavõltsingu videotööriistad; häälkloonimise süsteemid; AI kirjutamisassistendid, mis toodavad suuremahulisi väljundeid (nt automatiseeritud uudiste genereerimine, turunduskoopia suuremahuliselt ilma toimetuse ülevaatuseta).

Erand: AI-süsteemid, mis genereerivad sisu, mis on läbinud inimtoimetaja ülevaatuse, mille eest inimene võtab toimetuse vastutuse. Ajakirjanik, kes kasutab AI kavandamistööriista, vaatab üle ja muudab oluliselt väljundi enne avaldamist, jääb selle konkreetse kasutuse puhul märgistamiskohustusest välja. Sama süsteem, mis on kasutusele võetud ilma toimetuse järelevalveta, seda ei tee.

Pakkujad peaksid rakendama tehnilist märgistamist infrastruktuuri tasemel — vesimärgistamine, krüptograafilised päritolu metaandmed või standarditega ühilduvad sisulised volitused — mitte valikulise funktsioonina, vaid vaikimisi väljundkäitumisena.

Art. 50(5) — Kasutuselevõtja kohustus süvavõltsingute avalikustamiseks

Kus kasutuselevõtja kasutab AI-süsteemi süvavõltsingu sisu — reaalsete isikute sünteetiliste või manipuleeritud piltide, heli või video — tootmiseks, peab kasutuselevõtja selgelt märgistama sisu AI-loodud või manipuleeritud. Märgis peab olema:

• Nähtav pildi- või videosisu puhul
• Kuuldav helisisu puhul
• Paigutatud nii, et see on publikule ilmne, mitte ainult metaandmetesse manustatud

Erandid: Sisu, mis on toodetud satiiri, paroodia või kunstilise väljenduse jaoks, kus AI-loodud olemus on publikule ilmne. Selgelt paroodilistes või satiirilistes formaatides töötavad loojad peaksid siiski dokumenteerima oma kavatsuse, kuna täitevorganid hindavad, kas AI olemus oli tegelikult ilmne kontekstis.

See kohustus lasub kasutuselevõtjal — organisatsioonil või isikul, kes võtab sisu kasutusele — mitte ainult süsteemi pakkujal. Turundusagentuur, mis kasutab kolmanda osapoole süvavõltsingute videotööriista, on kasutuselevõtja ja kannab märgistamiskohustust.

Praktilised vastavussammud süsteemi tüübi järgi

Kasutuselevõtjad, kes kasutavad kolmanda osapoole AI-süsteeme, kannavad läbipaistvuskohustusi sõltumatult sellest, kas pakkuja on oma täitnud. Kasutuselevõtja ei saa tugineda pakkuja avalikustamisele oma enda asendusena.

Seos GDPR-iga

Art. 50 läbipaistvuskohustused on õiguslikult sõltumatud GDPR-i Art. 22-st (automatiseeritud individuaalne otsustamine). Sama süsteem võib samaaegselt käivitada mõlemad raamistikud.

Näide: Vestlusrobot, mida kasutatakse laenuavalduse esimese etapina, peab:

1. Avalikustama, et tegemist on AI-süsteemiga, vestluse alguses (Art. 50(1))
2. Kui vestlusrobot teeb või panustab oluliselt ainult automatiseeritud otsusesse, millel on õiguslikud või sarnaselt olulised mõjud, peab kasutuselevõtja samuti esitama GDPR-i Art. 22 õigused — õiguse mitte alluda automatiseeritud otsusele, õiguse inimlikule ülevaatusele ja õiguse selgitusele

Organisatsioonid, kes kasutavad AI-d reguleeritud sektorites (finantsteenused, kindlustus, personal), peaksid kaardistama nii Art. 50 kohustused kui ka GDPR-i Art. 22 kohaldatavuse sama vastavuse ülevaatuse osana. Raamistikud täiendavad üksteist, mitte ei välista üksteist.

Trahvid mittevastavuse eest

Art. 50 läbipaistvuskohustuste rikkumised toovad kaasa trahvid kuni 7,5 miljonit eurot või 1,5% eelmise majandusaasta ülemaailmsest aastakäibest, olenevalt sellest, kumb on suurem. VKE-de ja idufirmade puhul toodab protsendi ülemmäär üldiselt madalama arvu; suurte ettevõtete puhul kohaldub tõenäolisemalt absoluutne ülemmäär.

Täitmisvolitused kuuluvad riiklikele turujärelevalveasutustele, kes on Art. 74 alusel määratud, ning EL AI büroole GPAI mudeli pakkujate puhul. Järelevalvemeetmed võivad hõlmata ametlikke uurimisi, vahemeetmeid, kasutusele võtmise peatamise korraldusi ja leidude avalikku avaldamist.

Märgistamise ja märkimise kohustuste mittetäitmine on eeldatavasti esimeste täitemeetmete prioriteetide hulgas, arvestades sünteetilise meedia ja süvavõltsingutega seotud kõrget avalikku tähelepanu — mitmed liikmesriikide regulaatorid on juba andnud märku kavatsusest tegutseda märgistamata AI-loodud sisu suhtes enne laiema kõrge riskiga täitmise rakendamist.

Järgmised sammud

• Kasutage AI riskiklassifikaatorit, et selgitada välja, kas teie süsteem on ainult läbipaistvuse või kõrge riskiga
• Vaadake üle keelatud tavad Art. 5 alusel, et kinnitada, et teie süsteem ei kuulu keelatud kategooriasse enne läbipaistvuskohustuste hindamist
• Jälgige Euroopa AI büroo poolt Art. 50(4) tehnilise märgistamise nõuete jaoks AI-loodud sisu päritolustandardi avaldamist