ES DI akto skaidrumo įsipareigojimai (Art. 50) — pokalbių robotai, gilūs klastojinimai ir sintetinis turinys

Dauguma DI sistemų nėra didelės rizikos — jos patenka į Art. 50 skaidrumo įpareigojimus. Jei diegiate pokalbių robotą, generuojate sintetinius vaizdus ar naudojate emocijų atpažinimą, štai tiksliai ką turite atskleisti ir pažymėti.

Kam taikomas Art. 50 (ne didelė rizika)

ES DI aktas nustato pakopinę rizikos sistemą. Dauguma šiandien diegiamų DI sistemų nekvalifikuojamos kaip didelės rizikos pagal Annex III ar Annex I — jos patenka į vieną iš dviejų lengvesnių kategorijų:

• Tik skaidrumo įsipareigojimai (Art. 50): pokalbių robotai, gilių klastojinimų generatoriai, sintetinio turinio sistemos, emocijų atpažinimo sistemos ir biometrinio kategorizavimo įrankiai
• Minimali rizika: šiukšlių filtrai, DI žaidimuose, rekomendacijų sistemos — pavaldūs tik savanoriškiems elgesio kodeksams

Esminis skirtumas nuo Annex III didelės rizikos sistemų: tik skaidrumo sistemos reikalauja atskleidimo, o ne atitikties vertinimo, techninės dokumentacijos ar CE ženklinimo. Našta yra žymiai mažesnė, tačiau nesilaikymas vis tiek yra sankcionuojamas pažeidimas su baudomis, siekiančiomis 7,5 mln. EUR.

Supratimas, kurią pakopą jūsų sistema užima, yra pirmasis atitikties žingsnis. DI rizikos klasifikatoriaus įrankis gali padėti nustatyti, kokie įsipareigojimai taikomi.

Art. 50(1) — Pokalbinė DI ir pokalbių robotai

Bet kuri DI sistema, sukurta tiesiogiai bendrauti su fiziniais asmenimis, turi pranešti naudotojui, kad jie bendrauja su DI sistema. Atskleidimas turi būti:

• Laiku — padarytas bendravimo pradžioje, prieš prasidedant reikšmingam apsikeitimui
• Aiškus ir atskiriamas — nepaslėptas paslaugų sąlygose ar mažo šrifto išnašose
• Suprantamas — pritaikytas kontekstui, kad asmuo tikrai jį suprastų

Apimtis: klientų aptarnavimo robotai, virtualūs asistentai, DI telefonų agentai, pokalbinė DI, įterpta į socialinius tinklus, ir DI palaikomo pokalbio svetainėse. Jei žmogui skirta sąsaja naudoja kalbos modelį dialogui vesti, taikomas Art. 50(1).

1 išimtis: Kur DI pobūdis yra akivaizdus iš konteksto — pavyzdžiui, aiškiai su prekės ženklu DI asistentas su roboto avataru gaminio sąsajoje — atskleidimo įsipareigojimas gali būti laikomas įvykdytu. Tačiau „akivaizdus" yra aukšta riba; vien numanomi UI ženklai greičiausiai nepatenkina reikalaujamo, jei naudotojai galėtų pagrįstai manyti, kad bendrauja su žmogumi.

2 išimtis: Sistemos, įgaliotos nacionalinės teisės teisėsaugos tikslais (pvz., slaptieji tyrimo įrankiai, naudojami kompetentingų institucijų).

Atitikties terminas: 2026 m. rugpjūčio 2 d. (pratęstas 2026 m. Skaitmeninio omnibuso nuo pirminio 2025 m. rugpjūčio 2 d.). Sistemos, diegiamos iki šio termino, turi būti privestos į atitiktį — ne pereinamuoju laikotarpiu.

Art. 50(2) — Emocijų atpažinimo atskleidimas

Emocijų atpažinimo sistemų teikėjai ir naudotojai turi informuoti fizinius asmenis, kurių emocinis ar psichologinis būvis yra daromos išvados. Tai apima sistemas, kurios aptinka, klasifikuoja ar įvertina emocijas, pvz., džiaugsmą, pyktį, distresą, įsitraukimą ar apgaulę iš veido išraiškų, balso tono, fiziologinių signalų ar elgesio ženklų.

Apimtis: HR pokalbių analizės įrankiai, kurie įvertina kandidato įsitraukimą ar stresą; klientų nuotaikų sistemos, stebinčios skambučių centro sąveikas; saugumo patikrinimo įrankiai, teigiančios aptikti apgaulingą ketinimą; mažmeninės prekybos sistemos, stebinčios emocinį atsaką į produktus.

Neapimama: DI sistemos, aptinkančios fiziologines būsenas tik saugos tikslais — pavyzdžiui, mieguisto vairuotojo aptikimo sistemos, stebinčios akių judėjimą ir suaktyvina perspėjimą, tačiau nepadaro išvadų ar neregistruoja emocinių būsenų kitam naudojimui. Saugos tikslo išimtis yra siaura; sistemos, perpanaudotos profiliavimui, praranda išimtį.

Kur emocijų atpažinimo sistema taip pat yra didelės rizikos sistema pagal Annex III (pvz., užimtumo atranka), taikomi visiškai didelės rizikos įsipareigojimai papildomai prie Art. 50(2) atskleidimo.

Art. 50(3) — Biometrinio kategorizavimo atskleidimas

DI sistemos, darinčios išvadas apie jautrius asmens atributus — įskaitant rasinę ar etninę kilmę, politines nuomones, profesinių sąjungų narystę, religinius ar filosofinius įsitikinimus ar seksualinę orientaciją — iš biometrinių duomenų, turi informuoti sistemai paveiktus asmenis.

Šis įsipareigojimas taikomas sistemoms, klasifikuojančioms asmenis pagal biometrinius įvestis, neatsižvelgiant į tai, ar klasifikavimas yra pagrindinis tikslas ar tolesnė išvada. Sistema, naudojanti veido atpažinimą siekiant daryti išvadas apie tikėtinus demografinius atributus, suaktyvina Art. 50(3) net jei jos deklaruotas tikslas yra kažkas kita.

Svarbi riba su Art. 5: Realaus laiko nuotolinė biometrinė identifikacija viešai prieinamose erdvėse teisėsaugos tikslais yra visiškai draudžiama pagal Art. 5, ne tik atskleidimui pavaldi. Kur sistema yra draudžiama, skaidrumo įsipareigojimai yra nereikšmingi — ji visai negali būti teisėtai diegiama. Žr. draudžiamas praktikas pagal Art. 5 pilnam draudžiamų sistemų sąrašui.

Art. 50(4) — DI generuoto ir sintetinio turinio žymėjimas

DI sistemų, generuojančių ar manipuliuojančių sintetiniu garsu, vaizdu, paveikslais ar tekstu dideliu mastu, teikėjai turi techniškai žymėti išvestį mašinomis skaitomu formatu. Žyma turi:

• Būti aptinkama ir sąveiki įvairiose platformose ir tikrinimo įrankiuose
• Išlikti, kai turinys dalijamas, perkodavus ar platinamas
• Atitikti Europos DI biuro kuriamą techninį standartą (DI generuoto turinio kilmės standartas, kartais vadinamas ATMF)

Apimtis: teksto į vaizdą generatoriai (Midjourney, Stable Diffusion, DALL-E analogai); vaizdo sintezės ir gilių klastojinimų vaizdo įrašų įrankiai; balso klonavimo sistemos; DI rašymo asistentai, gaminantys didelės apimties išvestį (pvz., automatizuotas naujienų generavimas, rinkodaros tekstai dideliu mastu be redakcinės peržiūros).

Išimtis: DI sistemos, generuojančios turinį, kuris praėjo žmogaus redakcinę peržiūrą, už kurį žmogus prisiima redakcinę atsakomybę. Žurnalistas, naudojantis DI rengimo įrankį, peržiūrintis ir iš esmės redaguojantis išvestį prieš skelbimą, nepatenka į žymėjimo įpareigojimą dėl konkrečios naudojimo. Ta pati sistema, diegiama be redakcinės priežiūros, nepatenka į išimtį.

Teikėjai turėtų įdiegti techninį žymėjimą infrastruktūros lygiu — vandens ženklinimą, kriptografinius kilmės metaduomenis ar standartams atitinkančius turinio kredencialus — ne kaip pasirinktinę funkciją, o kaip numatytąjį išvesties elgesį.

Art. 50(5) — Naudotojo įsipareigojimas dėl gilių klastojinimų atskleidimo

Kur naudotojas naudoja DI sistemą gilių klastojinimų turiniui generuoti — sintetiniams ar manipuliuotiems tikrų asmenų vaizdams, garsui ar vaizdo įrašams — naudotojas turi aiškiai žymėti turinį kaip DI generuotą ar manipuliuotą. Žyma turi būti:

• Matoma vaizdo ar vaizdo įrašo turinio atveju
• Girdima garso turinio atveju
• Pateikta taip, kad būtų akivaizdi auditorijai, o ne tik įterpta į metaduomenis

Išimtys: turinys, sukurtas satyrai, parodijai ar meninei raiškai, kur DI generuotas pobūdis yra akivaizdus auditorijai. Kūrėjai, dirbantys aiškiai parodijiniais ar satiriniais formatais, vis dėlto turėtų dokumentuoti savo ketinimą, nes vykdymo institucijos vertins, ar DI pobūdis buvo tikrai akivaizdus kontekste.

Šis įsipareigojimas tenka naudotojui — organizacijai ar asmeniui, pateikiančiam turinį naudojimui — ne tik sistemos teikėjui. Rinkodaros agentūra, naudojanti trečiosios šalies gilių klastojinimų vaizdo įrankį, yra naudotojas ir prisiima žymėjimo įsipareigojimą.

Praktiniai atitikties žingsniai pagal sistemos tipą

Naudotojai, naudojantys trečiųjų šalių DI sistemas, prisiima skaidrumo įpareigojimus nepriklausomai nuo to, ar teikėjas juos įvykdė. Naudotojas negali pasikliauti teikėjo atskleidimu kaip savo atskleidimo pakaitalu.

Santykis su BDAR

Art. 50 skaidrumo įsipareigojimai yra teisiškai nepriklausomi nuo BDAR Art. 22 (automatizuotas individualus sprendimų priėmimas). Ta pati sistema gali vienu metu suaktyvinti abi sistemas.

Pavyzdys: pokalbių robotas, naudojamas kaip pirmasis paskolos paraiškos etapas, turi:

1. Atskleisti, kad yra DI sistema bendravimo pradžioje (Art. 50(1))
2. Jei pokalbių robotas priima ar reikšmingai prisideda prie visiškai automatizuoto sprendimo, turinčio teisinį ar panašaus reikšmingumo poveikį, naudotojas taip pat turi suteikti BDAR Art. 22 teises — teisę nebūti automatizuoto sprendimo subjektu, teisę į žmogaus peržiūrą ir teisę gauti paaiškinimą

Organizacijos, diegiančios DI reguliuojamuose sektoriuose (finansinės paslaugos, draudimas, personalo valdymas), turėtų susieti tiek Art. 50 įsipareigojimus, tiek BDAR Art. 22 taikymą kaip tos pačios atitikties peržiūros dalį. Sistemos yra papildomos, o ne viena kitą pakeičiančios.

Baudos už nesilaikymą

Art. 50 skaidrumo įpareigojimų pažeidimai užtraukia baudas iki 7,5 mln. EUR arba 1,5% visos pasaulinės metinės apyvartos už ankstesnius finansinius metus, priklausomai nuo to, kuri suma didesnė. MVĮ ir startuoliams procentinė riba paprastai sukuria mažesnę sumą; didelėms įmonėms labiau tikėtina taikyti absoliučią ribą.

Vykdymo teisė priklauso nacionalinėms rinkos priežiūros institucijoms, paskirtoms pagal Art. 74, ir ES DI biurui GPAI modelių teikėjams. Priežiūros veiksmai gali apimti oficialius tyrimus, laikinąsias priemones, diegimo sustabdymo nurodymus ir viešą išvadų atskleidimą.

Nesilaikymas žymėjimo ir žymėjimo įpareigojimų tikimasi būti viena iš pirmųjų vykdymo prioritetų, atsižvelgiant į didelį visuomenės žinomumą dėl sintetinės medijos ir gilių klastojinimų — kelių valstybių narių reguliuotojai jau signalizavo ketinimą veikti dėl nežymėto DI generuoto turinio, prieš platesniam didelės rizikos vykdymui tapti veikiančiu.

Kiti žingsniai

• Naudokite DI rizikos klasifikatorių nustatyti, ar jūsų sistema yra tik skaidrumo ar didelės rizikos
• Peržiūrėkite draudžiamas praktikas pagal Art. 5 patvirtinti, kad jūsų sistema nepatenka į draudžiamą kategoriją, prieš vertindami skaidrumo įpareigojimus
• Stebėkite Europos DI biuro DI generuoto turinio kilmės standarto paskelbimą dėl Art. 50(4) techninių žymėjimo reikalavimų