ES MI Akta Pārredzamības Pienākumi (Art. 50) — Tērzēšanas Roboti, Dziļviltojumi un Sintētiskais Saturs

Lielākā daļa MI sistēmu nav augsta riska — tās ietilpst Art. 50 pārredzamības pienākumos. Ja jūs izvietojat tērzēšanas robotu, ģenerējat sintētiskus attēlus vai izmantojat emociju atpazīšanu, lūk, tieši ko jums jāatklāj un jāmarķē.

Kas Ietilpst Art. 50 (Ne Augsts Risks)

ES MI Akts nosaka pakāpenisku riska sistēmu. Lielākā daļa šodien izvietoto MI sistēmu nekvalificējas kā augsta riska saskaņā ar III vai I pielikumu — tās ietilpst vienā no divām vieglākām kategorijām:

• Tikai pārredzamības pienākumi (Art. 50): tērzēšanas roboti, dziļviltojumu ģeneratori, sintētiskā satura sistēmas, emociju atpazīšanas sistēmas un biometriskās kategorizācijas rīki
• Minimāls risks: surogātpasta filtri, MI spēlēs, ieteikumu sistēmas — tikai brīvprātīgie rīcības kodeksi

Būtiskā atšķirība no III pielikuma augsta riska sistēmām ir tā, ka tikai pārredzamības sistēmām nepieciešama atklāšana, nevis atbilstības novērtēšana, tehniskā dokumentācija vai CE marķējums. Slogs ir būtiski mazāks, taču neatbilstība joprojām ir sankciju priekšmets ar naudas sodiem līdz €7,5 miljoniem.

Izpratne par to, kuram līmenim pieder jūsu sistēma, ir pirmais atbilstības solis. MI riska klasifikatora rīks var palīdzēt noteikt, kuri pienākumi piemērojami.

Art. 50(1) — Sarunas MI un Tērzēšanas Roboti

Jebkurai MI sistēmai, kas paredzēta tiešai mijiedarbībai ar fiziskām personām, jāpaziņo lietotājam, ka viņš mijiedarbojas ar MI sistēmu. Atklāšanai jābūt:

• Laicīgai — veiktai mijiedarbības sākumā, pirms nozīmīgas apmaiņas
• Skaidrai un atšķiramai — nav apraktai lietošanas noteikumos vai sīkrakstā
• Saprotamai — pielāgotai kontekstam, lai persona to patiešām saprastu

Tvērums: Klientu apkalpošanas roboti, virtuālie asistenti, MI telefona aģenti, sarunas MI sociālajos medijos un MI balstīts atbalsta tērzēšanas kanāls vietnēs. Ja cilvēkam vērsta saskarne izmanto valodas modeli dialogam, Art. 50(1) piemērojams.

1. izņēmums: Kur MI raksturs ir acīmredzams no konteksta — piemēram, skaidri zīmolots MI asistents ar robota avatāru produkta saskarnē — atklāšanas pienākums var tikt uzskatīts par izpildītu. Bet "acīmredzams" ir augsts latiņa; tikai netiešas UI norādes visticamāk nav pietiekamas, kur lietotāji varētu pamatoti uzskatīt, ka runā ar cilvēku.

2. izņēmums: Sistēmas, ko atļāvušas valstu tiesību akti tiesībaizsardzības mērķiem (piemēram, slēptas izmeklēšanas rīki, ko izmanto kompetentās iestādes).

Atbilstības termiņš: 2026. gada 2. augusts (pagarināts ar 2026. gada Digitālo omnibus no sākotnējā 2025. gada 2. augusta datuma). Sistēmām, kas izvietotas pirms šī datuma, jābūt saskaņotām ar prasībām — tās netiek "iemantojuma" statusā saglabātas.

Art. 50(2) — Emociju Atpazīšanas Atklāšana

Emociju atpazīšanas sistēmu nodrošinātājiem un izmantotājiem jāinformē fiziskās personas, kuru emocionālais vai psiholoģiskais stāvoklis tiek secināts. Tas ietver sistēmas, kas atklāj, klasificē vai vērtē emocijas, piemēram, prieku, dusmas, bēdas, iesaistīšanos vai maldināšanu no sejas izteiksmēm, balss toņa, fizioloģiskajiem signāliem vai uzvedības norādēm.

Tvērums: Personāla interviju analīzes rīki, kas vērtē kandidātu iesaistīšanos vai stresu; klientu sentimenta sistēmas, kas uzrauga zvanu centru mijiedarbību; drošības pārbaudes rīki, kas apgalvo atklāt viltus nolūku; mazumtirdzniecības sistēmas, kas izseko emocionālo reakciju uz produktiem.

Nav apterts: MI sistēmas, kas atklāj fizioloģiskos stāvokļus tikai drošības mērķiem — piemēram, miegaina vadītāja atklāšanas sistēmas, kas uzrauga acu kustību un aktivizē brīdinājumu, taču nesecina vai nereģistrē emocionālos stāvokļus citam nolūkam. Drošības mērķa izņēmums ir šaurs; sistēmas, kas pārmērķētas profilēšanai, zaudē izņēmumu.

Ja emociju atpazīšanas sistēma ir arī augsta riska sistēma saskaņā ar III pielikumu (piemēram, nodarbinātības atlase), augsta riska pienākumi piemērojami papildus Art. 50(2) atklāšanai.

Art. 50(3) — Biometriskās Kategorizācijas Atklāšana

MI sistēmas, kas secina sensitīvus personiskos atribūtus — tostarp rasi vai etnisko izcelsmi, politiskos uzskatus, arodbiedrību dalību, reliģiskos vai filozofiskos uzskatus vai seksuālo orientāciju — no biometriskajiem datiem, jāinformē par sistēmu pakļautās personas.

Šis pienākums attiecas uz sistēmām, kas kategorizē personas, pamatojoties uz biometriskajiem ievades datiem, neatkarīgi no tā, vai kategorizēšana ir galvenais mērķis vai pakārtotā secinājums. Sistēma, kas izmanto sejas atpazīšanu, lai secinātu iespējamos demogrāfiskos atribūtus, aktivizē Art. 50(3) pat tad, ja tās deklarētais mērķis ir kaut kas cits.

Svarīga robeža ar Art. 5: Reāllaika attālinātā biometriskā identifikācija publiski pieejamās vietās tiesībaizsardzības nolūkos ir tieši aizliegta saskaņā ar Art. 5, nevis tikai atklāšanai pakļauta. Kur sistēma ir aizliegta, pārredzamības pienākumi nav aktuāli — to nevar likumīgi izvietot vispār. Skatiet aizliegtās prakses saskaņā ar Art. 5 aizliegto sistēmu pilnajam sarakstam.

Art. 50(4) — MI Ģenerētā un Sintētiskā Satura Marķēšana

MI sistēmu nodrošinātājiem, kas ģenerē vai manipulē sintētisku audio, attēlu, video vai teksta saturu lielos mērogos, jāveic tehniskā izvades marķēšana mašīnlasāmā formātā. Marķējumam jābūt:

• Atklājamam un savstarpēji izmantojamam dažādās platformās un verifikācijas rīkos
• Saglabājamam, kad saturs tiek koplietots, atkodēts vai izplatīts
• Atbilstošam Eiropas MI biroja izstrādātajam tehniskajam standartam (MI ģenerētā satura izcelsmes standarts)

Tvērums: Teksta-attēla ģeneratori; video sintēzes un dziļviltojumu video rīki; balss klonēšanas sistēmas; MI rakstīšanas asistenti, kas ražo liela mēroga izvadi (piemēram, automatizēta ziņu ģenerēšana, mārketinga kopija lielos mērogos bez redakcionālās pārskatīšanas).

Izņēmums: MI sistēmas, kas ģenerē saturu, kurš ir pakļauts cilvēku redakcionālajai pārskatīšanai, par kuru cilvēks uzņemas redakcionālo atbildību. Žurnālists, kas izmanto MI melnraksta rīku, pārskata un būtiski rediģē izvadi pirms publicēšanas, ietilpst ārpus marķēšanas pienākuma šai konkrētajai izmantošanai. Tā pati sistēma, izvietota bez redakcionālās uzraudzības, neietilpst.

Nodrošinātājiem jāievieš tehniskā marķēšana infrastruktūras līmenī — ūdenszīmes, kriptogrāfiskā izcelsmes metadati vai standartam atbilstoši satura akreditīti — nevis kā fakultatīva funkcija, bet kā noklusējuma izvades uzvedība.

Art. 50(5) — Izmantotāja Pienākums Dziļviltojumu Atklāšanai

Kur izmantotājs izmanto MI sistēmu, lai radītu dziļviltojumu saturu — sintētiskus vai manipulētus īstu personu attēlus, audio vai video — izmantotājam skaidri jāmarķē saturs kā MI ģenerēts vai manipulēts. Marķējumam jābūt:

• Redzamam attēlu vai video satura gadījumā
• Dzirdamam audio satura gadījumā
• Ievietotam tādā veidā, kas ir acīmredzams auditorijai, nevis tikai iekļauts metadatos

Izņēmumi: Saturs, kas radīts satīrai, parodijai vai mākslinieciskai izpausmei, kur MI ģenerētais raksturs ir auditorijai acīmredzams. Radītājiem, kas strādā skaidri parodiskos vai satīriskos formātos, tomēr jādokumentē savi nodomi, jo izpildes iestādes vērtēs, vai MI raksturs tiešām bija acīmredzams kontekstā.

Šis pienākums gulstas uz izmantotāju — organizāciju vai personu, kas laiž saturu lietošanā — nevis tikai uz sistēmas nodrošinātāju. Mārketinga aģentūra, kas izmanto trešās puses dziļviltojumu video rīku, ir izmantotājs un nes marķēšanas pienākumu.

Praktiskās Atbilstības Soļi pēc Sistēmas Veida

Izmantotāji, kas izmanto trešo personu MI sistēmas, nes pārredzamības pienākumus neatkarīgi no tā, vai nodrošinātājs tos ir izpildījis. Izmantotājs nevar paļauties uz nodrošinātāja atklāšanu kā aizstājēju savai atklāšanai.

Attiecības ar VDAR

Art. 50 pārredzamības pienākumi ir juridiski neatkarīgi no VDAR Art. 22 (automatizēta individuālā lēmumu pieņemšana). Viena un tā pati sistēma vienlaicīgi var aktivizēt abus ietvarus.

Piemērs: Tērzēšanas robots, ko izmanto kā pirmo aizdevuma pieteikuma stadiju, jāveic:

1. Atklāt, ka tas ir MI sistēma, sarunas sākumā (Art. 50(1))
2. Ja tērzēšanas robots pieņem vai būtiski veicina vienīgi automatizētu lēmumu ar juridiskām vai līdzīgi nozīmīgām sekām, izmantotājam arī jānodrošina VDAR Art. 22 tiesības — tiesības nebūt pakļautam automatizētajam lēmumam, tiesības uz cilvēku pārskatīšanu un tiesības uz paskaidrojumu

Organizācijām, kas izmanto MI regulētajos sektoros (finanšu pakalpojumi, apdrošināšana, personāla vadība), jākartē gan Art. 50 pienākumi, gan VDAR Art. 22 piemērojamība kā daļa no vienas atbilstības pārskatīšanas. Abi ietvari papildina viens otru, nevis ir savstarpēji izslēdzoši.

Sodi par Neatbilstību

Art. 50 pārredzamības pienākumu pārkāpumi izraisa naudas sodus līdz €7,5 miljoniem vai 1,5% no kopējā pasaules gada apgrozījuma par iepriekšējo finanšu gadu, atkarībā no tā, kurš ir lielāks. MVU un jaunuzņēmumiem procentuālais slieksnis parasti rada zemāku skaitli; lieliem uzņēmumiem absolūtais slieksnis visticamāk piemērojams.

Izpildes pilnvaras ir valstu tirgus uzraudzības iestādēm, kas norīkotas saskaņā ar Art. 74, un ES MI birojam GPAI modeļu nodrošinātājiem. Uzraudzības darbības var ietvert formālas izmeklēšanas, pagaidu pasākumus, rīkojumus apturēt izvietošanu un secinājumu publisko atklāšanu.

Neatbilstība marķēšanas un apzīmēšanas pienākumiem, paredzams, būs viens no pirmajiem izpildes prioritāšiem, ņemot vērā augsto sabiedrisko atzinību sintētiskajiem medijiem un dziļviltojumiem — vairāku dalībvalstu regulatori jau ir paziņojuši nolūku rīkoties pret nemarķētu MI ģenerētu saturu pirms plašākas augsta riska izpildes operacionalizācijas.

Nākamie Soļi

• Izmantojiet MI riska klasifikatoru, lai noteiktu, vai jūsu sistēma ir tikai pārredzamībai vai augsta riska
• Pārskatiet aizliegtās prakses saskaņā ar Art. 5, lai apstiprinātu, ka jūsu sistēma neietilpst aizliegtajā kategorijā pirms pārredzamības pienākumu novērtēšanas
• Sekojiet Eiropas MI biroja publikācijai par MI ģenerētā satura izcelsmes standartu Art. 50(4) tehniskās marķēšanas prasībām