Jaekaubandus, e-kaubandus ja kõnekeskused — EL tehisintellekti seaduse vastavus

EL tehisintellekti seaduse kohustused jaekaubanduse ja kõnekeskuste tehisintellekti jaoks: vestlusroboti avalikustamine, emotsioonituvastuse läbipaistvus, töötajate jälgimine ja kliendile suunatud tehisintellekt. Käsitleb Art. 50 ja Annex III.

Jaekaubandus, e-kaubandus ja kõnekeskused EL tehisintellekti seaduse alusel

Jaekaubanduse ja e-kaubanduse sektor on tehisintellekti intensiivne rakendaja. Alates hetkest, kui klient jõuab veebisaidile, kujundab tehisintellekt seda, milliseid tooteid näidatakse, millist hinda pakutakse, milliseid pakkumisi esitatakse ja kuidas klienditoe päringuid käsitletakse. Kõnekeskustes juhendab tehisintellekt agente reaalajas, hindab vestlusi ja järeldab kliendi emotsioone häälesignaalidest. EL tehisintellekti seadus, mis jõustus 1. augustil 2024, kusjuures peamised läbipaistvuskohustused hakkavad kehtima alates 2. veebruarist 2025 ja kõrge riskiga kohustused alates 2. augustist 2026, kehtestab selles valdkonnas struktureeritud vastavusraamistiku.

Oluline on märkida, et tehisintellekti seadus ei käsitle kõiki jaekaubanduse tehisintellekti süsteeme võrdsena. Määrus teeb täpse vaheteo süsteemide vahel, millele kehtivad ainult läbipaistvuskohustused — mis moodustavad enamiku tarbijale suunatud jaekaubanduse tehisintellektist — ning kõrge riskiga liigitatud süsteemide vahel, millele kehtib täielik kohustuste kogum: vastavushindamine, tehniline dokumentatsioon, kvaliteedijuhtimissüsteemid ja inimjärelevalve nõuded. Arusaamine, milline kategooria kehtib igale rakendatavale süsteemile, on jaemüüjate ja kõnekeskuste käitajate jaoks põhiline vastavusülesanne.

Sektori suhtes kehtivad üheaegselt GDPR, tarbija õiguste direktiiv (2011/83/EL), ebaausate kaubanduspraktikate direktiiv (2005/29/EÜ), P2B-määrus (EL 2019/1150) ning kõnekeskuste puhul riiklikud tööõiguse režiimid töötajate jälgimise kohta. Tehisintellekti seadus lisab ühe kihi, kuid ei asenda neid olemasolevaid raamistikke.

Art. 50 läbipaistvuskohustused — peamine vastavuskiht

Enamiku jaekaubanduse ja e-kaubanduse tehisintellekti rakenduste puhul on Art. 50 EL tehisintellekti seaduse rakendatav säte. Selle kohustused kehtivad alates 2. veebruarist 2025 ega ole sõltuvad kõrge riskiga liigitusest. Mittevastavust võidakse iseseisvalt sanktsioneerida, sõltumata kõrge riskiga ajakavast.

Vestlusroboti ja vestlusliku tehisintellekti avalikustamine — Art. 50(1)

Art. 50(1) kehtestab kohustusliku avalikustamiskohustuse igale vestlusliku tehisintellekti süsteemi — süsteem, mis on loodud inimestega suhtlemiseks loomuliku keele kaudu — rakendajale, et teavitada kasutajaid, et nad suhtlevad tehisintellektiga, välja arvatud juhul, kui see on asjaoludest ilmne.

Jaekaubanduse kontekstis kehtib see kohustus järgmistele süsteemidele:

• Veebisaidi vestlusrobotid ja reaalajas vestlusrobotid — sealhulgas suurtel keelemudelitel põhinevad vestlusvidinaid, reeglipõhised vestlusrobotid tehisintellekti täiustatud mõistmisega ja hübriidsüsteemid.
• Häälrobotid ja IVR tehisintellekt — automatiseeritud telefonisüsteemid, mis käsitlevad sissetulevaid klientide päringuid häälpõhise tehisintellekti abil, sealhulgas tehisintellektiga täiustatud interaktiivsed häälvastamissüsteemid.
• Rakendusesisesed virtuaalassistendid — tehisintellektipõhised abifunktsioonid, mis on integreeritud jaekaubanduse rakendustesse, lojaliteediprogrammi rakendustesse või jaemüüjate pakutavatesse pangandusega seotud rakendustesse.
• Sotsiaalmeedia klienditoe robotid — tehisintellekti agendid, kes vastavad sõnumitele WhatsAppis, Instagramis või Messengeris jaemüüja nimel.

Erand „asjaoludest ilmne" on kitsas. Vestlusrobot nimega „Emma" või kirjeldatuna „virtuaalassistendina" ei vasta sellele lävele. Päis, mis näitab „Te räägite nüüd automatiseeritud tehisintellekti süsteemiga — ühtegi inimest ei osale", oleks piisav. Jaemüüjad ei tohi tugineda tarbija järeldamistele — avalikustamine peab olema selge, toimuma esimesel suhtlusel või enne seda ning olema esitatud viisil, mis on arusaadav tavalisele tarbijale.

Kohustus lasub rakendajal — jaemüüjal või kõnekeskuse käitajal — mitte ainult tehnoloogiapakkujal. Lepingulised sätted, mis kannavad avalikustamise vastutuse müüjale, ei vabasta rakendajat regulatiivsest kohustusest.

Emotsioonituvastuse avalikustamine — Art. 50(2)

Art. 50(2) nõuab, et iga isik, kes puutub kokku emotsioonituvastuse süsteemiga, oleks teavitatud selle toimimisest. Emotsioonituvastuse süsteem on tehisintellekti süsteem, mis järeldab emotsionaalseid seisundeid füsioloogilistest või käitumuslikest signaalidest — näoilmest, häältooni, kõnerütmist, sõnavalikust või mikroilmetest.

Jaekaubanduse ja kõnekeskuste sektoris kehtib see kohustus järgmistele süsteemidele:

• Kliendi sentimendi analüüs kõnedes — tehisintellekt, mis analüüsib kliendi hääle akustilisi või keelelisi omadusi, et järeldada pettumust, rahulolu või emotsionaalset seisundit kõnekeskuse suhtluse ajal. Klienti tuleb teavitada, et selline analüüs toimub.
• Poemüügi klientide analüütika — tehisintellekti poolt võimaldatud kaamerakohasüsteemid, mis püüavad järeldada ostleja emotsiooni või tähelepanu näoilmetest. Kui süsteem vastab emotsioonituvastuse definitsioonile, on nõutav avalikustamine poes kohapeal.
• Agendi hääle analüüs — sentimendi- või emotsioonianalüüs, mida rakendatakse kõnekeskuse agendi oma häälele (käsitletakse allpool töötajate jälgimise jaotises).

Avalikustamine peab toimuma enne, kui emotsioonituvastuse süsteem alustab töötlemist. Telefoniliinide puhul nõuab see tavaliselt IVR-teadaannet või suulist teavitust kõne alguses. Vaikimine — sealhulgas helivihjed, mis viitavad ainult kõne salvestamisele ilma tehisintellekti emotsioonianalüüsi mainimata — ei täida Art. 50(2) kohustust.

Tehisintellekti poolt loodud sünteetiline meedia — Art. 50(4)

Art. 50(4) nõuab, et tehisintellekti poolt loodud või manipuleeritud meedia — pildid, videod ja heli — oleks märgistatud kunstlikult looduna või manipulatuloona juhul, kui on oht, et kasutajad peavad seda autentseks.

Selle regulatsiooni alla kuuluvad jaekaubanduse konkreetsed rakendused hõlmavad järgmisi:

• Tehisintellekti poolt loodud tootepildid: generatiivse tehisintellektiga loodud toodete, ruumide või elustiilstseenide pildid, mis on esitatud autentse fotograafiana tootenimekirjades või reklaamides.
• Tehisintellekti poolt loodud reklaamvideo: brändi videod, tunnistajastiilis sisu või turundusmaterjalid, kus visuaalne või helisisu on oluliselt tehisintellektiga loodud.
• Tehisintellekti poolt loodud või kloonitud häälnarratsioon, mida kasutatakse tootedemos, brändisisus või klientide kommunikatsioonis.
• Virtuaalne proovimise tehisintellekt, mis loob sünteetilisi pilte kliendist, kes kannab või kasutab toodet — kui väljund esitatakse täpse kujutisena.

Märgistamiskohustus ei nõua, et tehisintellekti päritolu varjataks vastavuse käivitamiseks — standard on see, kas tarbija võiks mõistlikult võtta sisu autentse foto või video pähe. Märgistamata jätmine tekitab ka kokkupuute ebaausate kaubanduspraktikate direktiiviga (2005/29/EÜ), mis keelab toimetuslike sisu kasutamise toodete reklaamimiseks ilma selgelt märkimata, et tegemist on tasulise või kunstlikult toodetud sisuga.

Töötajate jälgimise tehisintellekt kõnekeskustes — kõrge riskiga liigitus

Kõnekeskused kasutavad rutiinselt tehisintellekti agentide jälgimiseks, hindamiseks, evalueerimiseks ja reaalajas juhendamiseks. Kui need süsteemid ületavad Annex III, kategooria 4 piiri, kehtib täielik kõrge riskiga kohustuste kogum.

Agendi juhendamine ja reaalajas juhendamise tehisintellekt

Reaalajas agendi juhendamise tehisintellekt — süsteemid, mis jälgivad reaalajas kõnesid ja annavad agentidele kõnesisest juhendamist, skripte, vastavusprompts'e või emotsionaalse seisundi tagasisidet — asub kat 4(b) ja kat 4(c) lõikepunktis. Kui süsteem jälgib agendi vastavust lepingulistele kohustuste täitmisele (kõnekäsitluse standardid, regulatiivsed skriptid), kehtib kat 4(b). Kui see järeldab agendi emotsionaalset või käitumuslikku seisundit ja genereerib sellest järeldusest hoiatusi või tulemuslikkuse lippe, kehtib kat 4(c).

Mõlemad alakategooriad käivitavad täieliku kõrge riskiga kohustuste kogumi:

• Riskijuhtimissüsteem vastavalt Art. 9: pidev agentide ja süsteemiga suhtlevate klientide riskide tuvastamine, hindamine ja leevendamine.
• Andmehaldus vastavalt Art. 10: koolitusandmestikud peavad olema asjakohased, representatiivsed ja hallatud diskrimineeriva kallutatuse minimeerimiseks.
• Tehniline dokumentatsioon vastavalt Art. 11 ja Annex IV: süsteemi disaini, kavandatud eesmärgi, piirangute, tulemusnäitajate ja testitulemuste põhjalik dokumentatsioon.
• Läbipaistvus rakendajate jaoks vastavalt Art. 13: pakkujad peavad esitama kasutusjuhiseid, mis sisaldavad teavet süsteemi piirangute, töötingimuste ja ettenähtavate riskide kohta.
• Inimlik järelevalve vastavalt Art. 14: rakendajad peavad määrama isikuid, kellel on õigus, pädevus ja aeg süsteemi väljunditesse sekkumiseks või nende tühistamiseks.
• Täpsus ja töökindlus vastavalt Art. 15: süsteemid peavad toimima usaldusväärselt ettenähtud parameetrite piires.

Kvaliteedihindamise ja tulemuslikkuse hindamise tehisintellekt

Tehisintellekti süsteemid, mis määravad kõnedele kvaliteedihinnangu, loovad agentide tulemuslikkuse edetabeleid või toodavad väljundit, mida kasutatakse hindamises, boonuste määramisel või vallandamisprotsessides, kuuluvad Annex III kat 4(b) alla süsteemidena, mida kasutatakse edutamise, ülesannete jaotamise või lepinguliste kohustuste täitmise jälgimisega seotud otsuste tegemiseks. Kõrge riskiga kohustused kehtivad täielikult.

Käitajad peavad lisaks täitma Art. 50(2) avalikustamise nõude agentide suhtes, kes on neis süsteemides emotsioonituvastuse komponentide all — sõltumata kõrge riskiga vastavuse ajakavast.

Riiklikud tööõiguse kohustused

Töötajate jälgimise tehisintellekt kõnekeskustes käivitab riikliku kaasaotsustamis- ja konsultatsiooniõiguse sõltumata tehisintellekti seadusest. Saksamaal annab Betriebsverfassungsgesetz §87(1) nr 6 töönõukogudele siduvad kaasaotsustamisõigused tehniliste jälgimisseadmete üle; tehisintellekti jälgimissüsteemid vajavad töönõukogu nõusolekut enne rakendamist. Samaväärsed õigused kehtivad Madalmaades (WOR Art. 27), Austrias (ArbVG §96) ja Prantsusmaal (Code du Travail L. 2312-38). Neid kohustusi ei saa edasi lükata kuni 2026. aasta tehisintellekti seaduse kõrge riskiga tähtajani.

Kliendile suunatud tehisintellekt, mis ei ole kõrge riskiga

Märkimisväärne osa jaekaubanduse tehisintellektist ei ole Annex III alusel kõrge riskiga liigitatud. Järgmised kategooriad ei ole Annex III-s selgesõnaliselt loetletud ega vaja tehisintellekti seaduse alusel vastavushindamist:

• Tooterekommendate mootorid — tehisintellekt, mis personaliseerib tootepakkumisi vastavalt sirvimisajaloole, ostumustritele või koostöötöötlus filtreerimisele.
• Dünaamilised hinnakujundussüsteemid — tehisintellekt, mis kohandab hindu reaalajas vastavalt nõudlusele, varule, konkurentide hindadele või tarbijasegmentidele.
• Laovarude nõudluse prognoosimine — tehisintellekt, mis ennustab laovajadusi SKU või kategooria tasandil.
• Kliendi loobumise ennustamise mudelid — tehisintellekt, mis hindab kliendi lahkumise tõenäosust hoidmiskampaaniate sihtimiseks.
• Otsingu personaliseerimine — tehisintellekt, mis järjestab otsingutulemusi jaekaubanduse veebisaitidel ümber vastavalt üksiku või rühmasignaalidele.
• Tagastuspettuste tuvastamine — tehisintellekt, mis hindab tagastustaotlusi potentsiaalse pettuse osas, kus väljund toidab inimese poolt ülevaadatud otsustusprotsessi.

Need süsteemid on siiski GDPR alusel kohustuslikud, kui need hõlmavad üksiku kliendi profiilimist. Käitumuslik analüütika, ostuajaloo koondamine ja saitideülene jälgimine nõuavad seaduslikku alust vastavalt Art. 6 GDPR alusel — tavaliselt õigustatud huvi (mis nõuab dokumenteeritud kaalumistesti) või nõusolek. Kui profileerimine toodab üksikutele tarbijatele olulise mõjuga otsuseid — näiteks kliendikonto peatamine pettuse hindamise põhjal — võib kohalduda GDPR Art. 22, mis nõuab automatiseeritud otsuste inimlikku ülevaatust.

P2B-määrus (EL 2019/1150) kehtestab läbipaistvuse nõuded edetabelialgoritmiidele, mida kasutatakse veebipõhistes turgudes ja võrdlustööriistades — käitajad peavad avalikustama edetabeli peamised parameetrid ja nende suhtelise tähtsuse. Tehisintellektipõhine edetabeli koostamine ei ole vabastatud.

Tarbijakaitse ja ebaausate kaubanduspraktikate direktiiv

Tehisintellektipõhised kaubandustavad jaekaubanduses loovad täiendava kokkupuute ebaausate kaubanduspraktikate direktiiviga (2005/29/EÜ), eriti pärast Omnibus direktiivi muudatusi, mis jõustusid liikmesriikides alates 2022. aastast:

• Tehisintellekti poolt loodud võltsarvustused: muudetud UCPD keelab selgesõnaliselt võlts tarbija arvustuste esitamise ja arvustuste kuratsioonioteenuste kasutamise, mis ei avalikusta tehisintellekti osalust. Tehisintellekti poolt loodud tooteretsid, mis esitatakse autentsete tarbija arvustustena, on ebaseaduslikud.
• Personaliseeritud hinnakujundus ilma avalikustamiseta: kui jaemüüja kasutab tehisintellekti üksikutele tarbijatele kohandatud hindade esitamiseks profiilimise põhjal, nõuab muudetud UCPD personaliseerimise fakti avalikustamist juhul, kui tarbija puutub kokku personaliseeritud hinnaga.
• Manipulatiivne personaliseerimine: EL tehisintellekti seaduse Art. 5 keelab tehisintellekti süsteemid, mis kasutavad alateadlikke tehnikaid või kasutavad ära haavatavusi tarbija käitumise moonutamiseks. Agressiivne personaliseerimine, mis sihib tarbijaid kognitiivse haavatavuse hetkedel või kasutab ära varasemast suhtlusandmetest tuletatud emotsionaalseid seisundeid, võib kujutada keelatud praktikat.
• Eksitavad tehisintellekti poolt loodud kirjeldused: tehisintellekti poolt loodud toodikirjeldused, spetsifikatsioonid või võrdlusväited, mis on ebatäpsed või fabrikeeritud — sealhulgas LLM-i poolt loodud tootesisu hallutsineeritud spetsifikatsioonid — võivad kujutada eksitavat kaubanduspraktikat UCPD alusel.

Täitevasutused ja sanktsioonid

Tehisintellekti seaduse kohustuste täitmise tagamine jaekaubanduse sektoris on jaotatud mitme pädeva asutuse vahel:

• Riiklikud tehisintellekti järelevalveasutused: määratletud iga liikmesriigi tehisintellekti seaduse rakendamise seadusandluse alusel. Need on peamised asutused Art. 50 läbipaistvuse rikkumiste ja kõrge riskiga vastavuse rikkumiste puhul.
• Tarbijakaitseametid: riiklikud tarbijakaitseametid ja BEUC võrgustik on eriti aktiivsed vestlusroboti avalikustamise, tehisintellekti poolt loodud sisu märgistamise ja UCPD-ga seotud tehisintellekti tavade jälgimisel. Tarbijakaitsekoostöö (CPC) võrgustik võimaldab koordineeritud täitmist liikmesriikide vahel.
• Andmekaitseasutused: säilitavad samaaegse täitmise pädevuse GDPR alusel kliendi profiilimise, automatiseeritud otsuste tegemise ja biomeetriliste andmete töötlemise intsidentide puhul.
• Tööinspektsioonid: liikmesriikides tugeva tööinspektsiooni režiimiga — Prantsusmaa (DREETS), Saksamaa (Gewerbeaufsicht) ja Hispaania (Inspección de Trabajo) — on tehisintellektipõhine töötajate jälgimine, mis rikub tööõigust või kaasaotsustamiskohustusi, uurimise all sõltumata tehisintellekti seaduse menetlustest.

Sanktsioonide ulatus tehisintellekti seaduse alusel: Art. 50 läbipaistvuskohustuste rikkumised toovad kaasa trahve kuni 15 miljonit eurot või 3% ülemaailmsest aastakäibest, olenevalt sellest, kumb on suurem. Keelatud praktikate (Art. 5) rikkumised toovad kaasa trahve kuni 35 miljonit eurot või 7% ülemaailmsest aastakäibest. GDPR trahvid kehtivad kumulatiivselt. Suure ülemaailmse käibega e-kaubanduse käitajate jaoks kujutab 7% ülemmäär märkimisväärset finantsilist kokkupuudet.

Vastavuse tegevuskava jaemüüjatele ja kõnekeskuste käitajatele

Struktureeritud tehisintellekti seaduse vastavusprogramm jaekaubanduse sektoris peaks käsitlema järgmist järjestuses:

1. Tehisintellekti süsteemide inventuur: kataloogige kõik kasutatavad tehisintellekti tööriistad kliendile suunatud kanalites (veebisait, rakendus, telefon, sotsiaalmeedia), turunduse ja kaubanduse funktsioonides (hinnakujundus, soovitused, sisu loomine) ning kõnekeskuse toimingutes (juhendamine, hindamine, jälgimine). Iga süsteemi puhul tehke kindlaks, kas tegemist on üldotstarbeline tööriistaga, läbipaistvuskohustuse süsteemiga või potentsiaalselt kõrge riskiga süsteemiga.

2. Vestlusroboti ja häälroboti avalikustamise audit: vaadake üle kõik vestlusliku tehisintellekti rakendused Art. 50(1) vastavuse osas. Kontrollige, et avalikustamine on selge, toimub esimesel suhtlusel ja ei tugine tarbija järeldamistele. Uuendage vestlusliidese teksti, IVR-skripte ja abikeskuse sõnastust vastavalt.

3. Emotsioonituvastuse kaardistamine: tuvastage kõik süsteemid — kliendile suunatud ja agendile suunatud —, mis järeldavad emotsionaalseid või afektiivseid seisundeid. Rakendage Art. 50(2) teavitusi kõigi regulatsiooni alla kuuluvate süsteemide jaoks. Agendile suunatud süsteemide puhul hinnake Annex III kat 4 liigitust ja alustage kõrge riskiga vastavuse planeerimist.

4. Sünteetilise meedia audit: auditeerige kõiki turundusvara, tootepilte ja brändisisu tehisintellekti poolt loodud komponentide osas. Rakendage Art. 50(4) märgistamise töövoog — tagades, et loodud või manipuleeritud sisu on tuvastatud enne avaldamist.

5. Kõnekeskuse tehisintellekti hoolsuskohustus: iga juhendamise, hindamise või jälgimise tööriistu pakkuva tehisintellekti müüja puhul nõudke kinnitust Annex III liigituse, CE-märgistuse staatuse (alates 2. augustist 2026) ja kasutusjuhiste kohta. Alustage töönõukogu konsulteerimist või kaasaotsustamismenetlusi kohaldatava riikliku seaduse alusel.

6. GDPR profiilimise ülevaatus: viige läbi GDPR seadusliku aluse audit kliendi profiilimise tegevuste jaoks. Kui tuginetakse õigustatud huvile, dokumenteerige ja säilitage kaalumistesti andmeid. Uuendage privaatsusteadaandeid, et need kajastaks tehisintellektipõhiseid profiilimise tavasid.

7. UCPD vastavuse kontroll: vaadake üle personaliseeritud hinnakujunduse avalikustamine, arvustuste loomise tavad ja tehisintellekti poolt loodud sisu töövoogud vastavalt UCPD nõuetele, sealhulgas Omnibus direktiivi muudatused, nagu need on jõustunud asjaomastes liikmesriikides.

8. Intsidentidele reageerimine ja juhtimine: looge tehisintellekti juhtimise omandiõigus — tavaliselt õigus-, DPO, vastavuse ning digitaal-/tehnoloogiafunktsioonide vahel — dokumenteeritud eskaleerimismenetlustega Art. 50 rikkumiste või töötajate kaebustega seotud intsidentide jaoks seoses jälgimise tehisintellektiga.

Jaemüüjad ja kõnekeskuste käitajad, kes integreerissid tehisintellekti varakult oma kliendi- ja toimingute töövoogudesse, seisavad silmitsi kõige laiema vastavuspinnaga. Art. 50 läbipaistvuskohustused on juba kohaldatavad; töötajate jälgimise tehisintellekti kõrge riskiga kohustused nõuavad programmi tasandi ettevalmistust enne 2. augustit 2026.