Mazumtirdzniecība, e-komercija un zvanu centri — ES MI Akta atbilstība

ES MI Akta pienākumi mazumtirdzniecības un zvanu centru MI jomā: tērzēšanas robotu atklāšana, emociju atpazīšanas pārredzamība, darbinieku uzraudzība un klientu MI. Aptver Art. 50 un Annex III.

Mazumtirdzniecība, e-komercija un zvanu centri saskaņā ar ES MI Aktu

Mazumtirdzniecības un e-komercijas nozare ir mākslīgā intelekta intensīvs lietotājs. No brīža, kad klients nonāk vietnē, MI nosaka, kuri produkti tiek rādīti, kāda cena tiek piedāvāta, kādas akcijas tiek izceltas un kā tiek apstrādāti klientu apkalpošanas jautājumi. Zvanu centros MI apmāca operatorus reāllaikā, vērtē sarunas un secina klientu emocijas no balss signāliem. ES MI Akts, kas spēkā kopš 2024. gada 1. augusta, ar galvenajiem pārredzamības pienākumiem, kas piemērojami no 2025. gada 2. februāra, un augsta riska pienākumiem no 2026. gada 2. augusta, nosaka strukturētu atbilstības satvaru šajā vidē.

Būtiski, ka MI Akts neattiecas uz visu mazumtirdzniecības MI vienādi. Regula skaidri nošķir sistēmas, kurām piemērojami tikai pārredzamības pienākumi — lielākā daļa uz patērētājiem vērsta mazumtirdzniecības MI — un sistēmas, kas klasificētas kā augsta riska, kurām piemērojams pilns pienākumu kopums: atbilstības novērtēšana, tehniskā dokumentācija, kvalitātes pārvaldības sistēmas un cilvēka uzraudzības prasības. Katrai izvietotajai sistēmai piemērojamās kategorijas noteikšana ir mazumtirgotāju un zvanu centra operatoru pamatuzdevums atbilstības jomā.

Nozari vienlaikus regulē GDPR, Patērētāju tiesību direktīva (2011/83/ES), Negodīgas komercprakses direktīva (2005/29/EK), P2B Regula (ES 2019/1150) un zvanu centra gadījumā — valstu darba tiesību režīmi attiecībā uz darbinieku uzraudzību. MI Akts pievieno papildu slāni, taču neatceļ šos esošos regulatīvos satvarus.

Art. 50 Pārredzamības pienākumi — galvenais atbilstības slānis

Lielākajai daļai mazumtirdzniecības un e-komercijas MI izvietojumu ES MI Akta Art. 50 ir piemērojamais noteikums. Tā pienākumi piemērojami no 2025. gada 2. februāra un nav atkarīgi no augsta riska klasifikācijas. Neievērošana var tikt sodīta neatkarīgi no augsta riska termiņa.

Tērzēšanas robotu un sarunvedoša MI atklāšana — Art. 50(1)

Art. 50(1) nosaka obligātu atklāšanas pienākumu jebkuram sarunvedoša tipa MI sistēmas izvietotājam — sistēmai, kas paredzēta mijiedarbībai ar cilvēkiem dabiskajā valodā — informēt lietotājus, ka viņi mijiedarbojas ar MI, ja vien tas nav acīmredzami saprotams no apstākļiem.

Mazumtirdzniecības kontekstā šis pienākums piemērojams:

• Vietnes tērzēšanas robotiem un tiešsaistes tērzēšanas robotiem — tostarp tērzēšanas logrīkiem, kuru pamatā ir lielie valodas modeļi, uz noteikumiem balstītiem tērzēšanas robotiem ar MI uzlabotu izpratni un hibrīdsistēmām.
• Balss robotiem un IVR MI — automatizētām tālruņa sistēmām, kas apstrādā ienākošos klientu pieprasījumus ar balss MI palīdzību, tostarp MI uzlabotām interaktīvās balss atbildes sistēmām.
• Lietotņu virtuālajiem asistentiem — ar MI darbinātām palīdzības funkcijām, kas iegultas mazumtirdzniecības lietotnēs, lojalitātes programmu lietotnēs vai mazumtirgotāju piedāvātajās banku lietotnēs.
• Sociālo mediju klientu apkalpošanas robotiem — MI aģentiem, kas atbild uz ziņām WhatsApp, Instagram vai Messenger mazumtirgotāja vārdā.

Atbrīvojums no pienākuma "acīmredzami saprotams no apstākļiem" ir šaurs. Tērzēšanas robots ar vārdu "Emīlija" vai aprakstīts kā "virtuālais asistents" neatbilst šim slieksnim. Galvene, kurā rakstīts "Jūs tagad sarunājaties ar automatizētu MI sistēmu — nav iesaistīts neviens cilvēks" būtu pietiekami. Mazumtirgotāji nedrīkst paļauties uz patērētāja izdarīto secinājumu — atklāšanai jābūt skaidrai, jānotiek pirms vai pirmās mijiedarbības laikā un jābūt pasniegta veidā, kas ir saprotams parastajai patērētājam.

Pienākums gulstas uz izvietotāju — mazumtirgotāju vai zvanu centra operatoru — nevis tikai uz tehnoloģiju piegādātāju. Līguma noteikumi, ar kuriem atklāšanas atbildība tiek pārnesta uz pārdevēju, neatbrīvo izvietotāju no regulatīvā pienākuma.

Emociju atpazīšanas atklāšana — Art. 50(2)

Art. 50(2) paredz, ka jebkurai personai, kura pakļauta emociju atpazīšanas sistēmai, ir jābūt informētai par tās darbību. Emociju atpazīšanas sistēma ir MI sistēma, kas secina emocionālos stāvokļus no fizioloģiskiem vai uzvedības signāliem — sejas izteiksmes, balss toņa, runas ritma, vārdu izvēles vai mikroizteiksmēm.

Mazumtirdzniecības un zvanu centra nozarē šis pienākums piemērojams:

• Klientu noskaņojuma analīzei zvanos — MI, kas analizē klienta balss akustiskās vai lingvistiskās iezīmes, lai secinātu vilšanos, apmierinātību vai emocionālo stāvokli zvanu centra mijiedarbības laikā. Klients ir jāinformē, ka šāda analīze notiek.
• Veikala klientu analīzei — ar MI aprīkotām kameru sistēmām, kas mēģina secināt pircēja emocijas vai uzmanību no sejas izteiksmēm. Ja sistēma atbilst emociju atpazīšanas definīcijai, nepieciešama atklāšana veikalā.
• Operatora balss analīzei — noskaņojuma vai emociju analīzei, kas tiek piemērota zvanu centra operatora pašu balsij (sīkāk aplūkots zemāk darbinieku uzraudzības sadaļā).

Atklāšana jāsniedz pirms emociju atpazīšanas sistēma sāk apstrādi. Telefona kanāliem tas parasti prasa IVR paziņojumu vai mutisku paziņojumu zvana sākumā. Klusēšana — tostarp audio uzaicinājumi, kuros minēta tikai zvana ierakstīšana bez MI emociju analīzes pieminēšanas — neatbilst Art. 50(2) pienākumam.

MI ģenerētie sintētiskie mediji — Art. 50(4)

Art. 50(4) paredz, ka MI ģenerētiem vai MI manipulētiem medijiem — attēliem, video un audio — ir jābūt marķētiem kā mākslīgi ģenerētiem vai manipulētiem, ja pastāv risks, ka lietotāji tos uzskatīs par autentiskiem.

Nozarei raksturīgie piemērojamie gadījumi:

• MI ģenerēti produktu attēli: produktu, telpu vai dzīvesveida ainu attēli, ko radījis ģeneratīvais MI un kas produktu sarakstos vai reklāmā pasniegti kā autentiskas fotogrāfijas.
• MI ģenerēti reklāmas video: zīmola video, uz atsauksmēm balstīts saturs vai mārketinga materiāli, kuros vizuālais vai audio saturs ir būtiski MI ģenerēts.
• MI ģenerēts vai MI klonēts balss komentārs, kas izmantots produktu demonstrācijās, zīmola saturā vai klientu saziņā.
• Virtuālās izmēģināšanas MI, kas ģenerē sintētiskus attēlus, kuros klients nēsā vai lieto produktu — ja iznākums tiek pasniegts kā precīzs attēlojums.

Marķēšanas pienākums neprasa, lai MI izcelsme būtu slēpta, lai iestātos atbilstības prasība — standarts ir tas, vai patērētājs pamatoti varētu sajaukt saturu ar autentisku fotogrāfiju vai video. Marķēšanas neievērošana rada arī risku saskaņā ar Negodīgas komercprakses direktīvu (2005/29/EK), kas aizliedz redakcionāla satura izmantošanu produktu reklamēšanai, skaidri nenorādot, ka tas ir apmaksāts vai mākslīgi ražots saturs.

Darbinieku uzraudzības MI zvanu centros — augsta riska klasifikācija

Zvanu centri regulāri izmanto MI, lai reāllaikā uzraudzītu, vērtētu, novērtētu un apmācītu operatorus. Ja šīs sistēmas iekļūst Annex III, 4. kategorijas jomā, piemērojami pilni augsta riska pienākumi.

Operatoru apmācība un reāllaika vadības MI

Reāllaika operatoru apmācības MI — sistēmas, kas uzrauga tiešos zvanus un sniedz operatoriem zvana laikā norādījumus, skriptus, atbilstības uzaicinājumus vai atgriezenisko saiti par emocionālo stāvokli — atrodas 4(b) un 4(c) kategoriju krustpunktā. Ja sistēma uzrauga operatora atbilstību līgumiskajiem pienākumiem (zvanu apstrādes standarti, regulatīvie skripti), piemērojama 4(b) kategorija. Ja tā secina operatora emocionālo vai uzvedības stāvokli un ģenerē brīdinājumus vai snieguma atzīmes no šī secinājuma, piemērojama 4(c) kategorija.

Abas apakškategorijas aktivizē pilnu augsta riska pienākumu kopumu:

• Riska pārvaldības sistēma saskaņā ar Art. 9: nepārtraukta operatoriem un ar sistēmu mijiedarbojošajiem klientiem radīto risku identificēšana, novērtēšana un mazināšana.
• Datu pārvaldība saskaņā ar Art. 10: apmācību datu kopas jābūt atbilstošām, reprezentatīvām un pārvaldītām, lai minimizētu diskriminējošu novirzi.
• Tehniskā dokumentācija saskaņā ar Art. 11 un Annex IV: visaptveroša sistēmas dizaina, paredzētā nolūka, ierobežojumu, snieguma rādītāju un testa rezultātu dokumentācija.
• Pārredzamība izvietotājiem saskaņā ar Art. 13: piegādātājiem jāsniedz lietošanas instrukcijas, kas ietver informāciju par sistēmas ierobežojumiem, darbības apstākļiem un paredzamajiem riskiem.
• Cilvēka uzraudzība saskaņā ar Art. 14: izvietotājiem jāizraugās personas ar pilnvarām, kompetenci un laiku, lai iejauktos sistēmas iznākumos vai tos ignorētu.
• Precizitāte un robustums saskaņā ar Art. 15: sistēmām jādarbojas uzticami noteikto parametru robežās.

Kvalitātes vērtēšanas un snieguma novērtēšanas MI

MI sistēmas, kas piešķir kvalitātes novērtējumus zvaniem, ģenerē operatoru snieguma ranžēšanu vai rada iznākumus, ko izmanto novērtēšanas, prēmiju noteikšanas vai atlaišanas procesos, iekļaujas Annex III 4(b) kategorijā kā sistēmas, ko izmanto lēmumiem par paaugstināšanu amatā, uzdevumu sadali vai līgumisko pienākumu izpildes uzraudzību. Augsta riska pienākumi piemērojami pilnā apjomā.

Operatoriem papildus jāizpilda Art. 50(2) atklāšanas prasība operatoriem, kuriem piemēroti emociju atpazīšanas komponenti šajās sistēmās — neatkarīgi no augsta riska atbilstības termiņa.

Valstu darba tiesību pienākumi

Darbinieku uzraudzības MI zvanu centros aktivizē valstu kopīgās lemšanas un konsultāciju tiesības neatkarīgi no MI Akta. Vācijā Betriebsverfassungsgesetz §87(1) Nr. 6 piešķir uzņēmumu padomēm saistošas kopīgās lemšanas tiesības attiecībā uz tehniskām uzraudzības ierīcēm; MI uzraudzības sistēmas prasa uzņēmuma padomes vienošanos pirms izvietošanas. Līdzvērtīgas tiesības piemērojamas Nīderlandē (WOR Art. 27), Austrijā (ArbVG §96) un Francijā (Code du Travail L. 2312-38). Šos pienākumus nevar atlikt līdz 2026. gada MI Akta augsta riska termiņam.

Uz klientiem vērstais MI, kas nav augsta riska

Ievērojama daļa mazumtirdzniecības MI nav klasificēta kā augsta riska saskaņā ar Annex III. Šādas kategorijas nav skaidri uzskaitītas Annex III un neprasa atbilstības novērtēšanu saskaņā ar MI Aktu:

• Produktu ieteikumu dzinēji — MI, kas personalizē produktu ieteikumus, pamatojoties uz pārlūkošanas vēsturi, pirkumu modeļiem vai sadarbīgo filtrēšanu.
• Dinamiskās cenas noteikšanas sistēmas — MI, kas reāllaikā koriģē cenas, pamatojoties uz pieprasījumu, krājumiem, konkurentu cenām vai patērētāju segmentiem.
• Krājumu pieprasījuma prognozēšana — MI, kas prognozē krājumu prasības SKU vai kategorijas līmenī.
• Klientu aizplūšanas prognozēšanas modeļi — MI, kas vērtē klientu aizplūšanas varbūtību noturēšanas kampaņu mērķauditorijas noteikšanai.
• Meklēšanas personalizācija — MI, kas pārkārto meklēšanas rezultātus mazumtirdzniecības vietnēs, pamatojoties uz individuāliem vai grupas signāliem.
• Atgriešanas krāpšanas atklāšana — MI, kas vērtē atgriešanas pieprasījumus iespējamās krāpšanas noteikšanai, ja iznākums nonāk cilvēka pārskatītā lēmumu procesā.

Šīs sistēmas tomēr pakļautas GDPR, ja tās ietver individuālu klientu profilēšanu. Uzvedības analītika, pirkumu vēstures apkopošana un starpvietņu izsekošana prasa likumīgu pamatu saskaņā ar Art. 6 GDPR — parasti leģitīmo interesi (prasa dokumentētu līdzsvara pārbaudi) vai piekrišanu. Ja profilēšana rada lēmumus ar būtisku ietekmi uz atsevišķiem patērētājiem — piemēram, klientu konta apturēšana, pamatojoties uz krāpšanas vērtēšanu — var piemērot GDPR Art. 22, prasot automatizētu lēmumu cilvēka pārskatīšanu.

P2B Regula (ES 2019/1150) nosaka pārredzamības prasības ranžēšanas algoritmiem, ko izmanto tiešsaistes tirgos un salīdzināšanas rīkos — operatoriem jāatklāj galvenie ranžēšanu noteicošie parametri un to relatīvā nozīme. Uz MI balstīta ranžēšana nav atbrīvota.

Patērētāju aizsardzība un Negodīgas komercprakses direktīva

Ar MI vadīta komercprakse mazumtirdzniecībā rada papildu risku saskaņā ar Negodīgas komercprakses direktīvu (2005/29/EK), jo īpaši pēc Omnibus direktīvas grozījumiem, kas dalībvalstīs piemērojami no 2022. gada:

• MI ģenerētas viltus atsauksmes: grozītā UCPD skaidri aizliedz viltotu patērētāju atsauksmju iesniegšanu un atsauksmju atlases pakalpojumu izmantošanu, kas neatklāj MI iesaisti. MI ģenerētas produktu atsauksmes, kas iesniegtas kā autentiskas patērētāju atsauksmes, ir nelikumīgas.
• Personalizēta cenas noteikšana bez atklāšanas: ja mazumtirgotājs izmanto MI, lai konkrētiem patērētājiem piedāvātu individuāli pielāgotas cenas, pamatojoties uz profilēšanu, grozītā UCPD prasa personalizācijas fakta atklāšanu, ja patērētājs saskaras ar personalizētu cenu.
• Manipulatīva personalizācija: ES MI Akta Art. 5 aizliedz MI sistēmas, kas izmanto subliminālus paņēmienus vai izmanto ievainojamības, lai izkropļotu patērētāju uzvedību. Agresīva personalizācija, kas vērstas pret patērētājiem kognitīvās ievainojamības brīžos vai izmanto no iepriekšējas mijiedarbības datiem secinātos emocionālos stāvokļus, var veidot aizliegtu praksi.
• Maldinošas MI ģenerētas apraksts: produktu apraksti, specifikācijas vai salīdzinošie apgalvojumi, ko MI ģenerē un kas ir neprecīzi vai izdomāti — tostarp LLM ģenerētā produktu saturā halucinētas specifikācijas — var veidot maldinošu komercpraksi saskaņā ar UCPD.

Izpildes iestādes un sankcijas

MI Akta pienākumu izpilde mazumtirdzniecības nozarē ir sadalīta starp vairākām kompetentajām iestādēm:

• Valstu MI uzraudzības iestādes: noteiktas saskaņā ar katras dalībvalsts MI Akta ieviešanas tiesību aktiem. Tās ir galvenās iestādes attiecībā uz Art. 50 pārredzamības pārkāpumiem un augsta riska atbilstības pārkāpumiem.
• Patērētāju aizsardzības iestādes: valstu patērētāju aģentūras un BEUC tīkls būs īpaši aktīvas, uzraugot tērzēšanas robotu atklāšanu, MI ģenerētā satura marķēšanu un ar UCPD saistītu MI praksi. Patērētāju aizsardzības sadarbības (CPC) tīkls nodrošina koordinētu izpildi visās dalībvalstīs.
• Datu aizsardzības iestādes: saglabā vienlaicīgu izpildes jurisdikciju saskaņā ar GDPR attiecībā uz klientu profilēšanu, automatizētu lēmumu pieņemšanu un biometrisko datu apstrādes incidentiem.
• Darba inspekcijas: dalībvalstīs ar stingriem darba inspekcijas režīmiem — Francijā (DREETS), Vācijā (Gewerbeaufsicht) un Spānijā (Inspección de Trabajo) — uz MI balstīta darbinieku uzraudzība, kas pārkāpj darba tiesības vai kopīgās lemšanas pienākumus, ir pakļauta izmeklēšanai neatkarīgi no MI Akta procesa.

Sodu pakļautība saskaņā ar MI Aktu: Art. 50 pārredzamības pienākumu pārkāpumi uzliek naudas sodus līdz €15 miljoniem vai 3% no globālā gada apgrozījuma, atkarībā no tā, kurš ir lielāks. Aizliegtas prakses pārkāpumi (Art. 5) uzliek naudas sodus līdz €35 miljoniem vai 7% no globālā gada apgrozījuma. GDPR naudas sodi piemērojami kumulatīvi. Lieliem e-komercijas operatoriem ar globālajiem ieņēmumiem 7% griesti pārstāv būtisku finansiālo risku.

Atbilstības ceļvedis mazumtirgotājiem un zvanu centra operatoriem

Strukturēta MI Akta atbilstības programma mazumtirdzniecības nozarei secīgi risina šādus jautājumus:

1. MI sistēmu inventarizācija: katalogizēt visus izmantojamos MI rīkus uz klientiem vērstos kanālos (vietne, lietotne, tālrunis, sociālie mediji), mārketinga un tirdzniecības funkcijās (cenu noteikšana, ieteikumi, satura ģenerēšana) un zvanu centra operācijās (apmācība, vērtēšana, uzraudzība). Katrai sistēmai noteikt, vai tā ir vispārējas nozīmes rīks, pārredzamības pienākumu sistēma vai potenciāli augsta riska sistēma.

2. Tērzēšanas robotu un balss robotu atklāšanas audits: pārskatīt visus sarunvedoša tipa MI izvietojumus atbilstībai Art. 50(1). Pārliecināties, ka atklāšana ir skaidra, notiek pirmās mijiedarbības laikā un nepaļaujas uz patērētāja secinājumu. Attiecīgi atjaunināt tērzēšanas saskarnes tekstu, IVR skriptus un palīdzības centra valodu.

3. Emociju atpazīšanas kartēšana: identificēt visas sistēmas — uz klientiem vērstās un uz operatoriem vērstās — kas secina emocionālos vai afektīvos stāvokļus. Ieviest Art. 50(2) paziņojumus visām piemērojamās jomas sistēmām. Uz operatoriem vērstajām sistēmām novērtēt Annex III 4. kategorijas klasifikāciju un uzsākt augsta riska atbilstības plānošanu.

4. Sintētisko mediju audits: veikt visu mārketinga materiālu, produktu attēlu un zīmola satura auditu attiecībā uz MI ģenerētajiem komponentiem. Ieviest Art. 50(4) marķēšanas darbplūsmu — nodrošinot, ka ģenerēts vai manipulēts saturs tiek identificēts pirms publicēšanas.

5. Zvanu centra MI pienācīga rūpība: katram MI pārdevējam, kas piegādā apmācības, vērtēšanas vai uzraudzības rīkus, pieprasīt apliecinājumu par Annex III klasifikāciju, CE marķējuma statusu (no 2026. gada 2. augusta) un lietošanas instrukcijām. Uzsākt uzņēmuma padomes konsultācijas vai kopīgās lemšanas procedūras saskaņā ar piemērojamiem valstu tiesību aktiem.

6. GDPR profilēšanas pārskatīšana: veikt GDPR likumīgā pamata auditu klientu profilēšanas darbībām. Ja tiek izmantota leģitīmā interese, dokumentēt un uzturēt līdzsvara pārbaudes uzskaiti. Atjaunināt privātuma paziņojumus, lai atspoguļotu ar MI vadītu profilēšanu.

7. UCPD atbilstības pārbaude: pārskatīt personalizētās cenas noteikšanas atklāšanu, atsauksmju ģenerēšanas praksi un MI ģenerēto satura darbplūsmas atbilstību UCPD prasībām, tostarp Omnibus direktīvas grozījumiem, kas ieviesti attiecīgajās dalībvalstīs.

8. Incidentu reaģēšana un pārvaldība: izveidot MI pārvaldības atbildību — parasti aptverot juridiskās, DPO, atbilstības un digitālās/tehnoloģiju funkcijas — ar dokumentētām eskalācijas procedūrām incidentiem, kas saistīti ar Art. 50 pārkāpumiem vai darbinieku sūdzībām saistībā ar uzraudzības MI.

Mazumtirgotāji un zvanu centra operatori, kas agri iegulda MI savā klientu un operacionālajā darbplūsmā, saskaras ar visplašāko atbilstības jomu. Art. 50 pārredzamības pienākumi jau ir piemērojami; augsta riska pienākumi darbinieku uzraudzības MI prasa programmas līmeņa sagatavošanos pirms 2026. gada 2. augusta.