Mažmeninė prekyba, el. prekyba ir skambučių centrai — ES DI akto laikymasis

ES DI akto prievolės mažmeninės prekybos ir skambučių centrų DI srityje: pokalbių robotų atskleidimas, emocijų atpažinimo skaidrumas, darbuotojų stebėsena ir klientų DI. Apima Art. 50 ir Annex III.

Mažmeninė prekyba, el. prekyba ir skambučių centrai pagal ES DI aktą

Mažmeninės prekybos ir el. prekybos sektorius yra vienas intensyviausių dirbtinio intelekto diegėjų. Nuo pat momento, kai klientas apsilanko svetainėje, DI formuoja tai, kokie produktai rodomi, kokia kaina siūloma, kokios akcijos pristatomos ir kaip tvarkomi klientų aptarnavimo klausimai. Skambučių centruose DI realiuoju laiku konsultuoja agentus, vertina pokalbius ir iš balso signalų numato kliento emocinę būklę. ES DI aktas, įsigaliojęs 2024 m. rugpjūčio 1 d., kai pagrindinės skaidrumo prievolės įsigaliojo 2025 m. vasario 2 d., o didelės rizikos prievolės — 2026 m. rugpjūčio 2 d., nustato struktūruotą atitikties sistemą visame šiame sektoriuje.

Esminis dalykas: DI aktas nelaiko viso mažmeninės prekybos DI lygiaverčiu. Reglamentas tiksliai skiria sistemas, kurioms taikomos tik skaidrumo prievolės — dauguma klientams skirtų mažmeninės prekybos DI sistemų — ir sistemas, klasifikuojamas kaip didelės rizikos, kurioms taikomas visas prievolių rinkinys: atitikties vertinimas, techninė dokumentacija, kokybės valdymo sistemos ir žmogaus priežiūros reikalavimai. Kiekvienos diegiamos sistemos kategorijos nustatymas yra pagrindinis mažmeninės prekybos ir skambučių centrų operatorių atitikties uždavinys.

Sektorius tuo pačiu metu yra reguliuojamas GDPR, Vartotojų teisių direktyva (2011/83/ES), Nesąžiningų komercinių praktikų direktyva (2005/29/EB), P2B Reglamentu (ES 2019/1150) ir skambučių centrams — nacionaliniais darbo teisės režimais dėl darbuotojų stebėsenos. DI aktas prideda papildomą sluoksnį, tačiau nepakeičia šių esamų sistemų.

Art. 50 skaidrumo prievolės — pagrindinis atitikties sluoksnis

Daugumai mažmeninės prekybos ir el. prekybos DI diegimų Art. 50 yra veikianti ES DI akto nuostata. Jo prievolės taikomos nuo 2025 m. vasario 2 d. ir nepriklauso nuo didelės rizikos klasifikacijos. Neatitiktis gali būti sankcionuota nepriklausomai nuo didelės rizikos laiko grafiko.

Pokalbių robotų ir pokalbių DI atskleidimas — Art. 50(1)

Art. 50(1) nustato privalomą atskleidimo prievolę bet kuriam pokalbių DI sistemos diegėjui — sistemai, sukurtai bendrauti su žmonėmis naudojant natūralią kalbą — informuoti vartotojus, kad jie bendrauja su DI, nebent tai akivaizdu iš aplinkybių.

Mažmeninės prekybos kontekste ši prievolė taikoma:

• Svetainių pokalbių robotams ir tiesioginių pokalbių robotams — įskaitant pokalbių valdiklius, pagrįstus dideliais kalbos modeliais, taisyklėmis grįstus pokalbių robotus su DI patobulinta supratimu ir hibridines sistemas.
• Balso robotams ir IVR DI — automatizuotoms telefoninėms sistemoms, kurios naudojant balso DI tvarko gaunamuosius klientų klausimus, įskaitant DI patobulintus interaktyvaus balso atsako sistemas.
• Programėlių virtualiems asistentams — DI pagrįstoms pagalbos funkcijoms, įterptoms į mažmeninės prekybos programėles, lojalumo programų programėles ar su bankininkyste susijusias mažmenininkų siūlomas programėles.
• Socialinių tinklų klientų aptarnavimo robotams — DI agentams, atsakantiems į žinutes „WhatsApp", „Instagram" ar „Messenger" mažmenininko vardu.

Išimtis dėl „aplinkybių akivaizdumo" yra siaura. Pokalbių robotas, vardu „Emma" arba apibūdinamas kaip „virtualus asistentas", neatitinka šio slenksto. Antraštė, kurioje nurodoma „Jūs dabar kalbate su automatizuota DI sistema — jokio žmogaus agento nėra", būtų pakankama. Mažmenininkai neturi pasikliauti vartotojų išvadomis — atskleidimas turi būti aiškus, pateikiamas pirmojo sąveikos momento metu arba prieš ją, ir pateiktas taip, kad būtų suprantamas paprastam vartotojui.

Prievolė tenka diegėjui — mažmenininkui arba skambučių centro operatoriui — ne tik technologijų tiekėjui. Sutartinės nuostatos, perkeliančios atskleidimo atsakomybę tiekėjui, neatleidžia diegėjo nuo reguliavimo prievolės.

Emocijų atpažinimo atskleidimas — Art. 50(2)

Art. 50(2) reikalauja, kad bet kuris asmuo, patiriantis emocijų atpažinimo sistemą, būtų informuotas apie jos veikimą. Emocijų atpažinimo sistema yra DI sistema, kuri iš fiziologinių ar elgesio signalų — veido išraiškų, balso tembro, kalbos ritmo, žodžių pasirinkimo ar mikroišraiškų — numato emocines būsenas.

Mažmeninės prekybos ir skambučių centrų sektoriuje ši prievolė taikoma:

• Klientų nuotaikų analizei skambučiuose — DI, kuris analizuoja kliento balso akustines ar lingvistines savybes, siekdamas nustatyti nusivylimą, pasitenkinimą ar emocinę būklę skambučių centro sąveikos metu. Klientas turi būti informuotas, kad ši analizė vyksta.
• Parduotuvės klientų analizei — DI palaikomiems fotoaparatų sistemoms, kurios bando nustatyti pirkėjo emociją ar dėmesį iš veido išraiškų. Kai sistema atitinka emocijų atpažinimo apibrėžimą, reikalingas atskleidimas parduotuvėje.
• Agento balso analizei — nuotaikų ar emocijų analizei, taikomai paties skambučių centro agento balsui (tai plačiau aptariama toliau, darbuotojų stebėsenos skyriuje).

Atskleidimas turi būti pateiktas prieš emocijų atpažinimo sistemai pradedant apdorojimą. Telefono kanalais tai paprastai reikalauja IVR pranešimo arba žodinio pranešimo skambučio pradžioje. Tyla — įskaitant garso pranešimus, kuriuose nurodomas tik skambučio įrašymas, bet neminima DI emocijų analizė — netenkina Art. 50(2) prievolės.

DI sukurtos sintetinės medijos — Art. 50(4)

Art. 50(4) reikalauja, kad DI sukurta arba DI modifikuota medija — vaizdai, vaizdo įrašai ir garso įrašai — būtų žymima kaip dirbtinai sukurta arba modifikuota, kai yra rizika, kad vartotojai ją laikys autentiška.

Mažmeninės prekybos specifinės taikytinos sritys apima:

• DI sukurtą produktų vaizdus: produktų, kambarių ar gyvenimo būdo scenų vaizdus, sukurtus generatyviniu DI ir pateikiamus kaip autentiška fotografija produktų sąrašuose ar reklamoje.
• DI sukurtą reklaminį vaizdo įrašą: prekės ženklo vaizdo įrašus, turinio stilizuotų liudijimų turinį ar rinkodaros medžiagą, kuriuose vaizdinis ar garso turinys iš esmės yra sukurtas DI.
• DI sukurtą ar DI klonuotą balso pasakojimą, naudojamą produktų demonstracijose, prekės ženklo turinyje ar klientų komunikacijoje.
• Virtualaus išbandymo DI, generuojantį sintetinius kliento dėvinčio ar naudojančio produktą vaizdus — kai rezultatas pateikiamas kaip tikslus atvaizdavimas.

Žymėjimo prievolė nereikalauja, kad DI kilmė būtų paslėpta siekiant sukelti atitikties prievolę — standartas yra tai, ar vartotojas galėtų pagrįstai supainioti turinį su autentiška fotografija ar vaizdo įrašu. Nežymėjimas taip pat sukuria atsakomybę pagal Nesąžiningų komercinių praktikų direktyvą (2005/29/EB), kuri draudžia redakcinio turinio naudojimą produktų reklamai neaiškiai nurodant, kad tai apmokamas ar dirbtinai sukurtas turinys.

Darbuotojų stebėsenos DI skambučių centruose — didelės rizikos klasifikacija

Skambučių centrai nuolat naudoja DI, kad stebėtų, vertintų, įvertintų ir realiuoju laiku konsultuotų agentus. Kai šios sistemos patenka į Annex III, kategorija 4 teritoriją, taikomos visos didelės rizikos prievolės.

Agentų konsultavimo ir realiojo laiko vadovavimo DI

Realiojo laiko agentų konsultavimo DI — sistemos, stebinčios tiesioginius skambučius ir teikiančios agentams pokalbio metu vadovavimą, scenarijus, atitikties raginimai ar emocinės būklės grįžtamasis ryšys — yra kat. 4(b) ir kat. 4(c) sankirtoje. Kai sistema stebi agento sutartinių prievolių vykdymą (skambučių tvarkymo standartai, reguliavimo scenarijai), taikoma kat. 4(b). Kai ji numato agento emocinę ar elgesio būklę ir iš šios išvados generuoja įspėjimus ar veiklos žymas, taikoma kat. 4(c).

Abi subkategorijos suaktyvina visą didelės rizikos prievolių rinkinį:

• Rizikos valdymo sistema pagal Art. 9: nuolatinis rizikų agentams ir klientams, bendraujiantiems su sistema, nustatymas, vertinimas ir mažinimas.
• Duomenų valdymas pagal Art. 10: mokymo duomenų rinkiniai turi būti aktualūs, reprezentatyvūs ir valdomi siekiant sumažinti diskriminacinį šališkumą.
• Techninė dokumentacija pagal Art. 11 ir Annex IV: išsami dokumentacija apie sistemos dizainą, numatomą paskirtį, apribojimus, veiklos rodiklius ir bandymų rezultatus.
• Skaidrumas diegėjams pagal Art. 13: tiekėjai turi pateikti naudojimo instrukcijas, apimančias informaciją apie sistemos apribojimus, veikimo sąlygas ir numatomas rizikas.
• Žmogaus priežiūra pagal Art. 14: diegėjai turi paskirti asmenis, turinčius įgaliojimus, kompetenciją ir laiko kišiksi ar perrašyti sistemos išvestis.
• Tikslumas ir patikimumas pagal Art. 15: sistemos turi veikti patikimai nustatytų parametrų ribose.

Kokybės vertinimo ir veiklos rezultatų DI

DI sistemos, priskiriančios kokybės balus skambučiams, generuojančios agentų veiklos rezultatų reitingus ar produkuojančios išvestis, naudojamas vertinimui, premijų nustatymui ar atleidimo procesams, patenka į Annex III kat. 4(b) kaip sistemos, naudojamos sprendimams dėl paaukštinimo, užduočių paskyrimo ar sutartinių prievolių stebėsenos. Didelės rizikos prievolės taikomos visapusiškai.

Operatoriai taip pat turi tenkinti Art. 50(2) atskleidimo reikalavimą agentams, kuriems taikomos šių sistemų emocijų atpažinimo sudedamosios dalys — nepriklausomai nuo didelės rizikos atitikties laiko grafiko.

Nacionalinės darbo teisės prievolės

Darbuotojų stebėsenos DI skambučių centruose suaktyvina nacionalines bendro sprendimo priėmimo ir konsultavimosi teises nepriklausomai nuo DI akto. Vokietijoje Betriebsverfassungsgesetz §87(1) Nr. 6 suteikia darbo taryboms privalomas bendro sprendimo priėmimo teises dėl techninių stebėjimo priemonių; DI stebėsenos sistemos reikalauja darbo tarybos sutikimo prieš diegimą. Lygiavertės teisės taikomos Nyderlanduose (WOR Art. 27), Austrijoje (ArbVG §96) ir Prancūzijoje (Code du Travail L. 2312-38). Šių prievolių negalima atidėti iki 2026 m. DI akto didelės rizikos termino.

Klientams skirtos DI, kuri nėra didelės rizikos

Didelė dalis mažmeninės prekybos DI neklasifikuojama kaip didelės rizikos pagal Annex III. Šios kategorijos aiškiai neįtrauktos į Annex III ir nereikalauja atitikties vertinimo pagal DI aktą:

• Produktų rekomendacijų varikliai — DI, personalizuojantis produktų pasiūlymus pagal naršymo istoriją, pirkimų modelius ar bendradarbiavimo filtravimą.
• Dinaminių kainų sistemos — DI, realiuoju laiku koreguojantis kainas pagal paklausą, atsargas, konkurentų kainas ar vartotojų segmentus.
• Atsargų paklausos prognozavimas — DI, prognozuojantis atsargų reikalavimus SKU ar kategorijos lygmeniu.
• Klientų nutekėjimo prognozavimo modeliai — DI, vertinantis klientų praradimo tikimybę, skirtą išlaikymo kampanijų taikymui.
• Paieškos personalizavimas — DI, pertvarkantis paieškos rezultatus mažmeninės prekybos svetainėse pagal individualius ar grupės signalus.
• Grąžinimų sukčiavimo aptikimas — DI, vertinantis grąžinimo prašymus dėl galimo sukčiavimo, kai išvestis patenka į žmogaus peržiūrimo sprendimo procesą.

Šios sistemos vis dėlto yra pavaldžios GDPR, kai jos apima individualų klientų profilų kūrimą. Elgesio analizė, pirkimų istorijos agregavimas ir sekimas per svetaines reikalauja teisėto pagrindo pagal Art. 6 GDPR — paprastai teisėto intereso (reikalaujančio dokumentuoto pasvėrimo testo) arba sutikimo. Kai profilizavimas sukuria sprendimus, darančius reikšmingą poveikį atskiriems vartotojams — pavyzdžiui, kliento sąskaitos sustabdymas remiantis sukčiavimo vertinimu — gali būti taikomas GDPR Art. 22, reikalaujantis automatizuotų sprendimų žmogaus peržiūros.

P2B Reglamentas (ES 2019/1150) nustato skaidrumo reikalavimus internetinėse rinkose ir palyginimo įrankiuose naudojamiems reitingavimo algoritmams — operatoriai turi atskleisti pagrindinius reitingą lemiančius parametrus ir jų santykinę svarbą. DI pagrįstas reitingavimas nėra atleistas.

Vartotojų apsauga ir Nesąžiningų komercinių praktikų direktyva

DI pagrįstos komercinės praktikos mažmeninėje prekyboje sukuria papildomą atsakomybę pagal Nesąžiningų komercinių praktikų direktyvą (2005/29/EB), ypač po Omnibus direktyvos pakeitimų, valstybėse narėse galiojančių nuo 2022 m.:

• DI sukurtos netikros apžvalgos: UCPD, su pakeitimais, aiškiai draudžia netikrų vartotojų apžvalgų pateikimą ir apžvalgų kuratorių paslaugų naudojimą, kurios neatskleidžia DI dalyvavimo. DI sukurtos produktų apžvalgos, pateikiamos kaip autentiškos vartotojų apžvalgos, yra neteisėtos.
• Personalizuota kainodara be atskleidimo: kai mažmenininkas naudoja DI, kad konkretiems vartotojams pateiktų individualiai pritaikytas kainas remiantis profiliavimu, iš dalies pakeistas UCPD reikalauja atskleisti personalizavimo faktą, kai vartotojas susiduria su personalizuota kaina.
• Manipuliuojantis personalizavimas: ES DI akto Art. 5 draudžia DI sistemas, naudojančias subliminalines technikas ar išnaudojančias pažeidžiamumą, siekiant iškraipyti vartotojų elgesį. Agresyvus personalizavimas, nukreiptas į vartotojus kognityvinio pažeidžiamumo momentais ar išnaudojantis emocines būsenas, nustatytas iš ankstesnės sąveikos duomenų, gali sudaryti draudžiamą praktiką.
• Klaidinančios DI sukurtos aprašymai: produktų aprašymai, specifikacijos ar lyginamieji teiginiai, DI sukurti ir netikslūs ar sufabrikuoti — įskaitant DLM sukurtų produktų turinyje haliucinuotas specifikacijas — gali sudaryti klaidinančią komercinę praktiką pagal UCPD.

Vykdymo institucijos ir sankcijos

ES DI akto prievolių vykdymas mažmeninės prekybos sektoriuje yra paskirstytas kelioms kompetentingoms institucijoms:

• Nacionalinės DI priežiūros institucijos: paskirtos pagal kiekvienos valstybės narės DI akto įgyvendinimo teisės aktus. Jos yra pagrindinės institucijos, atsakingos už Art. 50 skaidrumo pažeidimus ir didelės rizikos atitikties pažeidimus.
• Vartotojų apsaugos institucijos: nacionalinės vartotojų agentūros ir BEUC tinklas bus ypač aktyvūs stebint pokalbių robotų atskleidimą, DI sukurto turinio žymėjimą ir su UCPD susijusias DI praktikas. Vartotojų apsaugos bendradarbiavimo (CPC) tinklas leidžia koordinuotą vykdymą visose valstybėse narėse.
• Duomenų apsaugos institucijos: išlaiko lygiagretę vykdymo jurisdikciją pagal GDPR dėl klientų profilizavimo, automatizuoto sprendimų priėmimo ir biometrinių duomenų apdorojimo incidentų.
• Darbo inspekcijos: valstybėse narėse su stipriais darbo inspekcijos režimais — Prancūzijoje (DREETS), Vokietijoje (Gewerbeaufsicht) ir Ispanijoje (Inspección de Trabajo) — DI pagrįsta darbuotojų stebėsena, pažeidžianti darbo teisę ar bendro sprendimo priėmimo prievoles, yra tiriama nepriklausomai nuo DI akto procedūrų.

Baudų atsakomybė pagal DI aktą: Art. 50 skaidrumo prievolių pažeidimai užtraukia baudas iki 15 mln. EUR arba 3 % pasaulinės metinės apyvartos, priklausomai nuo to, kuri suma didesnė. Draudžiamų praktikų (Art. 5) pažeidimai užtraukia baudas iki 35 mln. EUR arba 7 % pasaulinės metinės apyvartos. GDPR baudos taikomos kumuliatyviai. Didelių el. prekybos operatorių, turinčių pasaulines pajamas, atveju 7 % lubos sudaro reikšmingą finansinę atsakomybę.

Mažmenininkų ir skambučių centrų operatorių atitikties veiksmų planas

Struktūruota DI akto atitikties programa mažmeninės prekybos sektoriui turėtų nuosekliai spręsti šiuos klausimus:

1. DI sistemų inventorius: katalogizuoti visus DI įrankius, naudojamus klientams skirtuose kanaluose (svetainė, programėlė, telefonas, socialiniai tinklai), rinkodaros ir prekybos funkcijose (kainodara, rekomendacijos, turinio generavimas) ir skambučių centro operacijose (konsultavimas, vertinimas, stebėsena). Kiekvienai sistemai nustatyti, ar tai yra bendrosios paskirties įrankis, skaidrumo prievolės sistema ar galimas didelės rizikos.

2. Pokalbių robotų ir balso robotų atskleidimo auditas: peržiūrėti visus pokalbių DI diegimus dėl atitikties Art. 50(1). Patikrinti, ar atskleidimas yra aiškus, pateikiamas pirmojo sąveikos momento metu ir nepasikliauja vartotojų išvadomis. Atitinkamai atnaujinti pokalbių sąsajos tekstą, IVR scenarijus ir pagalbos centro kalbą.

3. Emocijų atpažinimo atvaizdavimas: nustatyti visas sistemas — skirtas klientams ir agentams — kurios numato emocines ar afektyvias būsenas. Įdiegti Art. 50(2) pranešimus visoms taikytinoms sistemoms. Agentams skirtoms sistemoms įvertinti Annex III kat. 4 klasifikaciją ir pradėti didelės rizikos atitikties planavimą.

4. Sintetinės medijos auditas: audituoti visą rinkodaros turtą, produktų vaizdus ir prekės ženklo turinį dėl DI sukurtų sudedamųjų dalių. Įdiegti Art. 50(4) žymėjimo darbo eigą — užtikrinant, kad sukurtas ar modifikuotas turinys būtų identifikuojamas prieš paskelbimą.

5. Skambučių centro DI deramas patikrinimas: kiekvienam DI tiekėjui, tiekiančiam konsultavimo, vertinimo ar stebėsenos įrankius, prašyti patvirtinimo dėl Annex III klasifikacijos, CE ženklinimo statuso (nuo 2026 m. rugpjūčio 2 d.) ir naudojimo instrukcijų. Inicijuoti darbo tarybos konsultacijas ar bendro sprendimo priėmimo procedūras pagal taikytiną nacionalinę teisę.

6. GDPR profilizavimo peržiūra: atlikti GDPR teisėto pagrindo auditą klientų profilizavimo veiklai. Kai remiamasi teisėtu interesu, dokumentuoti ir saugoti pasvėrimo testo įrašus. Atnaujinti privatumo pranešimus, kad atspindėtų DI pagrįstas profilizavimo praktikas.

7. UCPD atitikties patikrinimas: peržiūrėti personalizuotos kainodaros atskleidimą, apžvalgų generavimo praktikas ir DI sukurto turinio darbo eigas pagal UCPD reikalavimus, įskaitant Omnibus direktyvos pakeitimus, priimtus atitinkamose valstybėse narėse.

8. Incidentų valdymas ir valdysena: nustatyti DI valdysenos atsakomybę — paprastai apimančią teisines, DPO, atitikties ir skaitmenines / technologijų funkcijas — su dokumentuotomis eskalavimo procedūromis incidentams, susijusiems su Art. 50 pažeidimais ar darbuotojų skundais dėl stebėsenos DI.

Mažmenininkai ir skambučių centrų operatoriai, anksčiau integravę DI į klientų ir veiklos darbo eigas, turi plačiausią atitikties paviršių. Art. 50 skaidrumo prievolės jau taikomos; didelės rizikos prievolės darbuotojų stebėsenos DI reikalauja programos lygio parengimo iki 2026 m. rugpjūčio 2 d.