Търговия на дребно, електронна търговия и кол центрове — съответствие с EU AI Act

Задължения по EU AI Act за търговия на дребно и кол центрове: оповестяване при чатботове, прозрачност при разпознаване на емоции, наблюдение на служители и AI при работа с клиенти. Обхваща чл. 50 и Приложение III.

Търговия на дребно, електронна търговия и кол центрове под EU AI Act

Секторът на търговията на дребно и електронната търговия е сред най-интензивните ползватели на изкуствен интелект. От момента, в който клиентът влезе в уебсайт, AI определя кои продукти се показват, каква цена се предлага, кои промоции се извеждат и как се обработват запитванията за обслужване на клиенти. В кол центровете AI коучва операторите в реално време, оценява разговорите и извежда емоционалното настроение на клиентите от гласовите сигнали. EU AI Act, в сила от 1 август 2024 г., с ключови задължения за прозрачност, приложими от 2 февруари 2025 г., и задължения за високорискови системи — от 2 август 2026 г., налага структурирана рамка за съответствие в целия тази сфера.

Важно е да се отбележи, че AI Act не третира всички AI решения в търговията на дребно като еднакви. Регламентът прави прецизно разграничение между системи, подлежащи само на задължения за прозрачност — болшинството от потребителски AI в търговията на дребно — и системи, класифицирани като високорискови, към които се прилага пълният набор от задължения: оценка на съответствието, техническа документация, системи за управление на качеството и изисквания за човешки надзор. Установяването коя категория се отнася за всяка внедрена система е основната задача по съответствие за търговците на дребно и операторите на кол центрове.

Секторът е едновременно с това регулиран от GDPR, Директивата за правата на потребителите (2011/83/ЕС), Директивата за нелоялни търговски практики (2005/29/ЕО), Регламент P2B (ЕС 2019/1150) и — за кол центровете — от националните трудовоправни режими относно наблюдението на служители. AI Act добавя допълнително ниво, но не замества съществуващите рамки.

Задължения за прозрачност по чл. 50 — основният слой на съответствие

За болшинството от внедрените AI решения в търговията на дребно и електронната търговия оперативната разпоредба е чл. 50 от EU AI Act. Задълженията му се прилагат от 2 февруари 2025 г. и не зависят от класификацията като високорискови. Неспазването може да бъде санкционирано независимо от графика за високорискови системи.

Оповестяване при чатботове и разговорен AI — чл. 50(1)

Чл. 50(1) налага задължително задължение за оповестяване на всеки оператор на разговорна AI система — система, предназначена да взаимодейства с хора чрез естествен език — да информира потребителите, че взаимодействат с AI, освен ако това не е очевидно от обстоятелствата.

В контекста на търговията на дребно това задължение се прилага при:

• Чатботове на уебсайтове и ботове за живо чат — включително чат уиджети, захранвани от модели за голям език, чатботове на основата на правила с подобрено AI разбиране и хибридни системи.
• Войсботове и AI за IVR — автоматизирани телефонни системи, обработващи входящи клиентски запитвания чрез гласов AI, включително AI-подобрени системи за интерактивен гласов отговор.
• Вградени виртуални асистенти в приложения — AI-базирани функции за помощ, вградени в приложения за търговия на дребно, приложения за програми за лоялност или финансово-смежни приложения, предлагани от търговци на дребно.
• Ботове за обслужване на клиенти в социалните медии — AI агенти, отговарящи на съобщения в WhatsApp, Instagram или Messenger от името на търговец на дребно.

Изключението за „очевидно от обстоятелствата" е тясно. Чатбот с името „Ема" или описан като „виртуален асистент" не отговаря на прага. Заглавие, показващо „В момента говорите с автоматизирана AI система — не участва жив оператор", би изпълнило изискването. Търговците на дребно не трябва да разчитат на умозаключения от страна на потребителите — оповестяването трябва да бъде изрично, направено преди или в момента на първото взаимодействие, и представено по начин, разбираем за обикновения потребител.

Задължението се носи от оператора — търговеца на дребно или оператора на кол центъра — а не само от доставчика на технологията. Договорни разпоредби, прехвърлящи отговорността за оповестяване на доставчика, не освобождават оператора от регулаторното му задължение.

Оповестяване при разпознаване на емоции — чл. 50(2)

Чл. 50(2) изисква всяко лице, изложено на система за разпознаване на емоции, да бъде информирано за нейното функциониране. Система за разпознаване на емоции е AI система, която извежда емоционални състояния от физиологични или поведенчески сигнали — изражения на лицето, тон на гласа, ритъм на речта, избор на думи или микроизражения.

В сектора на търговията на дребно и кол центровете това задължение се прилага при:

• Анализ на настроенията на клиентите при обаждания — AI, анализиращ акустичните или езиковите характеристики на гласа на клиента, за да изведе разочарование, удовлетворение или емоционално състояние по време на взаимодействие в кол центъра. Клиентът трябва да бъде информиран, че се извършва такъв анализ.
• Анализ на клиентите в магазина — AI-базирани камерни системи, опитващи се да изведат емоцията или вниманието на купувача от изражението на лицето. Когато системата отговаря на определението за разпознаване на емоции, се изисква оповестяване в магазина.
• Анализ на гласа на оператора — анализ на настроенията или емоциите, приложен към собствения глас на оператора в кол центъра (разгледан по-долу в раздела за наблюдение на служители).

Оповестяването трябва да бъде направено преди системата за разпознаване на емоции да започне обработката. За телефонни канали това обикновено изисква съобщение чрез IVR или устно уведомяване в началото на разговора. Мълчанието — включително аудио подкани, отнасящи се само до записа на разговора, без споменаване на AI анализ на емоции — не удовлетворява задължението по чл. 50(2).

AI-генерирани синтетични медии — чл. 50(4)

Чл. 50(4) изисква AI-генерираните или AI-манипулирани медии — изображения, видео и аудио — да бъдат означени като изкуствено генерирани или манипулирани, когато съществува риск потребителите да ги приемат за автентични.

Специфичните за търговията на дребно приложения, попадащи в обхвата, включват:

• AI-генерирани изображения на продукти: изображения на продукти, помещения или сцени от начина на живот, произведени от генеративен AI и представени като автентична фотография в продуктови листинги или реклами.
• AI-генерирано промоционално видео: корпоративни видеа, съдържание в стил препоръки или маркетингови материали, при които визуалното или аудио съдържание е в значителна степен AI-генерирано.
• AI-генерирано или AI-клонирано гласово озвучаване, използвано в демонстрации на продукти, брандирано съдържание или комуникация с клиентите.
• AI за виртуално пробване, генериращ синтетични изображения на клиент, носещ или използващ продукт — когато резултатът се представя като точно изображение.

Задължението за означаване не изисква скриването на AI произхода, за да се задейства изпълнението — стандартът е дали потребителят разумно би объркал съдържанието с автентична фотография или видео. Неспазването на задължението за означаване също създава излагане на риск по Директивата за нелоялни търговски практики (2005/29/ЕО), която забранява използването на редакционно съдържание за насърчаване на продукти без ясно посочване, че то е платено или изкуствено произведено.

AI за наблюдение на служители в кол центрове — класификация като високорискови

Кол центровете routinely внедряват AI за наблюдение, оценяване, оценка и коучинг на операторите в реално време. Когато тези системи навлизат в сферата на Приложение III, категория 4, се прилагат пълните задължения за високорискови системи.

AI за коучинг на оператори и насоки в реално време

AI за коучинг на оператори в реално време — системи, наблюдаващи живите разговори и предоставящи на операторите насоки по време на разговора, скриптове, подкани за съответствие или обратна връзка за емоционалното им състояние — се намира на пресечната точка на категории 4(б) и 4(в). Когато системата наблюдава спазването на договорните задължения от страна на оператора (стандарти за обработка на обаждания, регулаторни скриптове), се прилага категория 4(б). Когато извежда емоционалното или поведенческото състояние на оператора и генерира сигнали или маркировки за изпълнение въз основа на това извеждане, се прилага категория 4(в).

И двете подкатегории задействат пълния набор от задължения за високорискови системи:

• Система за управление на риска по чл. 9: непрекъснато идентифициране, оценяване и намаляване на рисковете за операторите и клиентите, взаимодействащи със системата.
• Управление на данните по чл. 10: наборите от данни за обучение трябва да бъдат релевантни, представителни и управлявани за минимизиране на дискриминационни предразсъдъци.
• Техническа документация по чл. 11 и Приложение IV: цялостна документация на дизайна на системата, предназначението, ограниченията, показателите за изпълнение и резултатите от тестовете.
• Прозрачност към операторите по чл. 13: доставчиците трябва да предоставят инструкции за употреба, включващи информация за ограниченията на системата, условията на работа и предвидимите рискове.
• Човешки надзор по чл. 14: операторите трябва да определят лица с правомощия, компетентност и достатъчно време да се намесват или да отменят резултатите на системата.
• Точност и надеждност по чл. 15: системите трябва да функционират надеждно в рамките на посочените параметри.

AI за оценяване на качеството и оценка на изпълнението

AI системи, присвояващи оценки за качество на разговори, генериращи класации на изпълнението на операторите или произвеждащи резултати, използвани при оценки, определяне на бонуси или процедури по уволнение, попадат в Приложение III, категория 4(б) като системи, използвани за решения относно повишение, разпределение на задачи или наблюдение на изпълнението на договорни задължения. Задълженията за високорискови системи се прилагат изцяло.

Операторите трябва допълнително да изпълнят изискването за оповестяване по чл. 50(2) за операторите, подложени на компоненти за разпознаване на емоции в тези системи — независимо от графика за съответствие за високорискови системи.

Национални трудовоправни задължения

AI за наблюдение на служители в кол центрове задейства национални права на съвместно вземане на решения и права на консултация, независимо от AI Act. В Германия §87(1), т. 6 от Закона за устройството на предприятията (Betriebsverfassungsgesetz) предоставя на работническите съвети обвързващи права на съвместно вземане на решения по отношение на технически устройства за наблюдение; AI системите за наблюдение изискват съгласие на работническия съвет преди внедряването. Еквивалентни права се прилагат в Нидерландия (WOR чл. 27), Австрия (ArbVG §96) и Франция (Code du Travail L. 2312-38). Тези задължения не могат да бъдат отложени до крайния срок за AI Act за високорискови системи от 2026 г.

Насочен към клиентите AI, който не е високорисков

Значителна част от AI в търговията на дребно не е класифицирана като високорискова по Приложение III. Следните категории изрично не са изброени в Приложение III и не изискват оценка на съответствието по AI Act:

• Системи за препоръки на продукти — AI, персонализиращ предложенията за продукти въз основа на история на сърфиране, модели на покупки или колаборативно филтриране.
• Системи за динамично ценообразуване — AI, коригиращ цените в реално време въз основа на търсенето, наличностите, цените на конкурентите или потребителските сегменти.
• Прогнозиране на търсенето на запаси — AI, предсказващ нуждите от наличности на ниво SKU или категория.
• Модели за прогнозиране на отлив на клиенти — AI, оценяващ вероятността от напускане на клиенти за таргетиране при кампании за задържане.
• Персонализиране на търсенето — AI, прекласиращ резултатите от търсенето в уебсайтове за търговия на дребно въз основа на индивидуални или групови сигнали.
• Откриване на измами при връщане — AI, оценяващ исканията за връщане за потенциална измама, когато резултатът захранва процес на вземане на решения с участие на човек.

Тези системи въпреки това подлежат на GDPR, когато включват индивидуално профилиране на клиентите. Поведенческият анализ, агрегирането на историята на покупките и проследяването между сайтове изискват законово основание по чл. 6 GDPR — обикновено законен интерес (изискващ документиран тест за претегляне) или съгласие. Когато профилирането произвежда решения със значителни последици за отделни потребители — например спиране на потребителски акаунт въз основа на оценяване на измами — може да се приложи чл. 22 GDPR, изискващ преглед от човек на автоматизираните решения.

Регламент P2B (ЕС 2019/1150) налага изисквания за прозрачност при алгоритмите за класиране, използвани в онлайн пазари и инструменти за сравнение — операторите трябва да оповестяват основните параметри, определящи класирането, и относителната им тежест. Класирането, управлявано от AI, не е освободено.

Защита на потребителите и Директивата за нелоялни търговски практики

AI-управляваните търговски практики в търговията на дребно създават допълнително излагане на риск по Директивата за нелоялни търговски практики (2005/29/ЕО), особено след измененията по Директивата Omnibus, в сила в държавите членки от 2022 г. насам:

• AI-генерирани фалшиви отзиви: ДУПТ, в изменения й вид, изрично забранява подаването на фалшиви потребителски отзиви и използването на услуги за куриране на отзиви, които не оповестяват участието на AI. AI-генерираните отзиви за продукти, подадени като автентични потребителски отзиви, са незаконни.
• Персонализирано ценообразуване без оповестяване: когато търговец на дребно използва AI за представяне на индивидуално съобразени цени на конкретни потребители въз основа на профилиране, изменената ДУПТ изисква оповестяване на факта на персонализирането, когато потребителят се сблъска с персонализирана цена.
• Манипулативно персонализиране: чл. 5 от EU AI Act забранява AI системи, използващи подсъзнателни техники или експлоатиращи уязвимости за изкривяване на потребителското поведение. Агресивното персонализиране, насочено към потребители в моменти на когнитивна уязвимост или експлоатиращо емоционални състояния, изведени от данни за предишни взаимодействия, може да представлява забранена практика.
• Подвеждащи AI-генерирани описания: описания на продукти, спецификации или сравнителни твърдения, генерирани от AI, които са неточни или измислени — включително халюцинирани спецификации в AI-генерирано съдържание за продукти от LLM — могат да представляват подвеждащи търговски практики по ДУПТ.

Контролни органи и санкции

Прилагането на задълженията по AI Act в сектора на търговията на дребно е разпределено между множество компетентни органи:

• Национални надзорни органи за AI: определени съгласно законодателството за прилагане на AI Act в съответната държава членка. Това са основните органи за нарушения на прозрачността по чл. 50 и за нарушения на съответствието на високорискови системи.
• Органи за защита на потребителите: националните органи за защита на потребителите и мрежата BEUC ще бъдат особено активни в наблюдението на оповестяването при чатботове, означаването на AI-генерирано съдържание и AI практиките, свързани с ДУПТ. Мрежата за сътрудничество в областта на защитата на потребителите (CPC) дава възможност за координирано правоприлагане в държавите членки.
• Органи за защита на данните: запазват паралелна компетентност за правоприлагане по GDPR при профилиране на клиенти, автоматизирано вземане на решения и инциденти, свързани с обработка на биометрични данни.
• Инспекции по труда: в държавите членки с развити режими на трудова инспекция — Франция (DREETS), Германия (Gewerbeaufsicht) и Испания (Inspección de Trabajo) — AI-базираното наблюдение на служители, нарушаващо трудовото право или задълженията за съвместно вземане на решения, подлежи на разследване независимо от производствата по AI Act.

Санкционна отговорност по AI Act: нарушенията на задълженията за прозрачност по чл. 50 се наказват с глоби в размер до 15 милиона евро или 3% от общия годишен световен оборот, в зависимост от по-голямото. Нарушенията на забранените практики (чл. 5) се наказват с глоби в размер до 35 милиона евро или 7% от общия годишен световен оборот. Глобите по GDPR се прилагат кумулативно. За големи оператори в електронната търговия с приходи в световен мащаб таванът от 7% представлява съществено финансово излагане на риск.

Пътна карта за съответствие за търговците на дребно и операторите на кол центрове

Структурираната програма за съответствие с AI Act за сектора на търговията на дребно трябва да разгледа следното по ред:

1. Инвентаризация на AI системите: каталогизиране на всички AI инструменти, използвани в клиентски канали (уебсайт, приложение, телефон, социални медии), маркетинг и мърчандайзинг функции (ценообразуване, препоръки, генериране на съдържание) и операции на кол центъра (коучинг, оценяване, наблюдение). За всяка система се определя дали е инструмент с общо предназначение, система с задължение за прозрачност или потенциално високорискова.

2. Одит на оповестяването при чатботове и войсботове: преглед на всички внедрени разговорни AI системи за съответствие с чл. 50(1). Проверка дали оповестяването е изрично, направено при първото взаимодействие, и не разчита на умозаключения от страна на потребителите. Актуализиране на текстовете на интерфейса за чат, скриптовете за IVR и съответните секции в центъра за помощ.

3. Картографиране на разпознаването на емоции: идентифициране на всички системи — насочени към клиентите и операторите — извеждащи емоционални или афективни състояния. Внедряване на уведомленията по чл. 50(2) за всички системи в обхвата. За системите, насочени към операторите, оценяване на класификацията по Приложение III, категория 4, и иницииране на планиране за съответствие с изискванията за високорискови системи.

4. Одит на синтетичните медии: одит на всички маркетингови активи, изображения на продукти и брандирано съдържание за AI-генерирани компоненти. Внедряване на работен процес за означаване по чл. 50(4) — осигуряване генерираното или манипулирано съдържание да бъде идентифицирано преди публикуване.

5. Надлежна проверка на AI в кол центъра: за всеки AI доставчик, предоставящ инструменти за коучинг, оценяване или наблюдение, се изисква потвърждение на класификацията по Приложение III, статуса на CE маркировката (от 2 август 2026 г.) и инструкциите за употреба. Иницииране на процедури за консултация с работническия съвет или за съвместно вземане на решения съгласно приложимото национално право.

6. Преглед на профилирането по GDPR: провеждане на одит на законовото основание по GDPR за дейности по профилиране на клиенти. Когато се разчита на законен интерес, документиране и поддържане на записи от тест за претегляне. Актуализиране на политиките за поверителност, за да отразят AI-управляваните практики на профилиране.

7. Проверка за съответствие с ДУПТ: преглед на оповестяването при персонализирано ценообразуване, практиките за генериране на отзиви и работните процеси за AI-генерирано съдържание спрямо изискванията на ДУПТ, включително измененията по Директивата Omnibus, приети в съответните държави членки.

8. Реакция при инциденти и управление: установяване на собственост върху управлението на AI — обикновено в правния, DPO, отдела по съответствие и цифровите/технологичните функции — с документирани процедури за ескалация при инциденти, включващи нарушения по чл. 50 или оплаквания на служители, свързани с AI за наблюдение.

Търговците на дребно и операторите на кол центрове, внедрили AI в ранен етап в работните си процеси с клиенти и операционните си процеси, имат най-широката повърхност на съответствие. Задълженията за прозрачност по чл. 50 вече са приложими; задълженията за AI системи за наблюдение на служители с висок риск изискват подготовка на програмно ниво преди 2 август 2026 г.