Задължения за прозрачност по Закона на ЕС за ИИ (чл. 50) — Чатботове, дийпфейкове и синтетично съдържание

Повечето системи за ИИ не са с висок риск — те попадат под задълженията за прозрачност по чл. 50. Ако разгръщате чатбот, генерирате синтетични изображения или използвате разпознаване на емоции, ето точно какво трябва да разкривате и маркирате.

Кой попада под чл. 50 (не с висок риск)

Законът на ЕС за ИИ установява стратифицирана рамка на риска. Повечето системи за ИИ, разгърнати днес, не се квалифицират като с висок риск по Приложение III или Приложение I — те попадат в една от две по-леки категории:

• Само задължения за прозрачност (чл. 50): чатботове, генератори на дийпфейкове, системи за синтетично съдържание, системи за разпознаване на емоции и инструменти за биометрична категоризация
• Минимален риск: спам филтри, ИИ в игри, препоръчителни системи — обект само на доброволни кодекси за поведение

Критичното разграничение от системите с висок риск по Приложение III е, че системите само с прозрачност изискват разкриване, а не оценка на съответствието, техническа документация или CE маркировка. Тежестта е значително по-ниска, но несъответствието все пак е санкционируемо нарушение с глоби до 7,5 милиона евро.

Разбирането кое ниво заема вашата система е първата стъпка за съответствие. Инструментът за класификация на риска от ИИ може да ви помогне да определите кои задължения се прилагат.

Чл. 50(1) — Разговорен ИИ и чатботове

Всяка система за ИИ, предназначена да взаимодейства директно с физически лица, трябва да уведоми потребителя, че взаимодейства с система за ИИ. Разкриването трябва да бъде:

• Навременно — направено в началото на взаимодействието, преди смислена размяна да е започнала
• Ясно и различимо — не погребано в условия за ползване или бележки под линия с малък шрифт
• Разбираемо — адаптирано към контекста, така че лицето действително да го разбира

Обхват: Ботове за обслужване на клиенти, виртуални асистенти, ИИ телефонни агенти, разговорен ИИ, вграден в социални медии, и чат за поддръжка с ИИ на уебсайтове. Ако насочен към хора интерфейс използва езиков модел за провеждане на диалог, чл. 50(1) се прилага.

Изключение 1: Когато природата на ИИ е очевидна от контекста — например ясно маркиран ИИ асистент с аватар на робот в продуктов интерфейс — задължението за разкриване може да се счита за изпълнено. Но „очевидно" е висок стандарт; подразбиращите се UI сигнали сами по себе си е малко вероятно да са достатъчни, когато потребителите разумно биха вярвали, че говорят с човек.

Изключение 2: Системи, разрешени от националното право за целите на правоприлагането (напр. инструменти за тайно разследване, използвани от компетентни органи).

Краен срок за съответствие: 2 август 2026 г. (удължен от Digital Omnibus 2026 от оригиналната дата 2 август 2025 г.). Системите, разгърнати преди тази дата, трябва да бъдат приведени в съответствие — не са освободени.

Чл. 50(2) — Разкриване при разпознаване на емоции

Доставчиците и крайните потребители на системи за разпознаване на емоции трябва да информират физическите лица, чието емоционално или психологическо състояние се извежда. Това включва системи, установяващи, класифициращи или оценяващи емоции като радост, гняв, дистрес, ангажираност или измама от изражения на лицето, тон на гласа, физиологични сигнали или поведенчески сигнали.

Обхват: Инструменти за анализ на HR интервюта, оценяващи ангажираността или стреса на кандидатите; клиентски системи за настроения, наблюдаващи взаимодействията в кол-центъра; инструменти за проверка на сигурността, твърдящи, че установяват измамен умисъл; системи в търговията на дребно, проследяващи емоционалната реакция към продукти.

Не се обхваща: Системи за ИИ, установяващи физиологични състояния единствено за защитни цели — например системи за установяване на сънлив водач, наблюдаващи движението на очите и задействащи сигнал, но не извеждащи или записващи емоционални състояния за други цели. Изключението за защитна цел е тясно; системи, препредназначени за профилиране, губят изключението.

Когато системата за разпознаване на емоции е и система с висок риск по Приложение III (напр. скрийнинг при заетост), върху разкриването по чл. 50(2) се прилагат пълните задължения за висок риск.

Чл. 50(3) — Разкриване при биометрична категоризация

Системите за ИИ, извеждащи чувствителни лични атрибути — включително расов или етнически произход, политически възгледи, членство в профсъюзи, религиозни или философски убеждения или сексуална ориентация — от биометрични данни, трябва да информират засегнатите лица.

Това задължение се прилага за системи, категоризиращи лица въз основа на биометрични входни данни, независимо дали категоризацията е основната цел или последваща изводимост. Система, използваща разпознаване на лица за извеждане на вероятни демографски атрибути, задейства чл. 50(3), дори ако заявената й цел е нещо друго.

Важна граница с чл. 5: Дистанционната биометрична идентификация в реално време на обществено достъпни места от правоприлагащите органи е изцяло забранена по чл. 5, а не само обект на разкриване. Където системата е забранена, задълженията за прозрачност са без значение — тя не може законосъобразно да бъде разгърната. Вижте забранените практики по чл. 5 за пълния списък на забранените системи.

Чл. 50(4) — Маркиране на генерирано от ИИ и синтетично съдържание

Доставчиците на системи за ИИ, генериращи или манипулиращи синтетично аудио, изображения, видео или текст в мащаб, трябва технически да маркират резултата в машинно четим формат. Маркировката трябва:

• Да е установима и оперативно съвместима между платформи и инструменти за проверка
• Да се запазва при споделяне, прекодиране или преразпределяне на съдържанието
• Да спазва техническия стандарт, разработван от Европейската служба по ИИ (стандартът за произход на генерирано от ИИ съдържание, понякога наричан ATMF)

Обхват: Генератори текст-в-изображение (еквиваленти на Midjourney, Stable Diffusion, DALL-E); инструменти за синтез на видео и дийпфейк видео; системи за клониране на глас; ИИ инструменти за писане, произвеждащи мащабни резултати (напр. автоматизирано генериране на новини, маркетингово копие в мащаб без редакторски преглед).

Изключение: Системи за ИИ, генериращи съдържание, преминало редакторски преглед от хора, за което хората носят редакторска отговорност. Журналист, използващ инструмент за ИИ за чернови, преглеждащ и значително редактиращ резултата преди публикуване, е извън задължението за маркиране за тази конкретна употреба. Същата система, разгърната без редакторски надзор, не е.

Доставчиците трябва да прилагат техническото маркиране на ниво инфраструктура — воден знак, криптографски метаданни за произход или стандартно съвместими удостоверения за съдържание — не като незадължителна функция, а като поведение на резултата по подразбиране.

Чл. 50(5) — Задължение на крайния потребител за разкриване на дийпфейкове

Когато краен потребител използва система за ИИ за производство на съдържание с дийпфейкове — синтетични или манипулирани изображения, аудио или видео на реални лица — крайният потребител трябва ясно да обозначи съдържанието като генерирано или манипулирано от ИИ. Обозначението трябва да бъде:

• Видимо в случай на изображение или видео съдържание
• Чуваемо в случай на аудио съдържание
• Поставено по начин, видим за аудиторията, а не само вграден в метаданните

Изключения: Съдържание, произведено за сатира, пародия или художествено изразяване, когато природата на генерирането от ИИ е очевидна за аудиторията. Творци, работещи в ясно пародийни или сатирични формати, трябва независимо от това да документират намерението си, тъй като органите за правоприлагане ще оценяват дали природата на ИИ е наистина очевидна в контекста.

Това задължение пада върху крайния потребител — организацията или лицето, въвеждащо съдържанието в употреба — а не само върху доставчика на системата. Маркетингова агенция, използваща инструмент за дийпфейк видео от трета страна, е крайният потребител и носи задължението за обозначаване.

Практически стъпки за съответствие по вид система

Крайните потребители, използващи системи за ИИ от трети страни, носят задължения за прозрачност независимо от това дали доставчикът е изпълнил своите. Крайният потребител не може да разчита на разкриването на доставчика като заместител на собственото си.

Връзка с GDPR

Задълженията за прозрачност по чл. 50 са правно независими от чл. 22 на GDPR (автоматизирано индивидуално вземане на решения). Едната и съща система може едновременно да задейства двете рамки.

Пример: Чатбот, използван като първи етап на процес за кандидатстване за заем, трябва:

1. Да разкрие, че е система за ИИ в началото на разговора (чл. 50(1))
2. Ако чатботът взема или значително допринася за изцяло автоматизирано решение с правни или подобно значими ефекти, крайният потребител трябва също да осигури правата по чл. 22 на GDPR — правото да не бъдеш обект на автоматизираното решение, правото на преглед от човек и правото на обяснение

Организациите, разгръщащи ИИ в регулирани сектори (финансови услуги, застраховане, HR), трябва да картографират едновременно задълженията по чл. 50 и приложимостта по чл. 22 на GDPR като част от един и същи преглед за съответствие. Рамките са взаимодопълващи се, а не взаимно изключващи се.

Глоби за несъответствие

Нарушенията на задълженията за прозрачност по чл. 50 носят глоби до 7,5 милиона евро или 1,5% от общия световен годишен оборот за предходната финансова година, което от двете е по-голямо. За МСП и стартиращи предприятия процентният таван обикновено дава по-ниска стойност; за големи предприятия абсолютният таван е по-вероятно да се приложи.

Правоприлагателната власт е при националните органи за надзор на пазара, определени по чл. 74, и при Службата по ИИ на ЕС за доставчиците на GPAI модели. Надзорните действия могат да включват официални разследвания, временни мерки, заповеди за спиране на разгръщането и публично оповестяване на констатации.

Следващи стъпки

• Използвайте класификатора на риска от ИИ, за да определите дали вашата система е само с прозрачност или с висок риск
• Прегледайте забранените практики по чл. 5, за да потвърдите, че системата не попада в забранена категория, преди да оценявате задълженията за прозрачност
• Наблюдавайте публикуването от Европейската служба по ИИ на стандарта за произход на генерирано от ИИ съдържание за техническите изисквания за маркиране по чл. 50(4)