Забранени практики по Закона на ЕС за ИИ (чл. 5): В сила от февруари 2025 г.

Член 5 на Закона на ЕС за ИИ забранява осем практики с ИИ, представляващи неприемлив риск. Тези забрани се прилагат от 2 февруари 2025 г. Обхващат сублиминална манипулация, социален скоринг, биометрична идентификация в реално време на обществени места, разпознаване на емоции на работното място, биометрична категоризация, извеждаща чувствителни характеристики, и генериране на NCII/CSAM.

Забранените практики вече са закон — от 2 февруари 2025 г.

Член 5 на Закона на ЕС за ИИ забранява осем категории практики с ИИ, считани за представляващи неприемлив риск. Тези забрани влязоха в сила на 2 февруари 2025 г. — шест месеца след влизането на Закона в сила — и се прилагат за всички доставчици и крайни потребители в ЕС без изключение. Digital Omnibus 2026 не промени тези забрани.

Правоприлагането е активно. Националните органи за надзор на пазара и Службата по ИИ на ЕС имат правомощия да разследват, налагат забрани и налагат глоби.

Осемте забранени практики

1. Сублиминална манипулация

Системи за ИИ, използващи техники, действащи под прага на човешкото съзнание, за изкривяване на поведението по начини, причиняващи или вероятно причиняващи значителна вреда. Тази забрана е насочена срещу ИИ, използващ когнитивни пристрастия, психологически слабости или подсъзнателни стимули за насочване на поведение срещу интересите на самите потребители.

Отличителна черта: манипулацията трябва да е под съзнателното възприятие И да причинява (или вероятно да причинява) значителна вреда. Убеждаващият, но прозрачен ИИ не е забранен.

2. Използване на уязвимости

ИИ, използващ специфичните уязвимости на конкретни групи — деца, възрастни хора, лица с увреждания, лица в икономически затруднения — за изкривяване на поведение по начин, причиняващ или вероятно причиняващ значителна вреда.

3. Социален скоринг от публични органи

Системи за социален скоринг с общо предназначение, управлявани от публични органи, оценяващи или класифициращи физически лица въз основа на тяхното социално поведение или лични характеристики, при което скорингът води до вредно третиране, несвързано с контекста, в който са генерирани данните.

Тази забрана е насочена срещу системи за социален кредит от китайски тип. Прилага се само за публични органи — кредитният скоринг в частния сектор в конкретни области (финансова кредитоспособност) остава разрешен по Приложение III.

4. Дистанционна биометрична идентификация в реално време на обществени места (правоприлагане)

Дистанционна биометрична идентификация на физически лица в реално време на обществено достъпни места за целите на правоприлагането е забранена, с три тесни изключения:

• Целенасочено търсене на конкретни жертви на престъпления (отвличане, трафик, сексуална експлоатация)
• Предотвратяване на конкретна, съществена и непосредствена терористична заплаха
• Идентифициране на извършители на изброени тежки наказателни престъпления, наказуеми с лишаване от свобода над 3 години

Изключенията изискват предварително съдебно или независимо административно разрешение, ограничени са по място и срок и се уведомява национален орган.

5. Предсказване на индивидуален криминален риск чрез ИИ

Системи за ИИ, оценяващи или прогнозиращи риска физическо лице да извърши наказателно престъпление единствено въз основа на профилиране или личностни характеристики, без позоваване на обективни, проверими факти, пряко свързани с криминална дейност.

6. Разпознаване на емоции на работното място и в образователни институции

Системи за ИИ, използвани за извеждане на емоции на физически лица на работното място или в образователни институции, са забранени. Съществуват изключения за медицински цели (напр. оценка на болката) и цели за безопасност (установяване на сънливост за операторите на превозни средства).

7. Биометрична категоризация, извеждаща чувствителни характеристики

Системи за ИИ, категоризиращи лица въз основа на биометрични данни за извеждане или дедукция на раса, политически възгледи, членство в профсъюзи, религиозни или философски убеждения, сексуална ориентация или здравословно състояние, са забранени.

Стандартното разпознаване на лица за контрол на достъпа (идентифициране на кой е дадено лице) се различава от категоризацията (извеждане на принадлежността към група). Последното е забранено.

8. Генериране на NCII и CSAM

Системи за ИИ, генериращи или манипулиращи изображения, аудио или видео съдържание, представляващи интимни изображения без съгласие (NCII) или материали за сексуална злоупотреба с деца (CSAM), са забранени. Това беше добавено за справяне с конкретните вреди от генеративните модели за ИИ в тези категории.

Санкции

Несъответствието с член 5 носи най-високото ниво на глоби по Закона за ИИ:

• 35 милиона евро или 7% от общия световен годишен оборот за предходната финансова година, което от двете е по-голямо
• За МСП и стартиращи предприятия: прилага се по-малката от двете суми

Националните компетентни органи имат и правомощия да изискват незабавно изтегляне на системата за ИИ от пазара.