Член 5 от Регламент (ЕС) 2024/1689 — Забранени практики в областта на ИИ. Официален текст, практическо тълкуване, основни задължения и последици за съответствието.
Резюме на официалния текст
Член 5 от Регламент (ЕС) 2024/1689 (Законът за ИИ на ЕС) съставлява целия Дял II и установява абсолютен списък на практиките в областта на ИИ, забранени в целия Европейски съюз. Забраните са насочени срещу системи за ИИ, чийто потенциал за вреда се счита за толкова тежък, че никаква мярка за управление на риска или оценка на съответствието не може да ги направи приемливи.
Членът забранява: (1) системи за ИИ, прилагащи подсъзнателни техники извън съзнанието на дадено лице или умишлено експлоатиращи психологически слабости или уязвимости с цел съществено изкривяване на поведението по начин, причиняващ или вероятно причиняващ значителна вреда; (2) системи за ИИ, експлоатиращи възраст, увреждане или социално-икономически обстоятелства с цел вредно изкривяване на поведението; (3) системи за ИИ, използвани от публични органи или от тяхно name за социално оценяване — оценка или класифициране на физически лица въз основа на социалното им поведение или изведени лични характеристики — когато това води до вредно или неблагоприятно третиране; (4) системи за ИИ, оценяващи риска от извършване на престъпление от дадено лице единствено въз основа на профилиране или личностни черти; (5) биометрична идентификация в реално време от разстояние на физически лица на публично достъпни места за целите на правоприлагането, при ограничени и строго контролирани изключения; (6) системи за биометрична идентификация в реално время или впоследствие, използвани за извеждане на чувствителни атрибути като раса, политически мнения, членство в профсъюзи, религиозни убеждения или сексуална ориентация; (7) системи за ИИ, създаващи или разширяващи бази данни за лицево разпознаване чрез нецелево изстъргване на интернет или кадри от камери за видеонаблюдение; и (8) системи за ИИ, правещи изводи за емоциите на физически лица на работни места и в образователни среди, с изключение на причини, свързани с безопасността.
Какво означава това на практика
Член 5 очертава твърда граница за съответствие, засягаща всяка организация, разработваща, внедряваща или внасяща системи за ИИ на пазара на ЕС, независимо от размера или сектора.
За технологичните доставчици и разработчиците на ИИ, забраните означават, че определени категории продукти просто не могат да бъдат законно пуснати на пазара на ЕС. Доставчик, предлагащ инструмент за производителност на работната сила, включващ разпознаване на емоции за наблюдение на ангажираността на служителите — сигнализиращ на мениджъри за стресирани или незаинтересовани работници — трябва да премахне или преработи тази функция преди 2 февруари 2025 г. По подобен начин, стартъп за анализ на търговията на дребно, чиято система прави изводи за настроението на клиентите от изражения на лицата в магазина, попада в забраната за извеждане на емоции в не-безопасностни контексти.
За организациите, използващи инструменти за ИИ на трети страни, дължимата грижа е еднакво задължителна. Отдел по човешки ресурси, внедряващ платформа за набиране на персонал, извършваща тайно психографско профилиране за проверка на кандидати, рискува съвместна отговорност като ползвател.
За публичните органи забраната за социално оценяване е особено значима. Всяка система за ИИ, агрегираща поведенчески данни — история на плащанията, модели на мобилност, онлайн активност — за генериране на гражданска оценка, след което ограничаваща достъпа до публични услуги или придобивки, е незаконна, независимо от техническата сложност на системата.
За правоприлагащите органи тясното изключение от забраната за биометрична идентификация в реално время изисква стабилни процедури за предварително разрешение, географски и времеви ограничения, задължително регистриране и последващо докладване пред националните надзорни органи. Специалното или непрекъснато внедряване без предварително съдебно или административно одобрение е незаконно дори в рамките на обхвата на изключението.
Организациите трябва да направят инвентаризация на всички системи за ИИ в употреба или под разработка, да картографират всяка от тях спрямо критериите на Член 5 и незабавно да прекратят забранените операции.
Основни задължения
- Прекратете или никога не внедрявайте системи за ИИ, използващи подсъзнателни, манипулативни или експлоатиращи уязвимости техники за изкривяване на човешкото поведение по начини, вероятно причиняващи значителна вреда, без налично изключение или балансиране на пропорционалността.
- Забранете социалното оценяване от публичните органи или субекти, действащи от тяхно nome: не използвайте ИИ за оценяване или класифициране на физически лица за социалното им поведение или изведени личностни черти, когато резултатът води до вредно или дискриминационно третиране.
- Извадете от употреба инструменти за предсказуемо полицейство, оценяващи индивидуалния криминален риск единствено въз основа на профилиране, личностни черти или минало обкръжение без конкретни поведенчески доказателства.
- Въздържайте се от изстъргване на биометрични данни от интернет, камери за видеонаблюдение или други източници за създаване или разширяване на бази данни за лицево разпознаване; съществуващи бази данни, изградени по такъв начин, не трябва да се използват.
- Не внедрявайте системи за ИИ, правещи изводи за чувствителни лични атрибути — расов или етнически произход, политически мнения, членство в профсъюзи, религиозни или философски убеждения, сексуална ориентация — от биометрични или поведенчески данни.
- Прилагайте строги контроли за предварително разрешение и регистриране, ако действате като правоприлагащ орган и разчитате на тясното изключение по Член 5(2)–(5) за биометрична идентификация в реално время от разстояние; всяко внедряване трябва да бъде ограничено във времето, географски обхванато и предмет на последващо докладване.
Връзка с други членове
Член 5 трябва да се чете като върха на йерархията на риска на Закона за ИИ на ЕС. Той действа съвместно с определенията в Член 3, установяващ какво представлява „система за ИИ", „доставчик" и „ползвател" — участниците, предмет на забраните. Разграничението между забранени практики по Член 5 и системи за ИИ с висок риск по Член 6 и Annex III е основополагащо: забранените системи не могат законно да се използват изобщо, докато системите с висок риск могат да бъдат внедрени при оценки на съответствието, регистрация и текущи задължения за мониторинг.
Член 9 (системи за управление на риска) и Членове 10–15 (управление на данни, прозрачност, човешки надзор) се прилагат надолу по веригата към разрешени системи с висок риск, но нямат отстраняваща роля за забраните по Член 5. Член 99 установява структурата на санкциите, включително глобата от най-горна категория, приложима за нарушения на Член 5. Член 85 и разпоредбите за надзор на пазара (Членове 74–78) уреждат правоприлагането. Националните компетентни органи, определени по Член 70, са отговорни за мониторинга на спазването на забраните на ниво държава членка.
График за съответствие
- 1 август 2024 г. — Регламент (ЕС) 2024/1689 влезе в сила, двадесет дни след публикуването в Официален вестник на Европейския съюз.
- 2 февруари 2025 г. — Забраните по Член 5 станаха пряко приложими в всички държави членки на ЕС. Това беше първата съществена дата на прилагане по поетапния график, определен в Член 113. От тази дата всяко внедряване, пускане на пазара или въвеждане в експлоатация на забранена система за ИИ представлява регулаторно нарушение, предмет на санкции по Член 99.
- 2 август 2025 г. — Правилата за модели с общо предназначение за ИИ (Дял VIII, Членове 51–56) станаха приложими.
- 2 август 2026 г. — Задълженията за повечето системи за ИИ с висок риск, изброени в Annex III, се прилагат, заедно с разпоредбите за управление и надзор на пазара.
- 2 август 2027 г. — Удължен краен срок за системи за ИИ с висок риск, вече на пазара преди август 2024 г., попадащи под Annex I (компонент за безопасност в регулирани продукти).
За Член 5 конкретно, няма гратисен период или преходна уредба: крайният срок беше 2 февруари 2025 г. и съответствието вече е просрочено за всяка организация, която все още не е предприела действия.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Член 5 забранява системи за ИИ, прилагащи подсъзнателни или манипулативни техники за изкривяване на поведението, експлоатиращи уязвимостите на конкретни групи, позволяващи социално оценяване от публични органи, провеждащи биометрична идентификация в реално време от разстояние на публични места (с ограничени изключения за правоприлагане), правещи изводи за чувствителни атрибути от биометрични данни, и създаващи или разширяващи нецелеви бази данни за лицево разпознаване чрез изстъргване. Разпознаването на емоции на работни места и в образователни институции е също забранено.
Забраните, предвидени в Член 5, станаха приложими на 2 февруари 2025 г., шест месеца след влизането в сила на Закона за ИИ на ЕС на 1 август 2024 г. Това беше най-ранната дата на прилагане по поетапния график за изпълнение на Регламента.
Повечето забрани в Член 5 се прилагат за всеки доставчик или ползвател на системи за ИИ, независимо дали е публичен или частен. Забраната за социално оценяване е насочена специално към публичните органи. Изключението, позволяващо биометрична идентификация в реално време от разстояние, е запазено за правоприлагането при строги условия, но забраната по подразбиране за внедряването на такива системи обхваща всички участници.
Да, но те са тесни и подлежат на предварително разрешение. Правоприлагащите органи могат да използват биометрична идентификация в реално време от разстояние на публично достъпни места само за целенасочено търсене на жертви на тежки престъпления, предотвратяване на конкретни и неизбежни терористични заплахи или идентифициране на заподозрени в престъпления, наказуеми с присъда от поне три години. Всяка употреба изисква предварително съдебно или независимо административно разрешение, с изключение на надлежно обосновани случаи на спешност.
Нарушенията на забраните по Член 5 привличат най-високата санкционна категория по Член 99: административни глоби до 35 000 000 EUR или, ако нарушителят е предприятие, до 7% от общия световен годишен оборот за предходната финансова година, което от двете е по-голямо.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.