Zakázané praktiky EU AI Act (čl. 5): v platnosti od února 2025

Článek 5 EU AI Act zakazuje osm praktik AI s nepřijatelným rizikem. Tyto zákazy platí od 2. února 2025. Vztahují se na podprahovou manipulaci, sociální skórování, biometrickou identifikaci v reálném čase na veřejných místech, rozpoznávání emocí na pracovišti, biometrickou kategorizaci odvozující citlivé vlastnosti a generování NCII/CSAM.

Zakázané praktiky jsou již zákonem — od 2. února 2025

Článek 5 EU AI Act zakazuje osm kategorií praktik AI, které jsou považovány za nepřijatelné riziko. Tato zákazná opatření vstoupila v platnost 2. února 2025 — šest měsíců po vstupu zákona v platnost — a vztahují se na všechny poskytovatele a provozovatele v EU bez výjimky. Digital Omnibus 2026 tato zákazná opatření nezměnil.

Vymáhání je aktivní. Vnitrostátní orgány dozoru nad trhem a Úřad EU pro AI mají pravomoc vyšetřovat, ukládat soudní zákazy a vybírat pokuty.

Osm zakázaných praktik

1. Podprahová manipulace

Systémy AI, které využívají techniky působící pod prahem lidského vědomí k narušení chování způsoby, které způsobují nebo mohou způsobit výraznou újmu. To se zaměřuje na AI, která zneužívá kognitivní zkreslení, psychologické slabiny nebo podvědomé spouštěče k nasměrování chování proti vlastním zájmům uživatelů.

Rozlišující znak: manipulace musí být pod vědomým vnímáním A způsobovat (nebo pravděpodobně způsobovat) výraznou újmu. Přesvědčivá, ale transparentní AI není zakázána.

2. Zneužívání zranitelností

AI, která zneužívá specifické zranitelnosti určitých skupin — dětí, starších osob, osob se zdravotním postižením, osob v ekonomické tísni — k narušení chování způsobem, který způsobuje nebo je pravděpodobné, že způsobí výraznou újmu.

3. Sociální skórování orgány veřejné moci

Systémy sociálního skórování pro obecné účely provozované orgány veřejné moci, které hodnotí nebo klasifikují fyzické osoby na základě jejich společenského chování nebo osobních charakteristik, kde skórování vede k nevýhodné zacházení nesouvisejícímu s kontextem, ve kterém byly údaje shromážděny.

To se zaměřuje na systémy sociálního kreditu čínského typu. Vztahuje se pouze na orgány veřejné moci — úvěrové skórování soukromého sektoru v konkrétních oblastech (finanční úvěruschopnost) zůstává přípustné podle Přílohy III.

4. Biometrická identifikace na dálku v reálném čase na veřejných místech (vymáhání práva)

Biometrická identifikace fyzických osob na dálku v reálném čase na veřejně přístupných místech pro účely vymáhání práva je zakázána, se třemi úzkými výjimkami:

• Cílené pátrání po konkrétních obětech trestné činnosti (únos, obchodování s lidmi, sexuální vykořisťování)
• Prevence konkrétní, podstatné a bezprostřední teroristické hrozby
• Identifikace pachatelů uvedených závažných trestných činů se sazbami trestu odnětí svobody nad 3 roky

Výjimky vyžadují předchozí soudní nebo nezávislé správní povolení, jsou časově a místně omezeny a jsou oznamovány vnitrostátnímu orgánu.

5. Predikce individuálního trestního rizika na bázi AI

Systémy AI, které hodnotí nebo předpovídají riziko spáchání trestného činu fyzickou osobou výhradně na základě profilování nebo osobnostních charakteristik, bez odkazu na objektivní, ověřitelné skutečnosti přímo spojené s trestnou činností.

6. Rozpoznávání emocí na pracovišti a ve vzdělávacích institucích

Systémy AI používané k odvozování emocí fyzických osob na pracovišti nebo ve vzdělávacích institucích jsou zakázány. Výjimky existují pro lékařské účely (např. hodnocení bolesti) a bezpečnostní účely (detekce ospalosti pro operátory vozidel).

7. Biometrická kategorizace odvozující citlivé charakteristiky

Systémy AI, které kategorizují jednotlivce na základě biometrických dat za účelem odvozování nebo dedukování rasy, politických názorů, členství v odborech, náboženského nebo filozofického přesvědčení, sexuální orientace nebo zdravotního stavu, jsou zakázány.

Standardní rozpoznávání obličeje pro kontrolu přístupu (identifikace, kdo někdo je) se liší od kategorizace (odvozování, do jaké skupiny patří). To druhé je zakázáno.

8. Generování NCII a CSAM

Systémy AI, které generují nebo manipulují obrazový, zvukový nebo video obsah tvořící nekonsenzuální intimní snímky (NCII) nebo materiál sexuálního zneužívání dětí (CSAM), jsou zakázány. To bylo přidáno k řešení specifické újmy způsobené generativními modely AI v těchto kategoriích.

Sankce

Nesoulad s článkem 5 nese nejvyšší úroveň pokut AI Act:

• 35 milionů EUR nebo 7 % celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, co je vyšší
• Pro malé a střední podniky a startupy: platí nižší ze dvou čísel

Vnitrostátní příslušné orgány mají také pravomoc nařídit okamžité stažení systému AI z trhu.