Článok 5 — Zakázané praktiky AI (Nariadenie EÚ o AI)

Článok 5 nariadenia (EÚ) 2024/1689 — Zakázané praktiky AI. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.

Zhrnutie officiálneho textu

Článok 5 nariadenia (EÚ) 2024/1689 (nariadenie EÚ o AI) tvorí celý Titul II a stanovuje absolútny zoznam praktík AI, ktoré sú zakázané v celej Európskej únii. Zákazy sa zameriavajú na systémy AI, ktorých potenciál na spôsobenie škody sa považuje za natoľko závažný, že žiadne opatrenie na riadenie rizík ani posúdenie zhody ich nemôže urobiť prijateľnými.

Článok zakazuje: (1) systémy AI, ktoré využívajú subliminálne techniky presahujúce vedomie osoby alebo úmyselne využívajú psychologické slabosti alebo zraniteľnosti na podstatné skreslenie správania spôsobom, ktorý spôsobuje alebo pravdepodobne spôsobí značnú škodu; (2) systémy AI, ktoré využívajú vek, zdravotné postihnutie alebo sociálno-ekonomické okolnosti na škodlivé skreslenie správania; (3) systémy AI používané orgánmi verejnej moci alebo v ich mene na sociálne skórovanie — hodnotenie alebo klasifikáciu fyzických osôb na základe ich sociálneho správania alebo vyvodzovaných osobných charakteristík — keď to vedie k nepriaznivému alebo nevýhodnému zaobchádzaniu; (4) systémy AI posudzujúce riziko spáchania trestného činu jednotlivcom výlučne na základe profilovania alebo osobnostných čŕt; (5) biometrickú identifikáciu fyzických osôb na diaľku v reálnom čase na verejne prístupných miestach na účely presadzovania práva, s výhradou obmedzených a prísne kontrolovaných výnimiek; (6) biometrické systémy na diaľku v reálnom čase alebo post, používané na vyvodzovanie záverov o citlivých atribútoch, ako je rasa, politický názor, členstvo v odborových organizáciách, náboženské presvedčenia alebo sexuálna orientácia; (7) systémy AI, ktoré vytvárajú alebo rozširujú databázy rozpoznávania tváre prostredníctvom necieľového scrapingu internetu alebo záberov z kamerových systémov; a (8) systémy AI, ktoré vyvodzujú závery o emóciách fyzických osôb v pracovných a vzdelávacích prostrediach, s výnimkou bezpečnostných dôvodov.

Čo to znamená v praxi

Článok 5 stanovuje pevnú hranicu súladu, ktorá sa dotýka každej organizácie vyvíjajúcej, nasadzujúcej alebo dovážajúcej systémy AI na trh EÚ, bez ohľadu na jej veľkosť alebo sektor.

Pre dodávateľov technológií a vývojárov AI zákazy znamenajú, že určité kategórie produktov jednoducho nemožno zákonným spôsobom umiestniť na trh EÚ. Dodávateľ predávajúci nástroj na zvýšenie produktivity pracovníkov, ktorý zahŕňa rozpoznávanie emócií na monitorovanie angažovanosti zamestnancov — upozorňujúci manažérov na stresovaných alebo nezaangažovaných pracovníkov — musí túto funkciu odstrániť alebo prepracovať pred 2. februárom 2025. Podobne, maloobchodný analytický startup, ktorého systém odvodzuje náladu zákazníkov z výrazov tváre v obchode, patrí do rozsahu zákazu vyvodzovanie emócií v kontextoch, ktoré nesúvisia s bezpečnosťou.

Pre organizácie používajúce nástroje AI tretích strán je náležitá starostlivosť rovnako povinná. Oddelenie ľudských zdrojov, ktoré využíva platformu na nábor zamestnancov, ktorá tajne vykonáva psychografické profilovanie za účelom výberu kandidátov, riskuje spoločnú zodpovednosť ako prevádzkovateľ.

Pre orgány verejnej moci je zákaz sociálneho skórovania obzvlášť dôležitý. Akýkoľvek systém AI, ktorý agreguje behaviorálne údaje — históriu platieb, vzorce mobility, online aktivitu — na vytvorenie skóre občana, ktoré potom obmedzuje prístup k verejným službám alebo dávkam, je nezákonný bez ohľadu na to, či je systém technicky sofistikovaný.

Pre orgány presadzovania práva si úzka výnimka zo zákazu biometrickej identifikácie v reálnom čase vyžaduje robustné postupy predchádzajúceho povolenia, geografické a časové obmedzenia, povinné protokolovanie a následné podávanie správ vnútroštátnym dozorným orgánom. Ad hoc alebo nepretržité nasadzovanie bez predchádzajúceho súdneho alebo správneho súhlasu je nezákonné aj v rámci rozsahu výnimky.

Organizácie by mali vykonať inventarizáciu všetkých systémov AI v používaní alebo vo vývoji, zmapovať každý z nich podľa kritérií Článku 5 a bez odkladu ukončiť zakázané operácie.

Kľúčové povinnosti

• Ukončiť alebo nikdy nenasadzovať žiadny systém AI, ktorý využíva subliminálne, manipulatívne alebo zraniteľnosť využívajúce techniky na skreslenie ľudského správania spôsobmi, ktoré môžu spôsobiť značnú škodu, bez výnimky alebo dostupného vyvažovania primeranosti.
• Zakázať sociálne skórovanie orgánmi verejnej moci alebo subjektmi konajúcimi v ich mene: nepoužívať AI na hodnotenie alebo klasifikáciu fyzických osôb za sociálne správanie alebo vyvodzované osobnostné črty, ak výsledok vedie k nepriaznivému alebo diskriminačnému zaobchádzaniu.
• Vyradiť nástroje prediktívneho policajného práce, ktoré hodnotia individuálne kriminálne riziko výlučne na základe profilovania, osobnostných čŕt alebo minulých asociácií bez konkrétnych behaviorálnych dôkazov.
• Zdržať sa scrapingu biometrických údajov z internetu, kamerových systémov alebo iných zdrojov na vytváranie alebo rozširovanie databáz rozpoznávania tváre; existujúce databázy vytvorené takýmito prostriedkami sa nesmú používať.
• Nenasadzovať systémy AI, ktoré vyvodzujú citlivé osobné atribúty — rasový alebo etnický pôvod, politické názory, členstvo v odborových organizáciách, náboženské alebo filozofické presvedčenia, sexuálna orientácia — z biometrických alebo behaviorálnych údajov.
• Uplatňovať prísne kontroly predchádzajúceho povolenia a protokolovania ak pôsobíte ako orgán presadzovania práva a spoliehate sa na úzku výnimku podľa Článku 5(2)–(5) pre biometrickú identifikáciu na diaľku v reálnom čase; každé nasadenie musí byť časovo obmedzené, geograficky ohraničené a podliehať ex-post podávaniu správ.

Vzťah k iným článkom

Článok 5 treba čítať ako vrchol hierarchie nariadenia EÚ o AI založenej na riziku. Funguje v spojení s definíciami v Článku 3, ktorý stanovuje, čo predstavuje „systém AI", „poskytovateľa" a „prevádzkovateľa" — aktérov podliehajúcich zákazom. Rozlišovanie medzi zakázanými praktikami podľa Článku 5 a systémami AI s vysokým rizikom podľa Článku 6 a Prílohy III je zásadné: zakázané systémy nemožno vôbec zákonným spôsobom používať, zatiaľ čo systémy s vysokým rizikom možno nasadiť za predpokladu posúdení zhody, registrácie a priebežných povinností monitorovania.

Článok 9 (systémy riadenia rizík) a Články 10–15 (správa údajov, transparentnosť, ľudský dohľad) sa uplatňujú na povolené systémy s vysokým rizikom, ale nemajú žiadnu nápravnú úlohu pri zákazoch Článku 5. Článok 99 stanovuje štruktúru pokút vrátane pokuty najvyššej úrovne uplatniteľnej na porušenia Článku 5. Článok 85 a ustanovenia o dohľade nad trhom (Články 74–78) upravujú vymáhanie. Vnútroštátne príslušné orgány určené podľa Článku 70 sú zodpovedné za monitorovanie dodržiavania zákazov na úrovni členských štátov.

Harmonogram súladu

• 1. august 2024 — Nariadenie (EÚ) 2024/1689 nadobudlo účinnosť, dvadsať dní po uverejnení v Úradnom vestníku Európskej únie.
• 2. február 2025 — Zákazy podľa Článku 5 sa stali priamo uplatniteľnými vo všetkých členských štátoch EÚ. Bol to prvý podstatný dátum uplatňovania v rámci postupného harmonogramu stanoveného v Článku 113. Od tohto dátumu akékoľvek nasadzovanie, uvádzanie na trh alebo uvádzanie do prevádzky zakázaného systému AI predstavuje porušenie regulačných predpisov podliehajúce sankciám podľa Článku 99.
• 2. august 2025 — Pravidlá pre modely AI všeobecného použitia (Titul VIII, Články 51–56) sa stali uplatniteľnými.
• 2. august 2026 — Povinnosti pre väčšinu systémov AI s vysokým rizikom uvedených v Prílohe III sa uplatňujú spolu s ustanoveniami o správe a dohľade nad trhom.
• 2. august 2027 — Predĺžený termín pre systémy AI s vysokým rizikom, ktoré boli na trhu už pred augustom 2024 a patria pod Prílohu I (bezpečnostná súčasť v regulovaných výrobkoch).

Pre Článok 5 konkrétne neexistuje žiadna ochranná lehota ani prechodné ustanovenie: termín bol 2. februára 2025, a každá organizácia, ktorá zatiaľ nekonala, je už v omeškaní pri dosahovaní súladu.