Povinnosti vyplývajúce z EU AI Act pre umelú inteligenciu vo verejnej správe, orgánoch presadzovania práva, kontrole hraníc a justičnom systéme. Zahŕňa kategórie 5–8 prílohy III a povinné posúdenia vplyvu na základné práva.

Verejný sektor a AI Act — Prečo je štát prevádzkovateľom s najvyšším rizikom

EU AI Act (nariadenie (EÚ) 2024/1689) sa uplatňuje horizontálne naprieč odvetviami, no jeho najkoncentrovanejšia záťaž povinných požiadaviek dopadá na verejné subjekty. Orgány štátnej správy, orgány presadzovania práva, súdne inštitúcie a orgány správy hraníc sú zároveň najväčšími prevádzkovateľmi dôsledkovej umelej inteligencie aj subjektmi, ktorých používanie umelej inteligencie vytvára najväčšie štrukturálne riziko pre základné práva. Tento akt túto asymetriu odráža dvoma štrukturálnymi spôsobmi.

Po prvé, štyri z ôsmich vysokorizikových kategórií prílohy III sa priamo zaoberajú umelou inteligenciou vo verejnom sektore — kategórie 5 až 8 pokrývajú základné verejné služby, presadzovanie práva, migráciu a kontrolu hraníc a výkon spravodlivosti. Tieto kategórie nie sú zvyškovými zbernicami: vymenúvajú konkrétne aplikácie umelej inteligencie bežne používané pri výkone štátnej správy, ktoré nesú riziko na úrovni klasifikácie už zo svojej podstaty.

Po druhé, čl. 27 ukladá verejným subjektom povinnosť vykonať povinné posúdenie vplyvu na základné práva (FRIA) pred nasadením vysokorizikových systémov umelej inteligencie. Pre prevádzkovateľov zo súkromného sektora je FRIA dôrazne odporúčané; pre verejné subjekty je zákonnou povinnosťou. Posúdenie musí skúmať vplyv systému umelej inteligencie na práva jednotlivcov podľa Charty základných práv EÚ, vrátane práva na dôstojnosť (čl. 1), ochrany osobných údajov (čl. 8), práva na účinný prostriedok nápravy (čl. 47) a prezumpcie neviny (čl. 48).

Situáciu v oblasti súladu pre verejné subjekty ďalej komplikuje vrstvenie povinností AI Act na existujúce sektorovo špecifické režimy: smernica o presadzovaní práva 2016/680, nariadenie o Schengenskom informačnom systéme, nariadenie o Frontexe 2019/1896, všeobecné nariadenie o ochrane údajov a ústavné požiadavky Európskeho dohovoru o ľudských právach v interpretácii Európskeho súdu pre ľudské práva. Každý z týchto rámcov zakladá samostatné povinnosti, ktoré musia byť splnené súbežne s požiadavkami EU AI Act.

Vysokorizikové systémy umelej inteligencie — kategórie 5 až 8

Príloha III, kategória 5 — Základné verejné služby a posúdenie nároku na dávky

Príloha III, bod 5(b) klasifikuje ako vysokorizikové každý systém umelej inteligencie, ktorý sa používa na hodnotenie nároku fyzických osôb na základné dávky verejných sociálnych služieb a na rozhodovanie v danom kontexte. Táto kategória zahŕňa celé spektrum umelej inteligencie vo welfare štáte:

Bod 5(b) sa vzťahuje aj na umelú inteligenciu pre úverovú bonitu a poistenie vo vzťahu k fyzickým osobám, hoci primárna expozícia verejného sektora spočíva v nároku na dávky a prístupe k službám. Vo všetkých prípadoch sa klasifikácia uplatní vtedy, keď systém umelej inteligencie má materiálny vplyv na prístup k verejnej službe — bez ohľadu na to, či konečné rozhodnutie prijíma ľudský úradník.

Príloha III, kategória 6 — Presadzovanie práva

Kategória 6 pokrýva umelú inteligenciu používanú orgánmi presadzovania práva v troch oblastiach:

Hodnotenie rizika a profilovanie: Systémy umelej inteligencie, ktoré hodnotia pravdepodobnosť, že jednotlivec spácha trestný čin, bude recidivovať alebo predstavuje bezpečnostnú hrozbu — vrátane nástrojov hodnotenia rizika recidívy používaných pri predbežných väzobných konaniach, rozhodnutiach o podmienečnom prepustení a odporúčaniach pre výmeru trestu. Tieto systémy sú vysokorizikové podľa prílohy III, bodu 6(a).

Odhaľovanie a analýza v priebehu vyšetrovania: Umelá inteligencia na odhaľovanie emocionálnych stavov, osobnostných čŕt alebo klamlivého správania z výrazov tváre, hlasu alebo fyziologických ukazovateľov používaná pri trestných vyšetrovaniach. Čl. 5(1)(f) samostatne zakazuje systémy umelej inteligencie, ktoré odvodzujú emócie jednotlivcov v kontexte presadzovania práva a správy hraníc, s výnimkou konkrétnych bezpečnostných účelov, čím sa vymedzuje pevná vonkajšia hranica tohto použitia.

Odhaľovanie deepfake obsahu a dokumentov: Umelá inteligencia používaná na odhaľovanie manipulovaného digitálneho obsahu alebo posudzovanie pravosti dokumentov v trestnom konaní — klasifikovaná ako vysokoriziková podľa prílohy III, bodu 6(c).

Príloha III, kategória 7 — Migrácia, azyl a kontrola hraníc

Kategória 7 sa uplatňuje na umelú inteligenciu nasadenú v kontexte migrácie a správy hraníc:

Hodnotenie rizika na hraniciach: Systémy umelej inteligencie, ktoré hodnotia riziko neoprávnenej migrácie alebo generujú hodnotenia hrozby pre jednotlivcov prekračujúcich hranice — vrátane profilových nástrojov integrovaných so SIS a systémov analýzy rizika Frontexu fungujúcich podľa nariadenia 2019/1896.

Overovanie dokumentov a totožnosti: Systémy umelej inteligencie, ktoré posudzujú pravosť cestovných dokladov, víz, povolení na pobyt alebo dokladov totožnosti na účely prechodu hraníc alebo pri imigračných konaniach.

Spracovanie žiadostí o azyl: Umelá inteligencia, ktorá preskúmava žiadosti o azyl, posudzuje dôveryhodnosť individuálnych tvrdení alebo profiluje žiadateľov pre zrýchlené alebo skrátené konania.

Všetky systémy zaradené do kategórie 7 musia byť posúdené z hľadiska súladu nielen s AI Act, ale aj s Ženevským dohovorom o utečencoch (1951), čl. 18 Charty EÚ (právo na azyl) a zásadou non-refoulement v interpretácii judikatúry ESĽP — ide o ústavné obmedzenia, ktorými sa FRIA podľa čl. 27 musí výslovne zaoberať.

Príloha III, kategória 8 — Výkon spravodlivosti a demokratické procesy

Kategória 8 sa zaoberá umelou inteligenciou nasadenou v samotnom justičnom systéme:

Umelá inteligencia na podporu súdnej činnosti: Systémy, ktoré asistujú pri vyhľadávaní judikatúry, identifikácii uplatniteľných právnych ustanovení alebo štruktúrovaní právnej argumentácie pre sudcov, prokurátorov alebo súdnych správcov — vysokorizikové podľa prílohy III, bodu 8(a).

Nástroje prediktívnej justície: Systémy umelej inteligencie, ktoré predpovedajú pravdepodobný výsledok súdnych sporov, rozsahy trestov alebo súdne rozhodnutia na základe historických prípadových dát. Tieto systémy vyvolávajú závažné obavy v súvislosti s čl. 47 Charty EÚ, pokiaľ ide o právo na spravodlivý súdny proces, keďže ich použitie pri súdnom rozhodovaní môže štrukturálne znevýhodňovať strany, ktorých profily sa odlišujú od historických noriem.

Kategória 8 nezakazuje prácu súdnictva s pomocou umelej inteligencie; podrobuje ju však režimu súladu pre vysokorizikové systémy a od súdov a ministerstiev spravodlivosti vyžaduje, aby zabezpečili, že výstupy umelej inteligencie budú vždy predmetom zmysluplného ľudského preskúmania — sudca alebo rozhodovateľ musí mať možnosť a v praxi musí ignorovať výstup umelej inteligencie vtedy, keď to nie je vhodné.

Povinné požiadavky pre verejné subjekty ako prevádzkovateľov

Verejné subjekty, ktoré vystupujú ako prevádzkovatelia vysokorizikových systémov umelej inteligencie podľa AI Act, nesú vymedzený, neprevoditeľný súbor povinností podľa čl. 26 a čl. 27.

Posúdenie vplyvu na základné práva (čl. 27)

FRIA je najcharakteristickejšou povinnosťou pre verejných prevádzkovateľov. Musí sa vykonať pred nasadením systému a musí sa zaoberať: konkrétnymi účelmi systému ovplyvňujúcimi práva; kategóriami jednotlivcov, ktorých práva môžu byť dotknuté; predvídateľnými rizikami ujmy a pravdepodobnosťou a závažnosťou týchto rizík; tým, ako existujúce právne záruky tieto riziká zmierňujú; a opatreniami prijatými na monitorovanie systému po nasadení. Vyhotovené FRIA musí byť na vyžiadanie predložené vnútroštátnemu orgánu dohľadu nad umelou inteligenciou a musí byť aktualizované pri zmene systému alebo jeho nasadení v novom kontexte.

Ľudský dohľad a určenie zodpovednosti

Čl. 26(1) vyžaduje, aby prevádzkovatelia zverili ľudský dohľad nad vysokorizikými systémami umelej inteligencie fyzickým osobám s potrebnou spôsobilosťou, právomocou a zdrojmi na to, aby mohli zasiahnuť. Vo verejnej správe to znamená, že každý automatizovaný proces ovplyvňujúci jednotlivcov — či už ide o posúdenie nároku na dávky, bodovanie rizika na hraniciach alebo výstup zo systému na podporu súdnej činnosti — musí mať určeného úradníka, ktorý môže výstup systému prehliadnuť a ktorý nie je štrukturálne motivovaný na to, aby sa výstupu podrobil.

Transparentnosť voči dotknutým osobám

Čl. 13 vyžaduje, aby prevádzkovatelia zabezpečili, že osoby, na ktoré sa vzťahujú rozhodnutia prijímané s pomocou umelej inteligencie, budú jasne informované o tom, že sa používa systém umelej inteligencie. Vo verejnej správe táto povinnosť spravidla vyžaduje zaradenie informácií o používaní umelej inteligencie do rozhodovacích písomností, správnych oznámení a pojednávacích postupov. Čl. 86 chráni dôvernosť údajov predkladaných orgánom dohľadu v kontexte monitorovania súladu, čím poskytuje cestu na sprístupnenie citlivej internej dokumentácie bez jej verejného zverejnenia.

Záznamy, uchovávanie dokumentácie a hlásenie incidentov

Prevádzkovatelia musia uchovávať prevádzkové záznamy o aktivite systému umelej inteligencie po minimálnu dobu — najmenej šesť mesiacov pre väčšinu vysokorizikových systémov, s predĺženou dobou uchovávania tam, kde to vyžaduje právny rámec upravujúci príslušný správny proces. Vážne incidenty — incidenty vedúce k smrti, ťažkej ujme na zdraví, značnej škode na majetku alebo porušeniu základných práv — musia byť bez zbytočného odkladu nahlásené príslušnému vnútroštátnemu orgánu dohľadu nad umelou inteligenciou.

Zakázané praktiky vo verejnej správe

Určité praktiky umelej inteligencie sú absolútne zakázané podľa čl. 5 EU AI Act. Pre orgány verejnej moci majú tri zákazy priamu prevádzkovú relevantnosť.

Čl. 5(1)(c) — Sociálne bodovanie orgánmi verejnej moci: Systémy umelej inteligencie, ktoré hodnotia alebo klasifikujú jednotlivcov na základe ich sociálneho správania alebo osobnostných vlastností s cieľom generovať skóre používané na určenie prístupu k verejným službám, dávkam alebo právnemu zaobchádzaniu, sú zakázané. Tento zákaz je výslovne zameraný na orgány verejnej moci a cielene postihuje tzv. mechanizmy sociálneho kreditu bez ohľadu na to, ako sú označené alebo štruktúrované.

Čl. 5(1)(d) — Vzdialená biometrická identifikácia v reálnom čase vo verejných priestoroch: Používanie systémov vzdialenej biometrickej identifikácie v reálnom čase s využitím umelej inteligencie (rozpoznávanie tváre, analýza chôdze alebo iné biometrické nástroje) vo verejne prístupných priestoroch orgánmi presadzovania práva je zakázané, s výnimkou troch úzkych výnimiek: cielené vyhľadávanie nezvestných detí; predchádzanie konkrétnym, bezprostredným teroristickým hrozbám; a identifikácia podozrivých zo závažných trestných činov, kde bolo vopred získané súdne alebo nezávislé správne povolenie. Tieto výnimky sú taxatívne; žiadny všeobecný sledovací program nespĺňa podmienky.

Čl. 5(1)(e) — Sublimínálne a manipulatívne techniky: Systémy umelej inteligencie, ktoré používajú techniky pôsobiace pod prahom vedomého vnímania s cieľom manipulovať správanie jednotlivcov alebo využívajú zraniteľnosť konkrétnych skupín, sú zakázané pre všetkých prevádzkovateľov vrátane orgánov verejnej moci.

Presadzovanie práva — orgány dohľadu a mechanizmy kontroly

Architektúra presadzovania AI Act vo verejnom sektore zahŕňa viacero vrstiev príslušných orgánov.

Vnútroštátne orgány dohľadu nad umelou inteligenciou určené podľa čl. 70 sú v každom členskom štáte primárnymi orgánmi presadzovania tohto aktu. Vo väčšine jurisdikcií sú alebo budú integrované s existujúcimi orgánmi ochrany údajov alebo budú s nimi úzko prepojené. Majú právomoc vykonávať audity, požadovať technickú dokumentáciu a výsledky FRIA, vydávať nápravné príkazy a ukladať správne sankcie.

Pokuty pre verejné subjekty podliehajú diskrečnej právomoci členských štátov podľa čl. 99(6): členské štáty môžu stanoviť, že verejné orgány nepodliehajú peňažným sankciám, musia však zabezpečiť dostupnosť alternatívnych mechanizmov dohľadu a nápravy — vrátane povinných auditov, zverejnenia zistení o nesúlade a pozastavenia používania systémov umelej inteligencie. Táto diskrecia sa nevzťahuje na tolerovanie nesúladu; týka sa výlučne mechanizmu finančných sankcií.

Orgány ochrany údajov (DPA) a EDPB si zachovávajú paralelnú právomoc nad dimenziou spracúvania osobných údajov pri umelej inteligencii vo verejnom sektore podľa GDPR a LED. Nesúlad s povinnosťami GDPR alebo LED v kontexte prevádzky systémov umelej inteligencie podlieha presadzovaniu zo strany DPA nezávisle od orgánu dohľadu podľa AI Act.

Európsky súd pre ľudské práva predstavuje vonkajšie ústavné obmedzenie: rozhodnutia prijaté na základe algoritmických procesov — najmä v trestnej justícii a v oblasti prisťahovalectva — musia spĺňať dohovorové štandardy podľa čl. 6 (spravodlivý súdny proces) a čl. 8 (súkromný život) v interpretácii vyvíjajúcej sa judikatúry ESĽP o automatizovanom rozhodovaní.

Plán implementácie pre orgány verejnej správy

Fáza 1 — Inventarizácia a klasifikácia systémov umelej inteligencie (mesiace 1–3)

Verejné subjekty musia najprv vytvoriť komplexný inventár všetkých systémov umelej inteligencie, ktoré sa aktuálne používajú alebo sú v procese obstarávania. Každý systém musí byť posúdený voči kategóriám 5–8 prílohy III a ustanoveniam o zákazoch podľa čl. 5. Systémy zahŕňajúce spracovanie osobných údajov musia byť súčasne posúdené voči požiadavkám GDPR a LED. Výstupom tejto fázy je klasifikovaný inventár — zakázané, vysokorizikové, s obmedzeným rizikom alebo s minimálnym rizikom — ktorý riadi program súladu.

Fáza 2 — Posúdenia vplyvu na základné práva (mesiace 3–6)

Pre každý identifikovaný vysokorizikový systém musia verejné subjekty zadať a dokončiť FRIA podľa čl. 27. Vyžaduje si to právny, technický a politický príspevok: právna analýza dotknutých práv; technická dokumentácia prevádzky systému, trénovacích dát a známych módov zlyhania; a politické posúdenie dostupných zmierňujúcich opatrení. FRIAs musia byť zdokumentované a pripravené na predloženie orgánom dohľadu.

Fáza 3 — Overenie poskytovateľov a reforma obstarávania (mesiace 3–9)

Procesy verejného obstarávania musia byť aktualizované tak, aby vyžadovali od poskytovateľov umelej inteligencie preukázanie súladu s EU AI Act ako podmienku udelenia zmluvy. Prevádzkovatelia musia pred nasadením overiť označenie CE, vyhlásenie o zhode, technickú dokumentáciu a záväzky v oblasti monitorovania po uvedení na trh. Verejné subjekty, ktoré vystupujú ako spoloční prevádzkovatelia alebo spoluvývojári s technologickými dodávateľmi, musia zmluvne objasniť rozdelenie zodpovednosti za povinnosti posúdenia zhody.

Fáza 4 — Prevádzkové záruky a školenie zamestnancov (mesiace 6–12)

Pre každý vysokorizikový systém umelej inteligencie musia byť určení zodpovední úradníci pre ľudský dohľad, vyškolení v schopnostiach a obmedzeniach systému a vybavení postupmi na prehliadnutie jeho výstupov. Informačné oznámenia pre dotknuté osoby musia byť vypracované a zakomponované do existujúcich správnych postupov. Infraštruktúra záznamu musí byť overená alebo zavedená. Protokoly hlásenia incidentov musia byť integrované s existujúcimi procesmi správy incidentov v oblasti správneho práva a ochrany údajov.

Fáza 5 — Priebežné monitorovanie a ročná revízia

Súlad s požiadavkami pre vysokorizikové systémy umelej inteligencie nie je jednorazovým certifikačným cvičením. Povinnosti monitorovania po uvedení na trh vyžadujú od verejných subjektov aktívne sledovanie výkonu systému, dokumentovanie akýchkoľvek zmien v presnosti, zaujatosti alebo správaní a aktualizáciu FRIA pri výskyte materiálnych zmien. Ročné podávanie správ orgánom dohľadu, kde to vyžaduje vnútroštátne právo, musí byť podložené dokumentáciou vytvorenou v rámci programu monitorovania.

Official AI Act Compliance Deadline Calendar

Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.

Obligation Applies to Original date New date Status Countdown Legal basis
Prohibited Practices (Art. 5) All providers and deployers active — AI Act Art. 5
GPAI Rules (Chapter 5) GPAI model providers active — AI Act Art. 51-56
High-risk AI — Annex III (standalone) Providers of standalone Annex III systems deferred — AI Omnibus 2026 Art. 6(2)
High-risk AI — Annex I (embedded) AI embedded in Annex I regulated products deferred — AI Omnibus 2026 Art. 6(1)
AI-Generated Content Marking Providers of generative GPAI systems active — AI Act Art. 50(2)
Regulatory Sandboxes National competent authorities active — AI Act Art. 57

⬇ Download JSON · CC BY 4.0

AI Act meets DORA and NIS2

Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.

Explore regulation-dora.eu ↗

Frequently Asked Questions

Áno. Systémy umelej inteligencie používané na posudzovanie nároku fyzických osôb na základné verejné sociálne služby — vrátane dávok v nezamestnanosti, príspevkov na bývanie, invalidných príspevkov a sociálnej pomoci — sú výslovne zaradené medzi vysokorizikové systémy podľa **prílohy III, bodu 5(b)** EU AI Act. Verejné subjekty, ktoré takéto systémy nasadzujú, musia dodržiavať úplný súbor povinností prevádzkovateľa vysokorizikového systému podľa **čl. 26** a musia pred nasadením vykonať **povinné posúdenie vplyvu na základné práva (FRIA)** podľa **čl. 27**. Osoby, na ktoré sa vzťahujú automatizované rozhodnutia o nároku, majú právo na vysvetlenie a ľudské preskúmanie.

Verejné subjekty nasadzujúce vysokorizikové systémy umelej inteligencie musia: overiť, že systém je opatrený označením CE a sprevádzaný EÚ vyhlásením o zhode; vykonať povinné **posúdenie vplyvu na základné práva (FRIA)** podľa **čl. 27**, ktoré je v prípade potreby nutné predložiť príslušnému vnútroštátnemu orgánu dohľadu nad umelou inteligenciou; implementovať pokyny na používanie vydané poskytovateľom a určiť kvalifikovaných pracovníkov zodpovedných za ľudský dohľad podľa **čl. 26(1)**; uchovávať prevádzkové záznamy po dobu minimálne šiestich mesiacov; informovať dotknuté osoby o tom, že pri rozhodnutiach, ktoré sa ich týkajú, sa používa systém umelej inteligencie, v súlade s **čl. 13**; a zaregistrovať nasadenie v **databáze EÚ pre vysokorizikové systémy AI (EUAI DB)**, ak to vyžaduje **čl. 49(2)**.

Systémy prediktívneho policajného dohľadu — systémy generujúce hodnotenia rizika alebo profilové skóre pre jednotlivce na základe ich minulého správania, sociálnych charakteristík alebo geografických údajov — sú klasifikované ako vysokorizikové podľa **prílohy III, bodu 6(a)**. Ich používanie nie je výslovne zakázané, ale aktivuje celý režim súladu pre vysokorizikové systémy, vrátane povinného posúdenia zhody, FRIA podľa **čl. 27**, povinností ľudského dohľadu a technickej dokumentácie. Samostatne, **čl. 5(1)(c)** zakazuje sociálne bodovanie zo strany orgánov verejnej moci na všeobecné účely nesúvisiace s presadzovaním práva. Okrem toho **čl. 5(1)(d)** zakazuje vzdialenú biometrickú identifikáciu v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva s výnimkou troch úzko vymedzených okolností po predchádzajúcom súdnom alebo nezávislom správnom povolení.

Nie, je však prísne regulované. Systémy umelej inteligencie používané na vyhľadávanie faktov, výklad platného práva alebo predpovedanie súdnych výsledkov sú klasifikované ako vysokorizikové podľa **prílohy III, bodu 8**. Súdy a orgány spravodlivosti ich môžu nasadiť len vtedy, ak prejdú posúdením zhody, sú sprevádzané úplnou technickou dokumentáciou, obsahujú spoľahlivé mechanizmy ľudského dohľadu a sú predmetom FRIA podľa **čl. 27**. Systémy umelej inteligencie nesmú autonómne vydávať rozsudky; každý výstup musí podliehať zmysluplnému súdnemu preskúmaniu. **Čl. 47 Charty základných práv EÚ** (právo na spravodlivý súdny proces) a judikatúra Európskeho súdu pre ľudské práva zavádzajú dodatočné ústavné obmedzenia pre algoritmickú justíciu.

Smernica o presadzovaní práva (LED) 2016/680 upravuje spracovanie osobných údajov príslušnými orgánmi na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania. Pôsobí súbežne s EU AI Act — nie je ním vytlačená. Keď orgány presadzovania práva nasadzujú vysokorizikové systémy umelej inteligencie zahŕňajúce spracovanie osobných údajov (profilovanie, hodnotenie rizika, biometrická analýza), platia oba rámce súčasne. LED vyžaduje právny základ a obmedzenie účelu pri spracovaní údajov; AI Act ukladá dodatočné povinnosti samotnému systému umelej inteligencie — správa údajov, technická dokumentácia, monitorovanie po uvedení na trh, transparentnosť voči dotknutým osobám. Súlad s LED neplní povinnosti podľa AI Act a naopak. Prevádzkovatelia musia viesť právnu analýzu preukazujúcu dvojitý súlad.

Stay ahead of AI Act changes

Get compliance alerts when deadlines or obligations change.

No spam. One-click unsubscribe.