HR a nábor zamestnancov — súlad s nariadením EU AI Act

Povinnosti podľa EU AI Act pre umelú inteligenciu využívanú pri nábore zamestnancov, monitorovaní pracovníkov a hodnotení výkonu. Kategória 4 prílohy III pokrýva všetky systémy AI v oblasti zamestnanosti.

Prečo je EU AI Act kľúčový pre HR technológie

Umelá inteligencia sa stala neoddeliteľnou súčasťou pracovných postupov v celej EÚ — od automatizovaného spracovania životopisov v systémoch sledovania uchádzačov až po prehľady výkonu v reálnom čase a behaviorálnu analytiku v kontaktných centrách. EU AI Act, platný od 1. augusta 2024 s povinnosťami pre vysoko rizikové systémy AI uplatniteľnými od 2. augusta 2026, považuje AI v oblasti zamestnanosti za oblasť citlivú z hľadiska základných práv, ktorá si vyžaduje najvyššiu úroveň regulačného dohľadu.

Príloha III, kategória 4 nariadenia identifikuje systémy AI používané v oblasti zamestnanosti, riadenia pracovníkov a prístupu k samostatnej zárobkovej činnosti ako vysoko rizikové v troch odlišných podkategóriách: nábor a výber zamestnancov (kat. 4(a)), rozhodnutia o povýšení, prideľovaní úloh a monitorovaní zmluvných záväzkov (kat. 4(b)) a monitorovanie emočných alebo behaviorálnych stavov pracovníkov v reálnom čase (kat. 4(c)). Toto zaradenie je kategorické — neexistuje žiadny prah materiality, žiadna výnimka pre malé nasadenia a žiadne rozlíšenie na základe toho, či je nástroj vlastný alebo získaný od externého dodávateľa.

Sektor sa nachádza na priesečníku troch regulačných rámcov: AI Act, GDPR (predovšetkým čl. 22 o automatizovanom rozhodovaní) a vnútroštátneho pracovného práva — vrátane práv na spolurozhodovanie o pracovných technológiách. Súlad si vyžaduje koordinovaný prístup zahŕňajúci právne, HR, IT oddelenia a zapojenie rád zamestnancov.

Vysoko rizikové prípady použitia — všetky systémy kategórie 4 prílohy III

Nábor a výber zamestnancov (Kat. 4(a))

Systémy AI používané v procese náboru sú bez výnimky vysoko rizikové. Zahŕňa to:

• Nástroje na preverovanie životopisov integrované do ATS platforiem (Workday, SAP SuccessFactors, Greenhouse, Lever, SmartRecruiters). Logika zoraďovania, vytvárania užšieho výberu a odmietnutia riadená AI spadá jednoznačne do kat. 4(a).
• Nástroje na analýzu video pohovorov, ktoré hodnotia výrazy tváre, tón hlasu, vzory reči alebo mikrovýrazy s cieľom vyvodiť závery o vhodnosti kandidáta alebo jeho osobnostných črtách (napr. nástroje typu HireVue). Tieto môžu taktiež vyvolať povinnosti transparentnosti podľa čl. 50(2), ak zahŕňajú rozpoznávanie emócií.
• Algoritmy cielenej pracovnej inzercie, ktoré určujú, ktorým jednotlivcom sa zobrazujú pracovné ponuky na základe odvodených charakteristík — vrátane veku, pohlavia alebo geografických ukazovateľov — sú výslovne uvedené v kat. 4(a) a predstavujú osobitné riziko diskriminačného zacielenia.

Riadenie a monitorovanie pracovnej sily (Kat. 4(b))

AI používaná na riadenie pracovného pomeru po prijatí do zamestnania je rovnako vysoko riziková:

• AI na hodnotenie výkonu, ktorá generuje skóre, hodnotenia alebo výstup zoradenia používaný pri rozhodnutiach o povýšení, bonuse alebo ukončení pracovného pomeru.
• Algoritmy prideľovania úloh na platformách gig ekonomiky (Uber, Deliveroo, Amazon Flex), ktoré prideľujú prácu, stanovujú sadzby odmeny a rozhodujú o deaktivácii. Tieto sú vysoko rizikové podľa kat. 4(b) bez ohľadu na pracovnoprávnu klasifikáciu pracovníka.
• Softvér na monitorovanie produktivity, ktorý zhromažďuje aktivitu klávesnice, používanie aplikácií, metadáta komunikácie alebo údaje o polohe s cieľom vytvárať metriky výkonu. Tam, kde výstupy ovplyvňujú zmluvné rozhodnutia, sa uplatňuje kat. 4(b).

Monitorovanie emočných a behaviorálnych stavov v reálnom čase (Kat. 4(c))

Príloha III kat. 4(c) je zameraná konkrétne na systémy, ktoré monitorujú emočný alebo behaviorálny stav pracovníkov v reálnom čase. Bežné nasadenia v rozsahu pôsobnosti:

• Emočná analytika v kontaktných centrách, ktorá hodnotí sentiment hovoriaceho a agenta počas živých hovorov a generuje výkonnostné upozornenia.
• Biometrické platformy pre pohodu pracovníkov, ktoré odvodzujú stres, únavu alebo zapojenie z fyziologických alebo behaviorálnych signálov.
• Monitorovanie pozornosti a angažovanosti počas práce na diaľku prostredníctvom inferencie z webkamery.

Tieto systémy navyše vyvolávajú čl. 50(2): každý prevádzkovateľ využívajúci rozpoznávanie emócií u pracovníkov musí týchto pracovníkov informovať, že sú vystavení danému systému. Táto povinnosť notifikácie sa uplatňuje bez ohľadu na to, či bol splnený širší harmonogram súladu pre vysoko rizikové systémy.

Povinnosti poskytovateľa vs. prevádzkovateľa — pozícia zamestnávateľa

Podľa AI Act väčšina zamestnávateľov zastáva úlohu prevádzkovateľa — obstarávajú vysoko rizikové systémy AI od poskytovateľov (softvérových dodávateľov) a nasadzujú ich vo svojich HR procesoch. Rozlíšenie poskytovateľ/prevádzkovateľ je právne významné, pretože povinnosti sa líšia.

Povinnosti poskytovateľa (zodpovednosti dodávateľa)

Poskytovatelia — dodávatelia HR softvéru — musia pred uvedením vysoko rizikových systémov na trh EÚ:

• Zriadiť a udržiavať systém riadenia kvality (čl. 9) zahŕňajúci riadenie rizík, správu dát, technickú dokumentáciu a monitorovanie po uvedení na trh.
• Pripraviť technickú dokumentáciu podľa prílohy IV preukazujúcu dizajn systému, zamýšľaný účel, metriky výkonu, tréningové dáta a známe obmedzenia.
• Vykonať posudzovanie zhody podľa čl. 43 a zaregistrovať systém v databáze EÚ (čl. 49).
• Pripojiť označenie CE a vydať vyhlásenie o zhode EÚ.
• Poskytnúť prevádzkovateľom pokyny na použitie (čl. 13) vrátane informácií o obmedzeniach, zamýšľaných používateľských profiloch a požiadavkách na dohľad.

Povinnosti prevádzkovateľa (zodpovednosti zamestnávateľa)

Zamestnávatelia musia:

• Overiť súlad poskytovateľa pred nasadením: skontrolovať označenie CE, vyhlásenie o zhode a primerané pokyny na použitie.
• Implementovať v súlade s pokynmi: prevádzkovatelia nesmú používať systém na účely presahujúce jeho stanovené zamýšľané použitie (čl. 25(1)).
• Zabezpečiť zmysluplný ľudský dohľad (čl. 25(2)): zamestnanci určení na dohľad nad výstupmi AI musia mať právomoc, technickú kompetenciu a čas potrebný na pochopenie výstupov systému a ich potlačenie v prípade potreby. Formálna ľudská kontrola — podpis bez skutočného hodnotenia — túto požiadavku nespĺňa.
• Vykonať posúdenie vplyvu na základné práva (FRIA) (čl. 27): povinné pre prevádzkovateľov verejného sektora; dôrazne odporúčané pre zamestnávateľov súkromného sektora nasadzujúcich systémy kat. 4, najmä tam, kde výstupy ovplyvňujú chránené charakteristiky.
• Monitorovať riziká po nasadení: ak prevádzkovateľ identifikuje riziká, ktoré poskytovateľ nepredvídal, musí o tom informovať poskytovateľa a v relevantnom prípade aj orgán dohľadu nad trhom.
• Pozastaviť používanie v prípade závažných incidentov alebo ak sa zistí, že systém nie je v prevádzke v súlade s predpismi.

Interakcia s GDPR článkom 22 a pracovným právom

GDPR článok 22 — Automatizované rozhodovanie

GDPR čl. 22 zostáva plne účinný popri AI Act a priamo sa uplatňuje na HR AI. Zakazuje rozhodnutia založené výlučne na automatizovanom spracúvaní, ak tieto rozhodnutia majú právne alebo podobne významné účinky na dotknutú osobu. V kontexte zamestnanosti sú jednoznačne v rozsahu pôsobnosti: rozhodnutia o prijatí a odmietnutí, ukončení pracovného pomeru, povýšení a degradácii, stanovení odmeny a disciplinárnom konaní.

Súlad vyžaduje:

• Zmysluplný ľudský zásah pred akýmkoľvek dôsledným rozhodnutím — preverujúci ľudský pracovník musí mať prístup k základným dátam a logike, nielen k súhrnnému odporúčaniu.
• Právo na ľudské preskúmanie akéhokoľvek automatizovaného rozhodnutia na požiadanie, so skutočnou kapacitou prehodnotenia.
• Právny základ pre spracúvanie podľa čl. 6 a, ak sú zahrnuté osobitné kategórie údajov (zdravie, etnicita, biometrické údaje odvodené z analýzy tváre), podľa čl. 9.

AI Act a GDPR sú komplementárne, nie vzájomne sa vylučujúce. Čl. 2(7) AI Act potvrdzuje, že sa uplatňuje bez toho, aby bol dotknutý GDPR. Zamestnávatelia musia súčasne spĺňať oba regulačné rámce.

Vnútroštátne pracovné právo — rady zamestnancov a spolurozhodovanie

V niekoľkých členských štátoch EÚ vnútroštátne pracovné právo zaručuje práva na spolurozhodovanie o pracovných technológiách, ktoré sa na systémy AI uplatňujú nezávisle od AI Act:

• Nemecko — Betriebsverfassungsgesetz §87(1) bod 6: rada zamestnancov má záväzné právo na spolurozhodovanie o zavádzaní technických zariadení určených na monitorovanie správania alebo výkonu zamestnancov. Nasadenie AI monitorovacích alebo hodnotiacich nástrojov bez predchádzajúceho súhlasu rady zamestnancov môže byť napadnuté pred pracovným súdom (Arbeitsgericht) a zastavené súdnym príkazom.
• Holandsko — Wet op de ondernemingsraden (WOR) čl. 27: ondernemingsraad má právo na súhlas v oblasti personálnych systémov a monitorovacích opatrení.
• Rakúsko — Arbeitsverfassungsgesetz §96: záväzné spolurozhodovanie o monitorovacích opatreniach ovplyvňujúcich osobnú dôstojnosť.
• Francúzsko — Code du Travail L. 2312-38: Comité Social et Économique musí byť informovaný a konzultovaný pred nasadením automatizovaných nástrojov ovplyvňujúcich pracovné podmienky.

Práva rád zamestnancov si zvyčajne vyžadujú predbežné oznámenie, dokumentáciu fungovania systému a v mnohých prípadoch formálnu dohodu alebo podnikovú dohodu (Betriebsvereinbarung) pred nasadením. Tieto povinnosti nastávajú pred harmonogramom súladu s AI Act a nemožno ich odkladať.

Smernica 2002/14/ES o informovaní a konzultácii zamestnancov taktiež poskytuje rámec pre európske zamestnanecké rady nadnárodných skupín nasadzujúcich nástroje AI naprieč členskými štátmi.

Presadzovanie — orgány ochrany údajov, orgány rovnakého zaobchádzania a inšpektoráty práce

Presadzovanie povinností AI Act v sektore HR bude zahŕňať viacero príslušných orgánov:

• Orgány ochrany osobných údajov (DPA): v mnohých členských štátoch bude primárne označenie orgánu dohľadu nad trhom spočívať pri DPA alebo vedľa neho. DPA majú súbežnú kompetenciu podľa GDPR čl. 22 v prípade porušení automatizovaného rozhodovania. Usmernenia EDPB o AI a zamestnanosti zostávajú autoritatívnym výkladom na úrovni EÚ.
• Národné orgány rovnakého zaobchádzania: tam, kde systémy AI produkujú diskriminačné výsledky pri nábore alebo povýšení — napríklad neprimeraný dosah na ženy, etnické menšiny alebo starších pracovníkov — majú orgány rovnakého zaobchádzania (napr. ECRI, Défenseur des droits, členovia Equinetu) vyšetrovacie a vynucovacie právomoci podľa smerníc o rovnakom zaobchádzaní (2000/43/ES, 2000/78/ES, 2006/54/ES).
• Inšpektoráty práce: v členských štátoch so silnými režimami inšpekcie práce môžu inšpektori vyšetrovať porušenia pracovných podmienok súvisiace s AI, obmedzení monitorovania a práv rád zamestnancov. Francúzsko (DREETS), Nemecko (Gewerbeaufsicht) a Španielsko (Inspección de Trabajo) sú príkladmi aktívnych orgánov presadzovania.

Sankcie podľa AI Act dosahujú 30 miliónov EUR alebo 6 % celkového ročného obratu za zakázané praktiky a 15 miliónov EUR alebo 3 % obratu za iné vysoko rizikové porušenia. Pokuty GDPR podľa čl. 83 sa uplatňujú kumulatívne. Reputačné riziko a súdne spory zamestnancov podľa vnútroštátneho pracovného práva predstavujú ďalšiu expozíciu.

Plán súladu pre HR profesionálov

Štruktúrovaný program súladu pre zamestnávateľov nasadzujúcich AI v oblasti HR by mal riešiť nasledujúce kroky v poradí:

1. Inventár systémov AI: katalogizovať všetky nástroje AI používané počas celého životného cyklu zamestnanosti — nábor, onboarding, riadenie výkonu, plánovanie pracovnej sily a odchod zo zamestnania. Pre každý nástroj identifikovať kategóriu prílohy III a potvrdiť klasifikáciu ako vysoko rizikový.

2. Hĺbková preverka poskytovateľa: pred 2. augustom 2026 (alebo pri najbližšom obnovení zmluvy) požadovať od každého dodávateľa: označenie CE, vyhlásenie o zhode EÚ, súhrn technickej dokumentácie a pokyny na použitie. Dodávatelia, ktorí ich nedokážu poskytnúť, by mali byť považovaní za nesúladných.

3. Konzultácia s radou zamestnancov: iniciovať postupy spolurozhodovaniaa alebo konzultácie podľa platného vnútroštátneho práva pre všetky systémy AI, na ktoré sa ešte nevzťahuje formálna dohoda. Zdokumentovať výsledky v podnikovej dohode alebo ekvivalentnom dokumente.

4. Audit GDPR čl. 22: zmapovať všetky HR rozhodnutia s právnymi alebo významným účinkami a overiť, že žiadne rozhodnutie nestojí výlučne na automatizovanom výstupe. Implementovať protokoly ľudského dohľadu s dokumentovanou kompetenciou reviewera a záznamy o zásahoch.

5. Posúdenie vplyvu na základné práva: vykonať FRIA podľa čl. 27 pre všetky nasadenia prílohy III kat. 4. Pre zamestnávateľov verejného sektora je to povinné; pre zamestnávateľov súkromného sektora predstavuje očakávaný štandard náležitej starostlivosti a obranu proti vynucovaciemu konaniu.

6. Povinnosti transparentnosti: implementovať notifikáciu zamestnancov podľa čl. 50(2) pre akýkoľvek systém rozpoznávania emócií. Zabezpečiť, aby uchádzači o zamestnanie boli informovaní o preverovaní s pomocou AI v súlade s požiadavkami transparentnosti GDPR (čl. 13–14).

7. Kapacita ľudského dohľadu: overiť, že pracovníci určení na preskúmanie výstupov AI v HR majú skutočnú právomoc potlačiť odporúčania, dostatok času na zmysluplné preskúmanie a zdokumentované školenie primerané zložitosti systému.

8. Postupy reakcie na incidenty: zaviesť postupy zaznamenávania, vyšetrovania a hlásenia závažných incidentov zahŕňajúcich systémy HR AI, v súlade s povinnosťami poskytovateľa podľa čl. 73 prenesených na prevádzkovateľov prostredníctvom zmluvných dojednaní.

Súlad v tomto sektore nie je jednorazovým projektom. Kombinácia povinností AI Act, vyvíjajúcich sa usmernení DPA k GDPR čl. 22 a aktívneho zapojenia rád zamestnancov si vyžaduje priebežnú štruktúru riadenia s dedikovanou zodpovednosťou v rámci HR, právnych a funkčných oblastí ochrany údajov.