HR i zapošljavanje — Usklađenost s EU AI aktom

Obveze EU AI akta za AI sustave koji se koriste u regrutaciji, praćenju zaposlenika i ocjenjivanju radnog učinka. Kategorija 4 Annexa III obuhvaća sve AI sustave u području zapošljavanja.

Zašto je EU AI akt središnji za HR tehnologiju

Umjetna inteligencija duboko se ukorijenila u prakse zapošljavanja diljem EU-a — od automatiziranog parsiranja životopisa u sustavima za praćenje kandidata do nadzornih ploča radnog učinka u stvarnom vremenu i analitike ponašanja u kontaktnim centrima. EU AI akt, na snazi od 1. kolovoza 2024. s obvezama za visokorizične AI sustave koje se primjenjuju od 2. kolovoza 2026., tretira AI u zapošljavanju kao područje osjetljivo s aspekta temeljnih prava koje zahtijeva najvišu razinu regulatornog nadzora.

Annex III, kategorija 4 Uredbe identificira AI sustave koji se koriste u zapošljavanju, upravljanju radnicima i pristupu samozapošljavanju kao visokorizične u tri zasebne podkategorije: regrutacija i selekcija (kat. 4(a)), odluke o napredovanju, raspodjeli zadataka i praćenju ugovornih obveza (kat. 4(b)) te praćenje emocionalnih ili bihevioralnih stanja radnika u stvarnom vremenu (kat. 4(c)). Ta je klasifikacija kategorička — nema praga materijalnosti, nema iznimke za manje primjene i nema razlike ovisno o tome je li alat vlasnički ili nabavljen od prodavača treće strane.

Sektor se nalazi na raskrižju triju regulatornih okvira: AI akta, GDPR-a (osobito čl. 22 o automatiziranom donošenju odluka) i nacionalnog radnog prava — uključujući prava suodlučivanja o radničkim tehnologijama. Usklađenost zahtijeva koordinirani pristup koji obuhvaća pravne, HR, IT i radnička vijeća.

Visokorizični slučajevi primjene — Svi sustavi kategorije 4 Annexa III

Regrutacija i selekcija (kat. 4(a))

AI sustavi koji se koriste u procesu regrutacije visokorizični su bez iznimke. To obuhvaća:

• Alate za pregled životopisa integrirane u ATS platforme (Workday, SAP SuccessFactors, Greenhouse, Lever, SmartRecruiters). Logika rangiranja, uvrštavanja na uži popis i odbijanja kandidata putem AI-a jasno potpada pod kat. 4(a).
• Alate za analizu video intervjua koji procjenjuju izraz lica, ton glasa, obrasce govora ili mikroizraze radi zaključivanja o prikladnosti ili osobnosti kandidata (npr. alati tipa HireVue). Ovi sustavi mogu pokrenuti i obveze transparentnosti iz čl. 50(2) ako uključuju prepoznavanje emocija.
• Algoritme za ciljano oglašavanje radnih mjesta koji određuju kojim se pojedincima prikazuju oglasi za posao na temelju zaključenih karakteristika — uključujući dob, spol ili geografske pokazatelje — izričito su navedeni u kat. 4(a) i predstavljaju poseban rizik diskriminatornog ciljanja.

Upravljanje radnom snagom i praćenje (kat. 4(b))

AI koji se koristi za upravljanje radnim odnosom nakon zapošljavanja jednako je visokorizičan:

• AI za ocjenjivanje radnog učinka koji generira bodove, ocjene ili rangiranja koja se koriste za donošenje odluka o napredovanju, bonusima ili prestanku radnog odnosa.
• Algoritmi za raspodjelu zadataka na platformama gig ekonomije (Uber, Deliveroo, Amazon Flex) koji dodjeljuju posao, određuju visinu naknade i odlučuju o deaktivaciji. Ovi su sustavi visokorizični prema kat. 4(b) bez obzira na radnopravni status radnika.
• Softver za praćenje produktivnosti koji agregira aktivnost tipkovnice, korištenje aplikacija, metapodatke komunikacija ili podatke o lokaciji radi generiranja metrika radnog učinka. Gdje rezultati utječu na ugovorne odluke, primjenjuje se kat. 4(b).

Praćenje emocija i ponašanja u stvarnom vremenu (kat. 4(c))

Annex III kat. 4(c) usmjeren je specifično na sustave koji u stvarnom vremenu prate emocionalna ili bihevioralna stanja radnika. Uobičajene primjene u dosegu:

• Analitika emocija u pozivnim centrima koja procjenjuje sentiment pozivatelja i agenta tijekom živih poziva te generira oznake radnog učinka.
• Biometrijske platforme za praćenje dobrobiti koje zaključuju o stresu, umoru ili razini angažiranosti na temelju fizioloških ili bihevioralnih signala.
• Praćenje pažnje i angažiranosti tijekom rada na daljinu putem zaključivanja temeljenog na web kamerama.

Ovi sustavi dodatno pokreću čl. 50(2): svaki primjenitelj koji koristi prepoznavanje emocija na radnicima mora te radnike obavijestiti da su podvrgnuti tom sustavu. Ova obveza obavješćivanja primjenjuje se bez obzira na to je li širi rok za usklađenost s visokorizičnim sustavima ispunjen.

Obveze pružatelja i primjenitelja — Položaj poslodavca

Prema AI aktu, većina poslodavaca zauzima ulogu primjenitelja — nabavljaju visokorizične AI sustave od pružatelja (dobavljača softvera) i primjenjuju ih u svojim HR procesima. Razlika između pružatelja i primjenitelja pravno je značajna jer se obveze razlikuju.

Obveze pružatelja (Odgovornosti dobavljača)

Pružatelji — dobavljači HR softvera — moraju, prije stavljanja visokorizičnih sustava na tržište EU-a:

• Uspostaviti i održavati sustav upravljanja kvalitetom (čl. 9) koji obuhvaća upravljanje rizicima, upravljanje podacima, tehničku dokumentaciju i postmarketinški nadzor.
• Pripremiti tehničku dokumentaciju prema Annexu IV kojom se dokazuje dizajn sustava, namijenjenu svrhu, metrike učinkovitosti, podatke za obuku i poznata ograničenja.
• Provesti ocjenu sukladnosti prema čl. 43 i registrirati sustav u EU bazi podataka (čl. 49).
• Staviti oznaku CE i izdati EU izjavu o sukladnosti.
• Primjenjeljima osigurati upute za korištenje (čl. 13) uključujući informacije o ograničenjima, namijenjenim profilima korisnika i zahtjevima nadzora.

Obveze primjenitelja (Odgovornosti poslodavca)

Poslodavci moraju:

• Verificirati usklađenost pružatelja prije primjene: provjeriti oznaku CE, izjavu o sukladnosti i odgovarajuće upute za korištenje.
• Implementirati sukladno uputama: primjenitelji ne smiju koristiti sustav u svrhe izvan navedene namijenjene primjene (čl. 25(1)).
• Osigurati smisleni ljudski nadzor (čl. 25(2)): zaposlenici designirani za nadzor AI rezultata moraju imati ovlast, tehničku kompetenciju i potrebno vrijeme za razumijevanje rezultata sustava i njihovo poništavanje kada je to primjereno. Nominalni ljudski pregled — potpisivanje bez stvarne procjene — ne ispunjava ovaj zahtjev.
• Provesti procjenu utjecaja na temeljna prava (FRIA) (čl. 27): obvezno za primjenitelje iz javnog sektora; snažno preporučeno za poslodavce iz privatnog sektora koji primjenjuju sustave kat. 4, posebno tamo gdje rezultati utječu na zaštićene karakteristike.
• Pratiti rizike nakon primjene: ako primjenitelj identificira rizike koje pružatelj nije predvidio, mora obavijestiti pružatelja i, po potrebi, tijelo za nadzor tržišta.
• Obustaviti korištenje ako dođe do ozbiljnih incidenata ili ako se utvrdi da sustav nije u skladu s propisima u primjeni.

Interakcija s GDPR člankom 22. i radnim pravom

GDPR članak 22. — Automatizirano donošenje odluka

GDPR čl. 22 ostaje u punoj primjeni uz AI akt i izravno se odnosi na HR AI sustave. Zabranjuje odluke temeljene isključivo na automatiziranoj obradi gdje te odluke proizvode pravne ili slično značajne učinke na ispitanike. U kontekstu zapošljavanja, sljedeće su odluke nedvojbeno u dosegu: zapošljavanje i odbijanje, prestanak radnog odnosa, napredovanje i degradacija, određivanje plaće i disciplinski postupci.

Usklađenost zahtijeva:

• Smislenu ljudsku intervenciju prije svake posljedične odluke — osoba koja vrši pregled mora imati pristup temeljnim podacima i logici, a ne samo sažetoj preporuci.
• Pravo na dobivanje ljudskog pregleda svake automatizirane odluke na zahtjev, s realnom mogućnošću ponovnog razmatranja.
• Pravnu osnovu za obradu prema čl. 6 i, gdje su uključeni podaci posebnih kategorija (zdravlje, etnička pripadnost, biometrički podaci zaključeni iz analize lica), prema čl. 9.

AI akt i GDPR komplementarni su, a ne međusobno isključivi. Čl. 2(7) AI akta potvrđuje da se primjenjuje ne dovodeći u pitanje GDPR. Poslodavci moraju istovremeno ispunjavati oba regulatorna okvira.

Nacionalno radno pravo — Radnička vijeća i suodlučivanje

U nekoliko država članica EU-a, nacionalno radno pravo dodjeljuje prava suodlučivanja o radničkim tehnologijama koja se primjenjuju na AI sustave neovisno o AI aktu:

• Njemačka — Betriebsverfassungsgesetz §87(1) br. 6: radničko vijeće ima obvezujuće pravo suodlučivanja o uvođenju tehničkih uređaja namijenjenih praćenju ponašanja ili radnog učinka zaposlenika. Uvođenje AI alata za praćenje ili ocjenjivanje bez prethodnog sporazuma radničkog vijeća može biti osporavano pred radnim sudom (Arbeitsgericht) i zabranjeno.
• Nizozemska — Wet op de ondernemingsraden (WOR) čl. 27: ondernemingsraad ima prava suglasnosti za kadrovske sustave i aranžmane praćenja.
• Austrija — Arbeitsverfassungsgesetz §96: obvezujuće suodlučivanje o mjerama praćenja koje utječu na osobno dostojanstvo.
• Francuska — Code du Travail L. 2312-38: Comité Social et Économique mora biti obaviješten i savjetovan prije uvođenja automatiziranih alata koji utječu na uvjete rada.

Prava radničkih vijeća tipično zahtijevaju prethodnu obavijest, dokumentaciju o funkcioniranju sustava i u mnogim slučajevima formalni sporazum ili kolektivni ugovor (Betriebsvereinbarung) prije uvođenja. Te su obveze pokrenute prije roka za usklađenost s AI aktom i ne mogu se odgoditi.

Direktiva 2002/14/EZ o informiranju i savjetovanju zaposlenika pruža i okvir za Europska radnička vijeća multinacionalnih grupacija koje uvode AI alate u više država članica.

Provedba — Nadzorna tijela za zaštitu podataka, tijela za ravnopravnost i inspekcija rada

Provedba obveza AI akta u HR sektoru uključit će više nadležnih tijela:

• Nadzorna tijela za zaštitu podataka (DPA): u mnogim će državama članicama primarna nadležnost za nadzor tržišta biti smještena pri DPA-u ili uz njega. DPA-ovi imaju paralelnu nadležnost prema GDPR čl. 22 za povrede automatiziranog donošenja odluka. Smjernice EDPB-a o AI i zapošljavanju ostaju mjerodavna interpretacija na razini EU-a.
• Nacionalna tijela za ravnopravnost: tamo gdje AI sustavi proizvode diskriminatorne ishode u regrutaciji ili napredovanju — primjerice, nerazmjeran utjecaj na žene, etničke manjine ili starije radnike — tijela za ravnopravnost (npr. ECRI, Défenseur des droits, članovi Equineta) imaju istražne i provedbene ovlasti prema direktivama o jednakom postupanju (2000/43/EZ, 2000/78/EZ, 2006/54/EZ).
• Inspekcije rada: u državama članicama s razvijenim sustavima inspekcije rada, inspektori mogu istraživati povrede uvjeta rada, ograničenja praćenja i prava radničkih vijeća vezane uz AI. Francuska (DREETS), Njemačka (Gewerbeaufsicht) i Španjolska (Inspección de Trabajo) primjeri su aktivnih tijela za provedbu.

Kazne prema AI aktu dosežu 30 milijuna eura ili 6% globalnog godišnjeg prometa za zabranjene prakse, te 15 milijuna eura ili 3% prometa za ostale povrede koje se tiču visokorizičnih sustava. Novčane kazne prema GDPR-u prema čl. 83 primjenjuju se kumulativno. Reputacijski rizik i sudski sporovi zaposlenika prema nacionalnom radnom pravu predstavljaju dodatnu izloženost.

Plan usklađenosti za HR stručnjake

Strukturirani program usklađenosti za poslodavce koji primjenjuju AI u HR-u treba adresirati sljedeće redom:

1. Inventar AI sustava: katalogizirati sve AI alate koji se koriste u cijelom životnom ciklusu zapošljavanja — regrutacija, uvođenje u posao, upravljanje radnim učinkom, planiranje radne snage i izlaz. Za svaki alat identificirati kategoriju u Annexu III i potvrditi visokorizičnu klasifikaciju.

2. Due diligence pružatelja: prije 2. kolovoza 2026. (ili pri sljedećoj obnovi ugovora), od svakog dobavljača zahtijevati: oznaku CE, EU izjavu o sukladnosti, sažetak tehničke dokumentacije i upute za korištenje. Dobavljači koji to ne mogu dostaviti trebaju se tretirati kao nesukladni.

3. Savjetovanje s radničkim vijećem: pokrenuti postupke suodlučivanja ili savjetovanja prema primjenjivom nacionalnom pravu za sve AI sustave koji još nisu predmet formalnog sporazuma. Dokumentirati ishode u kolektivnom ugovoru ili jednakovrijednom instrumentu.

4. Revizija GDPR čl. 22: mapirati sve HR odluke s pravnim ili značajnim učincima i verificirati da nijedna odluka ne počiva isključivo na automatiziranom rezultatu. Implementirati protokole ljudskog nadzora s dokumentiranom kompetencijom pregledavatelja i evidencijom intervencija.

5. Procjena utjecaja na temeljna prava: provesti FRIA prema čl. 27 za sve primjene kategorije 4 Annexa III. Za poslodavce iz javnog sektora ovo je obvezno; za poslodavce iz privatnog sektora to je očekivani standard dužne pažnje i obrana od provedbe.

6. Obveze transparentnosti: implementirati obavješćivanje zaposlenika prema čl. 50(2) za svaki sustav za prepoznavanje emocija. Osigurati da su kandidati za posao obaviješteni o AI potpomognutom probiru prema zahtjevima transparentnosti GDPR-a (čl. 13–14).

7. Kapacitet ljudskog nadzora: verificirati da osoblje designirano za pregled AI rezultata u HR-u ima stvarnu ovlast za poništavanje preporuka, dovoljno vremena za smisleni pregled i dokumentirano osposobljavanje primjereno složenosti sustava.

8. Postupci za odgovor na incidente: uspostaviti postupke za evidentiranje, istraživanje i prijavu ozbiljnih incidenata koji uključuju HR AI sustave, u skladu s obvezama pružatelja iz čl. 73 prenesenim na primjenitelje putem ugovornih aranžmana.

Usklađenost u ovom sektoru nije jednokratni projekt. Kombinacija obveza AI akta, razvojnih smjernica DPA-a o GDPR čl. 22 i aktivnog angažmana radničkih vijeća zahtijeva stalnu strukturu upravljanja s posvećenim vlasništvom unutar HR, pravnih i funkcija zaštite podataka.