Kadrovske zadeve in zaposlovanje — skladnost z Uredbo EU o umetni inteligenci

Obveznosti iz Uredbe EU o umetni inteligenci za sisteme UI, ki se uporabljajo pri zaposlovanju, nadzoru zaposlenih in ocenjevanju uspešnosti. Kategorija 4 Priloge III zajema vse sisteme UI na področju zaposlovanja.

Zakaj je Uredba EU o umetni inteligenci osrednjega pomena za kadrovsko tehnologijo

Umetna inteligenca je postala globoko vgrajena v delovna razmerja po celotni EU — od avtomatizirane razčlenitve življenjepisov v sistemih za sledenje kandidatom do nadzornih plošč uspešnosti v realnem času in vedenjske analitike v klicnih centrih. Uredba EU o umetni inteligenci, ki velja od 1. avgusta 2024 z obveznostmi za visoko tvegane sisteme UI, ki se začnejo uporabljati od 2. avgusta 2026, obravnava UI v zaposlovanju kot področje, občutljivo z vidika temeljnih pravic, ki si zasluži najvišjo raven regulativnega nadzora.

Priloga III, kategorija 4 Uredbe opredeljuje sisteme UI, ki se uporabljajo v zaposlovanju, upravljanju delavcev in dostopu do samozaposlitve, kot visoko tvegane v treh različnih podkategorijah: zaposlovanje in izbor kadrov (kat. 4(a)), odločitve o napredovanju, dodeljevanju nalog in nadzor pogodbenih obveznosti (kat. 4(b)) ter nadzor čustvenega ali vedenjskega stanja delavcev v realnem času (kat. 4(c)). Ta razvrstitev je kategorična — ni materialnega praga, ni izjeme za manjše namestitve in ni razlike glede na to, ali je orodje lastniško ali pridobljeno od zunanjega ponudnika.

Sektor se nahaja na presečišču treh regulativnih okvirov: Uredbe o UI, GDPR (zlasti čl. 22 o avtomatiziranem odločanju) in nacionalnega delovnega prava — vključno s pravicami soodločanja glede delovnih tehnologij. Skladnost zahteva usklajen pristop, ki zajema pravno, kadrovsko in informacijsko funkcijo ter sodelovanje sveta delavcev.

Visoko tvegani primeri uporabe — vsi sistemi kategorije 4 iz Priloge III

Zaposlovanje in izbor kadrov (kat. 4(a))

Sistemi UI, ki se uporabljajo v postopku zaposlovanja, so brez izjeme visoko tvegani. To obsega:

• Orodja za pregledovanje življenjepisov in prijav, integrirana v platforme ATS (Workday, SAP SuccessFactors, Greenhouse, Lever, SmartRecruiters). Razvrščanje, uvrstitev na ožji seznam in logika zavračanja, ki jo poganja UI, spada neposredno v kategorijo 4(a).
• Orodja za analizo videointervjujev, ki ocenjujejo mimiko obraza, ton glasu, vzorce govora ali mikro-izraze za sklepanje o primernosti kandidata ali osebnostnih lastnostih (npr. orodja tipa HireVue). Ta orodja lahko sprožijo tudi obveznosti preglednosti po čl. 50(2), če vključujejo prepoznavanje čustev.
• Algoritmi za ciljano oglaševanje delovnih mest, ki na podlagi sklepnih značilnosti — vključno s starostjo, spolom ali geografskimi kazalniki — določijo, katerim posameznikom se prikažejo objave delovnih mest, so izrecno navedeni v kategoriji 4(a) in predstavljajo posebno tveganje diskriminatornega ciljanja.

Upravljanje delovne sile in nadzor (kat. 4(b))

Sistemi UI, ki se uporabljajo za upravljanje delovnega razmerja po zaposlitvi, so prav tako visoko tvegani:

• UI za ocenjevanje uspešnosti, ki ustvarja točke, ocene ali razvrščanje, ki se uporablja za odločitve o napredovanju, bonusih ali odpovedi.
• Algoritmi za dodeljevanje nalog na platformah ekonomije nastajajočih del (Uber, Deliveroo, Amazon Flex), ki dodeljujejo delo, določajo plačne razrede in odločajo o deaktivaciji. Ti so visoko tvegani po kategoriji 4(b) ne glede na delovno razmerje delavca.
• Programska oprema za nadzor produktivnosti, ki agregira aktivnost tipkovnice, uporabo aplikacij, metapodatke komunikacije ali podatke o lokaciji za ustvarjanje metrik uspešnosti. Kjer izpisi vplivajo na pogodbene odločitve, se uporablja kategorija 4(b).

Nadzor čustvenega in vedenjskega stanja v realnem času (kat. 4(c))

Kategorija 4(c) Priloge III je usmerjena posebej v sisteme, ki v realnem času nadzorujejo čustveno ali vedenjsko stanje delavcev. Pogosti primeri namestitve v področju uporabe:

• Analitika čustev v klicnih centrih, ki med živimi klici ocenjuje razpoloženje klicatelja in agenta ter ustvarja opozorila o uspešnosti.
• Biometrične platforme za dobro počutje, ki iz fizioloških ali vedenjskih signalov sklepajo o stresu, utrujenosti ali vključenosti.
• Nadzor pozornosti in vključenosti med delom na daljavo z uporabo sklepanja na podlagi spletne kamere.

Ti sistemi poleg tega sprožijo čl. 50(2): vsak izvajalec, ki pri delavcih uporablja prepoznavanje čustev, mora te delavce obvestiti, da so predmet sistema. Ta obveznost obvestitve velja ne glede na to, ali je bil dosežen širši rok za skladnost z zahtevami za visoko tvegane sisteme.

Obveznosti ponudnikov in izvajalcev — položaj delodajalca

V skladu z Uredbo o UI večina delodajalcev zavzema vlogo izvajalca — pridobivajo visoko tvegane sisteme UI od ponudnikov (prodajalcev programske opreme) in jih nameščajo v svojih kadrovskih postopkih. Razlikovanje med ponudnikom in izvajalcem je pravno pomembno, ker se obveznosti razlikujejo.

Obveznosti ponudnikov (odgovornosti prodajalcev)

Ponudniki — prodajalci kadrovske programske opreme — morajo pred dajanjem visoko tveganih sistemov na trg EU:

• Vzpostaviti in vzdrževati sistem upravljanja kakovosti (čl. 9), ki zajema upravljanje tveganj, upravljanje podatkov, tehnično dokumentacijo in poprodajni nadzor.
• Pripraviti tehnično dokumentacijo po Prilogi IV, ki dokazuje zasnovo sistema, predvideni namen, meritve uspešnosti, podatke za usposabljanje in znane omejitve.
• Izvesti oceno skladnosti po čl. 43 in registrirati sistem v bazi podatkov EU (čl. 49).
• Namestiti oznako CE in izdati EU izjavo o skladnosti.
• Izvajalcem zagotoviti navodila za uporabo (čl. 13), vključno z informacijami o omejitvah, predvidenih profilih uporabnikov in zahtevah glede nadzora.

Obveznosti izvajalcev (odgovornosti delodajalcev)

Delodajalci morajo:

• Preveriti skladnost ponudnika pred namestitvijo: preveriti oznako CE, izjavo o skladnosti in ustrezna navodila za uporabo.
• Izvajati v skladu z navodili: izvajalci sistema ne smejo uporabljati za namene, ki presegajo navedeni predvideni namen (čl. 25(1)).
• Zagotoviti smiseln človeški nadzor (čl. 25(2)): zaposleni, določeni za nadzor izpisov UI, morajo imeti pooblastila, tehnično pristojnost in čas, potreben za razumevanje izpisov sistema in njihovo preglasitev, kadar je to primerno. Nominalni človeški pregled — obkljukanje potrditvenega polja brez resnične ocene — ne izpolnjuje te zahteve.
• Izvesti oceno učinka na temeljne pravice (FRIA) (čl. 27): obvezna za izvajalce iz javnega sektorja; močno priporočljiva za delodajalce iz zasebnega sektorja, ki nameščajo sisteme kategorije 4, zlasti kadar izpisi vplivajo na zaščitene značilnosti.
• Nadzirati tveganja po namestitvi: če izvajalec ugotovi tveganja, ki jih ponudnik ni predvidel, mora obvestiti ponudnika in, kadar je to ustrezno, organ za nadzor trga.
• Prekiniti uporabo, če pride do resnih incidentov ali če se ugotovi, da sistem med delovanjem ni skladen.

Interakcija z GDPR členom 22 in delovnim pravom

GDPR člen 22 — Avtomatizirano odločanje

GDPR čl. 22 ostaja v celoti v veljavi vzporedno z Uredbo o UI in se neposredno nanaša na UI v kadrovski sferi. Prepoveduje odločitve, ki temeljijo izključno na avtomatizirani obdelavi, kjer te odločitve imajo pravne ali podobno pomembne učinke na posameznika. V kontekstu zaposlovanja so naslednje odločitve nedvomno v področju uporabe: zaposlitev in zavrnitev, odpoved, napredovanje in degradacija, določanje plačila ter disciplinski ukrep.

Skladnost zahteva:

• Smiselno človeško posredovanje pred vsako odločilno odločitvijo — ocenjevalec mora imeti dostop do temeljnih podatkov in logike, ne le do povzetka priporočil.
• Pravico do pridobitve človeškega pregleda katere koli avtomatizirane odločitve na zahtevo, z resnično zmogljivostjo ponovnega premisleka.
• Pravno podlago za obdelavo po čl. 6 in, kadar so vključeni podatki posebnih kategorij (zdravstveni, etnični, biometrični podatki, sklepani iz analize obraza), po čl. 9.

Uredba o UI in GDPR sta komplementarni, ne medsebojno izključujoči. Čl. 2(7) Uredbe o UI potrjuje, da se ta nanaša brez poseganja v GDPR. Delodajalci morajo hkrati izpolnjevati zahteve obeh ureditev.

Nacionalno delovno pravo — sveti delavcev in soodločanje

V več državah članicah EU nacionalno delovno pravo podeljuje pravice soodločanja glede delovnih tehnologij, ki se nanašajo na sisteme UI neodvisno od Uredbe o UI:

• Nemčija — Betriebsverfassungsgesetz §87(1) točka 6: svet delavcev ima zavezujočo pravico soodločanja o uvajanju tehničnih naprav, namenjenih nadzoru vedenja ali uspešnosti zaposlenih. Namestitev orodij UI za nadzor ali ocenjevanje brez predhodnega soglasja sveta delavcev je mogoče izpodbijati pred delovnim sodiščem (Arbeitsgericht) in preprečiti z injunkcijo.
• Nizozemska — Wet op de ondernemingsraden (WOR) čl. 27: ondernemingsraad ima pravice soglasja glede kadrovskih sistemov in ureditev nadzora.
• Avstrija — Arbeitsverfassungsgesetz §96: zavezujoče soodločanje o nadzornih ukrepih, ki vplivajo na osebno dostojanstvo.
• Francija — Code du Travail L. 2312-38: Comité Social et Économique mora biti obveščen in se z njim posvetovati pred namestitvijo avtomatiziranih orodij, ki vplivajo na delovne pogoje.

Pravice sveta delavcev praviloma zahtevajo predhodno obvestilo, dokumentacijo o delovanju sistema in v številnih primerih formalno soglasje ali dogovor o delu (Betriebsvereinbarung) pred namestitvijo. Te obveznosti se sprožijo pred rokom za skladnost z Uredbo o UI in jih ni mogoče odložiti.

Direktiva 2002/14/ES o obveščanju in posvetovanju z zaposlenimi prav tako zagotavlja okvir za evropske svete delavcev multinacionalnih skupin, ki nameščajo orodja UI v državah članicah.

Izvrševanje — organi za varstvo podatkov, organi za enakopravnost in inšpektorati dela

Izvrševanje obveznosti iz Uredbe o UI v kadrovskem sektorju bo vključevalo več pristojnih organov:

• Organi za varstvo podatkov (DPA): imenovanje primarnega organa za nadzor trga bo v številnih državah članicah pridruženo organu za varstvo podatkov ali bo zraven njega. Organi za varstvo podatkov imajo vzporedno pristojnost po GDPR čl. 22 za kršitve avtomatiziranega odločanja. Smernice EDPB o UI in zaposlovanju ostajajo merodajna razlaga na ravni EU.
• Nacionalni organi za enakopravnost: kadar sistemi UI pri zaposlovanju ali napredovanju povzročajo diskriminatorne izide — na primer nesorazmerni učinek na ženske, etnične manjšine ali starejše delavce — imajo organi za enakopravnost (npr. ECRI, Défenseur des droits, člani Equinet) preiskovalna in izvršilna pooblastila na podlagi direktiv o enakem obravnavanju (2000/43/ES, 2000/78/ES, 2006/54/ES).
• Inšpektorati dela: v državah članicah z močnimi sistemi inšpekcije dela lahko inšpektorji preiskujejo kršitve, povezane z UI, ki se nanašajo na delovne pogoje, omejitve nadzora in pravice sveta delavcev. Francija (DREETS), Nemčija (Gewerbeaufsicht) in Španija (Inspección de Trabajo) so primeri aktivnih organov za izvrševanje.

Kazni v skladu z Uredbo o UI dosegajo 30 milijonov EUR ali 6 % skupnega letnega svetovnega prometa za prepovedane prakse ter 15 milijonov EUR ali 3 % prometa za druge kršitve visoko tveganih sistemov. Globe GDPR po čl. 83 se nanašajo kumulativno. Ugledno tveganje in tožbe zaposlenih v skladu z nacionalnim delovnim pravom predstavljajo dodatno izpostavljenost.

Načrt za skladnost za kadrovske strokovnjake

Strukturiran program skladnosti za delodajalce, ki nameščajo sisteme UI v kadrovski sferi, mora zaporedoma obravnavati naslednje:

1. Popis sistemov UI: katalogizirati vsa orodja UI, ki se uporabljajo skozi celoten cikel zaposlitve — zaposlovanje, uvajanje, upravljanje uspešnosti, načrtovanje delovne sile in izhod. Za vsako orodje določiti kategorijo iz Priloge III in potrditi razvrstitev kot visoko tvegano.

2. Skrbni pregled ponudnikov: pred 2. avgustom 2026 (ali ob naslednji podaljšitvi pogodbe) od vsakega prodajalca zahtevati: oznako CE, EU izjavo o skladnosti, povzetek tehnične dokumentacije in navodila za uporabo. Prodajalci, ki tega ne morejo zagotoviti, morajo biti obravnavani kot neskladni.

3. Posvetovanje s svetom delavcev: začeti postopke soodločanja ali posvetovanja po veljavnem nacionalnem pravu za vse sisteme UI, ki še niso predmet formalnega dogovora. Izide dokumentirati v dogovoru o delu ali enakovrednem instrumentu.

4. Revizija po GDPR čl. 22: kartirati vse kadrovske odločitve s pravnimi ali pomembnimi učinki ter preveriti, da nobena odločitev ne temelji izključno na avtomatiziranem izpisu. Uvesti protokole za človeški nadzor z dokumentirano pristojnostjo ocenjevalca in zapisi o posredovanju.

5. Ocena učinka na temeljne pravice: izvesti FRIA po čl. 27 za vse namestitve kategorije 4 iz Priloge III. Za delodajalce iz javnega sektorja je to obvezno; za delodajalce iz zasebnega sektorja je to pričakovani standard skrbnega ravnanja in obramba pred izvršilnimi ukrepi.

6. Obveznosti preglednosti: uvesti obvestilo za zaposlene po čl. 50(2) za vsak sistem za prepoznavanje čustev. Zagotoviti, da so kandidati za zaposlitev obveščeni o pregledovanju s pomočjo UI v skladu z zahtevami preglednosti GDPR (čl. 13–14).

7. Zmogljivost za človeški nadzor: preveriti, da imajo osebe, določene za pregled izpisov UI v kadrovski sferi, resnična pooblastila za preglasitev priporočil, dovolj časa za izvedbo smiselnega pregleda in dokumentirano usposabljanje, ustrezno stopnji kompleksnosti sistema.

8. Postopki odzivanja na incidente: vzpostaviti postopke za evidentiranje, preiskovanje in poročanje resnih incidentov, ki vključujejo kadrovske sisteme UI, v skladu z obveznostmi ponudnika po čl. 73, ki so prenesene na izvajalce prek pogodbenih ureditev.

Skladnost v tem sektorju ni enkraten projekt. Kombinacija obveznosti iz Uredbe o UI, razvijajočih se smernic organov za varstvo podatkov glede GDPR čl. 22 in aktivnega sodelovanja sveta delavcev zahteva stalno strukturo upravljanja z določenim lastništvom v kadrovski, pravni in funkciji varstva podatkov.