Personalas ir įdarbinimas — ES DI akto reikalavimų laikymasis

ES DI akto prievolės, taikomos DI sistemoms, naudojamoms įdarbinime, darbuotojų stebėsenoje ir veiklos vertinime. Annex III 4 kategorija apima visas su užimtumu susijusias DI sistemas.

Kodėl ES DI aktas yra centrinis HR technologijoms

Dirbtinis intelektas yra giliai įsišaknijęs ES darbo praktikoje — nuo automatizuoto gyvenimo aprašymų analizavimo pareiškėjų stebėjimo sistemose iki realaus laiko veiklos informacinių suvestinių ir elgesio analizės skambučių centruose. ES DI aktas, įsigaliojęs 2024 m. rugpjūčio 1 d., su prievolėmis didelės rizikos DI sistemoms, taikomomis nuo 2026 m. rugpjūčio 2 d., su užimtumu susijusį DI laiko pagrindinių teisių požiūriu jautria sritimi, kuriai reikalinga aukščiausia reguliavimo priežiūra.

Reglamento Annex III, 4 kategorija identifikuoja DI sistemas, naudojamas užimtume, darbuotojų valdyme ir prieigoje prie savarankiško darbo, kaip didelės rizikos trijose atskirose pokategorijose: įdarbinimas ir atranka (4(a) kat.), sprendimai dėl paaukštinimo, užduočių paskirstymo ir sutartinių įsipareigojimų stebėsenos (4(b) kat.) bei realaus laiko darbuotojų emocinių ar elgesio būsenų stebėsena (4(c) kat.). Ši klasifikacija yra kategorinė — nėra materialumo ribos, nėra išimčių nedideliems diegimams ir nėra skirtumo, ar priemonė yra nuosava, ar įsigyta iš trečiosios šalies tiekėjo.

Sektoriui kertasi trys reguliavimo sistemos: DI aktas, GDPR (ypač Art. 22 dėl automatizuoto sprendimų priėmimo) ir nacionalinė darbo teisė — įskaitant bendro sprendimų priėmimo teises dėl darbo vietos technologijų. Reikalavimų laikymasis reikalauja koordinuoto požiūrio, apimančio teisines, personalo, IT ir darbo tarybų sritis.

Didelės rizikos naudojimo atvejai — visos Annex III 4 kategorijos sistemos

Įdarbinimas ir atranka (4(a) kat.)

DI sistemos, naudojamos įdarbinimo cikle, be išimties yra didelės rizikos. Tai apima:

• CV ir gyvenimo aprašymų tikrinimo priemones, integruotas į ATS platformas (Workday, SAP SuccessFactors, Greenhouse, Lever, SmartRecruiters). DI valdomas reitingavimas, atranka ir atmetimo logika aiškiai patenka į 4(a) kat.
• Vaizdo pokalbių analizės priemones, vertinančias veido išraiškas, balso toną, kalbos modelius ar mikro-išraiškas siekiant nustatyti kandidato tinkamumą ar asmenybės bruožus (pvz., HireVue tipo priemonės). Jos taip pat gali sukelti Art. 50(2) skaidrumo prievoles, jei apima emocijų atpažinimą.
• Tikslinės darbo skelbimų reklamos algoritmus, kurie nustato, kuriems asmenims rodomi darbo skelbimai pagal numatytas charakteristikas — įskaitant amžių, lytį ar geografinius rodiklius — yra aiškiai išvardyti 4(a) kat. ir kelia ypatingą diskriminacinės atrankos riziką.

Darbuotojų valdymas ir stebėsena (4(b) kat.)

DI, naudojamas darbo santykiams valdyti po įdarbinimo, yra lygiai taip pat didelės rizikos:

• Veiklos vertinimo DI, generuojantis balus, reitingus ar reitingavimo rezultatus, naudojamus paaukštinimo, premijų ar atleidimo sprendimams pagrįsti.
• Užduočių paskirstymo algoritmai platformų ekonomikoje (Uber, Deliveroo, Amazon Flex), paskirstantys darbus, nustatantys darbo užmokesčio tarifus ir sprendžiantys dėl deaktyvavimo. Tai yra didelės rizikos pagal 4(b) kat., nepaisant darbuotojo užimtumo klasifikacijos.
• Produktyvumo stebėjimo programinė įranga, apibendrinanti klaviatūros veiklą, programų naudojimą, komunikacijos metaduomenis ar vietos duomenis siekiant sudaryti veiklos rodiklius. Kai rezultatai naudojami sutartiniams sprendimams, taikoma 4(b) kat.

Realaus laiko emocinė ir elgesio stebėsena (4(c) kat.)

Annex III 4(c) kat. yra skirta konkrečiai sistemoms, stebinčioms darbuotojų emocinę ar elgesio būseną realiu laiku. Dažniausiai naudojamos sistemos:

• Skambučių centrų emocijų analizės sistemos, vertinančios skambinančiojo ir agento nuotaikas pokalbių metu ir generuojančios veiklos žymas.
• Biometrinės gerovės platformos, nustatančios stresą, nuovargį ar įsitraukimą pagal fiziologinius ar elgesio signalus.
• Dėmesio ir įsitraukimo stebėjimas nuotolinio darbo metu naudojant vaizdo kamera pagrįstą analizę.

Šios sistemos papildomai suaktyvina Art. 50(2): bet kuris naudotojas, taikantis emocijų atpažinimą darbuotojams, privalo pranešti tiems darbuotojams, kad jie yra sistemos veikimo objektai. Ši pranešimo prievolė taikoma nepaisant to, ar platesnis didelės rizikos atitikties terminas buvo įvykdytas.

Teikėjo ir naudotojo prievolės — darbdavio padėtis

Pagal DI aktą dauguma darbdavių atlieka naudotojo vaidmenį — jie perka didelės rizikos DI sistemas iš teikėjų (programinės įrangos pardavėjų) ir jas diegia savo personalo procesuose. Teikėjo ir naudotojo skirtumas yra teisiškai reikšmingas, nes prievolės skiriasi.

Teikėjo prievolės (pardavėjo atsakomybė)

Teikėjai — HR programinės įrangos pardavėjai — prieš pateikdami didelės rizikos sistemas ES rinkai privalo:

• Sukurti ir prižiūrėti kokybės valdymo sistemą (Art. 9), apimančią rizikos valdymą, duomenų valdyseną, techninę dokumentaciją ir po pateikimo rinkai vykdomą stebėseną.
• Parengti techninę dokumentaciją pagal Annex IV, demonstruojančią sistemos dizainą, numatytą paskirtį, veiklos rodiklius, mokymo duomenis ir žinomus apribojimus.
• Atlikti atitikties vertinimą pagal Art. 43 ir įregistruoti sistemą ES duomenų bazėje (Art. 49).
• Pritvirtinti CE ženklinimą ir išduoti ES atitikties deklaraciją.
• Pateikti naudotojams naudojimo instrukcijas (Art. 13), įskaitant informaciją apie apribojimus, numatytas vartotojų grupes ir priežiūros reikalavimus.

Naudotojo prievolės (darbdavio atsakomybė)

Darbdaviai privalo:

• Patikrinti teikėjo atitiktį prieš diegiant: patikrinti CE ženklinimą, atitikties deklaraciją ir tinkamas naudojimo instrukcijas.
• Įgyvendinti pagal instrukcijas: naudotojai negali naudoti sistemos tikslais, nepatenkančiais į jos deklaruotą numatytą paskirtį (Art. 25(1)).
• Užtikrinti prasmingą žmogaus priežiūrą (Art. 25(2)): darbuotojai, paskirti prižiūrėti DI rezultatus, privalo turėti įgaliojimus, techninę kompetenciją ir laiko, reikalingo suprasti sistemos rezultatus ir juos paneigti, kai tinkama. Nominalinė žmogaus peržiūra — žymimojo langelio pažymėjimas be tikro įvertinimo — netenkina šio reikalavimo.
• Atlikti pagrindinių teisių poveikio vertinimą (FRIA) (Art. 27): privalomą viešojo sektoriaus naudotojams; primygtinai rekomenduojamą privačiojo sektoriaus darbdaviams, diegiančiams 4 kat. sistemas, ypač kai rezultatai turi įtakos saugomoms charakteristikoms.
• Stebėti diegimo po pateikimo rinkai rizikas: jei naudotojas identifikuoja rizikas, kurių teikėjas nenumatė, naudotojas privalo pranešti teikėjui ir, jei reikia, rinkos priežiūros institucijai.
• Sustabdyti naudojimą, jei įvyksta rimtų incidentų arba jei sistema diegimo metu nustatoma kaip neatitinkanti reikalavimų.

Sąveika su GDPR 22 straipsniu ir darbo teise

GDPR 22 straipsnis — automatizuotas sprendimų priėmimas

GDPR Art. 22 veikia visapusiškai kartu su DI aktu ir tiesiogiai taikomas personalo valdymo DI. Jis draudžia sprendimus, grindžiamus išimtinai automatiniu duomenų tvarkymu, kai tie sprendimai daro teisines pasekmes ar panašiai reikšmingas pasekmes duomenų subjektui. Darbo santykių kontekste šie sprendimai neabejotinai patenka į taikymo sritį: įdarbinimas ir atmetimas, atleidimas, paaukštinimas ir pažeminimas, darbo užmokesčio nustatymas ir drausminės priemonės.

Reikalavimų laikymasis reikalauja:

• Prasmingos žmogaus intervencijos prieš bet kokį reikšmingą sprendimą — peržiūrintis asmuo privalo turėti prieigą prie pagrindinių duomenų ir logikos, o ne tik suvestinę rekomendaciją.
• Teisės gauti žmogaus peržiūrą bet kurio automatizuoto sprendimo prašymu, su tikru pakartotinio svarstymo pajėgumu.
• Teisinio pagrindo duomenų tvarkymui pagal Art. 6 ir, kai dalyvauja ypatingų kategorijų duomenys (sveikata, etninė kilmė, biometriniai duomenys, gauti iš veido analizės), pagal Art. 9.

DI aktas ir GDPR yra papildomi, o ne vienas kitą paneigiantys. DI akto Art. 2(7) patvirtina, kad jis taikomas nepažeidžiant GDPR. Darbdaviai privalo vienu metu laikytis abiejų sistemų reikalavimų.

Nacionalinė darbo teisė — darbo tarybos ir bendras sprendimų priėmimas

Keliose ES valstybėse narėse nacionalinė darbo teisė suteikia bendro sprendimų priėmimo teises dėl darbo vietos technologijų, kurios taikomos DI sistemoms nepriklausomai nuo DI akto:

• Vokietija — Betriebsverfassungsgesetz §87(1) nr. 6: darbo taryba turi privalomą bendro sprendimų priėmimo teisę dėl techninių priemonių, skirtų darbuotojų elgesiui ar veiklai stebėti, įvedimo. DI stebėjimo ar vertinimo priemonių diegimas be išankstinio darbo tarybos sutikimo gali būti ginčijamas darbo teisme (Arbeitsgericht) ir sustabdytas.
• Nyderlandai — Wet op de ondernemingsraden (WOR) Art. 27: ondernemingsraad turi sutikimo teises dėl personalo sistemų ir stebėjimo priemonių.
• Austrija — Arbeitsverfassungsgesetz §96: privalomas bendras sprendimų priėmimas dėl stebėjimo priemonių, turinčių įtakos asmeniniam orumui.
• Prancūzija — Code du Travail L. 2312-38: Comité Social et Économique privalo būti informuotas ir konsultuojamas prieš diegiant automatizuotas priemones, turinčias įtakos darbo sąlygoms.

Darbo tarybų teisės paprastai reikalauja išankstinio pranešimo, sistemos veikimo dokumentacijos ir daugeliu atvejų formalaus susitarimo arba darbo susitarimo (Betriebsvereinbarung) prieš diegimą. Šios prievolės yra suaktyvinamos anksčiau nei DI akto atitikties terminai ir negali būti atidėtos.

Direktyva 2002/14/EB dėl darbuotojų informavimo ir konsultavimosi taip pat suteikia pagrindą Europos darbo taryboms daugiašalių grupių, diegiančių DI priemones keliose valstybėse narėse, atžvilgiu.

Vykdymo užtikrinimas — DPA, lygybės institucijos ir darbo inspekcijos

DI akto prievolių vykdymo užtikrinimas HR sektoriuje apims kelias kompetentingas institucijas:

• Duomenų apsaugos institucijos (DPA): pirminio rinkos priežiūros institucijos paskyrimas daugelyje valstybių narių teks DPA arba bus šalia jų. DPA turi gretutinę kompetenciją pagal GDPR Art. 22 dėl automatizuoto sprendimų priėmimo pažeidimų. EDPB gairės dėl DI ir užimtumo išlieka autoritatyviu aiškinimu ES lygmeniu.
• Nacionalinės lygybės institucijos: kai DI sistemos sukuria diskriminacinius rezultatus įdarbinime ar paaukštinime — pavyzdžiui, neproporcingą poveikį moterims, etninėms mažumoms ar vyresniems darbuotojams — lygybės institucijos (pvz., ECRI, Défenseur des droits, Equinet nariai) turi tyrimo ir vykdymo užtikrinimo įgaliojimus pagal Vienodo požiūrio direktyvas (2000/43/EB, 2000/78/EB, 2006/54/EB).
• Darbo inspekcijos: valstybėse narėse, turinčiose stiprią darbo inspekcijos sistemą, inspektoriai gali tirti su DI susijusius darbo sąlygų, stebėjimo apribojimų ir darbo tarybų teisių pažeidimus. Prancūzija (DREETS), Vokietija (Gewerbeaufsicht) ir Ispanija (Inspección de Trabajo) yra aktyvių vykdymo institucijų pavyzdžiai.

Baudos pagal DI aktą siekia 30 milijonų eurų arba 6 % visuotinės metinės apyvartos už draudžiamą praktiką ir 15 milijonų eurų arba 3 % apyvartos už kitus didelės rizikos pažeidimus. GDPR baudos pagal Art. 83 taikomos kaupiamąja tvarka. Reputacinė rizika ir darbuotojų ieškiniai pagal nacionalinę darbo teisę sudaro papildomą poveikį.

Atitikties veiksmų planas personalo specialistams

Struktūrizuota atitikties programa darbdaviams, diegiančiams DI personalo valdyme, turėtų iš eilės apimti šiuos dalykus:

1. DI sistemų inventorizacija: sudaryti visų DI priemonių, naudojamų visame darbo cikle — įdarbinime, onboarding'e, veiklos valdyme, darbuotojų planavime ir išėjime — katalogą. Kiekvienai priemonei nustatyti Annex III kategoriją ir patvirtinti didelės rizikos klasifikaciją.

2. Teikėjo išsamaus patikrinimo procedūra: iki 2026 m. rugpjūčio 2 d. (arba kito sutarties atnaujinimo) pareikalauti iš kiekvieno pardavėjo: CE ženklinimo, ES atitikties deklaracijos, techninės dokumentacijos santraukos ir naudojimo instrukcijų. Pardavėjai, negalintys jų pateikti, turėtų būti laikomi neatitinkančiais reikalavimų.

3. Darbo tarybų konsultavimas: inicijuoti bendro sprendimų priėmimo arba konsultavimosi procedūras pagal taikomą nacionalinę teisę visoms DI sistemoms, kurioms dar netaikomas formalus susitarimas. Dokumentuoti rezultatus darbo susitarime ar lygiaverčiame instrumente.

4. GDPR Art. 22 auditas: nustatyti visus personalo sprendimus, turinčius teisinių ar reikšmingų pasekmių, ir patikrinti, ar nė vienas sprendimas nepagrįstas išimtinai automatizuotu rezultatu. Įdiegti žmogaus priežiūros protokolus su dokumentuota peržiūrinčio asmens kompetencija ir intervencijos įrašais.

5. Pagrindinių teisių poveikio vertinimas: atlikti FRIA pagal Art. 27 visiems Annex III 4 kat. diegimams. Viešojo sektoriaus darbdaviams tai privaloma; privačiojo sektoriaus darbdaviams tai yra numatomas išsamaus patikrinimo standartas ir apsauga nuo vykdymo priemonių.

6. Skaidrumo prievolės: įdiegti Art. 50(2) darbuotojų pranešimą bet kuriai emocijų atpažinimo sistemai. Užtikrinti, kad darbo pretendentai būtų informuoti apie DI pagalba atliekamą atranką pagal GDPR skaidrumo reikalavimus (Art. 13–14).

7. Žmogaus priežiūros pajėgumas: patikrinti, ar darbuotojai, paskirti peržiūrėti DI rezultatus personalo valdyme, turi tikrus įgaliojimus paneigti rekomendacijas, pakankamai laiko prasmingai peržiūrai ir dokumentuotą mokymą, atitinkantį sistemos sudėtingumą.

8. Incidentų reagavimo procedūros: nustatyti procedūras rimtų incidentų, susijusių su personalo valdymo DI sistemomis, registravimui, tyrimui ir pranešimui, laikantis Art. 73 teikėjo prievolių, perduodamų naudotojams per sutartinius susitarimus.

Reikalavimų laikymasis šiame sektoriuje nėra vienkartinis projektas. DI akto prievolių, besikeičiančių DPA gairių dėl GDPR Art. 22 ir aktyvaus darbo tarybų dalyvavimo derinys reikalauja nuolatinės valdymo struktūros su paskirta atsakomybe personalo, teisinės ir duomenų apsaugos funkcijose.