Viešasis sektorius ir teisingumo sistema — EU AI Act atitiktis

EU AI Act prievolės, susijusios su dirbtiniu intelektu viešajame administravime, teisėsaugoje, sienų kontrolėje ir teisingumo sistemoje. Apima Annex III 5–8 kategorijas ir privalomą pagrindinių teisių poveikio vertinimą.

Viešasis sektorius ir AI Act — kodėl valdžia yra didžiausios rizikos diegėjas

EU AI Act (Reglamentas (ES) 2024/1689) taikomas horizontaliai visose sektoriuose, tačiau didžiausia privalomų prievolių našta tenka viešosioms įstaigoms. Valdžios agentūros, teisėsaugos institucijos, teisminės įstaigos ir sienų valdymo struktūros yra tiek intensyviausi svarbaus DI naudotojai, tiek ir tos organizacijos, kurių DI naudojimas kelia didžiausią struktūrinę riziką pagrindinėms teisėms. Reglamentas atspindi šį asimetriją dviem struktūriniais būdais.

Pirma, keturios iš aštuonių Annex III didelės rizikos kategorijų tiesiogiai sprendžia viešojo sektoriaus DI klausimus — 5–8 kategorijos apima esmines viešąsias paslaugas, teisėsaugą, migraciją ir sienų kontrolę bei teisingumo administravimą. Šios kategorijos nėra liekamieji rezervarai: jose išvardijamos konkrečios DI programos, dažnai naudojamos valdžios institucijų veikloje ir pačia savo klasifikacija keliančios didelę riziką.

Antra, Art. 27 nustato viešosioms įstaigoms privalomą pagrindinių teisių poveikio vertinimą (FRIA) prieš diegiant didelės rizikos DI sistemas. Privačiojo sektoriaus diegėjams FRIA yra labai rekomenduojamas; viešosioms įstaigoms tai yra teisinė prievolė. Vertinime turi būti nagrinėjamas DI sistemos poveikis asmenų teisėms pagal ES pagrindinių teisių chartiją, įskaitant teisę į orumą (Art. 1), asmens duomenų apsaugą (Art. 8), teisę į veiksmingą teisinę gynybą (Art. 47) ir nekaltumo prezumpciją (Art. 48).

Viešųjų įstaigų atitikties aplinką dar labiau apsunkina tai, kad AI Act prievolės susikloja su esamais sektorių specifiniais reglamentais: Teisėsaugos direktyva 2016/680, Šengeno informacinės sistemos reglamentu, Frontex reglamentu 2019/1896, Bendruoju duomenų apsaugos reglamentu ir Europos žmogaus teisių konvencijos konstituciniais reikalavimais, kaip juos aiškina Europos žmogaus teisių teismas. Kiekvienas iš šių teisės aktų nustato nepriklausomas prievoles, kurios turi būti vykdomos lygiagrečiai su EU AI Act reikalavimais.

Didelės rizikos DI sistemos — 5–8 kategorijos

Annex III, 5 kategorija — Esminės viešosios paslaugos ir išmokų vertinimas

Annex III, 5(b) punktas kaip didelės rizikos klasifikuoja bet kurią DI sistemą, naudojamą vertinti fizinių asmenų teisę į esmines viešąsias išmokų paslaugas ir priimti sprendimus tokiame kontekste. Ši kategorija apima visą gerovės valstybės DI spektrą:

• Automatizuotas nedarbo išmokų vertinimas: DI sistemos, nustatančios, ar pareiškėjas atitinka tinkamumo kriterijus pagal darbo įrašus, darbo paieškos veiklą ar turtinę padėtį.
• Būsto ir neįgalumo išmokų sprendimai: Algoritminės priemonės, vertinančios paraiškas dėl socialinio būsto prioriteto, neįgalumo išmokų teisės ar asmeninės nepriklausomybės išmokų.
• Socialinės paramos sukčiavimo nustatymas: DI profiliavimo sistemos, generuojančios rizikos balus dėl įtariamo išmokų sukčiavimo ir galinčios sukelti tyrimus ar išmokų sustabdymą.

5(b) punktas taip pat apima kreditingumo ir draudimo DI fizinių asmenų atžvilgiu, nors pagrindinis viešojo sektoriaus poveikis yra susijęs su išmokų ir paslaugų tinkamumu. Visais atvejais klasifikacija taikoma tada, kai DI sistema daro esminę įtaką prieigai prie viešosios paslaugos — nepriklausomai nuo to, ar galutinį sprendimą priima žmogus.

Annex III, 6 kategorija — Teisėsauga

6 kategorija apima DI, naudojamą teisėsaugos institucijų trijose srityse:

Rizikos vertinimas ir profiliavimas: DI sistemos, vertinančios tikimybę, kad asmuo įvykdys nusikalstamą veiką, recidyvuos ar kels saugumo grėsmę — įskaitant recidyvizmo vertinimo priemones, naudojamas sulaikymo iki teismo klausymų, lygtinio paleidimo sprendimų ir bausmės rekomendacijų metu. Šios sistemos yra didelės rizikos pagal Annex III, 6(a) punktą.

Nustatymas ir analizė tiriamuosiuose veiksmuose: DI, skirta emocinėms būsenoms, asmenybės bruožams ar apgaulingam elgesiui nustatyti pagal veido išraiškas, balsą ar fiziologinius rodiklius, naudojama baudžiamuosiuose tyrimuose. Art. 5(1)(f) atskirai draudžia DI sistemas, kurios daro išvadas apie asmenų emocijas teisėsaugos ir sienų valdymo kontekstuose, išskyrus konkrečius saugumo tikslus, nubrėžiant tvirtą išorinę ribą šiam naudojimo atvejui.

Giluminių suklastojimų ir dokumentų aptikimas: DI, naudojama manipuliuoto skaitmeninio turinio aptikimui ar dokumentų autentiškumo vertinimui baudžiamuosiuose procesuose — klasifikuojama kaip didelės rizikos pagal Annex III, 6(c) punktą.

Annex III, 7 kategorija — Migracija, prieglobstis ir sienų kontrolė

7 kategorija taikoma DI, naudojamai migracijos ir sienų valdymo kontekste:

Rizikos vertinimas pasienyje: DI sistemos, vertinančios neteisėtos migracijos riziką ar generuojančios grėsmės balus asmenims, kertantiems sienas — įskaitant SIS integruotas profiliavimo priemones ir Frontex rizikos analizės sistemas, veikiančias pagal Reglamentą 2019/1896.

Dokumentų ir tapatybės tikrinimas: DI sistemos, vertinančios kelionės dokumentų, vizų, leidimų gyventi ar asmens tapatybės dokumentų autentiškumą sienų kirtimo ar imigracijos tikslais.

Prieglobsčio prašymų nagrinėjimas: DI, nagrinėjanti prieglobsčio prašymus, vertinanti individualių pareiškimų patikimumą ar profiliuojanti pareiškėjus pagreitintoms ar sutrumpintoms procedūroms.

Visoms 7 kategorijos sistemoms turi būti atliekamas atitikties vertinimas ne tik pagal AI Act, bet ir pagal Pabėgėlių konvenciją (1951), ES Chartijos Art. 18 (teisė į prieglobstį) ir negrąžinimo principą, kaip jį aiškina EŽTT praktika — konstitucinį apribojimą, kurį FRIA pagal Art. 27 turi spręsti aiškiai.

Annex III, 8 kategorija — Teisingumo administravimas ir demokratiniai procesai

8 kategorija sprendžia DI, diegiamos pačioje teisingumo sistemoje, klausimus:

Teisminės pagalbos DI: Sistemos, padedančios tirti teismų praktiką, nustatyti taikytinas teisines nuostatas ar struktūrizuoti teisinį samprotavimą teisėjams, prokurorams ar teismų administratoriams — didelės rizikos pagal Annex III, 8(a) punktą.

Prognostinio teisingumo priemonės: DI sistemos, prognozuojančios tikėtiną bylinėjimosi baigtį, bausmės dydžius ar teisminius sprendimus remiantis istoriniais bylų duomenimis. Šios sistemos kelia ūmių susirūpinimų pagal ES Chartijos Art. 47 dėl teisės į teisingą bylos nagrinėjimą, nes jų naudojimas teisminiame sprendimų priėmime gali struktūriškai atsverti šalis, kurių profiliai skiriasi nuo istorinių normų.

8 kategorija nedraudžia DI padedamo teisminio darbo; ji jam taiko didelės rizikos atitikties režimą ir reikalauja, kad teismai ir teisingumo ministerijos užtikrintų, jog DI rezultatai visada būtų vertinami prasmingos žmogaus peržiūros — teisėjas ar sprendimą priimantis asmuo turi gebėti ir praktiškai privalo nepaisyti DI rezultato, kai jis nėra tinkamas.

Privalomosios viešųjų įstaigų diegėjų prievolės

Viešosios įstaigos, veikiančios kaip didelės rizikos DI sistemų diegėjai pagal AI Act, turi apibrėžtą, neperleidžiamą prievolių rinkinį pagal Art. 26 ir Art. 27.

Pagrindinių teisių poveikio vertinimas (Art. 27)

FRIA yra būdingiausia prievolė viešiesiems diegėjams. Jis turi būti atliekamas prieš diegimą ir turi apimti: konkrečius teisėms poveikį turinčius sistemos tikslus; asmenų, kurių teisėms gali būti daromas poveikis, kategorijas; numatomas žalos rizikas ir tų rizikų tikimybę bei sunkumą; kaip esamos teisinės apsaugos priemonės mažina tas rizikas; ir priemones, kurių imtasi sistemai stebėti po diegimo. Baigtas FRIA turi būti pateiktas nacionalinei DI priežiūros institucijai paprašius ir turi būti atnaujinamas pakeitus sistemą ar ją diegiant naujame kontekste.

Žmogaus priežiūra ir atsakomybės paskyrimas

Art. 26(1) reikalauja, kad diegėjai paskirtų didelės rizikos DI sistemų žmogaus priežiūrą fiziniams asmenims, turintiems reikiamą kompetenciją, įgaliojimus ir išteklius įsikišti. Viešajame administravime tai reiškia, kad kiekvienas automatizuotas procesas, turintis įtakos asmenims — ar tai būtų išmokų tinkamumas, sienų rizikos vertinimas ar teisminės pagalbos rezultatas — turi turėti identifikuotą pareigūną, galintį nepaisyti sistemos rezultato ir struktūriškai neskatinamo jam paklusti.

Skaidrumas paveiktiems asmenims

Art. 13 reikalauja, kad diegėjai užtikrintų, jog asmenys, kuriems taikomi DI padedami sprendimai, būtų aiškiai informuoti apie DI sistemos naudojimą. Viešajame administravime ši prievolė paprastai reikalauja DI naudojimo atskleidimo įtraukimo į sprendimų laiškus, administracinius pranešimus ir klausymų procedūras. Art. 86 saugo duomenų, pateiktų priežiūros institucijoms atitikties stebėjimo kontekste, konfidencialumą, suteikdamas galimybę atskleisti jautrią vidinę dokumentaciją be viešo poveikio.

Žurnalavimas, įrašų tvarkymas ir incidentų ataskaitų teikimas

Diegėjai privalo saugoti veiklos žurnalus apie DI sistemos veiklą minimalų laikotarpį — ne mažiau kaip šešis mėnesius daugumai didelės rizikos sistemų, o tais atvejais, kai pagrindinį administracinį procesą reglamentuojantis teisinis pagrindas reikalauja ilgesnio saugojimo — ilgiau. Rimti incidentai — incidentai, sukėlę mirtį, sunkų sužalojimą, didelę turtinę žalą ar pagrindinių teisių pažeidimus — turi būti pranešami kompetentingai nacionalinei DI priežiūros institucijai be nepagrįsto delsimo.

Draudžiama praktika viešajame administravime

Tam tikra DI praktika yra absoliučiai draudžiama pagal EU AI Act Art. 5. Viešosioms institucijoms tiesioginę operatyvinę reikšmę turi trys draudimai.

Art. 5(1)(c) — Socialinis reitingavimas viešųjų institucijų vykdomas: Draudžiamos DI sistemos, vertinančios ar klasifikuojančios asmenis pagal jų socialinį elgesį ar asmenybės charakteristikas siekiant generuoti balą, naudojamą prieigai prie viešųjų paslaugų, išmokų ar teisinio vertinimo nustatyti. Šis draudimas yra konkrečiai skirtas viešosioms institucijoms ir nukreiptas prieš vadinamuosius socialinio kredito mechanizmus, nepriklausomai nuo jų įvardijimo ar struktūros.

Art. 5(1)(d) — Biometrinė identifikacija realiuoju laiku viešose erdvėse: Draudžiama teisėsaugos institucijoms naudoti realiuoju laiku veikiančias DI nuotolinės biometrinės identifikacijos sistemas (veido atpažinimą, eisenos analizę ar kitas biometrines priemones) viešai prieinamose vietose, išskyrus tris siauras išimtis: tikslinė dingusių vaikų paieška; konkrečių, neišvengiamų teroristinių grėsmių prevencija; ir įtariamųjų identifikavimas sunkiose bylose, kai gautas išankstinis teisminis ar nepriklausomas administracinis leidimas. Šios išimtys yra išsamios; jokia bendra stebėjimo programa neatitinka reikalavimų.

Art. 5(1)(e) — Poastralinės ir manipuliacinės technikos: Visų diegėjų, įskaitant viešąsias institucijas, draudžiamos DI sistemos, taikančios metodus, veikiančius žemiau sąmoningos suvokimo slenksčio siekiant manipuliuoti individo elgesiu, arba išnaudojančios konkrečių grupių pažeidžiamumą.

Vykdymas — priežiūros institucijos ir kontrolės mechanizmai

AI Act vykdymo architektūra viešajame sektoriuje apima kelis kompetentingos institucijos lygmenis.

Nacionalinės DI priežiūros institucijos, paskirtos pagal Art. 70, yra pagrindinės Reglamento vykdymo institucijos kiekvienoje valstybėje narėje. Daugumoje jurisdikcijų jos yra arba bus integruotos su esamomis duomenų apsaugos institucijomis arba glaudžiai su jomis suderintos. Jos turi įgaliojimus vykdyti auditus, prašyti techninės dokumentacijos ir FRIA rezultatų, išduoti pataisomąsius nurodymus ir skirti administracines baudas.

Baudos viešosioms įstaigoms yra pavaldžios valstybių narių diskrecijai pagal Art. 99(6): valstybės narės gali numatyti, kad viešosioms institucijoms netaikomos piniginės sankcijos, tačiau privalo užtikrinti, kad alternatyvūs priežiūros ir pataisomieji mechanizmai — įskaitant privalomus auditus, neatitikties išvadų paskelbimą ir DI sistemų naudojimo sustabdymą — būtų prieinami. Ši diskrecija neapima leidimo nevykdyti prievolių; ji susijusi tik su finansinių sankcijų mechanizmu.

Duomenų apsaugos institucijos (DPT) ir EDPB išlaiko lygiagrečius įgaliojimus dėl asmens duomenų tvarkymo aspektų viešojo sektoriaus DI kontekste pagal GDPR ir LED. GDPR ar LED prievolių nevykdymas DI sistemų veikimo kontekste yra pavaldus DPT vykdymui nepriklausomai nuo DI Act priežiūros institucijos.

Europos žmogaus teisių teismas sudaro išorinį konstitucinį apribojimą: sprendimai, priimti remiantis algoritminiais procesais — ypač baudžiamajame teisingumo ir imigracijos srityse — turi atitikti Konvencijos standartus pagal Art. 6 (teisingas bylos nagrinėjimas) ir Art. 8 (privatus gyvenimas), kaip juos aiškina besivystanti EŽTT praktika automatizuoto sprendimų priėmimo srityje.

Įgyvendinimo gairės valdžios agentūroms

1 etapas — DI sistemų inventorizacija ir klasifikavimas (1–3 mėnesiai)

Viešosios įstaigos pirmiausia turi sukurti išsamų inventorių visų šiuo metu naudojamų ar įsigyjamų DI sistemų. Kiekviena sistema turi būti vertinama pagal Annex III 5–8 kategorijas ir Art. 5 draudimo nuostatas. Asmens duomenų tvarkymą apimančios sistemos turėtų būti tuo pačiu metu vertinamos pagal GDPR ir LED reikalavimus. Šio etapo rezultatas yra klasifikuotas inventorius — draudžiamoji, didelės rizikos, ribotos rizikos ar minimalios rizikos — kuris lemia atitikties programą.

2 etapas — Pagrindinių teisių poveikio vertinimai (3–6 mėnesiai)

Kiekvienai nustatytai didelės rizikos sistemai viešosios įstaigos privalo užsakyti ir atlikti FRIA pagal Art. 27. Tam reikalingos teisinės, techninės ir politikos įvestys: teisinė gresiančių teisių analizė; techninė sistemos veikimo, mokymo duomenų ir žinomų gedimų analizė; ir politikos vertinimas turimų svelninimo priemonių. FRIA turi būti dokumentuotos ir parengtos pateikimui priežiūros institucijoms.

3 etapas — Teikėjų tikrinimas ir viešųjų pirkimų reforma (3–9 mėnesiai)

Viešųjų pirkimų procesai turi būti atnaujinti siekiant reikalauti, kad DI teikėjai, kaip sutarties sudarymo sąlygą, įrodytų atitiktį EU AI Act. Diegėjai privalo patikrinti CE ženklinimą, atitikties deklaraciją, techninę dokumentaciją ir po pateikimo rinkai vykdomo stebėjimo įsipareigojimus prieš diegimą. Viešosios įstaigos, veikiančios kaip bendri operatoriai ar bendrakūrėjai su technologijų pardavėjais, privalo sutartimi išsiaiškinti atsakomybės paskirstymą dėl atitikties vertinimo prievolių.

4 etapas — Operatyvinės apsaugos priemonės ir darbuotojų mokymai (6–12 mėnesių)

Kiekvienai didelės rizikos DI sistemai turi būti identifikuoti paskirti žmogaus priežiūros pareigūnai, apmokyti dėl sistemos galimybių ir apribojimų bei aprūpinti perrašymo procedūromis. Skaidrumo pranešimai paveiktiems asmenims turi būti parengti ir įtraukti į esamas administracines procedūras. Žurnalavimo infrastruktūra turi būti patikrinta ar sukurta. Incidentų ataskaitų teikimo protokolai turi būti integruoti su esamais administraciniais ir duomenų apsaugos incidentų valdymo procesais.

5 etapas — Nuolatinis stebėjimas ir kasmetinė peržiūra

Didelės rizikos DI sistemų atitiktis nėra vienkartinis sertifikavimo procesas. Stebėjimo po pateikimo rinkai prievolės reikalauja, kad viešosios įstaigos aktyviai stebėtų sistemos veikimą, dokumentuotų bet kokius tikslumo, šališkumo ar elgesio pokyčius ir atnaujintų FRIA atsiradus esminių pakeitimų. Kasmetinės priežiūros institucijų ataskaitos, kur reikalaujama pagal nacionalinę teisę, turi būti pagrįstos stebėjimo programos metu sukurta dokumentacija.