Publiskais sektors un tieslietas — ES MI Akta atbilstība

ES MI Akta pienākumi attiecībā uz MI valsts pārvaldē, tiesībaizsardzībā, robežkontroles jomā un tieslietu sistēmā. Ietver Annex III 5.–8. kategorijas un obligātās pamattiesību ietekmes novērtēšanas prasības.

Publiskais sektors un MI Akts — kāpēc valsts ir augstākā riska operators

ES MI Akts (Regula (ES) 2024/1689) tiek piemērots horizontāli visās nozarēs, taču visblīvākais obligāto pienākumu slogs gulstas uz publiskajām struktūrām. Valsts aģentūras, tiesībaizsardzības iestādes, tiesu institūcijas un robežpārvaldības struktūras ir gan lielākie būtisku seku radošā MI izmantotāji, gan arī tās struktūras, kuru MI izmantošana rada lielākos strukturālos riskus pamattiesībām. Akts atspoguļo šo asimetriju divos strukturālos veidos.

Pirmkārt, četras no astoņām Annex III augsta riska kategorijām tieši attiecas uz publiskā sektora MI — 5.–8. kategorijas aptver būtiskus publiskos pakalpojumus, tiesībaizsardzību, migrāciju un robežkontroli, kā arī tieslietu administrēšanu. Šīs kategorijas nav atlikušie gadījumi: tajās ir uzskaitītas konkrētas MI lietojumprogrammas, ko parasti izmanto valsts pārvaldē un kurām pēc definīcijas ir klasifikācijas līmeņa risks.

Otrkārt, Art. 27 uzliek obligātu pamattiesību ietekmes novērtējumu (FRIA) publiskajām struktūrām pirms augsta riska MI sistēmu izvietošanas. Privātā sektora operatoriem FRIA ir stingri ieteicams; publiskajām struktūrām tas ir juridisks pienākums. Novērtējumā jāpārbauda MI sistēmas ietekme uz personu tiesībām saskaņā ar ES Pamattiesību hartu, tostarp tiesībām uz cieņu (Art. 1), personas datu aizsardzību (Art. 8), tiesībām uz efektīvu tiesību aizsardzību (Art. 47) un nevainīguma prezumpciju (Art. 48).

Publisko struktūru atbilstības ainavu vēl vairāk sarežģī MI Akta pienākumu uzslāņošana uz esošajiem nozarei specifiskajiem režīmiem: Tiesībaizsardzības direktīva 2016/680, Šengenas Informācijas sistēmas regula, Frontex Regula 2019/1896, Vispārīgā datu aizsardzības regula un Eiropas Cilvēktiesību konvencijas konstitucionālās prasības, kā tās interpretē Eiropas Cilvēktiesību tiesa. Katrs no šiem regulējumiem rada neatkarīgus pienākumus, kas jāpilda paralēli ES MI Akta prasībām.

Augsta riska MI sistēmas — 5.–8. kategorija

Annex III, 5. kategorija — Būtiskie publiskie pakalpojumi un pabalstu novērtēšana

Annex III, 5.(b) punkts klasificē kā augsta riska jebkuru MI sistēmu, ko izmanto, lai novērtētu fizisko personu tiesīgumu uz būtiskiem publisko pabalstu pakalpojumiem un pieņemtu lēmumus šajā kontekstā. Šī kategorija aptver pilnu sociālā nodrošinājuma MI spektru:

• Automatizēta bezdarbnieka pabalsta novērtēšana: MI sistēmas, kas nosaka, vai iesniedzējs atbilst tiesīguma kritērijiem, pamatojoties uz nodarbinātības datiem, darba meklēšanas aktivitāti vai līdzekļu novērtējumu.
• Mājokļa un invaliditātes pabalsta lēmumi: Algoritmiskie rīki, kas vērtē pieteikumus sociālā mājokļa prioritātei, invaliditātes pabalsta tiesībām vai personiskās neatkarības maksājumiem.
• Sociālas palīdzības krāpšanas atklāšana: MI profilēšanas sistēmas, kas ģenerē riska vērtējumus iespējamai pabalstu krāpšanai, potenciāli uzsākot izmeklēšanu vai maksājumu apturēšanu.

5.(b) punkts aptver arī kredītspējas un apdrošināšanas MI attiecībā uz fiziskajām personām, lai gan galvenā publiskā sektora pakļautība ir saistīta ar pabalstu un pakalpojumu tiesīgumu. Visos gadījumos klasifikācija tiek piemērota, kad MI sistēmai ir būtiska ietekme uz piekļuvi publiskajam pakalpojumam — neatkarīgi no tā, vai galīgo lēmumu pieņem amatpersona.

Annex III, 6. kategorija — Tiesībaizsardzība

6. kategorija aptver MI, ko tiesībaizsardzības iestādes izmanto trīs jomās:

Riska novērtēšana un profilēšana: MI sistēmas, kas novērtē varbūtību, ka persona izdarīs noziedzīgu nodarījumu, atkārtoti izdarīs noziedzīgu nodarījumu vai radīs drošības apdraudējumu — tostarp recidīvisma vērtēšanas rīki, ko izmanto pirmstiesas apcietinājuma uzklausīšanās, nosacītas atbrīvošanas lēmumos un sodu ieteikumos. Šīs sistēmas ir augsta riska saskaņā ar Annex III, 6.(a) punktu.

Atklāšana un analīze izmeklēšanas laikā: MI emocionālo stāvokļu, personības iezīmju vai maldinošas uzvedības noteikšanai no sejas izteiksmēm, balss vai fizioloģiskiem rādītājiem, ko izmanto kriminālizmeklēšanās. Art. 5(1)(f) atsevišķi aizliedz MI sistēmas, kas tiesībaizsardzībā un robežpārvaldībā secina personu emocijas, izņemot konkrētus drošības mērķus, nosakot stingru ārējo robežu šim lietošanas gadījumam.

Dziļo viltojumu un dokumentu atklāšana: MI, ko izmanto manipulēta digitālā satura noteikšanai vai dokumentu autentiskuma novērtēšanai kriminālprocesā — klasificēts kā augsta riska saskaņā ar Annex III, 6.(c) punktu.

Annex III, 7. kategorija — Migrācija, patvērums un robežkontrole

7. kategorija attiecas uz MI, ko izvieto migrācijas un robežpārvaldības kontekstā:

Riska novērtēšana pie robežām: MI sistēmas, kas novērtē neatbilstīgas migrācijas risku vai ģenerē apdraudējuma vērtējumus personām, kas šķērso robežas — tostarp SIS integrētie profilēšanas rīki un Frontex riska analīzes sistēmas, kas darbojas saskaņā ar Regulu 2019/1896.

Dokumentu un identitātes pārbaude: MI sistēmas, kas novērtē ceļošanas dokumentu, vīzu, uzturēšanās atļauju vai personas dokumentu autentiskumu robežšķērsošanas vai imigrācijas vajadzībām.

Patvēruma pieteikumu apstrāde: MI, kas pārbauda patvēruma pieteikumus, novērtē individuālo prasību ticamību vai profilē iesniedzējus paātrinātas vai vienkāršotas procedūras vajadzībām.

Visām 7. kategorijas sistēmām jānovērtē atbilstība ne tikai MI Aktam, bet arī Bēgļu konvencijai (1951), ES Hartas Art. 18 (tiesības uz patvērumu) un non-refoulement principam, kā to interpretē ECHR judikatūra — konstitucionāls ierobežojums, kas FRIA saskaņā ar Art. 27 ir jāaplūko tieši.

Annex III, 8. kategorija — Tieslietu administrēšana un demokrātiskie procesi

8. kategorija attiecas uz MI, ko izvieto pašā tieslietu sistēmā:

Tiesu atbalsta MI: Sistēmas, kas palīdz pētīt judikatūru, identificēt piemērojamās tiesību normas vai strukturēt juridisko argumentāciju tiesnešiem, prokuroriem vai tiesu administrātoriem — augsta riska saskaņā ar Annex III, 8.(a) punktu.

Prognozējošās tieslietas rīki: MI sistēmas, kas prognozē iespējamo tiesvedības iznākumu, soda apmēra diapazonus vai tiesas lēmumus, pamatojoties uz vēsturiskiem lietu datiem. Šīs sistēmas rada akūtas bažas saskaņā ar ES Hartas Art. 47 attiecībā uz tiesībām uz taisnīgu tiesu, jo to izmantošana tiesas lēmumu pieņemšanā var strukturāli noniecināt puses, kuru profils atšķiras no vēsturiskajām normām.

8. kategorija neaizliedz MI atbalstītu tiesu darbu; tā pakļauj to augsta riska atbilstības režīmam un prasa, lai tiesas un tieslietu ministrijas nodrošinātu, ka MI rezultāti vienmēr ir pakļauti saturiskai cilvēka pārskatīšanai — tiesnesis vai lēmuma pieņēmējs spēj un praksē ir spējīgs neievērot MI rezultātu, ja tas nav piemērots.

Obligātie pienākumi publisko struktūru operatoriem

Publiskās struktūras, kas darbojas kā augsta riska MI sistēmu operatori saskaņā ar MI Aktu, uzņemas noteiktu, nedeleģējamu pienākumu kopumu saskaņā ar Art. 26 un Art. 27.

Pamattiesību ietekmes novērtējums (Art. 27)

FRIA ir visraksturīgākais pienākums publiskajiem operatoriem. Tas jāveic pirms izvietošanas un tam jāaplūko: sistēmas konkrētie ar tiesībām saistītie mērķi; to personu kategorijas, kuru tiesības var tikt ietekmētas; paredzamie kaitējuma riski un šo risku varbūtība un smagums; kā esošie tiesiskās aizsardzības mehānismi mazina šos riskus; un pasākumi sistēmas uzraudzībai pēc izvietošanas. Pabeigtais FRIA pēc pieprasījuma jāiesniedz valsts MI uzraudzības iestādei un jāatjaunina, kad sistēma tiek modificēta vai izvietota jaunā kontekstā.

Cilvēka uzraudzība un noteiktā atbildība

Art. 26(1) pieprasa operatoriem uzticēt augsta riska MI sistēmu cilvēka uzraudzību fiziskajām personām ar nepieciešamo kompetenci, pilnvarām un resursiem iejaukšanās veikšanai. Valsts pārvaldē tas nozīmē, ka katram automatizētajam procesam, kas ietekmē personas — neatkarīgi no tā, vai tas ir pabalstu tiesīgums, robežas riska vērtēšana vai tiesu atbalsta rezultāts — jābūt identificētai amatpersonai, kas var ignorēt sistēmas rezultātu un kurai nav strukturālas stimulēšanas to ievērot.

Pārredzamība attiecīgajām personām

Art. 13 pieprasa operatoriem nodrošināt, ka personas, uz kurām attiecas MI atbalstīti lēmumi, ir skaidri informētas par MI sistēmas izmantošanu. Valsts pārvaldē šis pienākums parasti prasa MI izmantošanas paziņojumu iekļaušanu lēmumu vēstulēs, administratīvajā saziņā un uzklausīšanas procedūrās. Art. 86 aizsargā uzraudzības iestādēm atbilstības uzraudzības kontekstā iesniegtajos datu konfidencialitāti, nodrošinot iespēju sensitīvai iekšējai dokumentācijai tikt atklātai bez publikas iedarbības.

Žurnālfaili, uzskaite un incidentu ziņošana

Operatoriem jāuztur MI sistēmas darbības operacionālie žurnālfaili minimālo periodu — vismaz sešus mēnešus lielākajai daļai augsta riska sistēmu, ar pagarinātu glabāšanu, ja to prasa pamatā esošā administratīvā procesa regulējums. Nopietni incidenti — incidenti, kas rada nāvi, nopietnus ievainojumus, ievērojamus īpašuma bojājumus vai pamattiesību pārkāpumus — bez nepamatotas kavēšanās jāziņo kompetentajai valsts MI uzraudzības iestādei.

Aizliegtās prakses valsts pārvaldē

Atsevišķas MI prakses ir absolūti aizliegtas saskaņā ar ES MI Akta Art. 5. Publiskajām iestādēm trīs aizliegumi ir tieši operacionāli aktuāli.

Art. 5(1)(c) — Sociālā vērtēšana, ko veic publiskās iestādes: MI sistēmas, kas novērtē vai klasificē personas, pamatojoties uz to sociālo uzvedību vai personības īpašībām, lai ģenerētu vērtējumu, ko izmanto piekļuves publiskajiem pakalpojumiem, pabalstiem vai tiesiskajam regulējumam noteikšanai, ir aizliegtas. Šis aizliegums ir īpaši vērsts uz publiskajām iestādēm un mērķēts uz tā sauktajiem sociālā kredīta mehānismiem neatkarīgi no to nosaukuma vai struktūras.

Art. 5(1)(d) — Reāllaika attālinātā biometriskā identifikācija publiskās vietās: Reāllaika AI vadītu attālinātās biometriskās identifikācijas sistēmu (sejas atpazīšana, gaitas analīze vai citi biometriskie rīki) izmantošana publiski pieejamās vietās no tiesībaizsardzības iestāžu puses ir aizliegta, ievērojot trīs šaurus izņēmumus: mērķtiecīga pazudušo bērnu meklēšana; konkrētu, nenovēršamu teroristu apdraudējumu novēršana; un aizdomās turamo identificēšana nopietnajos noziegumos, kur ir iegūta iepriekšēja tiesu vai neatkarīgas administratīvās iestādes atļauja. Šie izņēmumi ir izsmeļoši; neviens vispārīgas novērošanas programma neatbilst tiem.

Art. 5(1)(e) — Zemapziņas un manipulatīvas metodes: MI sistēmas, kas izmanto metodes, kas darbojas zemāk par apzinātas uztveres slieksni, lai manipulētu ar personas uzvedību, vai kas izmanto konkrētu grupu ievainojamības, ir aizliegtas visiem operatoriem, tostarp publiskajām iestādēm.

Izpilde — uzraudzības iestādes un kontroles mehānismi

MI Akta izpildes arhitektūra publiskajā sektorā ietver vairākus kompetentās iestādes slāņus.

Valsts MI uzraudzības iestādes, kas norīkotas saskaņā ar Art. 70, ir primārās izpildes struktūras attiecībā uz Aktu katrā dalībvalstī. Lielākajā daļā jurisdikciju tās ir vai kļūs integrētas ar esošajām datu aizsardzības iestādēm vai cieši saistītas ar tām. Tām ir pilnvaras veikt revīzijas, pieprasīt tehnisko dokumentāciju un FRIA rezultātus, izdot korektīvus rīkojumus un uzlikt administratīvos naudas sodus.

Naudas sodi publiskajām struktūrām ir pakļauti dalībvalsts rīcības brīvībai saskaņā ar Art. 99(6): dalībvalstis var noteikt, ka publiskajām iestādēm netiek piemēroti naudas sodi, taču tām jānodrošina, ka ir pieejami alternatīvi uzraudzības un korektīvie mehānismi — tostarp obligātās revīzijas, neatbilstību konstatējumu publicēšana un MI sistēmas izmantošanas apturēšana. Šī rīcības brīvība neattiecas uz neatbilstības atļaušanu; tā skar tikai finansiālā soda mehānismu.

Datu aizsardzības iestādes (DPA) un EDPB saglabā paralēlu kompetenci attiecībā uz publiskā sektora MI personas datu apstrādes dimensijām saskaņā ar GDPR un LED. Neatbilstība GDPR vai LED pienākumiem MI sistēmas darbības kontekstā ir pakļauta DPA izpildei neatkarīgi no MI Akta uzraudzības iestādes.

Eiropas Cilvēktiesību tiesa veido ārēju konstitucionālu ierobežojumu: lēmumiem, kas pieņemti, pamatojoties uz algoritmiskiem procesiem — jo īpaši kriminālajā tiesvedībā un imigrācijā — jāatbilst Konvencijas standartiem attiecībā uz Art. 6 (taisnīga tiesa) un Art. 8 (privātā dzīve), kā tos interpretē ECHR mainīgā judikatūra par automatizētu lēmumu pieņemšanu.

Ieviešanas ceļvedis valsts aģentūrām

1. fāze — MI sistēmu inventarizācija un klasifikācija (1.–3. mēnesis)

Publiskajām struktūrām vispirms jāizveido visaptveroša inventarizācija visu pašlaik izmantoto vai iepirkumā esošo MI sistēmu. Katra sistēma jānovērtē pret Annex III 5.–8. kategorijām un Art. 5 aizliegumu noteikumiem. Sistēmas, kas ietver personas datu apstrādi, vienlaikus jānovērtē pret GDPR un LED prasībām. Šīs fāzes rezultāts ir klasificēta inventarizācija — aizliegtas, augsta riska, ierobežota riska vai minimāla riska sistēmas — kas virza atbilstības programmu.

2. fāze — Pamattiesību ietekmes novērtējumi (3.–6. mēnesis)

Katrai identificētajai augsta riska sistēmai publiskajām struktūrām jāpasūta un jāpabeidz FRIA saskaņā ar Art. 27. Tam nepieciešams juridisks, tehnisks un politikas ieguldījums: apdraudēto tiesību juridiskā analīze; sistēmas darbības, apmācības datu un zināmo kļūmju veidu tehniskā dokumentācija; un pieejamo mazinošo pasākumu politikas novērtējums. FRIA jādokumentē un jābūt gatavam iesniegšanai uzraudzības iestādēm.

3. fāze — Ražotāja pārbaude un iepirkuma reforma (3.–9. mēnesis)

Publiskā iepirkuma procesi jāatjaunina, lai pieprasītu, ka MI ražotāji demonstrē atbilstību ES MI Aktam kā līguma piešķiršanas nosacījumu. Operatoriem jāpārbauda CE zīme, atbilstības deklarācija, tehniskā dokumentācija un pēctirdzniecības uzraudzības saistības pirms izvietošanas. Publiskajām struktūrām, kas darbojas kā kopīgie operatori vai kopīzstrādātāji ar tehnoloģiju piegādātājiem, jāprecizē atbildības sadalījums par atbilstības novērtēšanas pienākumiem līgumā.

4. fāze — Operacionālās aizsardzības pasākumi un darbinieku apmācība (6.–12. mēnesis)

Norīkotās cilvēka uzraudzības amatpersonas jāidentificē katrai augsta riska MI sistēmai, jāapmāca par sistēmas iespējām un ierobežojumiem, kā arī jānodrošina ar ignorēšanas procedūrām. Attiecīgo personu pārredzamības paziņojumi jāizstrādā un jāiekļauj esošajās administratīvajās procedūrās. Žurnālfailu infrastruktūra jāpārbauda vai jāizveido. Incidentu ziņošanas protokoli jāintegrē esošajos administratīvajos un datu aizsardzības incidentu pārvaldības procesos.

5. fāze — Nepārtraukta uzraudzība un ikgadēja pārskatīšana

Augsta riska MI sistēmu atbilstība nav vienreizējs sertifikācijas pasākums. Pēctirdzniecības uzraudzības pienākumi prasa, lai publiskās struktūras aktīvi izsekotu sistēmas darbību, dokumentētu jebkādas izmaiņas precizitātē, aizspriedumos vai uzvedībā, un atjauninātu FRIA, kad notiek būtiskas izmaiņas. Ikgadēja uzraudzības iestādes ziņošana, ja to pieprasa valsts tiesību akti, jāatbalsta ar uzraudzības programmas ietvaros ģenerēto dokumentāciju.