5. pants — Aizliegtā MI prakse (ES MI akts)

Regulas (ES) 2024/1689 5. pants — Aizliegtā MI prakse. Oficiālais teksts, praktiskā interpretācija, galvenās saistības un atbilstības nozīme.

Oficiālā teksta kopsavilkums

Regulas (ES) 2024/1689 (ES MI akts) 5. pants veido visu II sadaļu un nosaka absolūtu sarakstu ar MI praksēm, kas aizliegtas visā Eiropas Savienībā. Aizliegumi attiecas uz MI sistēmām, kuru kaitēšanas potenciāls tiek uzskatīts par tik smagu, ka neviena riska pārvaldības pasākuma vai atbilstības novērtēšanas procedūra nevar padarīt tās pieņemamas.

Pants aizliedz: (1) MI sistēmas, kas izmanto zemapziņas metodes ārpus cilvēka apziņas vai apzināti izmanto psiholoģiskās vājumas vai ievainojamības, lai būtiski izkropļotu uzvedību veidā, kas rada vai varētu radīt būtisku kaitējumu; (2) MI sistēmas, kas izmanto vecumu, invaliditāti vai sociālekonomiskos apstākļus, lai kaitīgi izkropļotu uzvedību; (3) MI sistēmas, ko izmanto valsts iestādes vai kas darbojas to vārdā sociālajai vērtēšanai — dabas personu novērtēšana vai klasifikācija, pamatojoties uz sociālo uzvedību vai izsecināmajām personiskajām īpašībām —, kad tas noved pie kaitīgas vai nelabvēlīgas attieksmes; (4) MI sistēmas, kas novērtē indivīda risku izdarīt noziedzīgu nodarījumu, balstoties tikai uz profilēšanu vai personības iezīmēm; (5) reāllaika attālo dabas personu biometrisko identifikāciju publiski pieejamās vietās tiesībaizsardzības mērķiem, ievērojot ierobežotus un stingri kontrolētus izņēmumus; (6) reāllaika vai pēcfakta attālās biometriskās sistēmas, ko izmanto, lai secinātu sensitīvus atribūtus, piemēram, rasi, politisko viedokli, piederību arodbiedrībai, reliģiskās pārliecības vai seksuālo orientāciju; (7) MI sistēmas, kas izveido vai paplašina sejas atpazīšanas datubāzes, izmantojot nemērķtiecīgu interneta vai videonovērošanas materiālu tīmeklošanu; un (8) MI sistēmas, kas secina par dabas personu emocijām darba vietās un izglītības iestādēs, izņemot drošības apsvērumu gadījumos.

Ko tas nozīmē praksē

5. pants nosaka stingru atbilstības robežu, kas ietekmē katru organizāciju, kas izstrādā, izvieto vai importē MI sistēmas ES tirgū, neatkarīgi no lieluma vai nozares.

Tehnoloģiju pakalpojumu sniedzējiem un MI izstrādātājiem aizliegumi nozīmē, ka noteiktas produktu kategorijas vienkārši nevar likumīgi laist ES tirgū. Pārdevējam, kas tirgo darbaspēka produktivitātes rīku, kurā iekļauta emociju atpazīšana darbinieku iesaistes uzraudzīšanai — piemēram, atzīmējot stresā esošus vai neiesaistītus darbiniekus vadītājiem —, pirms 2025. gada 2. februāra šī funkcija jānoņem vai jāpārveidojamo. Tāpat mazumtirdzniecības analītikas jaunuzņēmums, kura sistēma sejas izteiksmju dēļ veikalā secina par klientu garastāvokli, ietilpst emociju secinājumu aizliegumā nedrošības kontekstos.

Organizācijām, kas izmanto trešo pušu MI rīkus, arī ir obligāta pienācīga rūpība. Cilvēkresursu nodaļa, kas izvieto darbā pieņemšanas platformu, kura veic slēptu psihogrāfisko profilēšanu kandidātu atlasē, riskē ar kopīgu atbildību kā izvietotājs.

Valsts iestādēm sociālās vērtēšanas aizliegums ir īpaši nozīmīgs. Jebkura MI sistēma, kas apkopo uzvedības datus — maksājumu vēsturi, mobilitātes modeļus, tiešsaistes aktivitāti — lai iegūtu pilsoņa vērtējumu, kas pēc tam ierobežo piekļuvi sabiedriskajiem pakalpojumiem vai pabalstiem, ir nelikumīga neatkarīgi no tā, vai sistēma ir tehniski sarežģīta.

Tiesībaizsardzības struktūrām šaurais izņēmums no reāllaika biometriskās identifikācijas aizlieguma prasa stingras iepriekšējas atļaujas procedūras, ģeogrāfiskos un laika ierobežojumus, obligātu reģistrēšanu un ex-post ziņošanu valsts uzraudzības iestādēm. Ad hoc vai nepārtraukta izvietošana bez iepriekšējas tiesas vai administratīvās sankcijas ir nelikumīga pat izņēmuma tvērumā.

Organizācijām jāveic visu izmantoto vai izstrādē esošo MI sistēmu inventarizācija, jākartē katra no tām atbilstoši 5. panta kritērijiem un nekavējoties jāpārtrauc aizliegtās darbības.

Galvenie pienākumi

• Pārtraukt vai nekad neizvietot jebkuru MI sistēmu, kas izmanto zemapziņas, manipulatīvas vai ievainojamības izmantošanas metodes, lai izkropļotu cilvēku uzvedību veidā, kas var radīt būtisku kaitējumu, bez jebkādiem izņēmumiem vai samērīguma izvērtēšanas.
• Aizliegt sociālo vērtēšanu valsts iestādēm vai subjektiem, kas darbojas to vārdā: neizmantot MI dabas personu novērtēšanai vai klasifikācijai par sociālo uzvedību vai izsecināmajām personiskajām iezīmēm, ja iznākums noved pie kaitīgas vai diskriminējošas attieksmes.
• Atcelt prognozējošās policijas rīkus, kas novērtē individuālo noziedzības risku, balstoties tikai uz profilēšanu, personības iezīmēm vai pagātnes saistību bez konkrētiem uzvedības pierādījumiem.
• Atturēties no tīmeklošanas biometrisko datu no interneta, videonovērošanas vai citiem avotiem, lai izveidotu vai paplašinātu sejas atpazīšanas datubāzes; esošās datubāzes, kas izveidotas ar šādiem līdzekļiem, nedrīkst izmantot.
• Neizvietot MI sistēmas, kas secina sensitīvus personiskos atribūtus — rasi vai etnisko izcelsmi, politiskos uzskatus, piederību arodbiedrībai, reliģiskās vai filozofiskās pārliecības, seksuālo orientāciju — no biometriskajiem vai uzvedības datiem.
• Piemērot stingrus iepriekšējas atļaujas un reģistrācijas kontroles, ja darbojaties kā tiesībaizsardzība un paļaujaties uz šauro 5. panta 2.–5. punkta izņēmumu reāllaika attālajai biometriskā identifikācijā; katrai izvietošanai jābūt laika ierobežotai, ģeogrāfiski norobežotai un pakļautai ex-post ziņošanai.

Saistība ar citiem pantiem

5. pants jālasa kā ES MI akta uz risku balstītās hierarhijas virsotne. Tas darbojas kopā ar 3. pantā noteiktajām definīcijām, kas nosaka, kas veido "MI sistēmu", "nodrošinātāju" un "izvietotāju" — aktorus, uz kuriem attiecas aizliegumi. Atšķirība starp 5. pantā aizliegto praksi un augsta riska MI sistēmām saskaņā ar 6. pantu un III pielikumu ir fundamentāla: aizliegtās sistēmas vispār nevar likumīgi izmantot, savukārt augsta riska sistēmas var izvietot, ievērojot atbilstības novērtēšanas, reģistrācijas un pastāvīgas uzraudzības pienākumus.

9. pants (riska pārvaldības sistēmas) un 10.–15. pants (datu pārvaldība, pārredzamība, cilvēku uzraudzība) attiecas uz lejupstraumes atļautajām augsta riska sistēmām, bet tiem nav koriģējošas lomas attiecībā uz 5. panta aizliegumiem. 99. pants nosaka soda struktūru, ieskaitot augstākā līmeņa naudas sodu, kas piemērojams 5. panta pārkāpumiem. 85. pants un noteikumi par tirgus uzraudzību (74.–78. pants) regulē izpildi. Valstu kompetentās iestādes, kas noteiktas saskaņā ar 70. pantu, ir atbildīgas par aizliegumu ievērošanas uzraudzību dalībvalstu līmenī.

Atbilstības termiņš

• 2024. gada 1. augusts — Regula (ES) 2024/1689 stājās spēkā, divdesmit dienas pēc publicēšanas Eiropas Savienības Oficiālajā Vēstnesī.
• 2025. gada 2. februāris — 5. panta aizliegumi kļuva tieši piemērojami visās ES dalībvalstīs. Tas bija pirmais būtiskais piemērošanas datums saskaņā ar 113. pantā noteikto pakāpenisko grafiku. No šī datuma jebkura aizliegtās MI sistēmas izvietošana, laišana tirgū vai nodošana ekspluatācijā ir regulatīvs pārkāpums, par ko piemēro sankcijas saskaņā ar 99. pantu.
• 2025. gada 2. augusts — Kļuva piemērojami noteikumi par vispārējas nozīmes MI modeļiem (VIII sadaļa, 51.–56. pants).
• 2026. gada 2. augusts — Kļuva piemērojami pienākumi lielākajai daļai III pielikumā uzskaitīto augsta riska MI sistēmu kopā ar pārvaldības un tirgus uzraudzības noteikumiem.
• 2027. gada 2. augusts — Pagarināts pārejas periods augsta riska MI sistēmām, kas jau atrodas tirgū pirms 2024. gada augusta un ietilpst I pielikumā (drošības komponents regulētos produktos).

Konkrēti 5. pantam nav nekāda pārejas perioda vai pārejas kārtības: termiņš bija 2025. gada 2. februāris, un atbilstība tagad ir nokavēta jebkurai organizācijai, kas vēl nav rīkojusies.