Artikkel 5 — Keelatud tehisintellektitavad (ELi tehisintellekti määrus)

Määruse (EL) 2024/1689 artikkel 5 — Keelatud tehisintellektitavad. Ametlik tekst, praktiline tõlgendus, põhikohustused ja nõuetele vastavuse tagamise mõjud.

Ametliku Teksti Kokkuvõte

Määruse (EL) 2024/1689 (ELi tehisintellekti määrus) artikkel 5 moodustab II jaotise terviku ja kehtestab Euroopa Liidus absoluutselt keelatud tehisintellektitavade loetelu. Keelud on suunatud tehisintellektisüsteemidele, mille kahjupotentsiaal on leitud olevat nii tõsine, et ükski riskijuhtimismeede ega vastavushinnang ei saa muuta neid vastuvõetavaks.

Artikkel keelab: (1) tehisintellektisüsteemid, mis kasutavad isiku teadvuse alla jäävaid alateadlikke tehnikaid või kasutavad tahtlikult ära psühholoogilisi nõrkusi või haavatavusi, et oluliselt moonutada käitumist viisil, mis põhjustab või tõenäoliselt põhjustab olulist kahju; (2) tehisintellektisüsteemid, mis kasutavad ära vanust, puuet või sotsiaal-majanduslikke asjaolusid, et kahjulikult moonutada käitumist; (3) ametiasutuste või nende nimel tegutsevate isikute poolt sotsiaalse hindamise eesmärgil kasutatavad tehisintellektisüsteemid — loodusliku isiku sotsiaalse käitumise või tuletatud isikuomaduste põhjal hindamine või klassifitseerimine —, kui see toob kaasa kahjuliku või ebasoodsa kohtlemise; (4) tehisintellektisüsteemid, mis hindavad isiku kuriteo toimepanemise riski üksnes profileerimise või isiksuse tunnuste alusel; (5) loodusliku isiku reaalajas kaugjuhitav biomeetriline tuvastamine avalikult juurdepääsetavates ruumides õiguskaitse eesmärkidel, mille suhtes kehtivad piiratud ja rangelt kontrollitud erandid; (6) reaalajas või hilisem kaugjuhitav biomeetriline tuvastamine tundlike atribuutide, nagu rass, poliitiline arvamus, ametiühingusse kuulumine, usulised veendumused või seksuaalne orientatsioon, tuletamiseks; (7) tehisintellektisüsteemid, mis loovad või laiendavad näotuvastuse andmebaase internetist või videovalvekaamera materjalist sihitamata kraapimise teel; ning (8) tehisintellektisüsteemid, mis teevad järeldusi töökoha- ja hariduskeskkonnades olevate loodusliku isiku emotsioonide kohta, välja arvatud ohutuse põhjustel.

Mida See Tähendab Praktikas

Artikkel 5 tõmbab kõva vastavuspiiri, mis mõjutab kõiki organisatsioone, kes arendavad, juurutavad või impordivad tehisintellektisüsteeme ELi turule, sõltumata suurusest või sektorist.

Tehnoloogiapakkujatele ja tehisintellekti arendajatele tähendavad keelud, et teatud tootekategooriaid ei saa lihtsalt ELi turule lasta. Müüja, kes turustab tööjõu tootlikkuse tööriista, mis hõlmab töötajate pühendumuse jälgimiseks emotsioonide tuvastamist — märgistades stressis või pahameelel töötajad juhtidele —, peab selle funktsiooni enne 2. veebruari 2025 eemaldama või ümber kujundama. Samamoodi kuulub kaupluse analüütika startup, mille süsteem teeb järeldusi kliendiemotsioonide kohta näoilmete põhjal kohapeal, mitte ohutusega seotud kontekstis emotsioonide järeldamise keelu alla.

Kolmandatest osapooltest tehisintellekti tööriistu kasutavate organisatsioonide jaoks on hoolsuskohustus sama kohustuslik. Personaliosakond, mis juurutab värbamisplatvormi, mis teostab kandidaatide sõelumiseks varjatud psühholoogilist profileerimist, riskib ühisvastutusega kasutuselevõtjana.

Ametiasutuste jaoks on sotsiaalse hindamise keeld eriti oluline. Iga tehisintellektisüsteem, mis koondab käitumisandmeid — makseajalugu, liikumismustrid, veebitegevus — kodaniku skoori loomiseks, mis piirab seejärel juurdepääsu avalikele teenustele või hüvedele, on ebaseaduslik, sõltumata sellest, kas süsteem on tehniliselt keerukas.

Õiguskaitseasutuste jaoks nõuab kitsas erand reaalajas biomeetrilise tuvastamise keelust robustseid eelloa menetlusi, geograafilisi ja ajalisi piiranguid, kohustuslikku logimist ning järelkontrolli aruandlust riiklikele järelevalveasutustele. Sihtimata või pidev juurutamine ilma eelneva kohtu- või haldusloa kinnituseta on ebaseaduslik isegi erandi kohaldamisala piires.

Organisatsioonid peaksid koostama kõigi kasutuses olevate või arendatavate tehisintellektisüsteemide inventuuri, kaardistama iga süsteemi vastavalt artikli 5 kriteeriumidele ning lõpetama keelatud toimingud viivitamatult.

Põhikohustused

• Lõpetada või mitte kunagi juurutada ühtegi tehisintellektisüsteemi, mis kasutab alateadlikke, manipulatiivseid või haavatavusi ärakasutavaid tehnikaid inimkäitumise moonutamiseks viisil, mis tõenäoliselt põhjustab olulist kahju, ilma ühegi erandi või proportsionaalsuse kaalumiseta.
• Keelata sotsiaalne hindamine ametiasutuste või nende nimel tegutsevate üksuste poolt: mitte kasutada tehisintellekti loodusliku isiku sotsiaalse käitumise või tuletatud isiksuse tunnuste hindamiseks või klassifitseerimiseks, kui see toob kaasa kahjuliku või diskrimineeriva kohtlemise.
• Lõpetada ennustava politsei tööriistad, mis hindavad individuaalset kuriteoriske üksnes profileerimise, isiksuse tunnuste või varasema seose alusel ilma konkreetsete käitumistõenditeta.
• Hoiduda kraapimisest biomeetriliste andmete kogumiseks internetist, videovalvekaamerast või muudest allikatest näotuvastuse andmebaaside loomiseks või laiendamiseks; selliste vahenditega loodud olemasolevaid andmebaase ei tohi kasutada.
• Mitte juurutada tehisintellektisüsteeme, mis teevad järeldusi tundlike isikuomaduste kohta — rassiline või etniline päritolu, poliitilised arvamused, ametiühingusse kuulumine, usulised või filosoofilised veendumused, seksuaalne orientatsioon — biomeetrilistest või käitumisandmetest.
• Kohaldada rangeid eelloa ja logimise kontrolle, kui tegutsete õiguskaitsena ja tuginete kitsale artikli 5(2)–(5) erandile reaalajas kaugjuhitavaks biomeetriliseks tuvastamiseks; iga juurutamine peab olema ajaliselt piiratud, geograafiliselt piiritletud ja alluma järelkontrolli aruandlusele.

Seos Teiste Artiklitega

Artiklit 5 tuleb lugeda ELi tehisintellekti määruse riskipõhise hierarhia tipuna. See toimib koos artiklis 3 sisalduvate definitsioonidega, mis kehtestab, mis moodustab „tehisintellektisüsteemi", „pakkuja" ja „kasutuselevõtja" — keeldudele alluvad osalised. Eristus artikli 5 alusel keelatud tavade ja artikli 6 ning III lisa alusel suure riskiga tehisintellektisüsteemide vahel on fundamentaalne: keelatud süsteeme ei saa üldse seaduslikult kasutada, samas kui suure riskiga süsteeme võib juurutada vastavushinnangute, registreerimise ja pidava jälgimise kohustuste alusel.

Artikkel 9 (riskijuhtimissüsteemid) ja artiklid 10–15 (andmehaldus, läbipaistvus, inimjärelevalve) kohaldatakse allpool lubatud suure riskiga süsteemidele, kuid neil ei ole parandavat rolli artikli 5 keeldude suhtes. Artikkel 99 kehtestab karistusstruktuuri, sealhulgas artikli 5 rikkumiste suhtes kohaldatava kõrgeima taseme trahvi. Artikkel 85 ja turujärelevalvet käsitlevad sätted (artiklid 74–78) reguleerivad täitmist. Artikli 70 alusel määratud riiklikud pädevad asutused vastutavad liikmesriigi tasandil keeldude täitmise jälgimise eest.

Vastavuse Ajakava

• 1. august 2024 — Määrus (EL) 2024/1689 jõustus kakskümmend päeva pärast avaldamist Euroopa Liidu Teatajas.
• 2. veebruar 2025 — Artikli 5 keelud muutusid vahetult kohaldatavaks kõigis ELi liikmesriikides. See oli esimene sisuline kohaldamiskuupäev artiklis 113 sätestatud järkjärgulise ajakava alusel. Alates sellest kuupäevast kujutab iga keelatud tehisintellektisüsteemi juurutamine, turule laskmine või kasutusele võtmine regulatiivset rikkumist, mille eest kohaldatakse artikli 99 alusel karistusi.
• 2. august 2025 — Üldotstarbeliste tehisintellektimudelite eeskirjad (VIII jaotis, artiklid 51–56) muutusid kohaldatavaks.
• 2. august 2026 — Enamike III lisas loetletud suure riskiga tehisintellektisüsteemide kohustused kohaldatuvad koos juhtimise ja turujärelevalve sätetega.
• 2. august 2027 — Pikendatud tähtaeg enne 2024. aasta augustit turule lastud suure riskiga tehisintellektisüsteemidele, mis kuuluvad I lisa alla (ohutuskomponent reguleeritud toodetes).

Artikli 5 puhul puudub üleminekuperiood või üleminekukorraldus: tähtaeg oli 2. veebruar 2025 ning vastavus on nüüd hilinenud iga organisatsiooni puhul, kes ei ole veel tegutsenud.