Artikkel 15 — Täpsus, töökindlus ja küberturvalisus (EL tehisintellekti määrus)

Määruse (EL) 2024/1689 artikkel 15 — Täpsus, töökindlus ja küberturvalisus. Ametlik tekst, praktiline tõlgendus, peamised kohustused ja vastavuse tagamise tagajärjed.

Ametliku teksti kokkuvõte

Määruse (EL) 2024/1689 artikkel 15 kehtestab täpsuse, töökindluse ja küberturvalisuse tehnilised nõuded, millele kõrge riskiga tehisintellektisüsteemid peavad kogu elutsükli jooksul vastama. Artikkel on struktureeritud kolme omavahel seotud kohustuse ümber.

Esiteks peavad kõrge riskiga tehisintellektisüsteemid olema kujundatud ja arendatud saavutama ettenähtud otstarbe jaoks sobiv täpsuse tase. Pakkujad on kohustatud deklareerima asjakohased täpsuse mõõdikud kaasaolevas tehnilises dokumentatsioonis, võimaldades allavoolu kontrolli ja regulatiivset järelevalvet.

Teiseks peavad süsteemid demonstreerima töökindlust — suutlikkust käsitleda vigu, rikkeid ja ebaühtlusi, mis tulenevad süsteemist endast, selle töökeskkonnast või tahtlikust vaenulikust manipuleerimisest. Määrus mainib selgesõnaliselt vajadust käsitleda tahtmatute tagasisideahelate riski, eelkõige juhul, kui kõrge riskiga tehisintellektisüsteem mõjutab oma treeningandmeid või väljundeid.

Kolmandaks peavad süsteemid sisaldama küberturvalisuse meetmeid, mis on proportsionaalsed nende kujutatavatele riskidega. Need meetmed peavad kaitsma kolmandate isikute katsete eest ära kasutada süsteemi haavatavusi, mis võiksid põhjustada süsteemi kahjulikku, kallutatut või muul viisil nõuetele mittevastavat käitumist. Määrus tunnistab, et küberturvalisuse vastupidavus ei ole staatiline seisund, vaid seda tuleb säilitada vastavalt ohumaastiku arengule.

Koos operatsionaliseerib artikkel 15 laiema põhimõtte — mis on sõnastatud põhjenduspunktides 51 ja 52 —, et tehniline usaldusväärsus on eeltingimus tehisintellekti kasutuselevõtmiseks olulistes valdkondades.

Mida see praktikas tähendab

Artikkel 15 loob konkreetsed inseneritehnilised ja juhtimiskohustused kõigile organisatsioonidele, kes lasevad kõrge riskiga tehisintellektisüsteemi EL turule või võtavad selle kasutusele.

Pakkujate jaoks on vahetu tagajärg see, et täpsus ei ole üksnes kaubanduslik väide, vaid regulatiivne kohustus, mida tuleb dokumenteerida, mõõta ja säilitada. Tehisintellekti diagnostikavahendit integeeriv meditsiiniseadmete tootja peab täpsustama, kas täpsust mõõdetakse tundlikkuse, spetsiifilisuse, AUC-i või muu mõõdiku abil — ja see valik peab ühtima süsteemi ettenähtud otstarbe ja riskiprofiiliga. Ebamäärased või ambitsioonikad täpsuse avaldused nõuet ei täida.

Töökindluse testimine peab ületama standardse kvaliteeditagamise. Pakkujad peaksid läbi viima stressitestimise, jaotusväline testimise ning — kui süsteem on avatud kasutaja poolt juhitavatele sisenditele — vaenuliku red-teamingi. Kui süsteem sisaldab tagasisideahelaid (näiteks värbamisalgoritm, mis õpib värbajate otsuste põhjal), peavad pakkujad kaardistama ja maandama riski, et kallutatud väljundid rikuvad tulevased treeningtsüklid.

Artikli 15 kohased küberturvalisuse kohustused tuleb lugeda koos pakkuja laiema infoturbeasendiga. Kõrge riskiga tehisintellektisüsteemid, mis töötlevad isikuandmeid või on ühendatud kriitilise taristu, seisavad silmitsi kumuleeruvate kohustuste nii käesoleva määruse kui ka NIS 2 direktiivi alusel. Praktilised sammud hõlmavad mudeli juurdepääsukontrolle, sisendi sanitaarimist, järelduspäringute kõrvalekaldumise tuvastamist ja haavatavuste avaldamise menetlusi.

Kasutajate jaoks sõltub artikli 15 vastavus oluliselt pakkuja kirjeldatud valideeritud töötingimuste säilitamisest. Süsteemi kasutuselevõtmine andmete jaotustel, mis erinevad oluliselt valideerimisel kasutatutest — näiteks ühel riiklikul turul treenitud krediidiskoori mudeli rakendamine erinevale jurisdiktsioonile —, võib kahjustada täpsuse ja töökindluse omadusi, mille alusel CE-märgistus anti.

Peamised kohustused

• Täpsuse mõõdikute deklareerimine: Pakkujad peavad täpsustama kõrge riskiga tehisintellektisüsteemi asjakohased täpsuse mõõdikud ja lisama need artikli 11 ja IV lisa kohaselt nõutavasse tehnilisse dokumentatsiooni. Mõõdikud peavad vastama süsteemi ettenähtud otstarbele.
• Sobiva täpsuse saavutamine ja säilitamine: Süsteem peab olema kujundatud ja arendatud saavutama deklareeritud täpsuse taseme; täpsust ei tohi käsitleda ühekordse valideerimistulemusena, vaid seda tuleb jälgida pärast kasutuselevõtmist artikli 72 kohaselt nõutava turustamisjärgse seire kaudu.
• Vigade ja ebaühtluste suhtes töökindluse tagamine: Tehnilised ja organisatsioonilised meetmed peavad olema paigas, et süsteem suudaks käsitleda vigu, rikkeid ja ebaühtlusi — olgu need põhjustatud siserikketest, keskkonna varieeruvusest või tahtlikest vaenulikest sisenditest — ilma ebaturvaliste või nõuetele mittevastavate väljundite tekitamiseta.
• Vaenulike rünnakute vastu kaitsmine: Kui süsteem on avatud kolmandate isikute sisenditele, peavad pakkujad rakendama meetmeid vaenuliku manipuleerimise tuvastamiseks ja tõrjumiseks, sealhulgas käsurea süstimine, mudeli pööramine või andmete mürgitamise rünnakud, kus see on asjakohane.
• Tagasisideahelate riskide käsitlemine: Juhul kui süsteemi väljundid võivad mõjutada tulevasi treeningandmeid või mudeli käitumist, peavad pakkujad selle riski tehnilises dokumentatsioonis tuvastama ning rakendama kaitsemeetmeid, et vältida jõudluse halvenemist või kallutatuse võimendamist aja jooksul.
• Proportsionaalsete küberturvalisuse meetmete rakendamine: Tehnilised lahendused — sealhulgas juurdepääsukontrollid, seire ja intsidentidele reageerimise menetlused — peavad olema proportsionaalsed süsteemi küberturvalisuse riskidega, arvestades selle ettenähtud otstarvet, kasutuselevõtu konteksti ning kokkupuudet väliste võrkude või kasutaja poolt juhitavate sisenditega.

Seos teiste artiklitega

Artiklit 15 ei saa lugeda eraldi. See asub kõrge riskiga tehisintellektisüsteemide tehniliste nõuete keskel ning ristub mitme teise määruse sättega.

Artikkel 9 (riskijuhtimissüsteem) annab üldise raamistiku, mille raames tuleb täpsuse, töökindluse ja küberturvalisuse riskid tuvastada, hinnata ja maandada. Riskijuhtimissüsteem on menetluslik vahend paljude artikli 15 kehtestatud sisuliste nõuete täitmiseks.

Artikkel 10 (andmed ja andmejuhtimine) on täpsuse alus: madala kvaliteediga, ebarepresentatiivsetel või kallutatud andmetel treenitud süsteem ei suuda saavutada sisukaid täpsusgarantiisid. Andmekvaliteedi kohustused võimaldavad otseselt artikli 15 täitmist.

Artikkel 11 ja IV lisa täpsustavad, mida peab tehnilises dokumentatsioonis sisalduma, sealhulgas artikli 15 lõikega 1 nõutavad täpsuse mõõdikud.

Artikkel 17 (kvaliteedijuhtimissüsteem) nõuab, et pakkujad lisaksid artikli 15 täitmise oma organisatsioonilistesse protsessidesse, sealhulgas projekteerimiskontroolidesse, testimisprotokollesse ja muudatuste haldamise menetlustesse.

Artikkel 72 (turustamisjärgne seire) loob jooksvat kohustust kontrollida, et täpsuse ja töökindluse tasemed säilivad pärast kasutuselevõttu, sulgedes elutsükli ringi, mille artikkel 15 projekteerimisfaasis avab.

Süsteemide puhul, mis on ka meditsiiniseadmed või ohutuskomponendid, tuleb artiklit 15 lugeda koos I lisas loetletud kohaldatavate liidu ühtlustamisõigusaktidega.

Vastavuse ajakava

Artikkel 15 järgib määruse (EL) 2024/1689 artikliga 113 kehtestatud järkjärgulist kohaldamise ajakava, mis jõustus 1. augustil 2024.

Pakkujad, kes arendavad või lasevad turule kõrge riskiga tehisintellektisüsteeme enne kohaldamiskuupäeva, peavad siiski eelnevalt valmistama ette dokumentatsiooni, testimisprotokollid ja küberturvalisuse arhitektuuri — artiklite 43–47 alusel nõutavad regulatiivse valmisoleku hinnangud ja vastavushindamised nõuavad märkimisväärset ettevalmistusaega. Teavitatud asutuste töömahud ja vaenuliku testimise keerukus tähendavad, et organisatsioonid, kelle siht on 2026. aasta turule toomine, peaksid alustama artikli 15 lünkade hindamist hiljemalt 2025. aasta keskel.