Artikkel 60 — Kõrge riskiga tehisintellektisüsteemide testimine reaalsetes tingimustes väljaspool tehisintellekti regulatiivseid liivakaste (EL tehisintellekti määrus)

Määruse (EL) 2024/1689 artikkel 60 — Kõrge riskiga tehisintellektisüsteemide testimine reaalsetes tingimustes väljaspool tehisintellekti regulatiivseid liivakaste. Ametlik tekst, praktiline tõlgendus, põhikohustused ja vastavusnõuete mõju.

Ametliku Teksti Kokkuvõte

Määruse (EL) 2024/1689 artikkel 60 kehtestab tingimused, mille alusel kõrge riskiga tehisintellektisüsteemide pakkujad ja potentsiaalsed pakkujad võivad läbi viia testimist reaalsetes tingimustes väljaspool artiklite 57–59 alusel loodud tehisintellekti regulatiivsete liivakastide struktureeritud raamistikku. See säte tunnistab, et kõrge riskiga tehisintellektisüsteemide sisukas hindamine nõuab sageli kokkupuudet tegelike toimimiskeskkondadega, säilitades samal ajal kaitsemeetmed, mis vastavad kaasnevatele riskidele.

Artikkel nõuab, et väljaspool liivakaste toimuvat testimist viiaks läbi üksnes juhul, kui täidetakse kumulatiivsete tingimuste kogum. Pakkuja või potentsiaalne pakkuja peab esitama teavituse pädevale riiklikule asutusele vähemalt 30 päeva enne testimise alustamist. Teavitus peab sisaldama testimiskava, mis kirjeldab ulatust, kestust, geograafilist piirkonda, kaasatud isikute kategooriaid ja kehtestatud riskimaandamismeetmeid.

Katseisikute teadlik nõusolek on põhinõue. Kui tehisintellektisüsteem suhtleb tuvastatavatele füüsilistele isikutele mõjutavate otsuste tegemisel, tuleb neid isikuid teavitada nende osalemisest ning nad peavad andma selgesõnalise nõusoleku, välja arvatud juhul, kui kohaldatav valdkondlik õigus sätestab teisiti. Testimine ei tohi ületada seda, mis on rangelt vajalik deklareeritud eesmärkide saavutamiseks, ega tohi ohustada katseisikuid vastuvõetamatu riski või kahjuga.

Artikkel nõuab lisaks, et testimist viiaks läbi pakkuja järelevalve all, tulemused registreeritaks ning testimise käigus ilmnenud tõsistest intsidentidest teatataks pädevale asutusele. Liikmesriikidel on võimalus lubada või keelata testimistegevust oma territooriumil ning kehtestada täiendavaid tingimusi.

Praktiline Tähendus

Artikkel 60 on eelkõige asjakohane organisatsioonidele, kes arendavad või võtavad kasutusele kõrge riskiga tehisintellektisüsteeme — vastavalt määruse artiklile 6 ja III lisale — ning kes peavad valideerima süsteemi jõudlust või ohutusomadusi tegelikes toimimissituatsioonides enne formaalne vastavushindamist või selle käigus. See hõlmab näiteks haigla poolt toimivus AI-toega diagnostikavahendit elus kliinilises keskkonnas, või finantsasutust, kes testib krediidivõimelisuse mudelit reaalsete taotlejatega väljaspool kontrollitud liivakasti.

Praktikas tähendab vastavus sisemise protsessi loomist reaalsete testide haldamiseks, mis peegeldab artikli kohustusi. Enne iga testi algust peab organisatsioon koostama struktureeritud testimiskava, kontrollima, et kõik nõusolekumehhanismid on paigas, ja esitama nõutud teavituse pädevale asutusele vähemalt 30 päeva ette — jättes piisavalt aega asutusele vastuväidete esitamiseks või tingimuste kehtestamiseks.

Testi ajal peab organisatsioon säilitama aktiivse inimese järelevalve, dokumenteerima kõik olulised intsidendid ja olema valmis testimist viivitamatult peatama, kui riskid ületavad eeldatavat taset. Testimise käigus kogutud andmete suhtes kehtivad jätkuvalt kohaldatavad GDPR-i kohustused ning eriliste isikuandmete kategooriate töötlemine nõuab konkreetset õiguslikku alust.

Organisatsioonid peaksid tagama, et nende lepingud kasutusele võtjate või kolmandate osapoolte testimisoperaatoritega eraldavad selgelt vastutuse artikli 60 tingimuste täitmise eest, kuna kohustus lasub eelkõige pakkujal või potentsiaalsel pakkujal olenemata sellest, kes testi füüsiliselt läbi viib. Sisemised juhtimisraamistikud — sealhulgas määratud vastutav isik ja dokumenteeritud riskiregistri testile — on tugevalt soovitavad.

Põhikohustused

• Eelnev teavitamine: Esitage testimiskava asjakohasele riiklikule pädevale asutusele vähemalt 30 päeva enne reaalse maailma testimise algust, hõlmates ulatust, kestust, asukohta, katseisikute kategooriaid ja riskimaandamismeetmeid.
• Teadlik nõusolek: Hankige kõigilt testimisega seotud või mõjutatud füüsilistelt isikutelt selgesõnaline teadlik nõusolek ning teavitage neid nende tingimusteta õigusest igal ajal loobuda ilma kahjulike tagajärgedeta.
• Riski proportsionaalsus: Tagage, et testimistegevused ei ületa deklareeritud eesmärgi saavutamiseks rangelt vajalikku ning ei sea katseisikuid või kolmandaid isikuid riskidele, mis kaaluvad üles eeldatavad eelised.
• Järelevalve ja dokumenteerimine: Säilitage testi aktiivne järelevalve, pidage arvestust testimiskava, tulemuste ning kogu testimisperioodi jooksul ilmnenud kõrvalekallete või intsidentide kohta.
• Intsidentidest teatamine: Teatage viivitamata igast tõsisest intsidendist, mis ilmneb reaalse maailma testimise käigus, pädevale asutusele ning rakendage koheseid parandusmeetmeid kahju leevendamiseks.
• EL andmebaasi registreerimine: Registreerige reaalse maailma testimistegevus artikli 71 alusel loodud kõrge riskiga tehisintellektisüsteemide EL andmebaasis enne testimise alustamist.

Seos Teiste Artiklitega

Artikkel 60 on osa VI jaotisest (Innovatsiooni Toetavad Meetmed) ning seda tuleks lugeda koos artiklitega 57–59, mis kehtestab tehisintellekti regulatiivsete liivakastide esmase raamistiku. Artikkel 60 toimib täiendava testimise teena, mis ei toimu formaalsetes liivakastides, kuid see ei asenda ega alanda sisulisi ohutus- ja läbipaistvuskohustusi, mis kohalduvad kõrge riskiga tehisintellektisüsteemidele III jaotise alusel (eriti artiklid 8–15 pakkujate kohustuste, riskijuhtimise ja tehnilise dokumentatsiooni kohta).

Artikli 60 nõusoleku ja andmekaitse nõuded lõikuvad otseselt määrusega (EL) 2016/679 (GDPR), eriti artiklitega 6, 9 ja 22 seadusliku töötlemise ja automatiseeritud otsustamise kohta. Artikkel 60 on seotud ka artikliga 71 EL andmebaasi kohta, mis reguleerib registreerimiskohustusi, ning artikliga 73 turujärelevalve kohta, kuna pädevad asutused võivad reaalse maailma teste kontrollida. Pakkujad peaksid kaaluma ka artiklit 26 kasutusele võtjate kohustuste kohta, kuna reaalse maailma testimine hõlmab sageli kasutusele võtjate infrastruktuuri ja andmeid.

Vastavuse Ajakava

EL tehisintellekti määrus jõustus 1. augustil 2024, kakskümmend päeva pärast selle avaldamist Euroopa Liidu Teatajas. Selle sätted kohalduvad järk-järgult:

• 2. veebruar 2025 — Vastuvõetamatu riskiga tehisintellektipraktikate keelud (artikkel 5) muutusid kohaldatavaks.
• 2. august 2025 — Üldotstarbelistel tehisintellektimudelitel (III jaotis, 3. peatükk, artiklid 51–56) ja juhtimiskohustustel (VI ja VIII jaotis osaliselt) muutusid kohaldatavaks. Artiklite 57–59 kohane regulatiivse liivakasti raamistik muutus samuti kohaldatavaks sellest kuupäevast.
• 2. august 2026 — Enamiku ülejäänud sätete, sealhulgas artikli 60 üldine kohaldamise kuupäev. Sellest kuupäevast peavad kõrge riskiga tehisintellektisüsteemide pakkujad ja potentsiaalsed pakkujad, kes soovivad viia läbi reaalse maailma testimist väljaspool liivakaste, täitma täielikult selle artikli kehtestatud teavitamis-, nõusoleku-, dokumenteerimis- ja intsidentidest teatamise kohustused.
• 2. august 2027 — Pikendatud tähtaeg III lisa punkti 2 alla kuuluvatele kõrge riskiga tehisintellektisüsteemidele (tehisintellektisüsteemid olemasolevates toodetes, mis on juba I lisas loetletud liidu ühtlustamisõigusaktide kohaldamisalasse kuuluvad), andes mõjutatud sektoritele lisaaega vastavushindamise ja tegevusnõuetega kohandumiseks.

Reaalsete maailma testimisprogramme kavandavad organisatsioonid peaksid alustama nõuetele vastavate testimisjuhtimise raamistike ja teavitamismenetluste kavandamist heas aega enne 2. augustit 2026, et vältida viivitusi, kui kohustus muutub täitmisele pööratavaks.