Artikkel 72 — Turustamisjärgne seire pakkujate poolt ja kõrge riskiga tehisintellektisüsteemide turustamisjärgse seire plaan (ELi tehisintellektimäärus)

Määruse (EL) 2024/1689 artikkel 72 — Turustamisjärgne seire pakkujate poolt ja kõrge riskiga tehisintellektisüsteemide turustamisjärgse seire plaan. Ametlik tekst, praktiline tõlgendus, peamised kohustused ja vastavusega seotud tagajärjed.

Ametliku teksti kokkuvõte

Määruse (EL) 2024/1689 artikkel 72 kehtestab kohustusliku turustamisjärgse seire kohustuse kõrge riskiga tehisintellektisüsteemide pakkujatele. Pakkujad on kohustatud proaktiivselt koguma, dokumenteerima ja analüüsima asjakohaseid andmeid oma kõrge riskiga tehisintellektisüsteemide toimimise kohta kogu nende süsteemide operatiivse eluea jooksul pärast turule laskmist või kasutusele võtmist.

Artikkel kohustab pakkujaid koostama ja rakendama turustamisjärgse seire plaani, mis peab olema proportsionaalne kõrge riskiga tehisintellektitehnoloogia olemuse ja sellega seotud riskidega. See plaan peab moodustama osa artikli 11 alusel kehtestatud ja IV lisa kohaselt koostatud tehnilisest dokumentatsioonist. See peab määratlema meetodid ja protseduurid tulemusnäitajate süstemaatiliseks kogumiseks, sealhulgas kasutuselevõtjatelt pärinevad andmed, kus see on kohane.

Kui seire paljastab, et kõrge riskiga tehisintellektisüsteem ei vasta enam III peatüki 2. jaos sätestatud nõuetele, peab pakkuja võtma viivitamata asjakohaseid parandusmeetmeid. See hõlmab süsteemi uuendamist, turult kõrvaldamist või tagasivõtmist, kus see on vajalik.

Artikkel 72 tunnistab ka kasutuselevõtjate rolli: pakkujad peavad juhendama kasutuselevõtjaid esitama asjakohast operatiivteavet, mida ei saa otse koguda. Seire kohustus on pidev, mitte hetkelis, kajastades tehisintellektisüsteemi toimimise dünaamilist olemust ja arenevaid kontekste, milles neid süsteeme kasutatakse.

Mida see tähendab praktikas

Organisatsioonide jaoks, kes arendavad või tarnivad kõrge riskiga tehisintellektisüsteeme, kehtestab artikkel 72 struktureeritud, pideva vastavuskohustuse, mis ulatub kaugelt üle turu paigutamise hetke. Pakkujad ei saa käsitleda vastavushindamist ühekordse üritusena. Selle asemel peavad nad kujundama ja operationaliseerima seiretaristu enne oma süsteemi käivitamist.

Praktiliselt tähendab see eelnevalt määratlemist, milliseid andmeid kogutakse süsteemi kasutuses olevatest eksemplaridest, kuidas neid andmeid analüüsitakse ja millised toimivusläved käivitavad ülevaatuse või parandusmeetme. Näiteks tehisintellektipõhiste meditsiiniseadmete diagnostikatööriista pakkuja peab täpsustama, milliseid indikaatoreid — nagu valeneg-määrad, demograafilised toimivuse erinevused või mudeli triivimeetrikad — jälgitakse, millise sagedusega ja kelle poolt.

Kolmandate osapoolte toodetesse integreeritud tehisintellektisüsteemide pakkujad seisavad silmitsi täiendava väljakutsega: nad sõltuvad kasutuselevõtjatest operatiivandmete edastamisel, millele pakkuja ei pääse otse ligi. See nõuab lepingulisi kokkuleppeid kasutuselevõtjatega, mis selgelt määratlevad andmejagamiskohustused, nagu on ette nähtud artikli 72 ja artikli 25 kooslugevas tõlgenduses.

Organisatsioonid, millel on olemasolevad kvaliteedijuhtimissüsteemid (QMS) — näiteks need, mis vastavad juba ISO 13485 meditsiiniseadmetes või ISO 9001 laiemalt —, leiavad loomuliku vastavuse artikli 72 nõuetega. Turustamisjärgse seire plaan tuleks integreerida laiemasse QMS-i, mis on dokumenteeritud artikli 17 alusel, selle asemel et käsitleda seda eraldiseisva dokumendina.

Väiksemad pakkujad ja idufirmad peavad seda funktsiooni asjakohaselt ressursistama: artikkel 72 ei näe ette minimaalset erandit ettevõtte suuruse alusel, kuigi plaani proportsionaalsust süsteemi riskitasemega on selgesõnaliselt tunnustatud.

Peamised kohustused

• Turustamisjärgse seire plaani koostamine, mis on proportsionaalne kõrge riskiga tehisintellektisüsteemi riskitaseme ja olemusega, dokumenteerituna artikli 11 ja IV lisa alusel tehnilise dokumentatsiooni osana.
• Aktiivselt koguda ja analüüsida turustamisjärgseid andmeid süsteemi toimimise kohta kogu tegevuse elutsükli jooksul, sealhulgas kasutuselevõtjatelt pärinevaid andmeid, kus otsene kogumine ei ole võimalik.
• Määratleda toimivusindikaatorid ja parandusmeetmete käivitusläved eelnevalt, täpsustades, milline degradatsiooni või mittevastavuse tase käivitab ametliku ülevaatuse või parandusmeetme.
• Võtta parandusmeetmeid viivitamata, kui seire paljastab, et süsteem ei vasta enam III peatüki, 2. jao kõrge riskiga nõuetele, mis võib hõlmata süsteemi uuendamist, tagasivõtmist või turult kõrvaldamist.
• Integreerida seire tulemused kvaliteedijuhtimissüsteemi, mis on kehtestatud artikli 17 alusel, tagades, et leiud suunatakse tagasi toote täiustamisse, dokumentatsiooni uuendamisse ja ümberhindamise protsessidesse.
• Juhendada kasutuselevõtjaid esitama operativselt asjakohased andmed ja tegema koostööd turustamisjärgse seire protsessiga, mida toetavad asjakohased lepingulised või tehnilised korraldused.

Seos teiste artiklitega

Artikkel 72 asub omavahel seotud kohustuste klastri keskel. See toidab otseselt artiklit 73, mis reguleerib tõsiste vahejuhtumite ja talitlushäirete aruandmist riiklikele pädevatele asutustele: artikli 72 alusel kehtestatud seiresüsteem on tuvastamismehhanism sündmustele, mille aruandmist artikkel 73 nõuab.

Artikkel 17 (kvaliteedijuhtimissüsteemid) annab organisatsioonilise raamistiku, mille raames turustamisjärgse seire plaan peab olema integreeritud. Artikkel 11 ja IV lisa määratlevad tehnilise dokumentatsiooni nõuded, mille osa seireplaan peab moodustama.

Artikkel 25 jaotab vastutuse pakkujate ja kasutuselevõtjate vahel ning on hädavajalik mõistmaks, kuidas pakkujad saavad operatiivandmeid allasutaja kasutajatelt. Artikkel 26 täiendab seda, üksikasjalikult kirjeldades kasutuselevõtja kohustusi, sealhulgas kohustust jälgida süsteemi kasutamist ja teavitada pakkujat anomaaliatest.

I lisas loetletud liidu harmoneerimisõigusaktidega hõlmatud toodete ohutuskomponentide kõrge riskiga tehisintellektisüsteemide puhul tuleb artiklit 72 lugeda koos kohaldatava sektoriregulatsiooni turustamisjärgse järelevalve kohustusega, nagu meditsiiniseadmete määrus (EL) 2017/745 või masinamäärus (EL) 2023/1230, tagades sidusa ja mittekordava vastavuse.

Vastavuse ajakava

ELi tehisintellektimäärus jõustus 1. augustil 2024, pärast avaldamist Euroopa Liidu Teatajas. Määrus kehtib erinevate kohustuste kategooriate suhtes järkjärguliselt.

Artikkel 72, kui osa IX jaotisest, mis reguleerib turustamisjärgset seiret ja turujärelevalvet, kehtib III lisas loetletud kõrge riskiga tehisintellektisüsteemide pakkujatele (üldotstarbelised kõrge riskiga kategooriad nagu biomeetria, tööhõive, haridus ja juurdepääs olulistele teenustele) alates 2. augustist 2027. I lisaga hõlmatud kõrge riskiga tehisintellektisüsteemid — need, mis on olemasoleva liidu harmoneerimisõigusaktide alusel juba reguleeritud toodete ohutuskomponendid — alluvad samuti täielikele kohustusele, sealhulgas artiklile 72, alates 2. augustist 2027 enamikul juhtudel, ühtides üldise kõrge riski kohaldamiskuupäevaga.

Pakkujad peaksid märkima, et varasemad tähtajad — 2025. aasta veebruar keelatud tehisintellekti tavade jaoks ja 2025. aasta august üldotstarbeliste tehisintellektimudelite kohustuste jaoks — ei reguleeri otseselt artiklit 72, kuid seiretaristu aluse loomine peaks toimuma hea ette enne 2027. aasta tähtaega. Organisatsioone, kes täna arendavad kõrge riskiga tehisintellektisüsteeme, soovitatakse alustada oma turustamisjärgse seire plaanide kujundamist vastavusvalmistuse protsessi osana, selle asemel et neid hiljem rakendamise hetkel tagantjärele lisada.