Tervishoid ja eluteadused — EL tervishoiu tehisintellekti seaduse nõuetele vastavus

EL tehisintellekti seaduse kohustused meditsiiniseadmete tehisintellekti, diagnostikasüsteemide ja kliinilise otsustoe puhul. Käsitleb MDR/IVDR koosmõju ja I lisa kahekordset vastavust.

Miks on EL tehisintellekti seadusel tervishoius eriline tähendus

EL tehisintellekti seadus (Euroopa Parlamendi ja nõukogu määrus (EL) 2024/1689) loob oma kõige nõudlikumad vastavuskohustused just nendes valdkondades, kus tehisintellekti vead toovad kaasa elu ja surma tagajärgi. Tervishoid ja eluteadused asuvad kahe sellise nõude ristumiskohas: seaduse struktuurne liigitamine meditsiiniseadme tehisintellektist kõrge riskiga süsteemiks Art. 6(1) alusel ning sektori olemasolev regulatiivne tihedus MDR (EL) 2017/745, IVDR (EL) 2017/746, GDPR Art. 9 ja kliiniliste uuringute määruse (EL) 536/2014 raames.

Tervise tehisintellekti pakkujate ja kasutajate jaoks ei ole see ristumiskoht pelgalt aditiivne. See loob kihilisi kohustuste kogumeid, mis tuleb kujundada, dokumenteerida ja jälgida ühiselt. Diagnostilisse pildistamisseadmesse integreeritud tehisintellekti süsteem peab läbima teavitatud asutuse vastavushindamise MDR alusel ja eraldi vastavushindamise EL tehisintellekti seaduse alusel. Haigla, kes kasutab tehisintellektipõhist triaaži vahendit, saab Art. 26 kohaselt kasutajaks iseseisvate kohustustega, mida ei saa täita üksnes tarnija CE-märgisele tuginedes.

Nõuete täitmata jätmise panused on vastavalt kõrged. Riiklikud järelevalveasutused võivad määrata trahve kuni 30 miljonit eurot või 6% globaalsest aastakäibest nõuetele mittevastavate kõrge riskiga tehisintellekti süsteemide turule laskmise eest. Lisaks rahalistele karistustele võivad turult kõrvaldamise korraldused, kliinilise kasutuse peatamine ja kohustuslikud parandusmeetmed katkestada patsiendiabi suures ulatuses.

Kahekordne regulatiivne rada

Tervishoiu tehisintellekti vastavuse määrav struktuurne tunnus on tooteohutuseõiguse ja tehisintellektispetsiifilise õiguse samaaegne kohaldamine. Kui tehisintellekti süsteem kujutab endast EL tehisintellekti seaduse I lisas määratletud meditsiiniseadme ohutuskomponenti (viitega uuele õigusaktide raamistikule), liigitatakse see automaatselt kõrge riskiga süsteemiks Art. 6(1) alusel ilma täiendava kahju tõenäosuse või raskusastme hindamiseta. Liigitamine on kategooriline.

See tähendab, et organisatsioonid peavad säilitama kaks paralleelset vastavushindamise rada — üks MDR või IVDR alusel, teine EL tehisintellekti seaduse alusel — ning peavad tõendama vastavust mõlemale kõrge riskiga tehisintellekti süsteemide EL andmebaasis (EUAI DB) enne turule laskmist.

Kõrge riskiga tehisintellekti kasutusjuhud — meditsiiniseadmed ja hoolduse osutamine

Diagnostilise pildistamise tehisintellekt

Tehisintellekti süsteemid, mida kasutatakse radioloogias, patoloogias ja oftalmoloogias ning mis analüüsivad pilte kahjustuste, kõrvalekallete või haigusseisundite tuvastamiseks, klassifitseerimiseks või iseloomustamiseks, on praktiliselt kõigis kliiniliselt asjakohastes konfiguratsioonides MDR IIa-klassi või kõrgema klassi meditsiiniseadmete ohutuskomponendid. Seetõttu on need Art. 6(1) alusel kõrge riskiga ning peavad vastama EL tehisintellekti seaduse III peatüki 2. jaole, mis käsitleb andmehaldust (Art. 10), tehnilist dokumentatsiooni (Art. 11, IV lisa), automaatset logimist (Art. 12), läbipaistvust (Art. 13), inimjärelevalvet (Art. 14) ning täpsust, töökindlust ja küberturvalisust (Art. 15).

Kliinilise otsustoe süsteemid

Kliinilise otsustoe (CDS) vahendid hõlmavad laia riskiulatust sõltuvalt nende funktsionaalsest rollist. Kriitiline regulatiivne eristus seisneb selles, kas süsteem asendab kliinilise otsuse või abistab selle tegemisel:

• Autonoomne või peaaegu autonoomne väljund: CDS-süsteem, mis koostab retseptisoovituse, määrab patsiendi ravimiannnuse või liigitab patsiendi erakorralise sekkumise vajajaks ilma, et kliiniku läbivaatus oleks enne väljundi rakendamist nõutav, kvalifitseerub tõenäoliselt kõrge riskiga süsteemiks III lisa alusel ja kujutab potentsiaalselt MDR kohast meditsiiniseadet.
• Filtreeritud väljund kliiniku ülevaatuseks: CDS, mis esitab järjestatud diferentsiaaldiagnoosid või märgistab laborianalüüside tulemused ebanormaalseks ning kus kvalifitseeritud kliiniku vaatab iga soovituse läbi ja kinnitab selle enne, kui see mõjutab patsiendi ravi, ei pruugi kõrge riskiga süsteemina kvalifitseeruda, tingimusel et see ei vasta muul alusel iseseisvalt III lisa kriteeriumidele.

See eristus tuleb dokumenteerida tehisintellekti süsteemi sihtotstarbe avalduses, mis moodustab osa nii tehisintellekti seaduse tehnilisest dokumentatsioonist kui ka MDR tehnilisest toimikust.

Patsiendi triaaži prioritiseerimine erakorralise meditsiini tingimustes

Tehisintellekti süsteemid, mis määravad kindlaks järjekorra, milles erakorralise meditsiini patsiendid abi saavad — sealhulgas sepsise ennustusmudelid ja ICU seiresüsteemid, mis käivitavad eskalatsiooniprotokollid — toimivad tingimustes, kus ajaline surve ja kliiniline keerukus muudavad Art. 14 kohase inimjärelevalve eriti nõudlikuks. Kasutajaorganisatsioonid peavad tagama, et järelevalvemehhanism on tegelikult tõhus: järelevalvekohustuse saanud kliinilise töötaja teadmised, juurdepääs tehisintellekti põhjendusele ja töövoo raames aega peab olema piisav selleks, et sekkuda enne, kui süsteemi väljund mõjutab patsiendi ravi tulemust.

Vaimse tervise sõeluuringu tehisintellekt

Tehisintellekti vahendid, mida kasutatakse elanikkonna või üksikute patsientide sõeluuringuks vaimsete terviseseisundite osas — depressiooni riskiskoorid, suitsiidiriski stratifitseerimine, läbipõlemise sõeluuring — puudutavad nii tehisintellekti seaduse kõrge riskiga sätteid (kui need mõjutavad juurdepääsu ravile või ressursside jaotamist) kui ka GDPR Art. 9-t eriti tundlikus dimensioonis. Vaimse tervise andmed on GDPR tähenduses tervisandmed; nende töötlemine tehisintellekti koolitamiseks või järelduste tegemiseks nõuab Art. 9(2) kohast seaduslikku alust ja asjakohaseid kaitsemeetmeid Art. 22 alusel (automatiseeritud individuaalne otsustamine).

Kirurgiline robootika ja tehisintellekti juhitud protseduurid

Kirurgilistes robotsüsteemides integreeritud tehisintellekti komponendid, mis kohandavad protseduurilisi parameetreid reaalajas — instrumendi positsioneerimine, haptilise tagasiside moduleerimine, koe klassifitseerimine — on aktiivselt implanteeritavate seadmete või MDR III-klassi meditsiiniseadmete ohutuskomponendid. Vastavushindamise koormus on seetõttu kõrgeimal võimalikul tasemel: teavitatud asutuse hindamine MDR IX või X lisa alusel koos EL tehisintellekti seaduse vastavushindamisega Art. 43 kohaselt. Mõlema raamistiku turuletulekujärgse järelevalve kohustused tuleb integreerida ühtseks kliinilise järelkontrolli ja toimivuse seiresüsteemiks.

III lisa punkt 5(a) — juurdepääs olulistele tervishoiuteenustele

Meditsiiniseadme raja kõrval liigitab III lisa punkt 5(a) EL tehisintellekti seaduse alusel kõrge riskiga tehisintellekti süsteemideks ka süsteemid, mida kasutatakse juurdepääsu määramiseks olulistele avalikele teenustele, sealhulgas tervishoiule. Tehisintellekti süsteem, mis määrab, kas patsient kvalifitseerub hüvitisega ravile, kantakse siirdamise ootenimekirja või sobib kliinilisele uuringule, on selle sätte kohaselt kõrge riskiga, isegi kui see ei ole integreeritud meditsiiniseadmesse.

Pakkuja ja kasutaja kohustused tervishoius

Pakkuja kohustused

Organisatsioonid, kes arendavad, lasevad turule või võtavad kasutusele kõrge riskiga tervise tehisintellekti süsteemi Art. 16 kohaste pakkujatena, peavad:

• Kehtestama ja rakendama kvaliteedijuhtimissüsteemi (QMS) vastavalt Art. 17-le, mis hõlmab disainikontrolle, riskijuhtimist kooskõlas ISO 14971-ga (harmoneeritud MDR jaoks) ja turuletulekujärgse järelevalve protseduure.
• Koostama tehnilise dokumentatsiooni vastavalt IV lisale, sealhulgas sihtotstarbe, riskijuhtimisetoimiku, koolitusandmete kirjeldused, valideerimis- ja testimistulemused ning turuletulekujärgse järelevalve kava.
• Registreerima süsteemi EL andmebaasis enne turule laskmist (Art. 49).
• Tagama, et süsteemil on CE-märgis, ning esitama EL vastavusdeklaratsiooni.
• Määrama EL volitatud esindaja, kui asutus asub väljaspool EL-i.
• Säilitama tehnilist dokumentatsiooni ja logisid 10 aastat pärast turule laskmist (Art. 18).

Kasutaja kohustused

Haiglad, kliinikud, apteegid ja muud tervishoiuasutused, kes tegutsevad kolmanda isiku kõrge riskiga tehisintellekti süsteemide kasutajatena, kannavad Art. 26 alusel pakkuja vastavusest sõltumatuid kohustusi:

• Rakendama süsteemi pakkuja kasutusjuhendis määratletud ulatuses — igasugune sellest ulatusest väljuv kasutamine võib klassifitseerida asutuse ümber pakkujaks.
• Määrama inimjärelevalve kohustused personalile, kellel on pädevus, volitused ja vahendid süsteemi toimimise jälgimiseks ja sekkumiseks.
• Säilitama tegevusloge vähemalt kuus kuud või kauem, kui kohaldatavad sektori õigusaktid (MDR vigilance, haigla dokumentatsiooni säilitamise seadused) seda nõuavad.
• Teavitama tõsistest intsidentidest või talitlushäiretest pakkujat viivitamatult ning, kui patsiendi ohutus on ohustatud, asjakohaseid tervishoiuasutusi vastavalt MDR Art. 87 vigilance-protseduuridele.
• Viima läbi põhiõiguste mõjuhinnanguid (FRIA) vastavalt Art. 27-le, kui tehisintellekti süsteemi kasutatakse üksikuid patsiente massiliselt mõjutavate otsuste tegemiseks või abistamiseks.

Koosmõju MDR, IVDR ja GDPR-iga

MDR ja IVDR: kahekordse vastavushindamise režiim

EL tehisintellekti seaduse Art. 6(1), mida loetakse koos I lisaga, kehtestab ohutuskomponendi raja. Kui tehisintellekti süsteem on MDR-i või IVDR-i alusel reguleeritud toote ohutuskomponent, tuleb EL tehisintellekti seaduse vastavushindamine integreerida olemasolevasse MDR/IVDR menetlusse. EL tehisintellekti seaduse Art. 8(1) annab MDR/IVDR sektorispetsiifilistele eeskirjadele eelisõiguse, kui need kehtestivad samaväärseid või rangemaid kohustusi, kuid ei kaota tehisintellekti seaduse kohustusi — see kohandab menetlust, mitte nõuet.

IIb-klassi ja III-klassi meditsiiniseadmete puhul, millesse on integreeritud tehisintellekt, on teavitatud asutuse hindamine MDR IX lisa (kvaliteedijuhtimine) või X lisa (tüübiuuring) alusel kohustuslik. Sama teavitatud asutus, kui see on tehisintellekti seaduse alusel määratud, võib viia läbi tehisintellekti seaduse vastavushindamise integreeritud menetluse osana. I-klassi SaMD (tarkvara meditsiiniseadmena) puhul peavad tootjad iseseisvalt hindama, kas tehisintellekti süsteem kvalifitseerub kõrge riskiga süsteemiks tehisintellekti seaduse alusel muudel Art. 6(1) kui alustel.

GDPR Art. 9 ja koolitusandmed

Tervisandmed, mida kasutatakse tehisintellekti mudelite koolitamiseks, valideerimiseks või testimiseks, on GDPR Art. 9(1) kohaselt erilise kategooria andmed. Töötlemine on keelatud, kui puudub üks Art. 9(2) eranditest, millest asjakohasemad on:

• Art. 9(2)(a): andmesubjekti selgesõnaline nõusolek
• Art. 9(2)(h): töötlemine, mis on vajalik meditsiiniliseks diagnoosimiseks või tervishoiu tagamiseks, alludes ametisaladuse kohustusele
• Art. 9(2)(j): teadusuuringud, alludes Art. 89 kaitsemeetmetele

EL tehisintellekti seaduse Art. 10 andmehalduse kohustused — mis nõuavad andmekogumite päritolu, kogumismeetodite, representatiivsuse ja teadaolevate piirangute dokumenteerimist — peavad olema täidetud viisil, mis on kooskõlas kohaldatava GDPR õigusliku alusega. Kliiniliste andmekogumite tagasiulatuv kasutamine ilma selgesõnalise nõusolekuta nõuab teadusuuringute erandit ja tavaliselt eetikakomitee heakskiitu kliiniliste uuringute määruse või kohaldatava riikliku uuringute seaduse alusel.

Turuletulekujärgse järelevalve integreerimine

Nii MDR (Art. 83, turuletulekujärgne kliiniline järelkontroll) kui ka EL tehisintellekti seadus (Art. 72, turuletulekujärgne seire) nõuavad reaalse toimivuse andmete pidevat kogumist ja analüüsimist. Kui mõlemad kohalduvad, saab üks integreeritud turuletulekujärgse järelevalve süsteem rahuldada mõlemad raamistikud, tingimusel et see hõlmab kummagi nõutavaid andmepunkte — sealhulgas MDR kliinilise tõenduse nõudeid ja tehisintellekti seaduse nõudeid tehisintellekti süsteemi automaatse logimise kohta.

Täitevasutused

Euroopa Ravimiamet ja riiklikud ravimiametid

Euroopa Ravimiametil (EMA) puudub otsene täitmise roll EL tehisintellekti seaduse alusel ravimitoote välise tehisintellekti puhul, kuid tema juhised tehisintellekti kasutamise kohta ravimite arendamisel ja farmakovigilantsil on autoriteetsed eluteaduste ettevõtete jaoks. Riiklikud ravimiametid — sealhulgas ANSM (Prantsusmaa), BfArM (Saksamaa) ja nende vasted — teostavad MDR ja IVDR turu järelevalve volitusi ning võivad uurida meditsiiniseadmetesse integreeritud tehisintellekti süsteeme osana oma turuletulekujärgse järelevalve volitustest.

Teavitatud asutused

Kõrge riskiga tehisintellekti süsteemide puhul, mis on meditsiiniseadmete ohutuskomponendid, viivad vastavushindamisi läbi MDR/IVDR alusel ja eraldi või ühiselt EL tehisintellekti seaduse alusel määratud teavitatud asutused. Nende sertifikaadid on CE-märgise eeltingimus. Teavitatud asutused võivad sertifikaadid peatada või tühistada, kui turuletulekujärgne järelevalve paljastab mittevastavused.

Riiklikud tehisintellekti järelevalveasutused

Igal EL liikmesriigil on määratud või määramisel riiklik tehisintellekti järelevalveasutus (pädev asutus vastavalt EL tehisintellekti seaduse Art. 70-le). Tervishoiu sektoris on nõutav tehisintellekti järelevalveasutuse ja riikliku ravimiameti koordineerimine, kui jurisdiktsioonid kattuvad. Tehisintellekti järelevalveasutusel on volitused nõuda dokumentatsiooni, viia läbi auditeid, kehtestada parandusmeetmeid ja suunata juhtumid rahalisteks karistusteks.

Vastavuse tegevuskava — prioriteedid tervise tehisintellekti jaoks

1. samm: Liigitamine ja ulatuse hindamine

Kaardistage kõik arenduses või kasutuses olevad tehisintellekti süsteemid Art. 6(1) (meditsiiniseadme ohutuskomponent) ja III lisa punkt 5(a) (juurdepääs olulistele teenustele) suhtes. Dokumenteerige iga süsteemi sihtotstarve piisava täpsusega, et toetada nii tehisintellekti seaduse kui ka MDR/IVDR liigitamisotsuseid. Kaasake regulatiivne nõustaja piiripealse CDS vahendite hindamiseks.

2. samm: Kahekordse vastavushindamise kavandamine

Iga kõrge riskiga tehisintellekti süsteemi puhul, mis on ka meditsiiniseade, tuvastage kohaldatav MDR/IVDR vastavushindamise rada ja määrake, kas määratud teavitatud asutus on akrediteeritud ka EL tehisintellekti seaduse alusel. Planeerige vastavushindamine võimaluse korral integreeritud menetlusena, et vähendada dubleerimist.

3. samm: Andmehaldus ja GDPR-iga vastavusse viimine

Auditeerige tervise tehisintellekti süsteemide koolituse ja valideerimise andmekogumeid. Dokumenteerige mudelite arendamisel kasutatud kõikide tervisandmete õiguslikud alused vastavalt GDPR Art. 9(2)-le. Kehtestage andmehalduse protseduurid vastavalt EL tehisintellekti seaduse Art. 10-le ja tagage nende kajastamine IV lisas nõutavas tehnilises dokumentatsioonis.

4. samm: Inimjärelevalve protokollid

Kujundage ja rakendage inimjärelevalve mehhanismid vastavalt Art. 14-le iga kõrge riskiga tehisintellekti rakenduse jaoks. Järelevalve peab olema operatiivselt realistlik: see nõuab koolitatud personali, kättesaadavaid sekkumismehhanisme ja töövoo integratsiooni — mitte formaalne linnukese tegemine. Ajalise surve all erakorralise meditsiini tingimustes nõuab järelevalve kujundamine eriti suurt hoolikust.

5. samm: Turuletulekujärgse järelevalve integreerimine

Kujundage turuletulekujärgse järelevalve süsteem, mis vastab nii MDR III lisa (PMCF) kui ka EL tehisintellekti seaduse Art. 72 nõuetele. Kehtestage intsidentide teavitamise protseduurid, mis on kooskõlas MDR vigilance tähtaegadega (Art. 87: tõsistest intsidentidest teatatakse 15 päeva jooksul) ja tehisintellekti seaduse tõsiste intsidentide teavitamisega vastavalt Art. 73-le.

6. samm: Kasutaja hoolsuskohustus

Tervishoiuasutused, kes hangivad kolmandate isikute tehisintellekti diagnostika- või CDS-vahendeid, peaksid nõudma pakkujatelt EL vastavusdeklaratsiooni, kasutusjuhendi ja tehnilise dokumentatsiooni kokkuvõtte esitamist. Hankelepingutes tuleks täpsustada logide säilitamise kohustused, intsidentide teavitamise vastutused ja lubatud kasutuse ulatuse piirid, et vältida tahtmatut ümberliikmestamist pakkujaks.