Obveznosti po Uredbi EU o umetni inteligenci za UI v medicinskih pripomočkih, diagnostičnih sistemih in podpori kliničnim odločitvam. Zajema medsebojno delovanje MDR/IVDR in dvojno skladnost po Prilogah I.
Zakaj ima Uredba EU o umetni inteligenci v zdravstvu poseben pomen
Uredba EU o umetni inteligenci (Uredba (EU) 2024/1689) nalaga najzahtevnejše obveznosti skladnosti prav na področjih, kjer napake UI prinašajo posledice za življenje in smrt. Zdravstvo in življenjske vede se nahajajo na presečišču dveh takšnih zahtev: strukturne razvrstitve UI v medicinskih pripomočkih kot visoko tvegane po čl. 6(1) ter obstoječe regulativne gostote sektorja po MDR (EU) 2017/745, IVDR (EU) 2017/746, GDPR čl. 9 in Uredbi o kliničnih preskušanjih (EU) 536/2014.
Za ponudnike in upravljavce zdravstvene UI to presečišče ni zgolj aditivno. Ustvarja slojevite nabore obveznosti, ki jih je treba skupaj načrtovati, dokumentirati in nadzorovati. Sistem umetne inteligence, vgrajen v napravo za diagnostično slikanje, mora prestati oceno skladnosti s strani priglašenega organa po MDR in ločeno oceno skladnosti po Uredbi EU o umetni inteligenci. Bolnišnica, ki uvaja orodje UI za triage, postane upravljavec po čl. 26 z neodvisnimi obveznostmi, ki jih ni mogoče izpolniti zgolj z opiranjem na oznako CE ponudnika.
Tveganja za neskladnost so sorazmerno visoka. Nacionalni nadzorni organi lahko naložijo globe do 30 milijonov EUR ali 6 % skupnega letnega prometa za dajanje neskladne visoko tvegane UI na trg. Poleg finančnih sankcij lahko odredbe o umiku z trga, prekinitvi klinične uporabe in obvezni korektivni ukrepi pri večjem obsegu prekinejo zdravstveno oskrbo bolnikov.
Dvojna regulativna pot
Določilna strukturna značilnost skladnosti zdravstvene UI je hkratna uporaba prava o varnosti proizvodov in prava, specifičnega za UI. Kadar sistem umetne inteligence predstavlja varnostno komponento medicinskega pripomočka, kot je opredeljeno v Prilogi I Uredbe EU o umetni inteligenci (s sklicevanjem na Novi zakonodajni okvir), je samodejno razvrščen kot visoko tvegan po čl. 6(1) brez kakršnega koli nadaljnjega ocenjevanja verjetnosti ali resnosti škode. Razvrstitev je kategorična.
To pomeni, da morajo organizacije vzdrževati dve vzporedni poti ocene skladnosti — eno po MDR ali IVDR, eno po Uredbi EU o umetni inteligenci — ter dokazati skladnost z obema v bazi podatkov EU za visoko tvegane sisteme UI (EUAI DB) pred dajanjem na trg.
Visoko tvegani primeri uporabe UI — medicinski pripomočki in zagotavljanje zdravstvene oskrbe
UI za diagnostično slikanje
Sistemi umetne inteligence, ki se v radiologiji, patologiji in oftalmologiji uporabljajo za analizo slik z namenom zaznavanja, razvrščanja ali opredelitve lezij, nepravilnosti ali bolezenskih stanj, so v praktično vseh klinično relevantnih konfiguracijah varnostne komponente medicinskih pripomočkov razreda IIa ali višje po MDR. So torej visoko tvegani po čl. 6(1) in morajo biti v skladu s Poglavjem III, Oddelkom 2 Uredbe EU o umetni inteligenci, ki zajema upravljanje podatkov (čl. 10), tehnično dokumentacijo (čl. 11, Priloga IV), samodejno beleženje (čl. 12), preglednost (čl. 13), človeški nadzor (čl. 14) ter natančnost, robustnost in kibernetsko varnost (čl. 15).
Sistemi za podporo kliničnim odločitvam
Orodja za podporo kliničnim odločitvam (CDS) zajemajo širok spekter tveganj glede na svojo funkcionalno vlogo. Ključna regulativna ločnica je, ali sistem nadomešča ali podpira klinično presojo:
- Avtonomni ali skoraj avtonomni izhodni podatki: Sistem CDS, ki ustvari priporočilo za predpis, določi odmerek zdravila za bolnika ali razvrsti bolnika kot tistega, ki potrebuje nujno intervencijo, ne da bi zahteval pregled klinika pred ukrepanjem na podlagi izhoda, bo najverjetneje visoko tvegan po Prilogi III in bo potencialno predstavljal medicinski pripomoček po MDR.
- Filtrirani izhodni podatki za pregled klinika: Sistem CDS, ki predstavlja razvrščene diferencialne diagnoze ali označi laboratorijske izvide kot nenormalne, pri čemer usposobljeni klinik pregleda in odobri vsako priporočilo, preden vpliva na upravljanje bolnika, morda ne bo kvalificiran kot visoko tvegan, pod pogojem, da ne izpolnjuje meril iz Priloge III na drugi podlagi.
Ta razlika mora biti dokumentirana v izjavi o predvidenem namenu sistema UI, ki je del tako tehnične dokumentacije po Uredbi o umetni inteligenci kot tehnične dokumentacije po MDR.
Določanje prioritet pri triageu bolnikov v nujnih stanjih
Sistemi umetne inteligence, ki določajo vrstni red obravnave bolnikov v nujnih stanjih — vključno z modeli za napovedovanje sepse in sistemi za nadzor v enotah intenzivne nege, ki sprožajo eskalacijske protokole — delujejo v razmerah časovnega pritiska in klinične kompleksnosti, ki delajo človeški nadzor po čl. 14 posebej zahtevnim. Organizacije, ki uvajajo take sisteme, morajo zagotoviti, da je nadzorni mehanizem dejansko učinkovit: klinik, ki mu je zaupana odgovornost za nadzor, mora imeti tehnično razumevanje, dostop do sklepanja UI in čas v delovnem procesu, da ukrepa pred tem, ko izhod sistema vpliva na izide bolnikov.
UI za presejanje duševnega zdravja
Orodja UI, ki se uporabljajo za presejanje populacij ali posameznih bolnikov glede duševnih motenj — ocene tveganja depresije, razvrščanje tveganja samomora, presejanje za izgorelost — sprožajo tako visoko tvegane določbe Uredbe o umetni inteligenci (kadar vplivajo na dostop do zdravstvene oskrbe ali dodeljevanje virov) kot GDPR čl. 9 v posebej občutljivi dimenziji. Podatki o duševnem zdravju so za namene GDPR zdravstveni podatki; njihova obdelava za usposabljanje ali sklepanje UI zahteva zakonito podlago po čl. 9(2) in ustrezne zaščitne ukrepe po čl. 22 (avtomatizirano individualno odločanje).
Kirurška robotika in s UI vodeni posegi
Komponente umetne inteligence, vgrajene v kirurške robotske sisteme, ki v realnem času prilagajajo postopkovne parametre — pozicioniranje instrumentov, modulacija haptičnih povratnih informacij, razvrščanje tkiv — so varnostne komponente aktivnih vsadljivih naprav ali medicinskih pripomočkov razreda III po MDR. Breme ocene skladnosti je temu primerno najvišje razpoložljivo: ocena priglašenega organa po Prilogi IX ali X MDR, v kombinaciji z oceno skladnosti po Uredbi EU o umetni inteligenci v skladu z čl. 43. Obveznosti pooperativnega nadzora v skladu z obema okviroma morajo biti vključene v en sam sistem kliničnega sledenja in spremljanja uspešnosti.
Kategorija 5(a) iz Priloge III — Dostop do bistvenih zdravstvenih storitev
Poleg poti medicinskih pripomočkov Priloga III, točka 5(a) Uredbe EU o umetni inteligenci ločeno razvršča kot visoko tvegane sisteme UI, ki se uporabljajo za določanje dostopa do bistvenih javnih storitev, vključno z zdravstveno oskrbo. Sistem umetne inteligence, ki določa, ali je bolnik upravičen do povrnjenega zdravljenja, ali je vključen na čakalni seznam za presaditev ali je upravičen do kliničnega preskušanja, je visoko tvegan po tej določbi, četudi ni vgrajen v medicinski pripomoček.
Obveznosti ponudnikov v primerjavi z obveznostmi upravljavcev v zdravstvu
Obveznosti ponudnikov
Organizacije, ki razvijajo, dajejo na trg ali v uporabo visoko tvegan zdravstveni sistem UI kot ponudniki po čl. 16, morajo:
- Vzpostaviti in izvajati sistem vodenja kakovosti (QMS) po čl. 17, ki zajema nadzor načrtovanja, obvladovanje tveganj, usklajeno z ISO 14971 (harmonizirano za MDR), in postopke pooperativnega nadzora.
- Pripraviti tehnično dokumentacijo po Prilogi IV, vključno s predvidenim namenom, datoteko o obvladovanju tveganj, opisi podatkov za usposabljanje, rezultati validacije in testiranja ter načrtom pooperativnega nadzora.
- Sistem registrirati v bazi podatkov EU pred dajanjem na trg (čl. 49).
- Zagotoviti, da sistem nosi oznako CE, in predložiti EU izjavo o skladnosti.
- Imenovati pooblaščenega zastopnika EU, če ima sedež zunaj EU.
- Hraniti tehnično dokumentacijo in dnevnike 10 let po dajanju na trg (čl. 18).
Obveznosti upravljavcev
Bolnišnice, klinike, lekarnarska omrežja in druge zdravstvene institucije, ki nastopajo kot upravljavci visoko tveganih sistemov UI tretjih strank, imajo po čl. 26 obveznosti, ki so neodvisne od skladnosti ponudnika:
- Izvajati sistem v okviru namena, določenega v navodilih ponudnika za uporabo — vsaka uporaba zunaj tega obsega potencialno institucijo prerazvršča v ponudnika.
- Zaupati odgovornost za človeški nadzor osebju, ki ima ustrezno usposobljenost, pooblastila in orodja za nadzor nad delovanjem sistema in posredovanje vanj.
- Voditi operativne dnevnike vsaj šest mesecev ali dlje, kjer to zahteva veljavna sektorska zakonodaja (nadzor po MDR, zakoni o hrambi bolnišničnih evidenc).
- Resne incidente ali napake takoj poročati ponudniku in, kadar je ogrožena varnost bolnikov, pristojnim zdravstvenim organom v skladu s postopki nadzora po MDR čl. 87.
- Izvesti ocene učinka na temeljne pravice (FRIA) po čl. 27, kadar se sistem UI v večjem obsegu uporablja za sprejemanje odločitev ali pomoč pri odločitvah, ki vplivajo na posamezne bolnike.
Medsebojno delovanje z MDR, IVDR in GDPR
MDR in IVDR: Ureditev dvojne ocene skladnosti
Čl. 6(1) Uredbe EU o umetni inteligenci, v povezavi s Prilogo I, vzpostavlja pot varnostne komponente. Kadar je sistem umetne inteligence varnostna komponenta proizvoda, ki ga ureja MDR ali IVDR, mora biti ocena skladnosti po Uredbi EU o umetni inteligenci vključena v obstoječi postopek po MDR/IVDR. Čl. 8(1) Uredbe EU o umetni inteligenci daje prednost sektorsko specifičnim pravilom MDR/IVDR, kadar ta uvajajo enakovredne ali strožje obveznosti, vendar ne odpravlja obveznosti po Uredbi o umetni inteligenci — prilagaja postopek, ne zahteve.
Za medicinske pripomočke razreda IIb in III z vgrajeno UI je obvezna ocena priglašenega organa po Prilogi IX MDR (vodenje kakovosti) ali Prilogi X (pregled tipa). Isti priglašeni organ, če je imenovan po Uredbi o umetni inteligenci, lahko izvede oceno skladnosti po tej uredbi v okviru integriranega postopka. Za programsko opremo razreda I kot medicinski pripomoček (SaMD) morajo proizvajalci neodvisno oceniti, ali sistem umetne inteligence kvalificira kot visoko tvegan po Uredbi o umetni inteligenci na drugih podlagah kot po čl. 6(1).
GDPR čl. 9 in podatki za usposabljanje
Zdravstveni podatki, ki se uporabljajo za usposabljanje, validacijo ali testiranje modelov UI, so posebna kategorija podatkov po GDPR čl. 9(1). Obdelava je prepovedana, razen če ni podana ena od izjem po čl. 9(2), pri čemer so najpomembnejše:
- Čl. 9(2)(a): izrecna privolitev posameznika, na katerega se nanašajo osebni podatki
- Čl. 9(2)(h): obdelava, potrebna za medicinske diagnoze ali zagotavljanje zdravstvene oskrbe, ob upoštevanju poklicne skrivnosti
- Čl. 9(2)(j): znanstveno raziskovanje ob upoštevanju zaščitnih ukrepov po čl. 89
Obveznosti upravljanja podatkov po čl. 10 Uredbe EU o umetni inteligenci — ki zahtevajo dokumentiranje izvora, metod zbiranja, reprezentativnosti in znanih omejitev naborov podatkov — morajo biti izpolnjene na način, ki je skladen z veljavno pravno podlago po GDPR. Retrospektivna uporaba kliničnih naborov podatkov brez izrecne privolitve zahteva izjemo za namene raziskovanja in praviloma odobritev etičnega odbora po Uredbi o kliničnih preskušanjih ali veljavni nacionalni zakonodaji o raziskovanju.
Integracija pooperativnega nadzora
Tako MDR (čl. 83, Pooperativno klinično sledenje) kot Uredba EU o umetni inteligenci (čl. 72, pooperativno spremljanje) zahtevata stalno zbiranje in analizo podatkov o uspešnosti v realnem svetu. Kadar oba okvira veljata, en sam integrirani sistem pooperativnega nadzora lahko zadosti obema okviroma, pod pogojem, da zajame podatkovne točke, ki jih zahteva vsak od njiju — vključno z zahtevami MDR glede kliničnih dokazov in zahtevami Uredbe o umetni inteligenci glede samodejnega beleženja delovanja sistema UI.
Organi izvrševanja
Evropska agencija za zdravila in nacionalne agencije za zdravila
Evropska agencija za zdravila (EMA) nima neposredne vloge pri izvrševanju Uredbe EU o umetni inteligenci za UI, ki ni medicinski izdelek, vendar so njeve smernice o UI pri razvoju zdravil in farmakovigilanci avtoritativne za podjetja iz sektorja življenjskih ved. Nacionalne agencije za zdravila — vključno z ANSM (Francija), BfArM (Nemčija) in njihovimi ustreznicami — izvajajo pooblastila za nadzor trga po MDR in IVDR ter lahko preiskujejo sisteme UI, vgrajene v medicinske pripomočke, v okviru svojega nadzornega pooblastila za pooperativni nadzor.
Priglašeni organi
Za visoko tvegane sisteme UI, ki so varnostne komponente medicinskih pripomočkov, priglašeni organi, imenovani po MDR/IVDR in ločeno ali skupno po Uredbi EU o umetni inteligenci, izvajajo ocene skladnosti. Njihova potrdila so pogoj za pridobitev oznake CE. Priglašeni organi lahko potrdila razveljavijo ali umaknejo, kadar pooperativni nadzor razkrije neskladnosti.
Nacionalni nadzorni organi za umetno inteligenco
Vsaka država članica EU je imenovala ali imenuje nacionalni nadzorni organ za umetno inteligenco (pristojni organ po čl. 70 Uredbe EU o umetni inteligenci). V zdravstvenem sektorju je tam, kjer se pristojnosti prekrivajo, zahtevano usklajevanje med nadzornim organom za UI in nacionalno agencijo za zdravila. Nadzorni organ za UI ima pooblastila za zahtevanje dokumentacije, izvajanje revizij, nalaganje korektivnih ukrepov in posredovanje primerov za finančne sankcije.
Načrt za doseganje skladnosti — prednostne naloge za zdravstveno UI
1. korak: Razvrstitev in ocena obsega
Vse sisteme umetne inteligence v razvoju ali uvajanju uvrstite v kategorije glede na čl. 6(1) (varnostna komponenta medicinskega pripomočka) in Prilogo III, točko 5(a) (dostop do bistvenih storitev). Predvideni namen vsakega sistema dokumentirajte z zadostno natančnostjo, ki bo podpirala odločitve o razvrstitvi tako po Uredbi o umetni inteligenci kot po MDR/IVDR. Za oceno mejnih orodij CDS angažirajte regulativnega svetovalca.
2. korak: Načrtovanje dvojne ocene skladnosti
Za vsak visoko tvegan sistem UI, ki je hkrati medicinski pripomoček, ugotovite, katera pot ocene skladnosti po MDR/IVDR je veljavna, in preverite, ali je imenovani priglašeni organ akreditiran tudi po Uredbi EU o umetni inteligenci. Oceno skladnosti načrtujte kot integrirani postopek, kadar je to mogoče, da zmanjšate podvajanje.
3. korak: Upravljanje podatkov in uskladitev z GDPR
Opravite revizijo naborov podatkov za usposabljanje in validacijo zdravstvenih sistemov UI. Dokumentirajte pravne podlage po GDPR čl. 9(2) za vse zdravstvene podatke, uporabljene pri razvoju modelov. Vzpostavite postopke upravljanja podatkov po čl. 10 Uredbe EU o umetni inteligenci in zagotovite, da so ti odraženi v tehnični dokumentaciji, ki jo zahteva Priloga IV.
4. korak: Protokoli človeškega nadzora
Za vsako uvajanje visoko tvegane UI načrtujte in vzpostavite mehanizme človeškega nadzora po čl. 14. Nadzor mora biti operativno realističen: zahteva usposobljeno osebje, dostopne mehanizme za posredovanje in integracijo v delovni proces — ne zgolj formalno potrjevanje. Za nujne razmere s časovnim pritiskom je potrebna posebna skrbnost pri načrtovanju nadzora.
5. korak: Integracija pooperativnega nadzora
Oblikujte sistem pooperativnega nadzora, ki zadosti zahtevam Priloge III MDR (PMCF) in čl. 72 Uredbe EU o umetni inteligenci. Vzpostavite postopke poročanja o incidentih, usklajene z roki nadzora po MDR (čl. 87: resni incidenti se poročajo v 15 dneh) in poročanjem o resnih incidentih po Uredbi o umetni inteligenci v skladu z čl. 73.
6. korak: Skrbnost upravljavca
Zdravstvene institucije, ki pridobivajo diagnostična orodja UI tretjih strank ali orodja CDS, morajo od ponudnikov zahtevati EU izjavo o skladnosti, navodila za uporabo in povzetek tehnične dokumentacije. Pogodbe o nabavi morajo določati obveznosti hrambe dnevnikov, odgovornosti za poročanje o incidentih in meje dovoljenega obsega uporabe, da se prepreči nenamerna prerazvrstitev v ponudnika.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Ne. Ocene skladnosti po MDR in IVDR ter ocene skladnosti po Uredbi EU o umetni inteligenci so ločene pravne obveznosti, ki veljajo vzporedno. Sistem umetne inteligence, ki je vgrajen v medicinski pripomoček razreda IIb, mora neodvisno izpolnjevati oba regulativna okvira. Kadar je priglašeni organ že vključen v postopek po MDR ali IVDR, je lahko isti organ imenovan tudi za priglašeni organ v okviru Uredbe o umetni inteligenci, kar omogoča usklajeno ocenjevanje, vendar pa ostaja popolna skladnost z obema okviroma obvezna.
Ne samodejno. Razvrstitev je odvisna od funkcije in stopnje avtonomije orodja. Če sistem umetne inteligence nadomešča klinično presojo ali jo v bistveni meri razveljavi — na primer samostojno določi diagnozo ali predpiše zdravljenje — bo najverjetneje kvalificiran kot visoko tvegan v skladu s Prilogo III ali kot varnostna komponenta medicinskega pripomočka po čl. 6(1). Če sistem zgolj označuje ali filtrira informacije za klinika, ki ohrani polno odločevalsko pristojnost, morda ne bo zajet v opredelitev visokega tveganja, pod pogojem, da ne izpolnjuje drugih meril iz Priloge III.
Čl. 10 Uredbe EU o umetni inteligenci zahteva, da so nabori podatkov za usposabljanje, validacijo in testiranje predmet upravljanja podatkov, ki zajema izvor, metode zbiranja, znane pristranskosti in reprezentativnost. Za zdravstveno UI se ta obveznost prepleta z GDPR čl. 9, ki zdravstvene podatke opredeljuje kot posebno kategorijo in za obdelavo zahteva izrecno pravno podlago — praviloma izrecno privolitev ali izjemo po čl. 9(2)(h) ali (j). Ponudniki morajo sestavo naborov podatkov dokumentirati v tehnični dokumentaciji, ki jo zahteva Priloga IV, ter dokazati, da podatki za usposabljanje ne vnašajo sistematičnih pristranskosti, ki bi lahko ogrozile diagnostično natančnost v različnih podskupinah bolnikov.
Bolnišnice, ki nastopajo kot upravljavci visoko tveganih sistemov UI po čl. 26, morajo: preveriti, da sistem UI nosi oznako CE in ima EU izjavo o skladnosti; upoštevati navodila za uporabo ponudnika; zaupati odgovornost za človeški nadzor usposobljenemu kliničnemu osebju; voditi dnevnike delovanja sistema vsaj šest mesecev; ter resne incidente ali napake poročati ponudniku in, kadar je ogrožena varnost bolnikov, pristojnim zdravstvenim organom v skladu z veljavnimi pravili nadzora po MDR. Upravljavci ne smejo spreminjati visoko tveganih sistemov UI na načine, ki bi spremenili njihov predvideni namen, brez sprožitve obveznosti ponovne ocene.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.