Saħħa u Xjenzi tal-Ħajja — Konformità mal-EU AI Act

Obbligi tal-EU AI Act għal AI f'apparati mediċi, sistemi dijanjostiċi, u appoġġ għad-deċiżjonijiet kliniċi. Jkopri l-interazzjoni MDR/IVDR u l-konformità doppja mal-Anness I.

Għaliex l-EU AI Act Huwa ta' Sinifikat Partikolari fis-Settur tas-Saħħa

L-EU AI Act (Regolament (UE) 2024/1689) joħloq l-obbligi tal-konformità l-aktar eżiġenti tiegħu preċiżament f'oqsma fejn l-iżbalji tal-AI jġorru konsegwenzi ta' ħajja jew mewt. Is-saħħa u x-xjenzi tal-ħajja jinsabu fl-intersezzjoni ta' żewġ tali eżiġenzi: il-klassifikazzjoni strutturali tal-Att ta' AI f'apparati mediċi bħala ta' riskju għoli taħt Art. 6(1), u d-densità regolatorja eżistenti tas-settur taħt MDR (UE) 2017/745, IVDR (UE) 2017/746, GDPR Art. 9, u r-Regolament dwar it-Testijiet Kliniċi (UE) 536/2014.

Għall-fornituri u d-depożitarji ta' AI tas-saħħa, din l-intersezzjoni mhijiex sempliċement addittiva. Toħloq settijiet ta' obbligi stratifikati li jridu jiġu ddisinjati, iddokumentati, u mmonitorjati flimkien. Sistema AI inkorporata f'apparat ta' immaġni dijanjostika trid tissodisfa l-valutazzjoni tal-konformità tal-korp innotifikat taħt il-MDR u valutazzjoni tal-konformità separata taħt l-EU AI Act. Sptar li jiddistribwixxi għodda ta' trijaġġ ibbażata fuq AI jsir depożitarju taħt Art. 26 b'obbligi indipendenti li ma jistgħux jiġu ssodisfati billi wieħed joqgħod fuq il-marka CE tal-fornitur biss.

Ir-riskji tan-nuqqas ta' konformità huma korrispondentement għoljin. L-awtoritajiet superviżorji nazzjonali jistgħu jimponu multi sa €30 miljun jew 6% tal-fatturat annwali globali għat-tqegħid fis-suq ta' AI ta' riskju għoli li mhijiex konformi. Lil hinn mill-penali finanzjarji, l-ordnijiet ta' irtirar mis-suq, is-sospensjoni tal-użu kliniku, u l-azzjonijiet korrettivi obbligatorji jistgħu jinterrompu l-kura tal-pazjent fuq skala wiesgħa.

It-Traċċa Regolatorja Doppja

Il-karatteristika strutturali definittiva tal-konformità tal-AI fil-qasam tas-saħħa hija l-applikazzjoni simultanja tal-liġi tas-sikurezza tal-prodotti u l-liġi speċifika għall-AI. Fejn sistema AI tikkostitwixxi komponent tas-sikurezza ta' apparat mediku kif definit fl-Anness I tal-EU AI Act (b'referenza kroċjata mal-Qafas Leġislattiv il-Ġdid), hija tiġi klassifikata awtomatikament bħala ta' riskju għoli taħt Art. 6(1) mingħajr ebda valutazzjoni ulterjuri tal-probabbiltà jew severità tal-ħsara. Il-klassifikazzjoni hija kategorika.

Dan ifisser li l-organizzazzjonijiet iridu jżommu żewġ traċċi ta' valutazzjoni tal-konformità parallel — waħda taħt il-MDR jew l-IVDR, waħda taħt l-EU AI Act — u għandhom juru l-konformità maż-żewġ qafas fid-bażi tad-data tal-UE għal sistemi AI ta' riskju għoli (EUAI DB) qabel it-tqegħid fis-suq.

Każijiet ta' Użu ta' AI ta' Riskju Għoli — Apparati Mediċi u Forniment tal-Kura

AI ta' Immaġni Dijanjostika

Sistemi AI ddistribwiti fir-radjologija, il-patoloġija, u l-oftalmoloġija li janalizzaw immaġni biex jiddetektaw, jikklassifikaw, jew jikkaratterizzaw leżjonijiet, anormalitajiet, jew stati ta' mard huma, f'kważi l-konfigurazzjonijiet kollha rilevanti klinikament, komponenti tas-sikurezza ta' apparati mediċi taħt il-Klassi IIa tal-MDR jew ogħla. Huma għaldaqstant ta' riskju għoli taħt Art. 6(1) u għandhom jikkonformaw mal-Kapitolu III Taqsima 2 tal-EU AI Act, li jkopri l-governanza tad-data (Art. 10), id-dokumentazzjoni teknika (Art. 11, Anness IV), il-loggjar awtomatiku (Art. 12), it-trasparenza (Art. 13), is-sorveljanza umana (Art. 14), u l-preċiżjoni, ir-robustezza, u ċ-ċibersikurezza (Art. 15).

Sistemi ta' Appoġġ għad-Deċiżjonijiet Kliniċi

L-għodod ta' appoġġ għad-deċiżjonijiet kliniċi (CDS) jgħaddu minn firxa wiesgħa ta' riskju skont ir-rwol funzjonali tagħhom. Id-distinzjoni regolatorja kritika hija jekk is-sistema tissostitwixxi jew tassisti l-ġudizzju kliniku:

• Output awtonomu jew kważi awtonomu: Sistema CDS li tiġġenera rakkomandazzjoni ta' preskrizzjoni, tiddetermina d-doża tal-mediċina ta' pazjent, jew tikklassifika pazjent bħala li jeħtieġ intervent ta' emerġenza mingħajr ma teħtieġ reviżjoni klinika qabel ma l-output jiġi attwat hija probabbli li tkun ta' riskju għoli taħt l-Anness III u potenzjalment tikkostitwixxi apparat mediku taħt il-MDR.
• Output iffiltrat għar-reviżjoni klinika: CDS li tippreżenta dijanjożi differenzjali mlaqqma jew tindika riżultati tal-laboratorju bħala anormali, fejn kliniku kkwalifikat jirrevedi u japprova kull rakkomandazzjoni qabel ma taffettwa l-ġestjoni tal-pazjent, tista' ma tikkwalifikax bħala ta' riskju għoli, sakemm ma tissodisfax b'mod indipendenti l-kriterji tal-Anness III fuq bażi oħra.

Din id-distinzjoni għandha tiġi ddokumentata fid-dikjarazzjoni tal-iskop maħsub tas-sistema AI, li tifforma parti mid-dokumentazzjoni teknika tal-AI Act kif ukoll mill-fajl tekniku tal-MDR.

Prijoritizzazzjoni tat-Trijaġġ tal-Pazjenti f'Sitwazzjonijiet ta' Emerġenza

Sistemi AI li jippriorizzaw l-ordni li fiha l-pazjenti tal-emerġenza jirċievu attenzjoni — inklużi mudelli ta' tbassir tas-sepsi u sistemi ta' monitoraġġ tal-ICU li jqanqlu protokolli ta' eskalazzjoni — joperaw f'kundizzjonijiet ta' pressjoni ta' żmien u kumplessità klinika li jagħmlu s-sorveljanza umana taħt Art. 14 partikolarment eżiġenti. L-organizzazzjonijiet li jiddistribwixxu għandhom jiżguraw li l-mekkaniżmu ta' sorveljanza jkun effettiv tassew: il-kliniku assenjat bir-responsabbiltà ta' sorveljanza għandu jkollu l-fehim tekniku, l-aċċess għar-raġunament tal-AI, u l-ħin fil-flusso tax-xogħol biex jintervjeni qabel ma l-output tas-sistema jaffettwa l-eżiti tal-pazjent.

AI ta' Skrinjar tas-Saħħa Mentali

Għodod AI użati biex jiskrinjaw popolazzjonijiet jew pazjenti individwali għal kundizzjonijiet tas-saħħa mentali — punteġġi ta' riskju ta' dipressjoni, klassifikazzjoni tal-riskju ta' suwiċidju, skrinjar tal-burnout — jimpenjaw kemm id-dispożizzjonijiet ta' riskju għoli tal-AI Act (fejn jinfluenzaw l-aċċess għall-kura jew l-allokazzjoni tar-riżorsi) kif ukoll GDPR Art. 9 f'dimensjoni partikolarment sensittiva. Id-data tas-saħħa mentali hija data tas-saħħa għall-finijiet tal-GDPR; l-ipproċessar tagħha għat-taħriġ jew l-inferenza tal-AI jeħtieġ bażi legali taħt Art. 9(2) u salvagwardji xierqa taħt Art. 22 (teħid awtomatizzat ta' deċiżjonijiet individwali).

Robotika Kirurġika u Proċeduri Ggwidati mill-AI

Komponenti AI integrati f'sistemi robotiċi kirurġiċi li jadattaw parametri proċedurali f'ħin reali — pożizzjonament tal-istrumenti, modulazzjoni tal-feedback tattili, klassifikazzjoni tat-tessut — huma komponenti tas-sikurezza ta' apparati impjantabbli attivi jew apparati mediċi tal-Klassi III taħt il-MDR. Il-piż tal-valutazzjoni tal-konformità huwa konsegwentement l-ogħla disponibbli: valutazzjoni tal-korp innotifikat taħt l-Anness IX jew X tal-MDR, flimkien mal-valutazzjoni tal-konformità tal-EU AI Act taħt Art. 43. L-obbligi ta' sorveljanza ta' wara t-tqegħid fis-suq taħt iż-żewġ qafas għandhom jiġu integrati f'sistema waħda ta' segwitu kliniku u monitoraġġ tal-prestazzjoni.

Kategorija 5(a) tal-Anness III — Aċċess għas-Servizzi Essenzjali tas-Saħħa

Lil hinn mill-mogħdija tal-apparat mediku, l-Anness III, punt 5(a) tal-EU AI Act jikklassifika separatament bħala ta' riskju għoli s-sistemi AI użati biex jiddeterminaw l-aċċess għal servizzi pubbliċi essenzjali, inklużi s-servizzi tas-saħħa. Sistema AI li tiddetermina jekk pazjent jikkwalifikax għal trattament rimborżat, tiġix inkluża f'lista ta' stennija għal trapjant, jew tkun eleġibbli għal prova klinika hija ta' riskju għoli taħt din id-dispożizzjoni anke jekk ma tkunx inkorporata f'apparat mediku.

Obbligi tal-Fornitur kontra d-Depożitarju fis-Settur tas-Saħħa

Obbligi tal-Fornitur

Organizzazzjonijiet li jiżviluppaw, iqiegħdu fis-suq, jew jużaw sistema AI tas-saħħa ta' riskju għoli bħala fornituri taħt Art. 16 għandhom:

• Jistabbilixxu u jimplimentaw sistema ta' ġestjoni tal-kwalità (QMS) taħt Art. 17, li tkopri l-kontrolli tad-disinn, il-ġestjoni tar-riskju allinjata ma' ISO 14971 (armonizzata għall-MDR), u l-proċeduri ta' monitoraġġ wara t-tqegħid fis-suq.
• Iħejju dokumentazzjoni teknika taħt l-Anness IV, inklużi l-iskop maħsub, il-fajl tal-ġestjoni tar-riskju, id-deskrizzjonijiet tad-data tat-taħriġ, ir-riżultati tal-validazzjoni u t-testjar, u l-pjan ta' monitoraġġ wara t-tqegħid fis-suq.
• Jirreġistraw is-sistema fil-bażi tad-data tal-UE qabel it-tqegħid fis-suq (Art. 49).
• Jiżguraw li s-sistema jkollha marka CE u jipprovdu Dikjarazzjoni tal-UE tal-Konformità.
• Jaħtru Rappreżentant Awtorizzat tal-UE jekk huma stabbiliti barra mill-UE.
• Iżommu d-dokumentazzjoni teknika u l-logs għal 10 snin wara t-tqegħid fis-suq (Art. 18).

Obbligi tad-Depożitarju

Sptarijiet, kliniks, netwerks tal-ispiżjar, u istituzzjonijiet oħra tas-saħħa li jaġixxu bħala depożitarji ta' sistemi AI ta' riskju għoli ta' partijiet terzi jġorru obbligi taħt Art. 26 li huma indipendenti mill-konformità tal-fornitur:

• Jimplimentaw is-sistema fl-ambitu tal-istruzzjonijiet tal-fornitur għall-użu — kwalunkwe użu barra dak l-ambitu potenzjalment jerġa' jikklassifika l-istituzzjoni bħala fornitur.
• Jassenjaw responsabbiltajiet ta' sorveljanza umana lill-persunal bil-kompetenza, l-awtorità, u l-għodod biex jimmonitorjaw u jintervjenu fl-operazzjoni tas-sistema.
• Iżommu logs operazzjonali għal mill-inqas sitt xhur, jew aktar fejn il-leġislazzjoni settorjali applikabbli (viġilanza MDR, liġijiet tal-ħażna tar-rekords tal-isptar) teħtieġ dan.
• Jirrappurtaw inċidenti serji jew ħsarat lill-fornitur malajr, u fejn is-sikurezza tal-pazjent tkun implikata, lill-awtoritajiet tas-saħħa rilevanti taħt il-proċeduri ta' viġilanza tal-MDR Art. 87.
• Iwettqu valutazzjonijiet tal-impatt fuq id-drittijiet fundamentali (FRIAs) taħt Art. 27 fejn is-sistema AI tintuża biex tieħu jew tassisti deċiżjonijiet li jaffettwaw pazjenti individwali fuq skala wiesgħa.

Interazzjoni mal-MDR, l-IVDR, u l-GDPR

MDR u IVDR: ir-Reġim ta' Valutazzjoni tal-Konformità Doppja

Art. 6(1) tal-EU AI Act, moqri flimkien mal-Anness I, jistabbilixxi l-mogħdija tal-komponent tas-sikurezza. Fejn sistema AI hija komponent tas-sikurezza ta' prodott irregolat taħt il-MDR jew l-IVDR, il-valutazzjoni tal-konformità tal-EU AI Act għandha tiġi integrata fil-proċedura eżistenti tal-MDR/IVDR. Art. 8(1) tal-EU AI Act jagħti preċedenza lir-regoli settorjali tal-MDR/IVDR fejn dawn jimponu obbligi ekwivalenti jew aktar stretti, iżda ma jelimminax l-obbligi tal-AI Act — jaġġusta l-proċedura, mhux ir-rekwiżit.

Għal apparati mediċi tal-Klassi IIb u l-Klassi III b'AI inkorporata, valutazzjoni tal-korp innotifikat taħt l-Anness IX tal-MDR (ġestjoni tal-kwalità) jew l-Anness X (eżami tat-tip) hija obbligatorja. L-istess korp innotifikat, jekk maħtur taħt l-AI Act, jista' jwettaq il-valutazzjoni tal-konformità tal-AI Act bħala parti minn proċedura integrata. Għal SaMD tal-Klassi I (softwer bħala apparat mediku), il-manifatturi għandhom jivvalutaw b'mod indipendenti jekk is-sistema AI tikkwalifikax bħala ta' riskju għoli taħt l-AI Act fuq bażi oħra għajr Art. 6(1).

GDPR Art. 9 u d-Data tat-Taħriġ

Id-data tas-saħħa użata biex titħarreġ, tivvalidat, jew tittestja mudelli AI hija data ta' kategorija speċjali taħt GDPR Art. 9(1). L-ipproċessar huwa pprojbit fl-assenza ta' waħda mid-derogazzjonijiet f'Art. 9(2), l-aktar rilevanti:

• Art. 9(2)(a): kunsens espliċitu tas-suġġett tad-data
• Art. 9(2)(h): ipproċessar meħtieġ għad-dijanjosi mediċi jew il-forniment tal-kura tas-saħħa, soġġett għas-sigriet professjonali
• Art. 9(2)(j): riċerka xjentifika, soġġetta għas-salvagwardji tal-Art. 89

L-obbligi ta' governanza tad-data tal-Art. 10 tal-EU AI Act — li jeħtieġu d-dokumentazzjoni tal-oriġini, il-metodi tal-ġbir, ir-rappreżentattività, u l-limitazzjonijiet magħrufa tas-settijiet tad-data — għandhom jiġu ssodisfati b'mod konsistenti mal-bażi legali applikabbli tal-GDPR. L-użu retrospettiv ta' settijiet tad-data kliniċi mingħajr kunsens espliċitu jeħtieġ deroga ta' riċerka u, tipikament, l-approvazzjoni tal-kumitat tal-etika taħt ir-Regolament dwar it-Testijiet Kliniċi jew il-liġi nazzjonali applikabbli tal-riċerka.

Integrazzjoni tas-Sorveljanza ta' Wara t-Tqegħid fis-Suq

Kemm il-MDR (Art. 83, Segwitu Kliniku ta' Wara t-Tqegħid fis-Suq) kif ukoll l-EU AI Act (Art. 72, monitoraġġ ta' wara t-tqegħid fis-suq) jeħtieġu l-ġbir u l-analiżi kontinwi tad-data tal-prestazzjoni fil-ħajja reali. Fejn iż-żewġ japplikaw, sistema waħda integrata ta' sorveljanza ta' wara t-tqegħid fis-suq tista' tissodisfa ż-żewġ qafas, sakemm tikkattura l-punti tad-data meħtieġa minn kull wieħed — inklużi r-rekwiżiti tal-evidenza klinika tal-MDR u r-rekwiżiti tal-AI Act għal loggjar awtomatiku tal-operazzjoni tas-sistema AI.

Awtoritajiet ta' Infurzar

L-Aġenzija Ewropea tal-Mediċini u l-Aġenziji Nazzjonali tal-Mediċini

L-Aġenzija Ewropea tal-Mediċini (EMA) m'għandha ebda rwol dirett ta' infurzar taħt l-EU AI Act għal AI li mhijiex prodott mediċinali, iżda l-gwida tagħha dwar l-AI fl-iżvilupp ta' prodotti mediċinali u l-farmakoviġilanza hija awtoritattiva għall-kumpaniji tax-xjenzi tal-ħajja. L-aġenziji nazzjonali tal-mediċini — inklużi ANSM (Franza), BfArM (il-Ġermanja), u l-ekwivalenti tagħhom — jeżerċitaw l-awtorità ta' sorveljanza tas-suq tal-MDR u l-IVDR u jistgħu jinvestigaw sistemi AI inkorporati f'apparati mediċi bħala parti mill-mandat tagħhom ta' sorveljanza ta' wara t-tqegħid fis-suq.

Korpi Innotifikati

Għal sistemi AI ta' riskju għoli li huma komponenti tas-sikurezza ta' apparati mediċi, il-korpi innotifikati maħtura taħt l-MDR/IVDR u, separatament jew konġuntament, taħt l-EU AI Act iwettqu l-valutazzjonijiet tal-konformità. Iċ-ċertifikati tagħhom huma prerekwiżit għall-marka CE. Il-korpi innotifikati jistgħu jsospendu jew jirtiraw iċ-ċertifikati fejn is-sorveljanza ta' wara t-tqegħid fis-suq tikxef nuqqasijiet ta' konformità.

Awtoritajiet Nazzjonali ta' Sorveljanza tal-AI

Kull stat membru tal-UE ħatar jew qiegħed jaħtar awtorità nazzjonali ta' sorveljanza tal-AI (awtorità kompetenti taħt Art. 70 tal-EU AI Act). Fis-settur tas-saħħa, il-koordinazzjoni bejn l-awtorità ta' sorveljanza tal-AI u l-aġenzija nazzjonali tal-mediċini hija meħtieġa fejn il-ġurisdizzjoni tikkoinċidi. L-awtorità ta' sorveljanza tal-AI għandha s-setgħa li titlob dokumentazzjoni, twettaq awditi, timponi miżuri korrettivi, u tirreferi każijiet għal penali finanzjarji.

Pjan ta' Konformità — Prijoritajiet għall-AI fis-Saħħa

Pass 1: Klassifikazzjoni u Valutazzjoni tal-Ambitu

Ipponta l-AI kollha fl-iżvilupp jew fid-distribuzzjoni kontra Art. 6(1) (komponent tas-sikurezza ta' apparat mediku) u l-Anness III, punt 5(a) (aċċess għal servizzi essenzjali). Idddokumenta l-iskop maħsub ta' kull sistema b'preċiżjoni suffiċjenti biex tappoġġja d-deċiżjonijiet tal-klassifikazzjoni tal-AI Act u tal-MDR/IVDR. Ingaġġa konsulenti regolatorji biex jivvalutaw l-għodod CDS fil-konfini.

Pass 2: Ippjanar tal-Valutazzjoni tal-Konformità Doppja

Għal kull sistema AI ta' riskju għoli li hija wkoll apparat mediku, identifika r-rotta tal-valutazzjoni tal-konformità tal-MDR/IVDR applikabbli u ddetermina jekk il-korp innotifikat maħtur huwiex ukoll akkreditat taħt l-EU AI Act. Ippjana l-valutazzjoni tal-konformità bħala proċedura integrata fejn possibli biex tnaqqas id-duplikazzjoni.

Pass 3: Governanza tad-Data u Allinjament mal-GDPR

Awdita s-settijiet tad-data tat-taħriġ u l-validazzjoni għal sistemi AI tas-saħħa. Idddokumenta l-bażijiet legali taħt GDPR Art. 9(2) għad-data tas-saħħa kollha użata fl-iżvilupp tal-mudell. Stabbilixxi proċeduri ta' governanza tad-data taħt Art. 10 tal-EU AI Act u żgura li dawn ikunu riflessi fid-dokumentazzjoni teknika meħtieġa mill-Anness IV.

Pass 4: Protokolli ta' Sorveljanza Umana

Iddisinnja u implimenta mekkaniżmi ta' sorveljanza umana taħt Art. 14 għal kull distribuzzjoni ta' AI ta' riskju għoli. Is-sorveljanza għandha tkun realistika operazzjonalment: teħtieġ persunal imħarreġ, mekkaniżmi ta' intervent aċċessibbli, u integrazzjoni fil-flusso tax-xogħol — mhux kasella ta' verifika pro forma. Għas-sitwazzjonijiet ta' emerġenza b'pressjoni ta' żmien, id-disinn tas-sorveljanza jeħtieġ attenzjoni partikolari.

Pass 5: Integrazzjoni tas-Sorveljanza ta' Wara t-Tqegħid fis-Suq

Iddisinnja sistema ta' sorveljanza ta' wara t-tqegħid fis-suq li tissodisfa kemm l-Anness III tal-MDR (PMCF) kif ukoll ir-rekwiżiti tal-Art. 72 tal-EU AI Act. Stabbilixxi proċeduri ta' rappurtar ta' inċidenti li huma allinjati mal-iskadenzarji tal-viġilanza tal-MDR (Art. 87: inċidenti serji rappurtati fi żmien 15-il jum) u r-rappurtar ta' inċidenti serji tal-AI Act taħt Art. 73.

Pass 6: Diliġenza Dovuta tad-Depożitarju

Istituzzjonijiet tas-saħħa li jixtru għodod dijanjostiċi jew CDS tal-AI ta' partijiet terzi għandhom jeħtieġu lill-fornituri jipproduċu d-Dikjarazzjoni tal-UE tal-Konformità, l-istruzzjonijiet għall-użu, u sommarju tad-dokumentazzjoni teknika. Il-kuntratti tal-akkwist għandhom jispeċifikaw l-obbligi taż-żamma tal-logs, ir-responsabbiltajiet tar-rappurtar tal-inċidenti, u l-konfini tal-ambitu tal-użu permess biex jiġi evitat ir-riklassifikar involontarju bħala fornitur.