Settur Pubbliku u Ġustizzja — Konformità mal-EU AI Act

Obbligi tal-EU AI Act għall-użu tal-AI fl-amministrazzjoni pubblika, l-infurzar tal-liġi, il-kontroll tal-fruntieri, u s-sistema tal-ġustizzja. Jkopri l-kategoriji 5-8 tal-Anness III u l-valutazzjonijiet mandatorji tal-impatt fuq id-drittijiet fundamentali.

Is-Settur Pubbliku u l-AI Act — Għaliex il-Gvern Huwa l-Aktar Deployer ta' Riskju Għoli

L-EU AI Act (Regolament (UE) 2024/1689) japplika orizzontalment fis-setturi kollha, iżda l-akbar piż tal-obbligi mandatorji jaqa' fuq il-korpi pubbliċi. L-aġenziji governattivi, l-awtoritajiet tal-infurzar tal-liġi, l-istituzzjonijiet ġudizzjarji, u l-korpi tal-ġestjoni tal-fruntieri huma kemm l-akbar deployers ta' AI konsegwenzjali kif ukoll l-entitajiet li l-użu tagħhom tal-AI joħloq l-akbar riskju strutturali għad-drittijiet fundamentali. L-Att jirrifletti din l-asimmetrija b'żewġ modi strutturali.

L-ewwel, erba' mill-kategoriji ta' riskju għoli tal-Anness III jindirizzaw direttament l-AI fis-settur pubbliku — il-kategoriji 5 sa 8 jkopru s-servizzi pubbliċi essenzjali, l-infurzar tal-liġi, il-migrazzjoni u l-kontroll tal-fruntieri, u l-amministrazzjoni tal-ġustizzja. Dawn il-kategoriji mhumiex catch-alls residwali: jenumeraw applikazzjonijiet speċifiċi ta' AI komunement użati fl-operazzjonijiet governattivi li jġorru riskju ta' livell ta' klassifikazzjoni bħala definizzjoni.

It-tieni, l-Art. 27 jimponi valutazzjoni mandatorja tal-impatt fuq id-drittijiet fundamentali (FRIA) fuq il-korpi pubbliċi qabel ma jużaw sistemi ta' AI ta' riskju għoli. Għad-deployers tas-settur privat, il-FRIA hija rrakkomandata b'mod qawwi; għall-korpi pubbliċi, hija obbligu legali. Il-valutazzjoni trid teżamina l-impatt tas-sistema ta' AI fuq id-drittijiet tal-individwi taħt il-Karta tad-Drittijiet Fundamentali tal-UE, inklużi d-dritt għad-dinjità (Art. 1), il-protezzjoni tad-dejta personali (Art. 8), id-dritt għal rimedju effettiv (Art. 47), u l-preżunzjoni tal-innoċenza (Art. 48).

Il-pajsaġġ tal-konformità għall-korpi pubbliċi huwa ulterjorment ikkumplikat bil-stratifikazzjoni tal-obbligi tal-AI Act fuq reġimi eżistenti speċifiċi għas-settur: id-Direttiva dwar l-Infurzar tal-Liġi 2016/680, ir-Regolament tas-Sistema ta' Informazzjoni Schengen, ir-Regolament ta' Frontex 2019/1896, ir-Regolament Ġenerali dwar il-Protezzjoni tad-Dejta, u r-rekwiżiti kostituzzjonali tal-Konvenzjoni Ewropea dwar id-Drittijiet tal-Bniedem kif interpretati mill-Qorti Ewropea tad-Drittijiet tal-Bniedem. Kull wieħed minn dawn il-qfases joħloq obbligi indipendenti li jridu jiġu ssodisfati b'mod parallel mar-rekwiżiti tal-EU AI Act.

Sistemi ta' AI ta' Riskju Għoli — Kategoriji 5 sa 8

Anness III, Kategorija 5 — Servizzi Pubbliċi Essenzjali u Valutazzjoni tal-Benefiċċji

L-Anness III, punt 5(b) jikklassifika bħala ta' riskju għoli kwalunkwe sistema ta' AI użata biex tevalwa l-eliġibbiltà ta' persuni fiżiċi għal servizzi ta' benefiċċju pubbliku essenzjali u biex tieħu deċiżjonijiet f'dak il-kuntest. Din il-kategorija tinkludi l-firxa sħiħa tal-AI tal-istat soċjali:

• Valutazzjoni awtomatizzata tal-benefiċċji tal-qgħad: Sistemi ta' AI li jiddeterminaw jekk applikant jissodisfax il-kriterji ta' eliġibbiltà bbażati fuq rekords ta' impjieg, attività ta' tfittxija ta' xogħol, jew valutazzjonijiet tal-mezzi.
• Deċiżjonijiet dwar l-akkomodazzjoni u l-allowance tad-diżabbiltà: Għodod algoritmici li jiskurjaw applikazzjonijiet għal prijorità ta' akkomodazzjoni soċjali, dritt għal benefiċċju tad-diżabbiltà, jew ħlasijiet ta' indipendenza personali.
• Skoperta ta' frodi fl-assistenza soċjali: Sistemi ta' profilatura tal-AI li jiġġeneraw skores ta' riskju għall-frodi suspettat ta' benefiċċji, li potenzjalment jistgħu jibdew investigazzjonijiet jew is-sospensjoni tal-ħlas.

Il-punt 5(b) jkopri wkoll l-AI dwar il-kreditu u l-assigurazzjoni f'relazzjoni ma' persuni fiżiċi, għalkemm l-espożizzjoni primarja tas-settur pubbliku hija fl-eliġibbiltà għal benefiċċji u servizzi. F'ogni każ, il-klassifikazzjoni tintrabat meta s-sistema ta' AI jkollha influwenza materjali fuq l-aċċess għal servizz pubbliku — irrispettivament minn jekk id-deċiżjoni finali tiġix meħuda minn uffiċjal uman.

Anness III, Kategorija 6 — Infurzar tal-Liġi

Il-Kategorija 6 tkopri l-AI użata mill-awtoritajiet tal-infurzar tal-liġi fi tliet dominji:

Valutazzjoni tar-riskju u profilatura: Sistemi ta' AI li jevalwaw il-probabbiltà ta' individwu li jikkommetti reat kriminali, jirreċidiva, jew joħloq theddida ta' sigurtà — inklużi għodod ta' scoring ta' reċidività użati f'seduti ta' detenzjoni qabel il-proċess, deċiżjonijiet dwar il-parole, u rakkomandazzjonijiet ta' sentenza. Dawn is-sistemi huma ta' riskju għoli taħt l-Anness III, punt 6(a).

Skoperta u analiżi waqt investigazzjonijiet: AI għall-iskoperta ta' stati emozzjonali, karatteristiċi tal-personalità, jew imġiba qarrieqa minn espressjonijiet tal-wiċċ, leħen, jew indikaturi fiżjoloġiċi użati f'investigazzjonijiet kriminali. L-Art. 5(1)(f) jipprojbixxi separatament sistemi ta' AI li jinferixxu l-emozzjonijiet ta' individwi f'kuntest tal-infurzar tal-liġi u l-ġestjoni tal-fruntieri ħlief għal finijiet speċifiċi ta' sikurezza, billi jistabbilixxi konfini esterni ċari madwar dan il-każ ta' użu.

Skoperta ta' deepfakes u dokumenti: AI użata biex tiskopri kontenut diġitali manipulat jew tevalwa l-awtentiċità ta' dokumenti fi proċedimenti kriminali — ikklassifikata bħala ta' riskju għoli taħt l-Anness III, punt 6(c).

Anness III, Kategorija 7 — Migrazzjoni, Asil, u Kontroll tal-Fruntieri

Il-Kategorija 7 tapplika għall-AI użata fil-kuntest tal-migrazzjoni u l-ġestjoni tal-fruntieri:

Valutazzjoni tar-riskju fil-fruntieri: Sistemi ta' AI li jevalwaw ir-riskju ta' migrazzjoni irregolari jew jiġġeneraw skores ta' theddida għal individwi li jaqsmu l-fruntieri — inklużi għodod ta' profilatura integrati mas-SIS u sistemi ta' analiżi tar-riskju ta' Frontex li joperaw taħt ir-Regolament 2019/1896.

Verifikazzjoni ta' dokumenti u identità: Sistemi ta' AI li jevalwaw l-awtentiċità ta' dokumenti tal-ivvjaġġar, viżi, permessi ta' residenza, jew dokumenti ta' identità għall-qsim tal-fruntieri jew għal finijiet ta' immigrazzjoni.

Ipproċessar ta' applikazzjonijiet ta' asil: AI li teżamina applikazzjonijiet ta' asil, tevalwa l-kredibbiltà ta' talbiet individwali, jew tipprofilaw l-applikanti għal proċeduri akkelerati jew ta' eżpedjenza.

Is-sistemi kollha tal-kategorija 7 iridu jiġu evalwati għall-konformità mhux biss mal-AI Act iżda mal-Konvenzjoni dwar ir-Refuġjati (1951), l-Art. 18 tal-Karta tal-UE (id-dritt ta' asil), u l-prinċipju ta' non-refoulement kif interpretat fil-ġurisprudenza tal-ECHR — restrizzjoni kostituzzjonali li l-FRIA taħt l-Art. 27 trid tindirizza espressament.

Anness III, Kategorija 8 — Amministrazzjoni tal-Ġustizzja u Proċessi Demokratiċi

Il-Kategorija 8 tindirizza l-AI użata fis-sistema tal-ġustizzja nnifisha:

AI ta' appoġġ ġudizzjarju: Sistemi li jassistaw fir-riċerka tal-ġurisprudenza, l-identifikazzjoni tad-dispożizzjonijiet legali applikabbli, jew l-istrutturar tar-raġunament legali għall-imħallfin, il-prosekuturi, jew l-amministraturi tal-qorti — ta' riskju għoli taħt l-Anness III, punt 8(a).

Għodod ta' ġustizzja predittiva: Sistemi ta' AI li jipprevedu r-riżultat probabbli tal-litigazzjoni, il-firxiet ta' sentenza, jew id-deċiżjonijiet ġudizzjarji bbażati fuq dejta storika tal-kawżi. Dawn is-sistemi jqajmu tħassib akut taħt l-Art. 47 tal-Karta tal-UE rigward id-dritt għal proċess ġust, peress li l-użu tagħhom fit-teħid ta' deċiżjonijiet ġudizzjarji jista' jżvantaġġa strutturalment partijiet li l-profili tagħhom jiddevjaw min-normi storiċi.

Il-Kategorija 8 ma tipprojbixxix ix-xogħol ġudizzjarju assistit mill-AI; tissoġġettah għar-reġim ta' konformità ta' riskju għoli u teħtieġ li l-qrati u l-ministeri tal-ġustizzja jiżguraw li l-outputs tal-AI ikunu dejjem suġġetti għal reviżjoni umana sostantiva — l-imħallef jew it-teħid tad-deċiżjonijiet irid ikun jista' jinjora l-output tal-AI fejn mhuwiex xieraq, u fil-prattika dan irid isir.

Obbligi Mandatorji għad-Deployers tal-Korpi Pubbliċi

Il-korpi pubbliċi li jaġixxu bħala deployers ta' sistemi ta' AI ta' riskju għoli taħt l-AI Act iġorru sett definit u mhux delegabbli ta' obbligi taħt l-Art. 26 u l-Art. 27.

Valutazzjoni tal-Impatt fuq id-Drittijiet Fundamentali (Art. 27)

Il-FRIA hija l-obbligu l-aktar distintiv għad-deployers pubbliċi. Trid titwettaq qabel id-deployment u trid tindirizza: l-għanijiet speċifiċi li jaffettwaw id-drittijiet tas-sistema; il-kategoriji ta' individwi li d-drittijiet tagħhom jistgħu jiġu affettwati; ir-riskji prevedibbli ta' ħsara u l-probabbiltà u s-severità ta' dawk ir-riskji; kif is-salvagwardji legali eżistenti jnaqqsu dawk ir-riskji; u l-miżuri meħuda biex tiġi monitorata s-sistema wara d-deployment. Il-FRIA kompluta trid tiġi pprovduta lill-awtorità nazzjonali ta' superviżjoni tal-AI fuq talba u trid tiġi aġġornata meta s-sistema tiġi modifikata jew użata f'kuntest ġdid.

Sorveljanza Umana u Responsabbiltà Designata

L-Art. 26(1) jeħtieġ mid-deployers li jassenjaw is-sorveljanza umana tas-sistemi ta' AI ta' riskju għoli lil persuni fiżiċi bil-kompetenza, l-awtorità, u r-riżorsi meħtieġa biex jintervjenu. Fl-amministrazzjoni pubblika, dan ifisser li kull proċess awtomatizzat li jaffettwa individwi — kemm jekk ikun eliġibbiltà ta' benefiċċju, scoring ta' riskju fil-fruntieri, jew output ta' appoġġ ġudizzjarju — irid ikollu uffiċjal identifikat li jista' jegħleb l-output tas-sistema u li mhuwiex strutturalment inċentivat biex jiddeferixxi għaliha.

Trasparenza lejn l-Individwi Affettwati

L-Art. 13 jeħtieġ mid-deployers li jiżguraw li l-individwi suġġetti għal deċiżjonijiet assistiti mill-AI ikunu infurmati b'mod ċar li qed tintuża sistema ta' AI. Fl-amministrazzjoni pubblika, dan l-obbligu tipikament jeħtieġ li tiġi inserta dikjarazzjonijiet tal-użu tal-AI f'ittri ta' deċiżjoni, komunikazzjonijiet amministrattivi, u proċeduri ta' smigħ. L-Art. 86 jipproteġi l-kunfidenzjalità tad-dejta ppreżentata lill-awtoritajiet ta' superviżjoni fil-kuntest tal-monitoraġġ tal-konformità, u jipprovdi rotta għad-dokumentazzjoni interna sensittiva biex tiġi żvelata mingħajr espożizzjoni pubblika.

Logging, Żamma ta' Rekords, u Rappurtar ta' Inċidenti

Id-deployers iridu jżommu logs operattivi tal-attività tas-sistema ta' AI għal perjodu minimu — mill-inqas sitt xhur għall-aktar sistemi ta' riskju għoli, b'żamma estiża fejn il-qafas legali li jirregola l-proċess amministrattiv sottostanti jitlob hekk. Inċidenti serji — inċidenti li jirriżultaw f'mewt, korriment serju, ħsara materjali sinifikanti, jew ksur tad-drittijiet fundamentali — iridu jiġu rrappurtati lill-awtorità nazzjonali kompetenti ta' superviżjoni tal-AI mingħajr dewmien żejjed.

Prattiki Projbiti fl-Amministrazzjoni Pubblika

Ċerti prattiki tal-AI huma assolutament projbiti taħt l-Art. 5 tal-EU AI Act. Għall-awtoritajiet pubbliċi, tliet projbizzjonijiet huma ta' relevanza operattiva diretta.

Art. 5(1)(c) — Social scoring mill-awtoritajiet pubbliċi: Sistemi ta' AI li jevalwaw jew jikklassifikaw individwi bbażati fuq l-imġiba soċjali tagħhom jew il-karatteristiċi tal-personalità biex jiġġeneraw skors użat biex jiddeterminaw l-aċċess għal servizzi pubbliċi, benefiċċji, jew trattament legali huma projbiti. Din il-projbizzjoni hija speċifikament diretta lejn l-awtoritajiet pubbliċi u timmira lejn il-mekkaniżmi hekk imsejħa ta' kreditu soċjali irrispettivament minn kif jiġu etikettati jew strutturati.

Art. 5(1)(d) — Identifikazzjoni bijometrika remota f'ħin reali f'spazji pubbliċi: L-użu ta' sistemi ta' identifikazzjoni bijometrika remota f'ħin reali bl-AI (rikonoxximent tal-wiċċ, analiżi tal-andatura, jew għodod bijometriċi oħra) f'spazji aċċessibbli pubblikament mill-awtoritajiet tal-infurzar tal-liġi huwa projbit, suġġett għal tliet eċċezzjonijiet dojoq: tfittxijiet immiratati għat-tfal neqsin; prevenzjoni ta' theddidiet speċifiċi u imminenti ta' terroriżmu; u l-identifikazzjoni ta' suspettati f'reati serji fejn tkun inkisbet awtorizzazzjoni ġudizzjarja minn qabel jew amministrattiva indipendenti. Dawn l-eċċezzjonijiet huma eżawrjenti; l-ebda programm ġenerali ta' sorveljanza ma jikkwalifika.

Art. 5(1)(e) — Tekniki subliminali u manipulattivi: Sistemi ta' AI li jużaw tekniki li joperaw taħt il-livell tal-kuxjenza konxja biex jipperiklaw l-imġiba individwali, jew li jisfruttaw il-vulnerabbiltajiet ta' gruppi speċifiċi, huma projbiti għall-deployers kollha inklużi l-awtoritajiet pubbliċi.

Infurzar — Awtoritajiet ta' Superviżjoni u Mekkaniżmi ta' Sorveljanza

L-arkitettura tal-infurzar tal-AI Act fis-settur pubbliku tinvolvi diversi livelli ta' awtorità kompetenti.

L-awtoritajiet nazzjonali ta' superviżjoni tal-AI designati taħt l-Art. 70 huma l-korpi primarju tal-infurzar tal-Att f'kull stat membru. Fil-biċċa l-kbira tal-ġurisdizzjonijiet, dawn huma jew se jiġu integrati ma' jew allinjati mill-qrib mal-awtoritajiet eżistenti tal-protezzjoni tad-dejta. Għandhom is-setgħa li jwettqu awditi, jitolbu dokumentazzjoni teknika u riżultati tal-FRIA, joħorġu ordnijiet korrettivi, u jimponu multi amministrattivi.

Il-multi għall-korpi pubbliċi huma suġġetti għad-diskrezzjoni tal-istat membru taħt l-Art. 99(6): l-istati membri jistgħu jipprovdu li l-awtoritajiet pubbliċi ma jkunux suġġetti għal penali monetarji, iżda jridu jiżguraw li mekkaniżmi alternattivi ta' superviżjoni u korrezzjoni — inklużi awditi mandatorji, pubblikazzjoni ta' sejbiet ta' nuqqas ta' konformità, u sospensjoni tal-użu tas-sistema ta' AI — ikunu disponibbli. Din id-diskrezzjoni ma testendix biex tippermetti l-inosservanza; tikkonċerna biss il-mekkaniżmu tal-penali finanzjarja.

L-awtoritajiet tal-protezzjoni tad-dejta (DPAs) u l-EDPB iżommu kompetenza parallela fuq id-dimensjonijiet tal-ipproċessar tad-dejta personali tal-AI fis-settur pubbliku taħt il-GDPR u l-LED. In-nuqqas ta' konformità mal-obbligi tal-GDPR jew tal-LED fil-kuntest tal-operat tas-sistema ta' AI huwa suġġett għall-infurzar tal-DPA indipendentement mill-awtorità ta' superviżjoni tal-AI Act.

Il-Qorti Ewropea tad-Drittijiet tal-Bniedem tikkostitwixxi restrizzjoni kostituzzjonali esterna: deċiżjonijiet meħuda abbażi ta' proċessi algoritmici — partikolarment fil-ġustizzja kriminali u l-immigrazzjoni — iridu jissodisfaw l-istandards tal-Konvenzjoni għal l-Art. 6 (proċess ġust) u l-Art. 8 (ħajja privata) kif interpretati fil-ġurisprudenza li evolvi tal-ECHR dwar it-teħid awtomatizzat tad-deċiżjonijiet.

Pjan ta' Implimentazzjoni għall-Aġenziji Governattivi

Fażi 1 — Inventarju u Klassifikazzjoni tas-Sistemi ta' AI (Xhur 1-3)

Il-korpi pubbliċi jridu l-ewwel jistabbilixxu inventarju komprensiv tas-sistemi ta' AI kollha li bħalissa qed jintużaw jew taħt akkwist. Kull sistema trid tiġi evalwata kontra l-kategoriji 5-8 tal-Anness III u d-dispożizzjonijiet tal-projbizzjoni tal-Art. 5. Is-sistemi li jinvolvu l-ipproċessar ta' dejta personali għandhom jiġu evalwati simultanjament kontra r-rekwiżiti tal-GDPR u tal-LED. L-output ta' din il-fażi huwa inventarju klassifikat — projbit, ta' riskju għoli, ta' riskju limitat, jew ta' riskju minimu — li jmexxi l-programm ta' konformità.

Fażi 2 — Valutazzjonijiet tal-Impatt fuq id-Drittijiet Fundamentali (Xhur 3-6)

Għal kull sistema ta' riskju għoli identifikata, il-korpi pubbliċi jridu jikkummissjonaw u jitlestew FRIA taħt l-Art. 27. Dan jeħtieġ input legali, tekniku, u politiku: analiżi legali tad-drittijiet inkwistjoni; dokumentazzjoni teknika tal-operat tas-sistema, id-dejta tal-taħriġ, u l-modalitajiet ta' falliment magħrufa; u valutazzjoni politika tal-miżuri ta' mitigazzjoni disponibbli. Il-FRIAs iridu jiġu ddokumentati u lesti għall-preżentata lill-awtoritajiet ta' superviżjoni.

Fażi 3 — Verifikazzjoni tal-Fornitur u Riforma tal-Akkwist (Xhur 3-9)

Il-proċessi tal-akkwist pubbliku jridu jiġu aġġornati biex jeħtieġu li l-fornituri ta' AI juru l-konformità mal-EU AI Act bħala kundizzjoni tal-għoti tal-kuntratt. Id-deployers iridu jivverifikaw il-marka CE, id-Dikjarazzjoni tal-Konformità, id-dokumentazzjoni teknika, u l-impenji ta' monitoraġġ wara t-tqegħid fis-suq qabel id-deployment. Il-korpi pubbliċi li jaġixxu bħala operaturi konġunti jew ko-żviluppaturi ma' bejjiegħa tat-teknoloġija jridu jikkjarifiku l-allokazzjoni tar-responsabbiltà għall-obbligi ta' valutazzjoni tal-konformità b'mod kuntrattwali.

Fażi 4 — Salvagwardji Operattivi u Taħriġ tal-Persunal (Xhur 6-12)

L-uffiċjali designati ta' sorveljanza umana jridu jiġu identifikati għal kull sistema ta' AI ta' riskju għoli, imħarrġa fil-kapaċitajiet u l-limitazzjonijiet tas-sistema, u mgħammra bi proċeduri ta' override. L-avviżi ta' trasparenza għall-individwi affettwati jridu jiġu abbozzati u integrati fil-proċeduri amministrattivi eżistenti. L-infrastruttura tal-logging trid tiġi verifikata jew stabbilita. Il-protokolli ta' rappurtar tal-inċidenti jridu jiġu integrati mal-proċessi eżistenti tal-ġestjoni tal-inċidenti amministrattivi u tal-protezzjoni tad-dejta.

Fażi 5 — Monitoraġġ Kontinwu u Reviżjoni Annwali

Il-konformità tas-sistema ta' AI ta' riskju għoli mhijiex eżerċizzju ta' ċertifikazzjoni li jsir darba. L-obbligi ta' monitoraġġ wara t-tqegħid fis-suq jeħtieġu li l-korpi pubbliċi jsegwu b'mod attiv il-prestazzjoni tas-sistema, jiddokumentaw kwalunkwe bidla fl-eżattezza, il-preġudizzju, jew l-imġiba, u jaġġornaw il-FRIAs meta jseħħu bidliet materjali. Ir-rappurtar annwali lill-awtorità ta' superviżjoni, fejn meħtieġ taħt il-liġi nazzjonali, irid jiġi appoġġat mid-dokumentazzjoni ġġenerata permezz tal-programm ta' monitoraġġ.