Közszféra és igazságszolgáltatás — EU AI Act megfelelés

Az EU AI Act szerinti kötelezettségek mesterséges intelligencia alkalmazásához a közigazgatásban, a bűnüldözésben, a határellenőrzésben és az igazságszolgáltatásban. Kiterjed az Annex III 5–8. kategóriájára és az alapvető jogokra vonatkozó kötelező hatásvizsgálatra.

A közszféra és az AI Act — miért a kormányzat a legmagasabb kockázatú üzemeltető

Az EU AI Act (Regulation (EU) 2024/1689) horizontálisan, az összes ágazatra vonatkozik, azonban a kötelező kötelezettségek legsűrűbb koncentrációja a közintézményekre nehezedik. A kormányzati szervek, a bűnüldöző hatóságok, az igazságügyi intézmények és a határigazgató szervek egyrészt a következményekkel járó mesterséges intelligencia legintenzívebb alkalmazói, másrészt azok az intézmények, amelyek mesterséges intelligencia-használata a legnagyobb strukturális kockázatot jelenti az alapvető jogokra nézve. Az AI Act ezt az aszimmetriát két strukturális eszközzel tükrözi vissza.

Egyrészt az Annex III nyolc magas kockázatú kategóriájából négy közvetlenül a közszféra mesterséges intelligencia-alkalmazásait érinti — az 5–8. kategória az alapvető közszolgáltatásokat, a bűnüldözést, a migrációt és a határellenőrzést, valamint az igazságszolgáltatást fedi le. Ezek a kategóriák nem maradékelvű gyűjtőkategóriák: konkrét, a közigazgatási gyakorlatban elterjedt és definíció szerint osztályozási szintű kockázatot hordozó mesterséges intelligencia-alkalmazásokat sorolnak fel.

Másrészt az Art. 27 kötelező alapvető jogokra vonatkozó hatásvizsgálatot (FRIA) ír elő a közintézmények számára, amelyet magas kockázatú mesterséges intelligencia rendszerek üzembe helyezése előtt kell elvégezni. Magánszektorbeli üzemeltetők esetén a FRIA erősen ajánlott; közintézmények esetén jogszabályi kötelezettség. A hatásvizsgálatnak vizsgálnia kell a mesterséges intelligencia rendszernek az egyének EU Alapjogi Chartája szerinti jogaira gyakorolt hatását, beleértve az emberi méltósághoz való jogot (Art. 1), a személyes adatok védelmét (Art. 8), a hatékony jogorvoslathoz való jogot (Art. 47) és az ártatlanság vélelmét (Art. 48).

A közintézményekre vonatkozó megfelelési környezetet tovább bonyolítja, hogy az AI Act kötelezettségei egymásra rétegződnek a már meglévő ágazatspecifikus szabályozásokon: a 2016/680/EU Bűnüldözési Irányelven, a Schengeni Információs Rendszert szabályozó rendeleten, a 2019/1896/EU Frontex-rendeleten, az Általános Adatvédelmi Rendeleten és az Emberi Jogok Európai Bírósága által értelmezett Emberi Jogok Európai Egyezményének alkotmányos követelményein. Mindezen keretek egymástól független kötelezettségeket teremtenek, amelyeket az EU AI Act követelményeivel párhuzamosan kell teljesíteni.

Magas kockázatú mesterséges intelligencia rendszerek — az 5–8. kategória

Annex III, 5. kategória — Alapvető közszolgáltatások és juttatások értékelése

Az Annex III, 5(b) pontja magas kockázatúnak minősíti azokat a mesterséges intelligencia rendszereket, amelyek természetes személyek alapvető közszolgáltatásokra való jogosultságának értékelésére és az ezzel kapcsolatos döntések meghozatalára szolgálnak. Ez a kategória a jóléti állami mesterséges intelligencia teljes spektrumát lefedi:

• Automatizált munkanélküli-ellátás értékelése: Olyan mesterséges intelligencia rendszerek, amelyek foglalkoztatási nyilvántartások, álláskeresési tevékenység vagy vagyoni felmérések alapján határozzák meg, hogy a kérelmező megfelel-e a jogosultsági feltételeknek.
• Lakástámogatási és rokkantsági ellátással kapcsolatos döntések: Olyan algoritmikus eszközök, amelyek pontozzák a szociális lakásra való igényjogosultság iránt benyújtott kérelmeket, a rokkantsági ellátásra való jogosultságot, vagy a személyes gondoskodási kifizetéseket.
• Szociális segélyekkel való visszaéléssel kapcsolatos mesterségesintelligencia-profilozás: Olyan mesterséges intelligencia profilozó rendszerek, amelyek kockázati pontszámokat generálnak a feltételezett ellátási visszaélésekre, potenciálisan vizsgálatokat vagy kifizetési felfüggesztést idézve elő.

Az 5(b) pont emellett kiterjed a természetes személyek hitelképességi és biztosítási mesterséges intelligenciájára is, bár a közszféra elsődleges kitettsége a juttatási és szolgáltatási jogosultság területén áll fenn. Minden esetben a besorolás akkor kapcsolódik be, ha a mesterséges intelligencia rendszer érdemi hatással bír valamely közszolgáltatáshoz való hozzáférésre — függetlenül attól, hogy a végső döntést emberi tisztviselő hozza-e meg.

Annex III, 6. kategória — Bűnüldözés

A 6. kategória a bűnüldöző hatóságok által három területen alkalmazott mesterséges intelligenciát foglalja magában:

Kockázatértékelés és profilozás: Olyan mesterséges intelligencia rendszerek, amelyek értékelik annak valószínűségét, hogy egy személy bűncselekményt követ el, visszaesővé válik, vagy biztonsági fenyegetést jelent — beleértve az előzetes letartóztatási meghallgatásokon, feltételes szabadon bocsátással kapcsolatos döntésekben és szankcióajánlásokban alkalmazott visszaesési kockázatot értékelő eszközöket. Ezek a rendszerek az Annex III, 6(a) pontja alapján magas kockázatúnak minősülnek.

Nyomozás során alkalmazott észlelési és elemzési eljárások: Arckifejezésekből, hangból vagy fiziológiai jelekből érzelmi állapotokat, személyiségjegyeket vagy megtévesztő magatartást detektáló mesterséges intelligencia büntetőügyi nyomozásokban való alkalmazása. Az Art. 5(1)(f) külön megtiltja a bűnüldözési és határellenőrzési kontextusban alkalmazott, egyének érzelmeit következtető mesterséges intelligencia rendszereket, meghatározott biztonsági célok kivételével, és ezzel egyértelmű külső határt húz ezen alkalmazási kör köré.

Deepfake- és dokumentumhamisítás-detektálás: Büntetőeljárásokban manipulált digitális tartalmak észlelésére vagy dokumentumok hitelességének vizsgálatára használt mesterséges intelligencia — az Annex III, 6(c) pontja alapján magas kockázatú besorolású.

Annex III, 7. kategória — Migráció, menedékjog és határellenőrzés

A 7. kategória a migrációs és határigazgatási kontextusban alkalmazott mesterséges intelligenciára vonatkozik:

Kockázatértékelés a határokon: Olyan mesterséges intelligencia rendszerek, amelyek a határt átlépő személyek esetében szabálytalan migrációs kockázatot értékelnek vagy fenyegetési pontszámokat generálnak — beleértve a SIS-szel integrált profilozó eszközöket és a 2019/1896/EU rendelet alapján működő Frontex kockázatelemző rendszereket.

Dokumentum- és személyazonosság-ellenőrzés: Olyan mesterséges intelligencia rendszerek, amelyek határokon való átkelés vagy bevándorlási eljárások céljából úti okmányok, vízumok, tartózkodási engedélyek vagy személyazonosító okmányok hitelességét vizsgálják.

Menedékkérelmek feldolgozása: Olyan mesterséges intelligencia, amely menedékkérelmeket vizsgál, az egyéni kérelmek hitelességét értékeli, vagy a kérelmezőket gyorsított vagy felgyorsított eljárásra profilozza.

A 7. kategória valamennyi rendszerét nem csupán az AI Act, hanem az 1951. évi Menekültügyi Egyezmény, az EU Alapjogi Charta Art. 18 (menedékjog) és az ECHR ítélkezési gyakorlata által értelmezett visszaküldés tilalmának elve alapján is vizsgálni kell — ez olyan alkotmányos korlát, amellyel az Art. 27 szerinti FRIA-nak kifejezetten foglalkoznia kell.

Annex III, 8. kategória — Az igazságszolgáltatás igazgatása és demokratikus folyamatok

A 8. kategória az igazságszolgáltatás rendszerén belül alkalmazott mesterséges intelligenciát érinti:

Igazságszolgáltatást támogató mesterséges intelligencia: Bírák, ügyészek vagy bírósági tisztviselők számára ítélkezési gyakorlat kutatásában, alkalmazandó jogszabályhelyek azonosításában vagy jogi érvelés strukturálásában segédkező rendszerek — az Annex III, 8(a) pontja alapján magas kockázatú besorolású.

Prediktív igazságszolgáltatási eszközök: Olyan mesterséges intelligencia rendszerek, amelyek historikus ügyadatok alapján jogvita valószínű kimenetelét, szankcióterjedelmeket vagy bírói döntéseket jeleznek előre. Ezek a rendszerek súlyos aggályokat vetnek fel az EU Alapjogi Charta Art. 47 alapján a tisztességes eljáráshoz való joggal kapcsolatban, mivel bírói döntéshozatalban való alkalmazásuk strukturálisan hátrányos helyzetbe hozhatja azokat a feleket, akiknek profilja eltér a historikus normáktól.

A 8. kategória nem tiltja a mesterséges intelligencia által támogatott bírói munkát; azt a magas kockázatú megfelelési rendszer hatálya alá vonja, és előírja, hogy a bíróságok és az igazságügyi minisztériumok gondoskodjanak arról, hogy a mesterséges intelligencia kimenetei mindig érdemi emberi felülvizsgálat tárgyát képezzék — a bírónak vagy döntéshozónak képesnek kell lennie arra, és a gyakorlatban valóban mellőznie kell a mesterséges intelligencia kimenetét, amennyiben az nem megfelelő.

Kötelező kötelezettségek a közintézményi üzemeltetők számára

Az AI Act alapján magas kockázatú mesterséges intelligencia rendszerek üzemeltetőjeként eljáró közintézmények az Art. 26 és az Art. 27 alapján meghatározott, nem delegálható kötelezettségeket viselnek.

Alapvető jogokra vonatkozó hatásvizsgálat (Art. 27)

A FRIA a közintézményi üzemeltetők legsajátosabb kötelezettsége. Elvégzésére az üzembe helyezés előtt kell sort keríteni, és ki kell térnie a következőkre: a rendszer konkrét, jogokat érintő céljai; azon személyek kategóriái, akiknek jogai érintve lehetnek; a sérelem előre látható kockázatai, valamint e kockázatok valószínűsége és súlyossága; a meglévő jogi garanciák miként enyhítik ezeket a kockázatokat; és a rendszer üzembe helyezést követő figyelemmel kísérése érdekében tett intézkedések. Az elkészített FRIA-t kérésre be kell nyújtani a nemzeti mesterséges intelligencia felügyeleti hatósághoz, és frissíteni kell, ha a rendszert módosítják vagy új kontextusban alkalmazzák.

Emberi felügyelet és kijelölt felelősség

Az Art. 26(1) értelmében az üzemeltetőknek a magas kockázatú mesterséges intelligencia rendszerek emberi felügyeletét a beavatkozáshoz szükséges szakértelemmel, jogkörrel és erőforrásokkal rendelkező természetes személyekre kell bízniuk. A közigazgatásban ez azt jelenti, hogy minden egyéneket érintő automatizált folyamathoz — legyen szó juttatási jogosultságról, határon végzett kockázati pontozásról vagy igazságszolgáltatást támogató kimenetről — egy azonosított tisztviselőt kell rendelni, aki felülbírálhatja a rendszer kimenetét, és akit nem ösztönöz strukturálisan arra, hogy annak engedjen.

Átláthatóság az érintett személyek felé

Az Art. 13 kötelezi az üzemeltetőket arra, hogy gondoskodjanak arról, hogy a mesterséges intelligencia által támogatott döntések hatálya alá eső személyek egyértelműen tájékoztatást kapjanak arról, hogy mesterséges intelligencia rendszert alkalmaznak. A közigazgatásban ez a kötelezettség általában megköveteli a mesterséges intelligencia alkalmazásáról szóló tájékoztatás beillesztését a döntéslevelekbe, a közigazgatási kommunikációba és a meghallgatási eljárásokba. Az Art. 86 védi a megfelelési ellenőrzés keretében a felügyeleti hatóságokhoz benyújtott adatok bizalmasságát, lehetőséget teremtve arra, hogy az érzékeny belső dokumentáció nyilvános közzététel nélkül kerüljön feltárásra.

Naplózás, nyilvántartás-vezetetés és incidens-bejelentés

Az üzemeltetőknek meghatározott minimális időtartamig meg kell őrizniük a mesterséges intelligencia rendszer tevékenységének működési naplóit — a legtöbb magas kockázatú rendszer esetén legalább hat hónapig, míg az alapul szolgáló közigazgatási eljárást szabályozó jogi keret ezt meghaladó megőrzést ír elő, ott annál hosszabb ideig. A súlyos incidenseket — azaz a halálesethez, súlyos sérüléshez, jelentős vagyoni kárhoz vagy alapvető jogok megsértéséhez vezető eseteket — indokolatlan késedelem nélkül be kell jelenteni az illetékes nemzeti mesterséges intelligencia felügyeleti hatóságnak.

Tiltott gyakorlatok a közigazgatásban

Az EU AI Act Art. 5 értelmében bizonyos mesterséges intelligencia-alkalmazások feltétel nélkül tilosak. A közhatóságok számára három tilalom bír közvetlen operatív jelentőséggel.

Art. 5(1)(c) — Közhatóságok általi társadalmi pontozás: Tiltottak azok a mesterséges intelligencia rendszerek, amelyek egyéneket társadalmi magatartásuk vagy személyiségjegyeik alapján értékelnek vagy osztályoznak, és az így kapott pontszámot közszolgáltatásokhoz, juttatásokhoz vagy jogi bánásmódhoz való hozzáférés meghatározására használják. Ez a tilalom kifejezetten a közhatóságokra irányul, és az úgynevezett társadalmi kreditrendszereket célozza, függetlenül azok elnevezésétől vagy struktúrájától.

Art. 5(1)(d) — Valós idejű távoli biometrikus azonosítás nyilvános terekben: Nyilvánosan hozzáférhető tereken a bűnüldöző hatóságok által alkalmazott, valós idejű mesterséges intelligencia alapú távoli biometrikus azonosító rendszerek — arcfelismerés, járáselemzés vagy egyéb biometrikus eszközök — használata tilos, kivéve három szűk körű esetkört: eltűnt gyermekek célzott keresése; meghatározott, közvetlen terrorista fenyegetések megelőzése; és súlyos bűncselekmények gyanúsítottjainak azonosítása, ahol előzetes bírói vagy független közigazgatási hatósági engedélyt szereztek be. Ezek az kivételek kimerítő jellegűek; általános megfigyelési program nem minősül köréjük.

Art. 5(1)(e) — Szubliminális és manipulatív technikák: Tiltottak azok a mesterséges intelligencia rendszerek, amelyek a tudatos érzékelés küszöbe alatt ható technikákat alkalmaznak az egyéni magatartás befolyásolására, vagy meghatározott csoportok sérülékenységét aknázzák ki — minden üzemeltető, beleértve a közhatóságokat is.

Végrehajtás — felügyeleti hatóságok és ellenőrzési mechanizmusok

Az AI Act végrehajtási architektúrája a közszférában több szintű illetékes hatóságot foglal magában.

Az Art. 70 alapján kijelölt nemzeti mesterséges intelligencia felügyeleti hatóságok az AI Act elsődleges végrehajtó szervei az egyes tagállamokban. A legtöbb tagállamban ezek a szervek a meglévő adatvédelmi hatóságokba integrálódtak vagy ahhoz szorosan igazodnak. Hatáskörük kiterjed az ellenőrzések lefolytatására, a műszaki dokumentáció és a FRIA-eredmények bekérésére, korrekciós határozatok kiadására és közigazgatási bírságok kiszabására.

A közintézményekkel szemben kiszabható bírságok a Art. 99(6) értelmében tagállami mérlegelés tárgyát képezik: a tagállamok rendelkezhetnek úgy, hogy a közhatóságokra nem szabnak ki pénzbeli szankciókat, de gondoskodniuk kell alternatív felügyeleti és korrekciós mechanizmusok elérhetőségéről — beleértve a kötelező ellenőrzéseket, a meg nem felelési megállapítások közzétételét és a mesterséges intelligencia rendszer használatának felfüggesztését. Ez a mérlegelési jog nem terjedhet ki a meg nem felelés engedélyezésére; kizárólag a pénzügyi szankció mechanizmusára vonatkozik.

Az adatvédelmi hatóságok (DPA-k) és az Európai Adatvédelmi Testület (EDPB) párhuzamos hatáskörrel rendelkeznek a közszféra mesterséges intelligenciájának GDPR és LED alá eső személyes adatkezelési dimenziói felett. A GDPR vagy a LED szerinti kötelezettségek megsértése mesterséges intelligencia rendszer üzemeltetése keretében a DPA által, a mesterséges intelligencia felügyeleti hatóságtól függetlenül végrehajtható.

Az Emberi Jogok Európai Bírósága külső alkotmányos korlátot képez: az algoritmikus folyamatok alapján hozott döntéseknek — különösen a büntetőigazságszolgáltatásban és a bevándorlás területén — meg kell felelniük az Egyezmény Art. 6 (tisztességes eljárás) és Art. 8 (magánélet) szerinti követelményeknek, az ECHR automatizált döntéshozatalra vonatkozó, folyamatosan fejlődő ítélkezési gyakorlata szerint értelmezve.

Megvalósítási ütemterv kormányzati szervek számára

1. fázis — Mesterséges intelligencia rendszerek leltározása és osztályozása (1–3. hónap)

A közintézményeknek mindenekelőtt átfogó leltárt kell készíteniük az összes jelenleg használatban lévő vagy közbeszerzés alatt álló mesterséges intelligencia rendszerről. Minden egyes rendszert értékelni kell az Annex III 5–8. kategóriájának és az Art. 5 tilalmi rendelkezéseinek tükrében. A személyes adatkezeléssel járó rendszereket egyidejűleg kell felmérni a GDPR és a LED követelményeivel szemben. Ennek a fázisnak az eredménye egy osztályozott leltár — tiltott, magas kockázatú, korlátozott kockázatú vagy minimális kockázatú besorolással —, amely meghatározza a megfelelési program irányát.

2. fázis — Alapvető jogokra vonatkozó hatásvizsgálatok (3–6. hónap)

Az azonosított magas kockázatú rendszerek mindegyikéhez a közintézményeknek Art. 27 szerinti FRIA-t kell megrendelniük és elvégezniük. Ehhez jogi, műszaki és szakpolitikai hozzájárulás szükséges: a veszélyeztetett jogok jogi elemzése; a rendszer működésének, betanítási adatainak és ismert hibamódjainak műszaki dokumentációja; és az elérhető enyhítő intézkedések szakpolitikai értékelése. A FRIA-kat dokumentálni kell, és készen kell tartani a felügyeleti hatóságoknak való benyújtásra.

3. fázis — Gyártói ellenőrzés és közbeszerzési reform (3–9. hónap)

A közbeszerzési eljárásokat frissíteni kell annak érdekében, hogy az EU AI Act-nek való megfelelés igazolása a szerződés odaítélésének feltételévé váljon a mesterséges intelligencia-szállítókkal szemben. Az üzemeltetőknek az üzembe helyezés előtt ellenőrizniük kell a CE jelölést, a megfelelőségi nyilatkozatot, a műszaki dokumentációt és a forgalomba hozatalt követő megfigyelési vállalásokat. Azoknak a közintézményeknek, amelyek technológiai szállítókkal közös üzemeltetőként vagy társ-fejlesztőként járnak el, a megfelelőségértékelési kötelezettségek tekintetében a felelősség megosztását szerződésben kell rögzíteniük.

4. fázis — Operatív biztosítékok és személyzeti képzés (6–12. hónap)

Minden magas kockázatú mesterséges intelligencia rendszerhez ki kell jelölni a kijelölt emberi felügyeleti tisztviselőket, akiket képezni kell a rendszer képességeire és korlátaira, és el kell látni őket felülbírálási eljárásokkal. Az érintett személyek számára szánt átláthatósági tájékoztatókat el kell készíteni és be kell illeszteni a meglévő közigazgatási eljárásokba. A naplózási infrastruktúrát ellenőrizni kell, vagy létre kell hozni. Az incidens-bejelentési protokollokat integrálni kell a meglévő közigazgatási és adatvédelmi incidens-kezelési folyamatokba.

5. fázis — Folyamatos nyomon követés és éves felülvizsgálat

A magas kockázatú mesterséges intelligencia rendszerek megfelelése nem egyszeri tanúsítási gyakorlat. A forgalomba hozatalt követő megfigyelési kötelezettségek megkövetelik, hogy a közintézmények aktívan kövessék nyomon a rendszer teljesítményét, dokumentálják a pontosság, az elfogultság vagy a magatartás terén bekövetkező változásokat, és frissítsék a FRIA-kat, amikor lényeges változások következnek be. A nemzeti jog által előírt éves felügyeleti hatósági jelentéstételt a nyomon követési program keretében keletkezett dokumentációnak kell alátámasztania.