Az (EU) 2024/1689 rendelet 14. cikke — Emberi felügyelet. Hivatalos szöveg, gyakorlati értelmezés, főbb kötelezettségek és megfelelési következmények.
A hivatalos szöveg összefoglalása
Az (EU) 2024/1689 rendelet 14. cikke kötelező emberi felügyeleti követelményeket állapít meg a nagy kockázatú MI-rendszerekre vonatkozóan, a III. cím 2. fejezete szerinti szabályozási keret egyik alapvető pillérét alkotva. A cikk előírja, hogy a nagy kockázatú MI-rendszereket oly módon kell megtervezni és fejleszteni, hogy a természetes személyek a felhasználás ideje alatt hatékonyan felügyelhessék azokat.
Konkrétan a 14. cikk (1) bekezdése előírja, hogy a szolgáltatók — ahol technikailag megvalósítható — biztosítsák, hogy az emberi felügyeleti intézkedések a piacra helyezés vagy üzembe helyezés előtt beépüljenek a rendszerbe. Ezeknek az intézkedéseknek lehetővé kell tenniük a felügyeletre kijelölt személyek számára, hogy megértsék a rendszer képességeit és korlátait (14. cikk (4) bekezdés a) pont), figyelemmel kísérjék a működést anomáliák, meghibásodások vagy váratlan teljesítmény jelei szempontjából (14. cikk (4) bekezdés b) pont), tudatában legyenek az automatizálási elfogultság kockázatának (14. cikk (4) bekezdés c) pont), helyesen értelmezzék a kimeneteket (14. cikk (4) bekezdés d) pont), és bármely helyzetben dönthessenek a rendszer nem használásáról, felülbírálásáról, figyelmen kívül hagyásáról vagy leállításáról (14. cikk (4) bekezdés e) pont).
A 14. cikk (3) bekezdése előírja, hogy a felügyeletre kijelölt természetes személyek rendelkezzenek a feladatuk ellátásához szükséges kompetenciával, hatáskörrel és erőforrásokkal. Ahol a rendszert természetes személyek általi használatra szánják, a felügyeleti intézkedéseket — technikailag megvalósítható mértékben — közvetlenül a rendszer felhasználói felületébe kell beépíteni. A 14. cikk (5) bekezdése a biztonsági összetevő funkciójú rendszerekkel foglalkozik, fokozott elvárásokat támasztva, ahol az MI-kimenet biztonsági szempontból kritikus döntésekbe kerül be.
Mit jelent ez a gyakorlatban
A 14. cikk kötelezettségeket hoz létre mind a szolgáltatók, mind az üzembe helyezők számára, bár ezen kötelezettségek jellege az MI-rendszer életciklusának egyes szakaszaiban eltér.
A szolgáltatók számára a kötelezettség elsősorban tervezési jellegű: az emberi felügyeletet nem szabad utólag hozzáadni a fejlesztést követően, hanem a rendszerbe kell mérnöki alapon beépíteni a kezdetektől fogva. Ez azt jelenti, hogy értelmes konfidenciamutatókat megjelenítő felületeket kell kialakítani, az alacsony bizonyossággal rendelkező kimeneteket jelezni kell, a megszakítást vagy felülbírálást technikai nehézségek nélkül lehetővé kell tenni, és olyan dokumentációt kell biztosítani, amely lehetővé teszi az üzembe helyezők számára a reálisan megvalósítható felügyelet megértését.
Az üzembe helyezők számára a kötelezettség operatív jellegű: megfelelő személyeket kell kijelölni a rendszer figyelemmel kísérésére, biztosítani kell, hogy ezek a személyek képzett legyenek és tájékozottak legyenek a rendszer korlátairól, eljárásokat kell kidolgozni az eszkalációra és a beavatkozásra, és nyilvántartást kell vezetni a felügyeleti tevékenységről. Egy MI-alapú toborzási szűrőeszközt alkalmazó üzembe helyezőnek például biztosítania kell, hogy az emberi toborzók megvizsgálják a megjelölt jelölteket, megértsék a modell által alkalmazott kritériumokat, és megtarthassák a rangsorok felülbírálásának jogát anélkül, hogy ezt büntetés vagy eljárási akadályok gátolnák.
Kritikus gyakorlati probléma az automatizálási elfogultság — az az emberi felügyelők körében dokumentált hajlam, hogy kritika nélkül az MI-kimenetek szerint járnak el. A 14. cikk (4) bekezdés c) pontja kifejezetten előírja, hogy a felügyeleti személyek tudatában legyenek ennek a kockázatnak. A gyakorlatban ez azt jelenti, hogy a képzési programoknak foglalkozniuk kell a kognitív elfogultsággal, és a munkafolyamatokat úgy kell strukturálni, hogy valódi mérlegelést tegyenek szükségessé a puszta jóváhagyás helyett.
Az egészségügyi, bűnüldözési és hitelbírálati területen működő üzembe helyezők fokozott elvárásokkal szembesülnek, tekintettel arra a káros hatás súlyosságára, amely az ellenőrizetlen MI-ajánlásokból eredhet ezekben a kontextusokban.
Főbb kötelezettségek
- Tervezési stádiumban való integráció: A szolgáltatóknak a piacra helyezés előtt be kell építeniük az emberi felügyeleti képességeket a nagy kockázatú MI-rendszerekbe, biztosítva, hogy azok technikailag megvalósíthatók és nem csupán névlegesek legyenek.
- Érthetőség: A felügyeleti intézkedéseknek lehetővé kell tenniük a kijelölt személyek számára, hogy megértsék a rendszer képességeit, rendeltetési célját és korlátait, beleértve azokat a feltételeket, amelyek esetén a teljesítmény romlásának lehetősége fennáll.
- Anomáliák figyelemmel kísérése: A kijelölt személyeknek képesnek kell lenniük a meghibásodások, váratlan kimenetek és a várható rendszerviselkedéstől való eltérések észlelésére a működés során.
- Elfogultság-tudatosság: A felügyeletért felelős személyeket tudatosítani kell az automatizálási elfogultság kockázatáról és az MI által generált kimenetek független ellenőrzés nélküli, túlzott figyelembevételének hajlamáról.
- Felülbírálati hatáskör: A felügyelőknek valós, akadálymentes képességgel kell rendelkezniük arra, hogy figyelmen kívül hagyják, felülbírálják vagy megállítsák az MI-rendszert a felhasználás bármely pontján, anélkül, hogy technikai vagy szervezeti akadályok gátolnák a beavatkozást.
- Kompetencia- és erőforrás-követelmények: Az üzembe helyezőknek biztosítaniuk kell, hogy a felügyeletre kijelölt személyek rendelkezzenek az érdemleges felügyelet ellátásához elegendő kompetenciával, képzéssel, hatáskörrel és idővel — a felügyelet nem bízható a szükséges képesítéssel vagy kapacitással nem rendelkező személyekre.
Kapcsolat más cikkekkel
A 14. cikk nem működik önmagában. Előfeltételezi a 9. cikk (kockázatkezelési rendszer) betartását, mivel a hatékony felügyelet azon alapul, hogy azonosítottuk a rendszer által jelentett kockázatokat és azokat a feltételeket, amelyek esetén a felügyelet kritikussá válik. Szorosan kapcsolódik a 13. cikkhez (átláthatóság és tájékoztatás az üzembe helyezők számára), amely előírja a szolgáltatóknak, hogy biztosítsák a rendszer megértéséhez és felügyeletéhez szükséges tájékoztatást — enélkül a 14. cikk által elképzelt felügyelet nem tud működni.
A 16. cikk és a 26. cikk meghatározza a szolgáltatók, illetve az üzembe helyezők általános kötelezettségeit, amelyekbe a 14. cikk szerinti kötelezettségek beágyazódnak. A 17. cikk (minőségirányítási rendszer) előírja, hogy az emberi felügyeleti eljárásokat a szolgáltató minőségi keretrendszerének részeként dokumentálják.
A biztonsági összetevőt tartalmazó rendszerek esetében a 14. cikk (5) bekezdése kereszteződik az I. mellékletben hivatkozott termékbiztonsági jogszabályokkal, valamint az ágazatspecifikus követelményekkel, amelyek további vagy részletesebb felügyeleti kötelezettségeket írhatnak elő. Végül a 72. cikk (piacra helyezés utáni felügyelet) kiterjeszti a felügyelet logikáját az üzembe helyezésen túl a rendszer folyamatos működési életciklusára.
Megfelelési ütemterv
Az (EU) 2024/1689 rendelet 2024. augusztus 1-jén lépett hatályba, húsz nappal az Hivatalos Lapban való közzétételét követően. Rendelkezései lépcsőzetes ütemterv szerint alkalmazandók:
- 2025. február 2.: A nem elfogadható kockázatú MI-gyakorlatokra vonatkozó tilalmak (5. cikk) alkalmazandóvá váltak.
- 2025. augusztus 2.: Az általános célú MI-modellekre vonatkozó szabályok (VIII. cím) és az irányítási kötelezettségek (III. cím, 4. fejezet) alkalmazandóvá váltak.
- 2026. augusztus 2.: A III. mellékletben felsorolt nagy kockázatú MI-rendszerekre vonatkozó kötelezettségek — beleértve a 14. cikket — a legtöbb kategória esetében teljes mértékben alkalmazandóvá válnak. Ez az elsődleges megfelelési határidő az emberi felügyeleti követelmények hatálya alá tartozó nagy kockázatú MI-rendszerek szolgáltatói és üzembe helyezői számára.
- 2027. augusztus 2.: Meghosszabbított határidő bizonyos, az ágazatspecifikus uniós harmonizációs jogszabályok (I. melléklet szerinti rendszerek) hatálya alá már tartozó nagy kockázatú MI-rendszerek esetében, ezeknek az ellátási láncoknak több időt biztosítva a megfelelőségértékelési eljárások adaptálásához.
A nagy kockázatú MI-rendszerek szolgáltatóinak és üzembe helyezőinek a 2026. augusztus 2-i dátumot kell a 14. cikk szerinti megfelelés tényleges határidejeként kezelniük, azzal, hogy az előkészítő tervezési és irányítási munkálatokat jóval ezen időpont előtt meg kell kezdeni, hogy elegendő idő álljon rendelkezésre a megfelelőségértékelési és dokumentációs eljárásokhoz.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
A nagy kockázatú MI-rendszerek szolgáltatói elsődleges felelősséget viselnek az emberi felügyeleti képességek tervezésért és beépítéséért a rendszereikbe, mielőtt azokat piacra helyezik. Az üzembe helyezők ezt követően felelnek ezen intézkedések gyakorlati megvalósításáért, a rendszer működésének felügyeletéhez megfelelő természetes személyek kijelöléséért, és annak biztosításáért, hogy ezek a személyek rendelkezzenek a beavatkozáshoz szükséges hatáskörrel és kompetenciával.
A hatékony felügyelet azt jelenti, hogy a nagy kockázatú MI-rendszer felügyeletére kijelölt természetes személyeknek képesnek kell lenniük teljes mértékben megérteni a rendszer képességeit és korlátait, észlelni és kezelni a meghibásodásokat vagy váratlan viselkedést, helyesen értelmezni kimeneteit, és szükség esetén dönteni a rendszer figyelmen kívül hagyásáról, felülbírálásáról vagy leállításáról. Nem elegendő névlegesen kijelölni egy személyt — annak valós kapacitással és hatáskörrel kell rendelkeznie a cselekvéshez.
Nem. A 14. cikk nem teszi kötelezővé az emberi jóváhagyást minden egyes kimenet esetén. Azt írja elő, hogy az emberi felügyelet beépüljön a rendszerbe és annak alkalmazási kontextusába, hogy egy felelős személy monitorozza a működést, azonosítsa a rendellenességeket és beavatkozhasson. A felügyelet intenzitásának arányosnak kell lennie a kockázattal; bizonyos nagy kockázatú kontextusok szorosabb, gyakoribb emberi felülvizsgálatot igényelhetnek, mint mások.
A 14. cikk (4) bekezdése elismeri, hogy bizonyos, természetes személyek által használni szándékozott rendszereknél az emberi felügyeleti intézkedéseket — technikailag megvalósítható mértékben, a rendeltetési célra tekintettel — a rendszerbe kell beépíteni. Ahol a teljes körű felügyelet nem integrálható, a szolgáltatóknak dokumentálniuk kell ezt a korlátozást, és az üzembe helyezőknek szervezeti és eljárási biztosítékokkal kell kompenzálniuk.
Igen. A 14. cikk valamennyi, a III. mellékletben és a 6. cikkben meghatározott nagy kockázatú MI-rendszerre vonatkozik, függetlenül attól, hogy a rendszer teljesen önálló döntéseket hoz vagy csupán emberi döntéshozókat segít. Még az asszisztív rendszerek is képesek olyan módon befolyásolni az eredményeket, amelyek strukturált felügyeletet igényelnek, különösen ahol a kimenetek kritika nélkül felhasználásra kerülhetnek.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
A free course, a server-graded exam, a verifiable certificate — and the working templates.