Az (EU) 2024/1689 rendelet 14. cikke — Emberi felügyelet. Hivatalos szöveg, gyakorlati értelmezés, főbb kötelezettségek és megfelelési következmények.
A hivatalos szöveg összefoglalása
Az (EU) 2024/1689 rendelet 14. cikke kötelező emberi felügyeleti követelményeket állapít meg a nagy kockázatú MI-rendszerekre vonatkozóan, a III. cím 2. fejezete szerinti szabályozási keret egyik alapvető pillérét alkotva. A cikk előírja, hogy a nagy kockázatú MI-rendszereket oly módon kell megtervezni és fejleszteni, hogy a természetes személyek a felhasználás ideje alatt hatékonyan felügyelhessék azokat.
Konkrétan a 14. cikk (1) bekezdése előírja, hogy a szolgáltatók — ahol technikailag megvalósítható — biztosítsák, hogy az emberi felügyeleti intézkedések a piacra helyezés vagy üzembe helyezés előtt beépüljenek a rendszerbe. Ezeknek az intézkedéseknek lehetővé kell tenniük a felügyeletre kijelölt személyek számára, hogy megértsék a rendszer képességeit és korlátait (14. cikk (4) bekezdés a) pont), figyelemmel kísérjék a működést anomáliák, meghibásodások vagy váratlan teljesítmény jelei szempontjából (14. cikk (4) bekezdés b) pont), tudatában legyenek az automatizálási elfogultság kockázatának (14. cikk (4) bekezdés c) pont), helyesen értelmezzék a kimeneteket (14. cikk (4) bekezdés d) pont), és bármely helyzetben dönthessenek a rendszer nem használásáról, felülbírálásáról, figyelmen kívül hagyásáról vagy leállításáról (14. cikk (4) bekezdés e) pont).
A 14. cikk (3) bekezdése előírja, hogy a felügyeletre kijelölt természetes személyek rendelkezzenek a feladatuk ellátásához szükséges kompetenciával, hatáskörrel és erőforrásokkal. Ahol a rendszert természetes személyek általi használatra szánják, a felügyeleti intézkedéseket — technikailag megvalósítható mértékben — közvetlenül a rendszer felhasználói felületébe kell beépíteni. A 14. cikk (5) bekezdése a biztonsági összetevő funkciójú rendszerekkel foglalkozik, fokozott elvárásokat támasztva, ahol az MI-kimenet biztonsági szempontból kritikus döntésekbe kerül be.
Mit jelent ez a gyakorlatban
A 14. cikk kötelezettségeket hoz létre mind a szolgáltatók, mind az üzembe helyezők számára, bár ezen kötelezettségek jellege az MI-rendszer életciklusának egyes szakaszaiban eltér.
A szolgáltatók számára a kötelezettség elsősorban tervezési jellegű: az emberi felügyeletet nem szabad utólag hozzáadni a fejlesztést követően, hanem a rendszerbe kell mérnöki alapon beépíteni a kezdetektől fogva. Ez azt jelenti, hogy értelmes konfidenciamutatókat megjelenítő felületeket kell kialakítani, az alacsony bizonyossággal rendelkező kimeneteket jelezni kell, a megszakítást vagy felülbírálást technikai nehézségek nélkül lehetővé kell tenni, és olyan dokumentációt kell biztosítani, amely lehetővé teszi az üzembe helyezők számára a reálisan megvalósítható felügyelet megértését.
Az üzembe helyezők számára a kötelezettség operatív jellegű: megfelelő személyeket kell kijelölni a rendszer figyelemmel kísérésére, biztosítani kell, hogy ezek a személyek képzett legyenek és tájékozottak legyenek a rendszer korlátairól, eljárásokat kell kidolgozni az eszkalációra és a beavatkozásra, és nyilvántartást kell vezetni a felügyeleti tevékenységről. Egy MI-alapú toborzási szűrőeszközt alkalmazó üzembe helyezőnek például biztosítania kell, hogy az emberi toborzók megvizsgálják a megjelölt jelölteket, megértsék a modell által alkalmazott kritériumokat, és megtarthassák a rangsorok felülbírálásának jogát anélkül, hogy ezt büntetés vagy eljárási akadályok gátolnák.
Kritikus gyakorlati probléma az automatizálási elfogultság — az az emberi felügyelők körében dokumentált hajlam, hogy kritika nélkül az MI-kimenetek szerint járnak el. A 14. cikk (4) bekezdés c) pontja kifejezetten előírja, hogy a felügyeleti személyek tudatában legyenek ennek a kockázatnak. A gyakorlatban ez azt jelenti, hogy a képzési programoknak foglalkozniuk kell a kognitív elfogultsággal, és a munkafolyamatokat úgy kell strukturálni, hogy valódi mérlegelést tegyenek szükségessé a puszta jóváhagyás helyett.
Az egészségügyi, bűnüldözési és hitelbírálati területen működő üzembe helyezők fokozott elvárásokkal szembesülnek, tekintettel arra a káros hatás súlyosságára, amely az ellenőrizetlen MI-ajánlásokból eredhet ezekben a kontextusokban.
Főbb kötelezettségek
- Tervezési stádiumban való integráció: A szolgáltatóknak a piacra helyezés előtt be kell építeniük az emberi felügyeleti képességeket a nagy kockázatú MI-rendszerekbe, biztosítva, hogy azok technikailag megvalósíthatók és nem csupán névlegesek legyenek.
- Érthetőség: A felügyeleti intézkedéseknek lehetővé kell tenniük a kijelölt személyek számára, hogy megértsék a rendszer képességeit, rendeltetési célját és korlátait, beleértve azokat a feltételeket, amelyek esetén a teljesítmény romlásának lehetősége fennáll.
- Anomáliák figyelemmel kísérése: A kijelölt személyeknek képesnek kell lenniük a meghibásodások, váratlan kimenetek és a várható rendszerviselkedéstől való eltérések észlelésére a működés során.
- Elfogultság-tudatosság: A felügyeletért felelős személyeket tudatosítani kell az automatizálási elfogultság kockázatáról és az MI által generált kimenetek független ellenőrzés nélküli, túlzott figyelembevételének hajlamáról.
- Felülbírálati hatáskör: A felügyelőknek valós, akadálymentes képességgel kell rendelkezniük arra, hogy figyelmen kívül hagyják, felülbírálják vagy megállítsák az MI-rendszert a felhasználás bármely pontján, anélkül, hogy technikai vagy szervezeti akadályok gátolnák a beavatkozást.
- Kompetencia- és erőforrás-követelmények: Az üzembe helyezőknek biztosítaniuk kell, hogy a felügyeletre kijelölt személyek rendelkezzenek az érdemleges felügyelet ellátásához elegendő kompetenciával, képzéssel, hatáskörrel és idővel — a felügyelet nem bízható a szükséges képesítéssel vagy kapacitással nem rendelkező személyekre.
Kapcsolat más cikkekkel
A 14. cikk nem működik önmagában. Előfeltételezi a 9. cikk (kockázatkezelési rendszer) betartását, mivel a hatékony felügyelet azon alapul, hogy azonosítottuk a rendszer által jelentett kockázatokat és azokat a feltételeket, amelyek esetén a felügyelet kritikussá válik. Szorosan kapcsolódik a 13. cikkhez (átláthatóság és tájékoztatás az üzembe helyezők számára), amely előírja a szolgáltatóknak, hogy biztosítsák a rendszer megértéséhez és felügyeletéhez szükséges tájékoztatást — enélkül a 14. cikk által elképzelt felügyelet nem tud működni.
A 16. cikk és a 26. cikk meghatározza a szolgáltatók, illetve az üzembe helyezők általános kötelezettségeit, amelyekbe a 14. cikk szerinti kötelezettségek beágyazódnak. A 17. cikk (minőségirányítási rendszer) előírja, hogy az emberi felügyeleti eljárásokat a szolgáltató minőségi keretrendszerének részeként dokumentálják.
A biztonsági összetevőt tartalmazó rendszerek esetében a 14. cikk (5) bekezdése kereszteződik az I. mellékletben hivatkozott termékbiztonsági jogszabályokkal, valamint az ágazatspecifikus követelményekkel, amelyek további vagy részletesebb felügyeleti kötelezettségeket írhatnak elő. Végül a 72. cikk (piacra helyezés utáni felügyelet) kiterjeszti a felügyelet logikáját az üzembe helyezésen túl a rendszer folyamatos működési életciklusára.
Megfelelési ütemterv
Az (EU) 2024/1689 rendelet 2024. augusztus 1-jén lépett hatályba, húsz nappal az Hivatalos Lapban való közzétételét követően. Rendelkezései lépcsőzetes ütemterv szerint alkalmazandók:
- 2025. február 2.: A nem elfogadható kockázatú MI-gyakorlatokra vonatkozó tilalmak (5. cikk) alkalmazandóvá váltak.
- 2025. augusztus 2.: Az általános célú MI-modellekre vonatkozó szabályok (VIII. cím) és az irányítási kötelezettségek (III. cím, 4. fejezet) alkalmazandóvá váltak.
- 2027. december 2.: A III. mellékletben felsorolt nagy kockázatú MI-rendszerekre vonatkozó kötelezettségek — beleértve a 14. cikket — a legtöbb kategória esetében teljes mértékben alkalmazandóvá válnak. Ez az elsődleges megfelelési határidő az emberi felügyeleti követelmények hatálya alá tartozó nagy kockázatú MI-rendszerek szolgáltatói és üzembe helyezői számára.
- 2028. augusztus 2.: Meghosszabbított határidő bizonyos, az ágazatspecifikus uniós harmonizációs jogszabályok (I. melléklet szerinti rendszerek) hatálya alá már tartozó nagy kockázatú MI-rendszerek esetében, ezeknek az ellátási láncoknak több időt biztosítva a megfelelőségértékelési eljárások adaptálásához.
A nagy kockázatú MI-rendszerek szolgáltatóinak és üzembe helyezőinek a 2027. december 2-i dátumot kell a 14. cikk szerinti megfelelés tényleges határidejeként kezelniük, azzal, hogy az előkészítő tervezési és irányítási munkálatokat jóval ezen időpont előtt meg kell kezdeni, hogy elegendő idő álljon rendelkezésre a megfelelőségértékelési és dokumentációs eljárásokhoz.
Official AI Act Compliance Deadline Calendar
Deadline data last changed · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act, DORA és NIS2 együtt
Az Ön szervezetére az AI Act és a DORA is vonatkozik? A két rendelet a pénzügyi AI-rendszerek működési ellenálló képességénél találkozik. Testvéroldalunk, a regulation-dora.eu, mélyen tárgyalja a DORA-t — beleértve azt is, amit az AI Act egy meglévő DORA-programra ráépít.
Az AI Act a pénzügyi intézmények számára ↗ Fedezze fel a regulation-dora.eu oldalt ↗Gyakran ismételt kérdések
A nagy kockázatú MI-rendszerek szolgáltatói elsődleges felelősséget viselnek az emberi felügyeleti képességek tervezésért és beépítéséért a rendszereikbe, mielőtt azokat piacra helyezik. Az üzembe helyezők ezt követően felelnek ezen intézkedések gyakorlati megvalósításáért, a rendszer működésének felügyeletéhez megfelelő természetes személyek kijelöléséért, és annak biztosításáért, hogy ezek a személyek rendelkezzenek a beavatkozáshoz szükséges hatáskörrel és kompetenciával.
A hatékony felügyelet azt jelenti, hogy a nagy kockázatú MI-rendszer felügyeletére kijelölt természetes személyeknek képesnek kell lenniük teljes mértékben megérteni a rendszer képességeit és korlátait, észlelni és kezelni a meghibásodásokat vagy váratlan viselkedést, helyesen értelmezni kimeneteit, és szükség esetén dönteni a rendszer figyelmen kívül hagyásáról, felülbírálásáról vagy leállításáról. Nem elegendő névlegesen kijelölni egy személyt — annak valós kapacitással és hatáskörrel kell rendelkeznie a cselekvéshez.
Nem. A 14. cikk nem teszi kötelezővé az emberi jóváhagyást minden egyes kimenet esetén. Azt írja elő, hogy az emberi felügyelet beépüljön a rendszerbe és annak alkalmazási kontextusába, hogy egy felelős személy monitorozza a működést, azonosítsa a rendellenességeket és beavatkozhasson. A felügyelet intenzitásának arányosnak kell lennie a kockázattal; bizonyos nagy kockázatú kontextusok szorosabb, gyakoribb emberi felülvizsgálatot igényelhetnek, mint mások.
A 14. cikk (4) bekezdése elismeri, hogy bizonyos, természetes személyek által használni szándékozott rendszereknél az emberi felügyeleti intézkedéseket — technikailag megvalósítható mértékben, a rendeltetési célra tekintettel — a rendszerbe kell beépíteni. Ahol a teljes körű felügyelet nem integrálható, a szolgáltatóknak dokumentálniuk kell ezt a korlátozást, és az üzembe helyezőknek szervezeti és eljárási biztosítékokkal kell kompenzálniuk.
Igen. A 14. cikk valamennyi, a III. mellékletben és a 6. cikkben meghatározott nagy kockázatú MI-rendszerre vonatkozik, függetlenül attól, hogy a rendszer teljesen önálló döntéseket hoz vagy csupán emberi döntéshozókat segít. Még az asszisztív rendszerek is képesek olyan módon befolyásolni az eredményeket, amelyek strukturált felügyeletet igényelnek, különösen ahol a kimenetek kritika nélkül felhasználásra kerülhetnek.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Vigye tovább a megfelelést az Akadémián
Ingyenes tanfolyam, szerveren értékelt vizsga, ellenőrizhető tanúsítvány — és a munkasablonok.