Az (EU) 2024/1689 rendelet 13. cikke — Átláthatóság és tájékoztatás az üzembe helyezők számára. Hivatalos szöveg, gyakorlati értelmezés, főbb kötelezettségek és megfelelési következmények.
A hivatalos szöveg összefoglalása
Az (EU) 2024/1689 rendelet (EU MI-rendelet) 13. cikke átláthatósági kötelezettségeket állapít meg a III. cím alapján meghatározott nagy kockázatú MI-rendszerekre vonatkozóan. Előírja, hogy a szolgáltatók nagy kockázatú MI-rendszereiket oly módon tervezzék meg és fejlesszék, hogy az üzembe helyezők megérthessék és helyesen értelmezhessék az ilyen rendszerek kimeneteit, és megfelelően használhassák azokat.
A cikk központi mechanizmusa a használati utasítás kötelező rendelkezésre bocsátása — egy strukturált dokumentum, amelyet minden egyes piacra helyezett vagy üzembe helyezett nagy kockázatú MI-rendszerhez mellékelni kell. A 13. cikk (3) bekezdése részletesen meghatározza e dokumentum minimális tartalmát. Ennek tartalmaznia kell: a szolgáltató azonosítóját és elérhetőségeit; a rendszer jellemzőit, képességeit és korlátait, beleértve a rendeltetési célt és azokat a konkrét kontextusokat, amelyekre vonatkozóan a rendszert validálták; a pontosság, megbízhatóság és kiberbiztonság szintjét, amellyel szemben a rendszert tesztelték, valamint minden ismert és előre látható körülményt, amely befolyásolhatja ezt a teljesítményt; adott esetben az emberi felügyelettel kapcsolatos technikai képességeket, beleértve a kimenetek értelmezésének megkönnyítését célzó intézkedéseket; valamint a bemeneti adatokra és a rendszer tervezett működési hardveres és szoftveres környezetére vonatkozó útmutatást.
A 13. cikk által megkövetelt átláthatóság nem pusztán tájékoztató jellegű: előfeltétele a 14. cikk által előírt érdemleges emberi felügyeletnek. A szolgáltatók nem teljesíthetik a 14. cikk szerinti kötelezettségeiket, ha az üzembe helyezők nem rendelkeznek azzal a megértéssel, amelynek közvetítésére a 13. cikk hivatott.
Mit jelent ez a gyakorlatban
A nagy kockázatú MI-rendszereket fejlesztő vagy értékesítő szervezetek számára a 13. cikk konkrét dokumentációs kötelezettséggé alakul, amelynek a termékfejlesztési életciklusba kell beágyazódnia, nem utólagos feladatként kell kezelni.
A szolgáltatók számára ez azt jelenti, hogy olyan használati utasítást kell készíteni, amely jóval meghaladja a szokásos műszaki kézikönyvet. A dokumentumot az üzembe helyező közönséghez kell igazítani — tipikusan egy szervezethez, amely az MI-rendszert egy konkrét működési kontextusban szerzi be, nem feltétlenül MI-mérnökhöz. Konkrét példák a lefedendő tartalmakra: a validálás során elért pontossági arányok releváns népességi alcsoportonként bontva, ahol alkalmazható (fontos a toborzási vagy hitelbírálati rendszereknél alkalmazott rendszereknél); a rendszer képzéséhez felhasznált bemeneti adattípusok és az ettől való eltérések esetén előfordulható teljesítményromlás; valamint konkrét útmutatás arra vonatkozóan, hogy az emberi értékelő hogyan értelmezze a rendszer által produkált konfidenciapontszámot vagy kockázati jelzőt.
Az üzembe helyezők számára a 13. cikk az üzembe helyezés előtti átvilágítási folyamat alapja. A nagy kockázatú MI-rendszert beszerző üzembe helyezőnek ellenőriznie kell, hogy a használati utasítás megvan-e és tartalmas-e. A megfelelő utasítás hiánya önmagában jelzésértékű a szolgáltató megfelelésére vonatkozóan. A szabályozott ágazatokban működő üzembe helyezőknek — hitelintézeteknek, egészségügyi szolgáltatóknak, közhatóságoknak — a 13. cikk szerinti dokumentáció felülvizsgálatát be kell építeniük a szállítói értékelési és beszerzési eljárásaikba.
Gyakorlati példák: Egy MI-alapú önéletrajz-szűrő eszköz (a III. melléklet 4. pontja alapján nagy kockázatú) szolgáltatójának dokumentálnia kell pontosságát demográfiai csoportonként, és azokat a feltételeket, amelyek esetén a rendszer kimeneteit emberi felülvizsgálat nélkül nem szabad felhasználni. A hitelbírálatra alkalmazott MI-rendszer szolgáltatójának meg kell határoznia a szükséges bemeneti adatokat és kockázati osztályozásainak statisztikai megbízhatóságát.
Főbb kötelezettségek
- Értelmezhetőségre való tervezés: A nagy kockázatú MI-rendszereket oly módon kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen az üzembe helyezők számára a kimenetek értelmezéséhez és a rendszer megfelelő használatához (13. cikk (1) bekezdés).
- Használati utasítás biztosítása: A szolgáltatóknak digitális vagy fizikai formában használati utasítást kell mellékelniük minden egyes piacra helyezett vagy üzembe helyezett nagy kockázatú MI-rendszerhez (13. cikk (2) bekezdés).
- Azonosítóra és elérhetőségre vonatkozó közzététel: Az utasításnak azonosítania kell a szolgáltatót és meg kell adnia az elérhetőségeit, lehetővé téve az üzembe helyező számára a megfeleléssel kapcsolatos kérdések kommunikálását (13. cikk (3) bekezdés a) pont).
- Képességek és korlátok dokumentálása: Az utasításnak ismertetnie kell a rendszer rendeltetési célját, a validált teljesítményszinteket, az ismert vagy előre látható körülményeket, amelyek esetén a teljesítmény a dokumentált szint alá eshet, valamint minden ismert torzítást (13. cikk (3) bekezdés b) pont).
- Bemeneti adatokra vonatkozó követelmények meghatározása: Ahol releváns a teljesítmény szempontjából, az utasításnak ismertetnie kell a rendszer által bemenőként igényelt adatok jellegét, formátumát és eredetét (13. cikk (3) bekezdés c) pont).
- Emberi felügyelet lehetővé tétele: Az utasításnak tartalmaznia kell a rendszerbe beépített, a 14. cikk szerinti emberi felügyeleti kötelezettségek támogatását célzó intézkedésekre vonatkozó tájékoztatást, beleértve a rendszer kimenetének értelmezésére és az azzal kapcsolatos cselekvésre vonatkozó útmutatást (13. cikk (3) bekezdés d) és e) pont).
Kapcsolat más cikkekkel
A 13. cikk a III. cím 2. fejezetének számos egymásba fonódó kötelezettségének metszéspontján helyezkedik el. Operatív szempontból elválaszthatatlan a 14. cikktől (emberi felügyelet): a 13. cikk (3) bekezdés d) pontjában leírt, emberi felügyeletet lehetővé tevő intézkedések az annak az informácionális előfeltételét jelentik, hogy az üzembe helyezők képesek legyenek teljesíteni a 14. cikk által rájuk rótt felügyeleti kötelezettségeket. Megfelelő 13. cikk szerinti utasítások nélkül a 14. cikk szerinti megfelelés strukturálisan lehetetlen.
A 13. cikk a 11. cikk alapján készített műszaki dokumentációból merít, amely előírja a szolgáltatók számára, hogy átfogó dokumentációt tartsanak fenn nagy kockázatú MI-rendszereikről. A használati utasítás az adott átfogó dokumentációnak az üzembe helyezők felé fordított kivonata.
A kötelezettségek a 16. cikkel (a szolgáltatók kötelezettségei) és a 26. cikkel (az üzembe helyezők kötelezettségei) is kölcsönhatásban állnak, amelyek meghatározzák, hogy az egyes felek hogyan kell teljesítsék a rendszer piacra kerülése után fennálló kötelezettségeiket. A 43. cikk szerinti megfelelőségértékelési eljárások alá vont rendszerek esetében a használati utasítás a bejelentett szervezetek által vizsgált megfelelőségértékelési aktának kötelező elemét képezi.
Végül a 13. cikk kapcsolódik az 50. cikkhez (egyes MI-rendszerekre vonatkozó átláthatósági kötelezettségek) abban, hogy mindkettő az átláthatóssággal foglalkozik, de az 50. cikk más kontextust céloz — a természetes személyekkel interakcióba lépő MI-rendszereket, nem a professzionális üzembe helyezőkkel szembenállókat.
Megfelelési ütemterv
Az EU MI-rendelet 2024. augusztus 1-jén lépett hatályba, húsz nappal az Európai Unió Hivatalos Lapjában való kihirdetése után. Az alkalmazás lépcsőzetes:
- 2025. február 2.: A nem elfogadható kockázatú MI-gyakorlatokra vonatkozó tilalmak (5. cikk) alkalmazandóvá váltak.
- 2025. augusztus 2.: Az általános célú MI-modelleket szabályozó rendelkezések (VIII. cím, 51–56. cikkek) és az irányítási kötelezettségek alkalmazandóvá váltak.
- 2027. december 2.: A 13. cikk alkalmazandóvá válik a III. mellékletben felsorolt nagy kockázatú MI-rendszerekre (önálló nagy kockázatú rendszerek, beleértve a biometrikus azonosításban, a kritikus infrastruktúrában, az oktatásban, a foglalkoztatásban, a létfontosságú szolgáltatásokban, a bűnüldözésben, a migrációban és az igazságszolgáltatásban alkalmazottakat).
- 2028. augusztus 2.: A 13. cikk alkalmazandóvá válik az I. melléklet hatálya alá tartozó nagy kockázatú MI-rendszerekre (MI-rendszerek, amelyek a meglévő uniós termékbiztonsági jogszabályok, például gépekre, orvostechnikai eszközökre és polgári repülési berendezésekre vonatkozó jogszabályok hatálya alá eső termékek biztonsági összetevői).
A 2026. augusztusi határidőt megcélzó szolgáltatóknak az aktuális időszakot aktív előkészítési időként kell kezelniük. A használati utasításokat a 13. cikk (3) bekezdés szerinti követelményekkel szemben kell véglegesíteni és érvényesíteni, mielőtt a rendszert piacra helyezik, nem azt követően. A nagy kockázatú MI-rendszereket beszerző szervezeteknek már most, az alkalmazandó időpontokat megelőzően meg kell kezdeniük a 13. cikk szerinti ellenőrzés beillesztését a szállítói átvilágítási folyamatukba.
Official AI Act Compliance Deadline Calendar
Deadline data last changed · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act, DORA és NIS2 együtt
Az Ön szervezetére az AI Act és a DORA is vonatkozik? A két rendelet a pénzügyi AI-rendszerek működési ellenálló képességénél találkozik. Testvéroldalunk, a regulation-dora.eu, mélyen tárgyalja a DORA-t — beleértve azt is, amit az AI Act egy meglévő DORA-programra ráépít.
Az AI Act a pénzügyi intézmények számára ↗ Fedezze fel a regulation-dora.eu oldalt ↗Gyakran ismételt kérdések
A 13. cikk előírja, hogy a nagy kockázatú MI-rendszerek szolgáltatói biztosítsák, hogy rendszereik kellően átláthatók legyenek ahhoz, hogy az üzembe helyezők megértsék a rendszer képességeit és korlátait, értelmezzék kimeneteit, és megfelelően használják azt. Ezt elsősorban az a kötelezettség révén érik el, hogy minden egyes nagy kockázatú MI-rendszerhez átfogó használati utasítást kell mellékelni.
Az elsődleges kötelezettség a szolgáltatókra — azokra a természetes vagy jogi személyekre — hárul, akik saját hatáskörükben fejlesztenek vagy helyeznek piacra nagy kockázatú MI-rendszert, illetve veszik üzembe azt. Az üzembe helyezők (szervezetek vagy személyek, akik saját hatáskörükben alkalmazzák a nagy kockázatú MI-rendszert) a tájékoztatás tervezett címzettjei, és azt az üzembe helyezés előtt vagy azzal egyidejűleg kell megkapniuk.
Az utasításnak tartalmaznia kell a szolgáltató azonosítóját és elérhetőségeit, a rendszer képességeit, korlátait és rendeltetési célját, a teljesítménymutatókat (beleértve a pontossági szinteket és az ismert torzításokat), minden ismert körülményt, amely befolyásolhatja a teljesítményt, a bemeneti adatokra vonatkozó követelményeket, a hardveres és szoftveres környezetet, valamint adott esetben az MI-kimenet értelmezéséhez szükséges intézkedéseket. Az emberi felügyeleti intézkedéseket szintén ismertetni kell.
A 13. cikk a III. címben (nagy kockázatú MI-rendszerek) helyezkedik el, és közvetlenül nem szabályozza az általános célú MI-modelleket, amelyekre a VIII. cím (51–56. cikkek) vonatkozik. Ahol azonban egy általános célú MI-modellt nagy kockázatú MI-rendszerbe integrálnak, az adott rendszer szolgáltatója marad felelős a 13. cikk szerinti kötelezettségek teljesítéséért.
A 13. cikk a III. mellékletben felsorolt nagy kockázatú MI-rendszerekre 2027. december 2-tól, az I. melléklet (termékbiztonsági jogszabályok) hatálya alá tartozó nagy kockázatú MI-rendszerekre 2028. augusztus 2-tól alkalmazandó. A szolgáltatóknak jóval ezen időpontok előtt kell megkezdeniük a műszaki dokumentáció és a használati utasítások elkészítését.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Vigye tovább a megfelelést az Akadémián
Ingyenes tanfolyam, szerveren értékelt vizsga, ellenőrizhető tanúsítvány — és a munkasablonok.