Az (EU) 2024/1689 rendelet 60. cikke — Nagy kockázatú MI-rendszerek valós körülmények között végzett tesztelése az MI-szabályozói tesztkörnyezeteken kívül. Hivatalos szöveg, gyakorlati értelmezés, főbb kötelezettségek és megfelelőségi következmények.
A hivatalos szöveg összefoglalása
Az (EU) 2024/1689 rendelet 60. cikke meghatározza azokat a feltételeket, amelyek teljesülése esetén a nagy kockázatú MI-rendszerek szolgáltatói és leendő szolgáltatói valós körülmények között végezhetnek tesztelést az 57–59. cikk alapján létrehozott szabályozói tesztkörnyezetek strukturált keretein kívül. Ez a rendelkezés elismeri, hogy a nagy kockázatú MI-rendszerek érdemi értékelése gyakran valós működési környezeteknek való kitettséget igényel, miközben az érintett kockázatokkal arányos biztosítékokat tart fenn.
A cikk előírja, hogy tesztkörnyezeteken kívüli tesztelésre csak akkor kerülhet sor, ha a kumulatív feltételek teljes körét teljesítik. A szolgáltatónak vagy leendő szolgáltatónak legalább 30 nappal a tesztelés megkezdése előtt értesítést kell benyújtania az érintett nemzeti illetékes hatósághoz. Az értesítésnek tartalmaznia kell egy teszttervet, amely leírja a hatókört, az időtartamot, a földrajzi területet, az érintett személyek kategóriáit és a bevezetett kockázatcsökkentő intézkedéseket.
Az alanyok tájékozott beleegyezése alapvető követelmény. Ha az MI-rendszer azonosítható természetes személyeket érint vagy róluk hoz döntéseket, ezeket a személyeket tájékoztatni kell a részvételükről, és kifejezetten bele kell egyezniük, kivéve ha az alkalmazandó ágazati jog ettől eltérően rendelkezik. A tesztelés nem terjedhet túl a kitűzött célok eléréséhez szigorúan szükséges mértéken, és az alanyokat nem teheti ki elfogadhatatlan kockázatnak vagy kárnak.
A cikk előírja továbbá, hogy a tesztelést a szolgáltató felügyelete alatt kell lefolytatni, az eredményeket rögzíteni kell, és a tesztelés során felmerülő súlyos eseményeket be kell jelenteni az illetékes hatóságnak. A tagállamok jogosultak a területükön folyó tesztelési tevékenységeket engedélyezni vagy megtagadni, és kiegészítő feltételeket is előírhatnak.
Mit jelent ez a gyakorlatban
A 60. cikk elsősorban a nagy kockázatú MI-rendszereket — a rendelet 6. cikke és III. melléklete szerint meghatározottak szerint — fejlesztő vagy bevezető szervezetek számára releváns, amelyeknek a formális megfelelőség-értékelés előtt vagy azzal párhuzamosan valódi működési körülmények között kell validálniuk a rendszer teljesítményét vagy biztonsági tulajdonságait. Ez magában foglalja például azt az esetet, amikor egy kórház éles klinikai környezetben kísérletez MI-alapú diagnosztikai eszközzel, vagy egy pénzintézet valódi igénylők bevonásával tesztel hitelképességi modellt egy kontrollált tesztkörnyezeten kívül.
A gyakorlatban a megfelelőség azt jelenti, hogy a szervezetnek belső eljárást kell kialakítania a valós körülmények közötti tesztek kezelésére, amely tükrözi a cikk kötelezettségeit. Minden tesztelés megkezdése előtt a szervezetnek strukturált teszttervet kell készítenie, ellenőriznie kell, hogy minden beleegyezési mechanizmus érvényben van-e, és legalább 30 nappal előre be kell nyújtania a szükséges értesítést az illetékes hatósághoz — elegendő időt hagyva arra, hogy a hatóság kifogást emelhessen, vagy feltételeket szabhasson.
A tesztelés során a szervezetnek aktív emberi felügyeletet kell fenntartania, minden lényeges eseményt dokumentálnia kell, és fel kell készülnie arra, hogy azonnal felfüggessze a tesztelést, ha a kockázatok meghaladják a várt szintet. A tesztelés során gyűjtött adatok az alkalmazandó GDPR-kötelezettségek hatálya alá tartoznak, és a különleges adatkategóriák kezeléséhez konkrét jogalapra van szükség.
A szervezeteknek biztosítaniuk kell azt is, hogy az üzembe helyezőkkel vagy harmadik fél tesztelési üzemeltetőkkel kötött szerződések egyértelműen meghatározzák a felelősség megosztását a 60. cikk feltételeinek teljesítése tekintetében, mivel a kötelezettség elsősorban a szolgáltatót vagy leendő szolgáltatót terheli, függetlenül attól, hogy ténylegesen ki végzi a tesztelést. Belső irányítási keretek — köztük egy kijelölt felelős személy és a tesztelés dokumentált kockázatnyilvántartása — erősen ajánlottak.
Főbb kötelezettségek
- Előzetes értesítés: A valós körülmények közötti tesztelés megkezdése előtt legalább 30 nappal teszttervet kell benyújtani az érintett nemzeti illetékes hatósághoz, amely tartalmazza a hatókört, az időtartamot, a helyszínt, az érintett személyek kategóriáit és a kockázatcsökkentő intézkedéseket.
- Tájékozott beleegyezés: Ki kell kérni a tesztelésben érintett vagy az által érintett összes természetes személy kifejezett tájékozott beleegyezését, és tájékoztatni kell őket arról, hogy bármikor, hátrány nélkül visszavonhatják azt.
- Kockázatarányosság: Biztosítani kell, hogy a tesztelési tevékenységek ne terjedjenek túl a kitűzött cél szempontjából szigorúan szükséges mértéken, és ne tegyék ki az alanyokat vagy harmadik feleket olyan kockázatoknak, amelyek felülmúlják a várható hasznot.
- Felügyelet és dokumentáció: Aktív felügyeletet kell fenntartani a tesztelés felett, és nyilvántartást kell vezetni a teszttervre, az eredményekre, valamint a tesztelési időszak során felmerülő eltérésekre vagy eseményekre vonatkozóan.
- Eseményjelentés: Indokolatlan késedelem nélkül be kell jelenteni az illetékes hatóságnak a valós körülmények közötti tesztelés során bekövetkező súlyos eseményeket, és azonnali korrekciós intézkedéseket kell tenni a kár csökkentése érdekében.
- EU-adatbázisban való regisztráció: A valós körülmények közötti tesztelési tevékenységet a tesztelés megkezdése előtt regisztrálni kell a 71. cikk alapján létrehozott, nagy kockázatú MI-rendszerek EU-adatbázisában.
Kapcsolódás más cikkekhez
A 60. cikk a VI. cím (Az innovációt támogató intézkedések) részét képezi, és az 57–59. cikkel együtt kell olvasni, amelyek az MI-szabályozói tesztkörnyezetek elsődleges keretrendszerét hozzák létre. A 60. cikk kiegészítő utat kínál az olyan tesztelésekhez, amelyek nem formális tesztkörnyezetben zajlanak, de nem helyettesíti, és nem csökkenti a III. cím alapján a nagy kockázatú MI-rendszerekre alkalmazandó érdemi biztonsági és átláthatósági kötelezettségeket (különösen a 8–15. cikk szerinti szolgáltatói kötelezettségeket, a kockázatkezelést és a műszaki dokumentációt).
A 60. cikk beleegyezési és adatvédelmi követelményei közvetlenül összefüggenek az (EU) 2016/679 rendelettel (GDPR), különösen a jogszerű adatkezelésről és az automatizált döntéshozatalról szóló 6., 9. és 22. cikkel. A 60. cikk kapcsolódik a 71. cikkhez is, amely az EU-adatbázist szabályozza, és a 73. cikkhez, amely a piacfelügyeletről szól, mivel az illetékes hatóságok ellenőrizhetik a valós körülmények közötti teszteléseket. A szolgáltatóknak emellett meg kell fontolniuk a 26. cikket az üzembe helyezők kötelezettségeiről, mivel a valós körülmények közötti tesztelés gyakran igényli az üzembe helyező infrastruktúráját és adatait.
Megfelelőségi ütemterv
Az EU MI-rendelet 2024. augusztus 1-jén lépett hatályba, az Európai Unió Hivatalos Lapjában való megjelenése után húsz nappal. Rendelkezései lépcsőzetes ütemezésben alkalmazandók:
- 2025. február 2. — Alkalmazandóvá váltak a nem elfogadható kockázatú MI-gyakorlatokra vonatkozó tilalmak (5. cikk).
- 2025. augusztus 2. — Alkalmazandóvá váltak az általános célú MI-modellekre vonatkozó rendelkezések (III. cím, 3. fejezet, 51–56. cikkek) és a gouvernance-kötelezettségek (részben a VI. és VIII. cím). Az 57–59. cikk szerinti szabályozói tesztkörnyezeti keret szintén ettől a dátumtól alkalmazandó.
- 2026. augusztus 2. — A legtöbb fennmaradó rendelkezés általános alkalmazási dátuma, köztük a 60. cikké is. Ettől a naptól kezdve a tesztkörnyezeteken kívüli valós körülmények közötti tesztelést végezni kívánó nagy kockázatú MI-rendszerek szolgáltatóinak és leendő szolgáltatóinak maradéktalanul meg kell felelniük az e cikk által előírt értesítési, beleegyezési, dokumentációs és eseményjelentési kötelezettségeknek.
- 2027. augusztus 2. — Meghosszabbított határidő az I. melléklet 2. pontja alá eső nagy kockázatú MI-rendszerek esetén (az I. mellékletben felsorolt uniós harmonizációs jogszabályoknak alávetett meglévő termékekben lévő MI-rendszerek), amellyel az érintett ágazatoknak több idő áll rendelkezésre, hogy megfeleljenek a megfelelőség-értékelési és működési követelményeknek.
A valós körülmények közötti tesztelési programokat tervező szervezeteknek jóval 2026. augusztus 2. előtt el kell kezdeniük a megfelelő tesztigazgatási keretek és értesítési eljárások kialakítását, hogy elkerüljék a késedelmet, amikor a kötelezettség végrehajthatóvá válik.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Nagy kockázatú MI-rendszerek szolgáltatói és leendő szolgáltatói végezhetnek valós körülmények közötti tesztelést tesztkörnyezeteken kívül, feltéve hogy legalább 30 nappal a tesztelés megkezdése előtt értesítik az érintett nemzeti illetékes hatóságot, és teljesítik a 60. cikkben meghatározott feltételeket, köztük az alanyok tájékozott beleegyezésének megszerzését és megfelelő kockázatcsökkentő intézkedések bevezetését.
Nem. A 60. cikk külön utat nyit a valós körülmények közötti tesztelésre, amely az 57–59. cikk által szabályozott formális MI-szabályozói tesztkörnyezeteken kívül zajlik. Könnyebb mechanizmust biztosít, de kötelező biztosítékokat, bejelentési kötelezettségeket és a tesztelésben érintett személyek védelmét célzó feltételeket is előír.
A valós körülmények közötti tesztelésben részt vevő alanyoknak kifejezett tájékozott beleegyezést kell adniuk, kivéve ha az alkalmazandó ágazati jog ettől eltérően rendelkezik. Tájékoztatni kell őket a hátrány nélkül gyakorolható visszavonási jogukról, meg kell óvni őket a tesztelés indokolatlan negatív hatásaitól, és a szolgáltatónak gondoskodnia kell a tesztelés során keletkező károk orvoslásáról. A sérülékeny csoportokra különleges védelmi rendelkezések vonatkoznak.
A 60. cikk a VI. cím alá tartozik, és 2026. augusztus 2-jétől alkalmazandó, ami az EU MI-rendelet legtöbb rendelkezésének általános alkalmazási dátuma. A III. mellékletben felsorolt nagy kockázatú MI-rendszerekre lépcsőzetes kötelezettségek vonatkoznak, egyes kategóriák esetén a kiterjesztett, 2027. augusztus 2-jei határidővel.
A tesztelési fázisban nem feltétlenül, de a tesztelést olyan feltételek között kell lefolytatni, amelyek összhangban vannak a rendeltetésszerű használattal és az MI-rendelet kockázatkezelési követelményeivel. A szolgáltatóknak regisztrálniuk kell a tervezett tesztelést az EU adatbázisában, és biztosítaniuk kell, hogy a tesztterv, a biztosítékok és a felügyeleti mechanizmusok kielégítik a 60. cikk (4) bekezdésében felsorolt feltételeket.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
A free course, a server-graded exam, a verifiable certificate — and the working templates.