Az (EU) 2024/1689 rendelet 60. cikke — Nagy kockázatú MI-rendszerek valós körülmények között végzett tesztelése az MI-szabályozói tesztkörnyezeteken kívül. Hivatalos szöveg, gyakorlati értelmezés, főbb kötelezettségek és megfelelőségi következmények.
A hivatalos szöveg összefoglalása
Az (EU) 2024/1689 rendelet 60. cikke meghatározza azokat a feltételeket, amelyek teljesülése esetén a nagy kockázatú MI-rendszerek szolgáltatói és leendő szolgáltatói valós körülmények között végezhetnek tesztelést az 57–59. cikk alapján létrehozott szabályozói tesztkörnyezetek strukturált keretein kívül. Ez a rendelkezés elismeri, hogy a nagy kockázatú MI-rendszerek érdemi értékelése gyakran valós működési környezeteknek való kitettséget igényel, miközben az érintett kockázatokkal arányos biztosítékokat tart fenn.
A cikk előírja, hogy tesztkörnyezeteken kívüli tesztelésre csak akkor kerülhet sor, ha a kumulatív feltételek teljes körét teljesítik. A szolgáltatónak vagy leendő szolgáltatónak legalább 30 nappal a tesztelés megkezdése előtt értesítést kell benyújtania az érintett nemzeti illetékes hatósághoz. Az értesítésnek tartalmaznia kell egy teszttervet, amely leírja a hatókört, az időtartamot, a földrajzi területet, az érintett személyek kategóriáit és a bevezetett kockázatcsökkentő intézkedéseket.
Az alanyok tájékozott beleegyezése alapvető követelmény. Ha az MI-rendszer azonosítható természetes személyeket érint vagy róluk hoz döntéseket, ezeket a személyeket tájékoztatni kell a részvételükről, és kifejezetten bele kell egyezniük, kivéve ha az alkalmazandó ágazati jog ettől eltérően rendelkezik. A tesztelés nem terjedhet túl a kitűzött célok eléréséhez szigorúan szükséges mértéken, és az alanyokat nem teheti ki elfogadhatatlan kockázatnak vagy kárnak.
A cikk előírja továbbá, hogy a tesztelést a szolgáltató felügyelete alatt kell lefolytatni, az eredményeket rögzíteni kell, és a tesztelés során felmerülő súlyos eseményeket be kell jelenteni az illetékes hatóságnak. A tagállamok jogosultak a területükön folyó tesztelési tevékenységeket engedélyezni vagy megtagadni, és kiegészítő feltételeket is előírhatnak.
Mit jelent ez a gyakorlatban
A 60. cikk elsősorban a nagy kockázatú MI-rendszereket — a rendelet 6. cikke és III. melléklete szerint meghatározottak szerint — fejlesztő vagy bevezető szervezetek számára releváns, amelyeknek a formális megfelelőség-értékelés előtt vagy azzal párhuzamosan valódi működési körülmények között kell validálniuk a rendszer teljesítményét vagy biztonsági tulajdonságait. Ez magában foglalja például azt az esetet, amikor egy kórház éles klinikai környezetben kísérletez MI-alapú diagnosztikai eszközzel, vagy egy pénzintézet valódi igénylők bevonásával tesztel hitelképességi modellt egy kontrollált tesztkörnyezeten kívül.
A gyakorlatban a megfelelőség azt jelenti, hogy a szervezetnek belső eljárást kell kialakítania a valós körülmények közötti tesztek kezelésére, amely tükrözi a cikk kötelezettségeit. Minden tesztelés megkezdése előtt a szervezetnek strukturált teszttervet kell készítenie, ellenőriznie kell, hogy minden beleegyezési mechanizmus érvényben van-e, és legalább 30 nappal előre be kell nyújtania a szükséges értesítést az illetékes hatósághoz — elegendő időt hagyva arra, hogy a hatóság kifogást emelhessen, vagy feltételeket szabhasson.
A tesztelés során a szervezetnek aktív emberi felügyeletet kell fenntartania, minden lényeges eseményt dokumentálnia kell, és fel kell készülnie arra, hogy azonnal felfüggessze a tesztelést, ha a kockázatok meghaladják a várt szintet. A tesztelés során gyűjtött adatok az alkalmazandó GDPR-kötelezettségek hatálya alá tartoznak, és a különleges adatkategóriák kezeléséhez konkrét jogalapra van szükség.
A szervezeteknek biztosítaniuk kell azt is, hogy az üzembe helyezőkkel vagy harmadik fél tesztelési üzemeltetőkkel kötött szerződések egyértelműen meghatározzák a felelősség megosztását a 60. cikk feltételeinek teljesítése tekintetében, mivel a kötelezettség elsősorban a szolgáltatót vagy leendő szolgáltatót terheli, függetlenül attól, hogy ténylegesen ki végzi a tesztelést. Belső irányítási keretek — köztük egy kijelölt felelős személy és a tesztelés dokumentált kockázatnyilvántartása — erősen ajánlottak.
Főbb kötelezettségek
- Előzetes értesítés: A valós körülmények közötti tesztelés megkezdése előtt legalább 30 nappal teszttervet kell benyújtani az érintett nemzeti illetékes hatósághoz, amely tartalmazza a hatókört, az időtartamot, a helyszínt, az érintett személyek kategóriáit és a kockázatcsökkentő intézkedéseket.
- Tájékozott beleegyezés: Ki kell kérni a tesztelésben érintett vagy az által érintett összes természetes személy kifejezett tájékozott beleegyezését, és tájékoztatni kell őket arról, hogy bármikor, hátrány nélkül visszavonhatják azt.
- Kockázatarányosság: Biztosítani kell, hogy a tesztelési tevékenységek ne terjedjenek túl a kitűzött cél szempontjából szigorúan szükséges mértéken, és ne tegyék ki az alanyokat vagy harmadik feleket olyan kockázatoknak, amelyek felülmúlják a várható hasznot.
- Felügyelet és dokumentáció: Aktív felügyeletet kell fenntartani a tesztelés felett, és nyilvántartást kell vezetni a teszttervre, az eredményekre, valamint a tesztelési időszak során felmerülő eltérésekre vagy eseményekre vonatkozóan.
- Eseményjelentés: Indokolatlan késedelem nélkül be kell jelenteni az illetékes hatóságnak a valós körülmények közötti tesztelés során bekövetkező súlyos eseményeket, és azonnali korrekciós intézkedéseket kell tenni a kár csökkentése érdekében.
- EU-adatbázisban való regisztráció: A valós körülmények közötti tesztelési tevékenységet a tesztelés megkezdése előtt regisztrálni kell a 71. cikk alapján létrehozott, nagy kockázatú MI-rendszerek EU-adatbázisában.
Kapcsolódás más cikkekhez
A 60. cikk a VI. cím (Az innovációt támogató intézkedések) részét képezi, és az 57–59. cikkel együtt kell olvasni, amelyek az MI-szabályozói tesztkörnyezetek elsődleges keretrendszerét hozzák létre. A 60. cikk kiegészítő utat kínál az olyan tesztelésekhez, amelyek nem formális tesztkörnyezetben zajlanak, de nem helyettesíti, és nem csökkenti a III. cím alapján a nagy kockázatú MI-rendszerekre alkalmazandó érdemi biztonsági és átláthatósági kötelezettségeket (különösen a 8–15. cikk szerinti szolgáltatói kötelezettségeket, a kockázatkezelést és a műszaki dokumentációt).
A 60. cikk beleegyezési és adatvédelmi követelményei közvetlenül összefüggenek az (EU) 2016/679 rendelettel (GDPR), különösen a jogszerű adatkezelésről és az automatizált döntéshozatalról szóló 6., 9. és 22. cikkel. A 60. cikk kapcsolódik a 71. cikkhez is, amely az EU-adatbázist szabályozza, és a 73. cikkhez, amely a piacfelügyeletről szól, mivel az illetékes hatóságok ellenőrizhetik a valós körülmények közötti teszteléseket. A szolgáltatóknak emellett meg kell fontolniuk a 26. cikket az üzembe helyezők kötelezettségeiről, mivel a valós körülmények közötti tesztelés gyakran igényli az üzembe helyező infrastruktúráját és adatait.
Megfelelőségi ütemterv
Az EU MI-rendelet 2024. augusztus 1-jén lépett hatályba, az Európai Unió Hivatalos Lapjában való megjelenése után húsz nappal. Rendelkezései lépcsőzetes ütemezésben alkalmazandók:
- 2025. február 2. — Alkalmazandóvá váltak a nem elfogadható kockázatú MI-gyakorlatokra vonatkozó tilalmak (5. cikk).
- 2025. augusztus 2. — Alkalmazandóvá váltak az általános célú MI-modellekre vonatkozó rendelkezések (III. cím, 3. fejezet, 51–56. cikkek) és a gouvernance-kötelezettségek (részben a VI. és VIII. cím). Az 57–59. cikk szerinti szabályozói tesztkörnyezeti keret szintén ettől a dátumtól alkalmazandó.
- 2026. augusztus 2. — A legtöbb fennmaradó rendelkezés általános alkalmazási dátuma, köztük a 60. cikké is. Ettől a naptól kezdve a tesztkörnyezeteken kívüli valós körülmények közötti tesztelést végezni kívánó nagy kockázatú MI-rendszerek szolgáltatóinak és leendő szolgáltatóinak maradéktalanul meg kell felelniük az e cikk által előírt értesítési, beleegyezési, dokumentációs és eseményjelentési kötelezettségeknek.
- 2028. augusztus 2. — Meghosszabbított határidő az I. melléklet 2. pontja alá eső nagy kockázatú MI-rendszerek esetén (az I. mellékletben felsorolt uniós harmonizációs jogszabályoknak alávetett meglévő termékekben lévő MI-rendszerek), amellyel az érintett ágazatoknak több idő áll rendelkezésre, hogy megfeleljenek a megfelelőség-értékelési és működési követelményeknek.
A valós körülmények közötti tesztelési programokat tervező szervezeteknek jóval 2026. augusztus 2. előtt el kell kezdeniük a megfelelő tesztigazgatási keretek és értesítési eljárások kialakítását, hogy elkerüljék a késedelmet, amikor a kötelezettség végrehajthatóvá válik.
Official AI Act Compliance Deadline Calendar
Deadline data last changed · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act, DORA és NIS2 együtt
Az Ön szervezetére az AI Act és a DORA is vonatkozik? A két rendelet a pénzügyi AI-rendszerek működési ellenálló képességénél találkozik. Testvéroldalunk, a regulation-dora.eu, mélyen tárgyalja a DORA-t — beleértve azt is, amit az AI Act egy meglévő DORA-programra ráépít.
Az AI Act a pénzügyi intézmények számára ↗ Fedezze fel a regulation-dora.eu oldalt ↗Gyakran ismételt kérdések
Nagy kockázatú MI-rendszerek szolgáltatói és leendő szolgáltatói végezhetnek valós körülmények közötti tesztelést tesztkörnyezeteken kívül, feltéve hogy legalább 30 nappal a tesztelés megkezdése előtt értesítik az érintett nemzeti illetékes hatóságot, és teljesítik a 60. cikkben meghatározott feltételeket, köztük az alanyok tájékozott beleegyezésének megszerzését és megfelelő kockázatcsökkentő intézkedések bevezetését.
Nem. A 60. cikk külön utat nyit a valós körülmények közötti tesztelésre, amely az 57–59. cikk által szabályozott formális MI-szabályozói tesztkörnyezeteken kívül zajlik. Könnyebb mechanizmust biztosít, de kötelező biztosítékokat, bejelentési kötelezettségeket és a tesztelésben érintett személyek védelmét célzó feltételeket is előír.
A valós körülmények közötti tesztelésben részt vevő alanyoknak kifejezett tájékozott beleegyezést kell adniuk, kivéve ha az alkalmazandó ágazati jog ettől eltérően rendelkezik. Tájékoztatni kell őket a hátrány nélkül gyakorolható visszavonási jogukról, meg kell óvni őket a tesztelés indokolatlan negatív hatásaitól, és a szolgáltatónak gondoskodnia kell a tesztelés során keletkező károk orvoslásáról. A sérülékeny csoportokra különleges védelmi rendelkezések vonatkoznak.
A 60. cikk a VI. cím alá tartozik, és 2026. augusztus 2-jétől alkalmazandó, ami az EU MI-rendelet legtöbb rendelkezésének általános alkalmazási dátuma. A III. mellékletben felsorolt nagy kockázatú MI-rendszerekre lépcsőzetes kötelezettségek vonatkoznak, egyes kategóriák esetén a kiterjesztett, 2027. december 2-jei határidővel.
A tesztelési fázisban nem feltétlenül, de a tesztelést olyan feltételek között kell lefolytatni, amelyek összhangban vannak a rendeltetésszerű használattal és az MI-rendelet kockázatkezelési követelményeivel. A szolgáltatóknak regisztrálniuk kell a tervezett tesztelést az EU adatbázisában, és biztosítaniuk kell, hogy a tesztterv, a biztosítékok és a felügyeleti mechanizmusok kielégítik a 60. cikk (4) bekezdésében felsorolt feltételeket.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Vigye tovább a megfelelést az Akadémián
Ingyenes tanfolyam, szerveren értékelt vizsga, ellenőrizhető tanúsítvány — és a munkasablonok.