Članak 57. Uredbe (EU) 2024/1689 — Regulatorni sandboxovi za UI. Službeni tekst, praktična interpretacija, ključne obveze i implikacije za usklađenost.
Sažetak službenog teksta
Članak 57. Uredbe (EU) 2024/1689 obvezuje države članice da uspostave barem jedan regulatorni sandbox za UI na nacionalnoj razini, funkcionalan najkasnije do 2. kolovoza 2026. Ove sandboxove mora uspostaviti relevantno nacionalno nadležno tijelo ili, gdje je to prikladno, zajednički s nadležnim tijelima drugih država članica, pod koordinacijom Europskog ureda za UI. Okvir sandboxa omogućuje pružateljima i budućim pružateljima sustava UI razvoj, treniranje, validaciju i testiranje inovativnih sustava UI u okruženju stvarnog ili simuliranog svijeta, pod izravnim nadzorom nadležnih tijela, prije stavljanja tih sustava na tržište ili puštanja u upotrebu.
Sudjelovanje ne predstavlja izuzeće od obveza utvrđenih Uredbom ili od primjenjivog prava Unije ili država članica. Nadležna tijela mogu, međutim, unutar sandboxa fleksibilno ili prilagođeno primjenjivati postojeće pravne zahtjeve tamo gdje to ne narušava ciljeve tih odredbi ili ne riskiraju štetu po zdravlje, sigurnost ili temeljna prava.
Sudjelujuće organizacije moraju podnijeti plan sandboxa i djelovati prema posebnim uvjetima koje je postavilo tijelo. Sandbox funkcionira u početnom periodu od dvanaest mjeseci, koji se može produžiti za daljnjih dvanaest. Države članice moraju godišnje izvještavati Komisiju o rezultatima svojih sandboxova. Komisija, u suradnji s Uredom za UI i državama članicama, treba izdati smjernice o praktičnoj implementaciji ovog Članka, uključujući kriterije odabira i detaljne postupke za sudjelovanje.
Što ovo znači u praksi
Članak 57. stvara formalni, nadziranski put koji organizacijama omogućuje odgovorno inoviranje bez čekanja na uspostavu pune aparature usklađenosti. U praksi, sandbox je najrelevantniji za startupe i mala i srednja poduzeća koja razvijaju sustave UI koji mogu spadati pod visokorizične klasifikacije ili koji djeluju na pravno neizvjesnom teritoriju, poput sustava koji se tiču zdravlja, obrazovanja, zapošljavanja, kritične infrastrukture ili provedbe zakona.
Za tvrtku koja želi koristiti sandbox, proces uključuje identificiranje nadležnog tijela u njenoj državi članici, podnošenje zahtjeva s planom sandboxa koji opisuje sustav UI, ciljeve inovacije, predloženu metodologiju testiranja i uspostavljene zaštitne mjere. U slučaju prihvaćanja, tijelo dodjeljuje namjensku kontaktnu točku i može organizaciji dopustiti testiranje sustava s stvarnim podacima ili u uvjetima stvarnog svijeta koji bi inače aktivirali strože pred-tržišne obveze.
Konkretan primjer: startup koji razvija alat za trijaž temeljen na UI koji bi se inače kvalificirao kao visokorizični sustav UI prema Prilogu III. mogao bi ući u sandbox kako bi provodio klinički nadzirane pilote. Tijekom sandboxa, tijelo može dopustiti faznu primjenu zahtjeva za ocjenu sukladnosti, istovremeno prateći ponašanje sustava i zrelost usklađenosti startupa. Na kraju perioda sandboxa, startup mora ili dovršiti punu ocjenu sukladnosti i registrirati sustav u bazi podataka EU, ili ga povući.
Važno je napomenuti da sudjelovanje u sandboxu ne stvara regulatornu imunitet. Svaka šteta uzrokovana pojedincima tijekom testiranja ostaje odgovornost pružatelja, a zaštite temeljnih prava primjenjuju se u cijelom trajanju. Sandbox je okruženje za testiranje i učenje, a ne odricanje od obveza.
Ključne obveze
- Rok uspostave: Svaka država članica mora imati barem jedan funkcionalni regulatorni sandbox za UI koji je operativan do 2. kolovoza 2026., pod nadzorom njenog nacionalnog nadležnog tijela ili putem zajedničkog prekograničnog aranžmana sandboxa.
- Zahtjev za planom sandboxa: Sudionici moraju podnijeti i djelovati prema odobrenom planu sandboxa koji definira sustav UI u razvoju, opseg testiranja, zaštitne mjere i namjeravanu tržišnu primjenu.
- Trajna pravna odgovornost: Sudjelujuće organizacije ostaju u potpunosti odgovorne za svaku štetu, povredu ili kršenje prava uzrokovane aktivnostima sandboxa; sudjelovanje ne daje imunitet prema građanskom, kaznenom ili pravu zaštite podataka.
- Ograničenja trajanja: Sandboxovi su ograničeni na dvanaest mjeseci, uz mogućnost jednokratnog produženja za daljnjih dvanaest, nakon čega sustav mora postići punu usklađenost ili biti povučen.
- Prioritetni pristup za mala i srednja poduzeća i startupe: Nadležna tijela moraju osigurati da mala i srednja poduzeća i startupovi imaju prioritiziran ili olakšan pristup programima sandboxa, uključujući putem pojednostavljenih postupaka prijave i namjenske podrške.
- Izvještavanje i transparentnost: Nadležna tijela moraju producirati izvješća na kraju svakog ciklusa sandboxa, sažimajući aktivnosti, ishode i naučene lekcije; države članice moraju godišnje izvještavati Komisiju o cjelokupnom funkcioniranju programa sandboxa.
Odnos prema ostalim člancima
Članak 57. smješten je unutar Glave VI. (Mjere u potpori inovacija) zajedno s Člancima 58. do 63., koji se bave pravilima specifičnim za sandbox o obradi podataka, testiranju u stvarnom svijetu izvan sandboxova i mjerama za mala i srednja poduzeća. Blisko je povezan s Člankom 58., koji utvrđuje uvjete zaštite podataka pod kojima se osobni podaci mogu obrađivati unutar sandboxa za svrhu razvoja UI u javnom interesu.
Ovaj članak se također izravno povezuje s obvezama visokorizičnih sustava UI iz Glave III. (Članci 8. do 51.), budući da su sandboxovi primarno namijenjeni pomoći pružateljima da ispune te zahtjeve prije stavljanja na tržište. Članak 74. o nadzoru tržišta relevantan je jer nadležno tijelo koje nadzire sandbox može biti ista instancija odgovorna za post-tržišni nadzor.
Članak 57. treba nadalje čitati zajedno s Člankom 3. (definicije, posebno definicije "pružatelja", "budućeg pružatelja" i "sustava UI") i Člankom 96., koji uređuje ulogu Ureda za UI u koordinaciji prekograničnih aktivnosti sandboxa i izdavanju smjernica za implementaciju.
Vremenski plan usklađenosti
Zakon EU o UI stupio je na snagu 1. kolovoza 2024., s obvezama koje se postupno uvode u višegodišnjem periodu. Članak 57. spada pod opći datum primjene od 2. kolovoza 2026., što znači da su države članice dužne imati regulatorne sandboxove za UI operativne do tog datuma.
Širi kalendar usklađenosti pruža kontekst za relevantnost sandboxa: zabrane praksi UI neprihvatljivog rizika postale su izvršive od 2. veljače 2025.; obveze koje se odnose na modele UI opće namjene (Glava VIII.) primjenjivale su se od 2. kolovoza 2025.; a obveze za visokorizične sustave UI navedene u Prilogu III. primjenjuju se od 2. kolovoza 2026., s daljnjim produžetkom do 2. kolovoza 2027. za visokorizične sustave obuhvaćene postojećim usklađenim zakonodavstvom Unije.
Ova fazna primjena znači da mehanizam sandboxa prema Članku 57. postaje dostupan upravo kad visokorizične obveze UI postaju izvršive, dajući inovativnim pružateljima strukturiran put za testiranje i usavršavanje njihovih sustava pod nadzorom prije nego što se suoče s punom težinom ocjene sukladnosti, registracije u bazi podataka EU prema Članku 71. i tekućih obveza post-tržišnog praćenja prema Članku 72.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Regulatorni sandbox za UI je kontrolirani okvir koji uspostavlja jedno ili više nacionalnih nadležnih tijela, a koji pružateljima i budućim pružateljima omogućuje razvoj, treniranje, validaciju i testiranje inovativnih sustava UI pod regulatornim nadzorom, u ograničenom vremenskom periodu i s reduciranim obvezama usklađenosti, prije stavljanja tih sustava na tržište ili puštanja u upotrebu.
Pristup je primarno namijenjen malim i srednjim poduzećima, uključujući startupe, i može se proširiti na druge sudionike. Pružatelji i budući pružatelji sustava UI moraju podnijeti zahtjev nadležnom tijelu države članice u kojoj su osnovani. Odabir se temelji na kriterijima koji uključuju inovativnu prirodu sustava UI, potencijalne društvene, zdravstvene, sigurnosne koristi, koristi u pogledu temeljnih prava ili okoliša, te nemogućnost podnositelja zahtjeva da testira sustav u uvjetima koji adekvatno simuliraju okruženje stvarnog svijeta.
Ne. Sudjelovanje u sandboxu ne oslobađa sudionike od primjenjivog prava EU i država članica. Međutim, određene odredbe nadzorna tijela mogu unutar sandboxa primjenjivati fleksibilno. Sudionici ostaju u potpunosti odgovorni za svaku štetu uzrokovanu tijekom testiranja i moraju se pridržavati plana sandboxa dogovorenog s tijelom.
Sandboxovi funkcioniraju u početnom periodu od dvanaest mjeseci, koji se može produžiti za dodatnih dvanaest mjeseci. Ukupno trajanje stoga ne može premašiti dvadeset četiri mjeseca, nakon čega sudionik mora ili postići punu usklađenost ili povući sustav s tržišta.
Na kraju perioda sandboxa, sudionici moraju ili dokazati punu usklađenost sa Zakonom EU o UI i relevantnim pravom EU prije stavljanja sustava na tržište, ili prestati s primjenom. Nadležno tijelo izdaje izvješće koje sažima provedene aktivnosti i naučene lekcije, koje može biti dostupno drugim tijelima ili javnosti radi informiranja buduće politike.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.