Članak 60 Uredbe (EU) 2024/1689 — Testiranje visokorizičnih AI sustava u stvarnim uvjetima izvan regulatornih pješčanika za AI. Službeni tekst, praktično tumačenje, ključne obveze i implikacije za usklađenost.
Sažetak službenog teksta
Članak 60 Uredbe (EU) 2024/1689 utvrđuje uvjete pod kojima pružatelji i budući pružatelji visokorizičnih AI sustava mogu provoditi testiranje u stvarnim uvjetima izvan strukturiranog okvira regulatornih pješčanika za AI uspostavljenih prema Člancima 57 do 59. Ova odredba prepoznaje da smislena evaluacija visokorizičnih AI sustava često zahtijeva izloženost stvarnim operativnim okruženjima, uz održavanje zaštitnih mjera razmjernih uključenim rizicima.
Članak zahtijeva da se testiranje izvan pješčanika provodi samo kada je ispunjen skup kumulativnih uvjeta. Pružatelj ili budući pružatelj mora dostaviti obavijest nadležnom nacionalnom tijelu najmanje 30 dana prije početka testiranja. Obavijest mora uključivati plan testiranja koji opisuje opseg, trajanje, geografsko područje, kategorije uključenih osoba i primijenjene mjere ublažavanja rizika.
Informirani pristanak ispitanika je središnji zahtjev. Kada AI sustav komunicira s identifikabilnim fizičkim osobama ili donosi odluke koje ih se tiču, te osobe moraju biti obaviještene o svom sudjelovanju i moraju izričito pristati, osim ako primjenjivo sektorsko pravo ne propisuje drugačije. Testiranje ne smije premašiti ono što je strogo nužno za postizanje navedenih ciljeva i ne smije izlagati ispitanike neprihvatljivom riziku ili šteti.
Članak nadalje zahtijeva da se testiranje provodi pod nadzorom pružatelja, da se rezultati bilježe i da se nadležnom tijelu prijavljuju ozbiljni incidenti nastali tijekom testiranja. Države članice zadržavaju mogućnost odobravanja ili odbijanja aktivnosti testiranja na svom području i mogu nametnuti dodatne uvjete.
Što ovo znači u praksi
Članak 60 je primarno relevantan za organizacije koje razvijaju ili uvode visokorizične AI sustave — kako je definirano prema Članku 6 i Prilogu III Uredbe — kojima je potrebno validirati performanse sustava ili sigurnosna svojstva u stvarnim operativnim okruženjima prije ili uz formalnu ocjenu sukladnosti. To uključuje, na primjer, bolnicu koja testira AI alat za pomoć u dijagnostici u živom kliničkom okruženju, ili financijsku instituciju koja testira model kreditne sposobnosti s stvarnim podnositeljima zahtjeva izvan kontroliranog pješčanika.
U praksi, usklađenost znači uspostavu internog procesa za upravljanje testiranjem u stvarnim uvjetima koji odražava obveze iz članka. Prije početka testiranja, organizacija mora pripremiti strukturirani plan testiranja, verificirati da su svi mehanizmi pristanka uspostavljeni i dostaviti potrebnu obavijest nadležnom tijelu najmanje 30 dana unaprijed — ostavljajući dovoljno vremena da tijelo iznese prigovore ili nametne uvjete.
Tijekom testiranja, organizacija mora održavati aktivni ljudski nadzor, dokumentirati sve materijalne incidente i biti pripremljena za trenutačnu obustavu testiranja ako rizici premašuju predviđene razine. Podaci prikupljeni tijekom testiranja ostaju podložni primjenjivim obvezama GDPR-a, a obrada posebnih kategorija podataka zahtijeva specifičnu pravnu osnovu.
Organizacije bi trebale osigurati i da njihovi ugovori s distributerima ili vanjskim operatorima testiranja jasno raspoređuju odgovornost za usklađenost s uvjetima Članka 60, budući da obveza leži primarno na pružatelju ili budućem pružatelju bez obzira na to tko fizički provodi testiranje. Interni okviri upravljanja — uključujući imenovanu odgovornu osobu i dokumentirani registar rizika za testiranje — snažno se preporučuju.
Ključne obveze
- Prethodna obavijest: Dostaviti plan testiranja relevantnom nacionalnom nadležnom tijelu najmanje 30 dana prije početka testiranja u stvarnim uvjetima, koji pokriva opseg, trajanje, lokaciju, kategorije ispitanika i mjere ublažavanja rizika.
- Informirani pristanak: Pribaviti izričit informirani pristanak svih fizičkih osoba uključenih u testiranje ili njime pogođenih, te ih obavijestiti o njihovom bezuvjetnom pravu na povlačenje u bilo kojem trenutku bez štete.
- Razmjernost rizika: Osigurati da aktivnosti testiranja ne premašuju ono što je strogo nužno za navedeni cilj i da ne izlažu ispitanike ili treće strane rizicima koji nadilaze očekivane koristi.
- Nadzor i dokumentacija: Održavati aktivni nadzor testiranja, voditi evidenciju plana testiranja, rezultata i svakih odstupanja ili incidenata nastalih tijekom testiranja.
- Prijava incidenata: Bez nepotrebnog odgađanja prijaviti svaki ozbiljni incident nastao tijekom testiranja u stvarnim uvjetima nadležnom tijelu, te poduzeti hitne korektivne mjere za ublažavanje štete.
- Registracija u bazi podataka EU: Registrirati aktivnost testiranja u stvarnim uvjetima u bazi podataka EU za visokorizične AI sustave uspostavljenoj prema Članku 71, prije početka testiranja.
Odnos s drugim člancima
Članak 60 je dio Naslova VI (Mjere za potporu inovacija) i treba se čitati zajedno s Člancima 57 do 59, koji uspostavljaju primarni okvir za regulatorne pješčanike za AI. Članak 60 funkcionira kao komplementarni put za testiranje koje se ne odvija unutar formalnog pješčanika, ali ne zamjenjuje niti smanjuje suštinske obveze sigurnosti i transparentnosti koje se primjenjuju na visokorizične AI sustave prema Naslovu III (posebno Članci 8 do 15 o obvezama pružatelja, upravljanju rizicima i tehničkoj dokumentaciji).
Zahtjevi pristanka i zaštite podataka iz Članka 60 izravno se presijecaju s Uredbom (EU) 2016/679 (GDPR), posebno Člancima 6, 9 i 22 o zakonitoj obradi i automatiziranom donošenju odluka. Članak 60 također se povezuje s Člankom 71 o bazi podataka EU, koji uređuje obveze registracije, i Člankom 73 o nadzoru tržišta, budući da nadležna tijela mogu pregledavati testiranja u stvarnim uvjetima. Pružatelji bi trebali dodatno razmotriti Članak 26 o obvezama distributera, budući da testiranje u stvarnim uvjetima često uključuje infrastrukturu i podatke na strani distributera.
Vremenski okvir usklađenosti
EU AI Akt stupio je na snagu 1. kolovoza 2024., dvadeset dana nakon objave u Službenom listu Europske unije. Njegove odredbe primjenjuju se u fazama:
- 2. veljače 2025. — Zabrane praksi AI neprihvatljivog rizika (Članak 5) postale su primjenjive.
- 2. kolovoza 2025. — Odredbe o modelima opće namjene AI (Naslov III, Poglavlje 3, Članci 51 do 56) i obveze upravljanja (Naslov VI i VIII djelomično) postale su primjenjive. Okvir regulatornog pješčanika prema Člancima 57 do 59 također je postao primjenjiv od ovog datuma.
- 2. kolovoza 2026. — Opći datum primjene za većinu preostalih odredbi, uključujući Članak 60. Od ovog datuma, pružatelji i budući pružatelji visokorizičnih AI sustava koji žele provoditi testiranje u stvarnim uvjetima izvan pješčanika moraju u potpunosti poštivati obveze obavješćivanja, pristanka, dokumentacije i prijave incidenata utvrđene ovim člankom.
- 2. kolovoza 2027. — Produženi rok za visokorizične AI sustave koji potpada pod Prilog III, točka 2 (AI sustavi u postojećim proizvodima koji već podliježu zakonodavstvu Unije o harmonizaciji navedenom u Prilogu I), dajući pogođenim sektorima dodatno vrijeme za usklađivanje s ocjenom sukladnosti i operativnim zahtjevima.
Organizacije koje planiraju programe testiranja u stvarnim uvjetima trebaju početi projektirati sukladne okvire upravljanja testiranjem i postupke obavješćivanja dobro unaprijed od datuma 2. kolovoza 2026. kako bi izbjegle odgode kada obveza postane izvršiva.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Pružatelji i budući pružatelji visokorizičnih AI sustava mogu provoditi testiranje u stvarnim uvjetima izvan pješčanika, pod uvjetom da obavijeste relevantno nacionalno nadležno tijelo najmanje 30 dana prije početka testiranja i ispune uvjete utvrđene u Članku 60, uključujući pribavljanje informiranog pristanka ispitanika i uspostavu odgovarajućih mjera za ublažavanje rizika.
Ne. Članak 60 uspostavlja poseban put za testiranje u stvarnim uvjetima koje se odvija izvan formalnih regulatornih pješčanika za AI uređenih Člancima 57 do 59. Pruža mehanizam s lakšim zahtjevima, ali i dalje nameće obvezne zaštitne mjere, zahtjeve obavješćivanja i uvjete za zaštitu ispitanika uključenih u testiranje.
Ispitanici uključeni u testiranje u stvarnim uvjetima moraju dati izričit informiran pristanak, osim ako primjenjivo sektorsko pravo ne dopušta drugačije. Moraju biti obaviješteni o svom pravu na povlačenje bez štete, zaštićeni od svakog nepotrebnog negativnog učinka, a pružatelj mora osigurati da se svaka šteta nastala testiranjem adresira. Posebne zaštite primjenjuju se na ranjive skupine.
Članak 60 potpada pod Naslov VI i primjenjuje se od 2. kolovoza 2026., što je opći datum primjene za većinu odredbi EU AI Akta. Visokorizični AI sustavi navedeni u Prilogu III suočavaju se s postupnim obvezama, s nekim kategorijama prema produženom vremenskom roku od 2. kolovoza 2027.
Ne nužno u fazi testiranja, ali testiranje mora biti provedeno pod uvjetima koji su u skladu s namijenjenom upotrebom i zahtjevima upravljanja rizicima AI Akta. Pružatelji moraju registrirati planirano testiranje u bazi podataka EU i osigurati da plan testiranja, zaštitne mjere i mehanizmi nadzora zadovoljavaju uvjete navedene u Članku 60(4).
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.