Članak 12 Uredbe (EU) 2024/1689 — Vođenje evidencije. Službeni tekst, praktična interpretacija, ključne obveze i implikacije za usklađenost.
Sažetak službenog teksta
Članak 12 Uredbe (EU) 2024/1689 uspostavlja obvezne zahtjeve vođenja evidencije za visokorisične sustave AI. Članak se nalazi u Glavi III, Poglavlju 2, koje utvrđuje tehničke zahtjeve i zahtjeve upravljanja koje visokorisični sustavi AI moraju ispuniti prije stavljanja na tržište EU-a ili puštanja u upotrebu.
Temeljna obveza je da visokorisični sustavi AI moraju biti projektirani i razvijeni s mogućnostima evidentiranja koje omogućavaju automatsko bilježenje događaja — uobičajeno nazvanih zapisnicima — kroz operativni vijek sustava. Ti zapisnici služe dvostrukoj svrsi: podupiru praćenje pružatelja nakon stavljanja na tržište prema Članku 72 te omogućavaju nacionalnim nadležnim tijelima da obavljaju svoje nadzorne i istražne funkcije.
Članak 12(2) specificira da sposobnosti evidentiranja moraju, kao minimum, bilježiti: razdoblje svake upotrebe sustava (datum i vrijeme početka i završetka), referentnu bazu podataka prema kojoj su gdje je primjenjivo provjereni ulazni podaci, ulazne podatke koji su doveli do određenog izlaza ili rezultata, te — u slučaju biometrijskih sustava identifikacije — identitet fizičkih osoba uključenih u provjeru rezultata.
Članak obvezom projektiranja izravno tereti pružatelje. Evidentiranje mora biti ugrađeno u sustav od izgradnje, a ne dodano naknadno. To odražava širu filozofiju dizajniranja od samog početka prisutnu u Uredbi. Operateri koji primjenjuju te sustave imaju komplementarne obveze prema Članku 26 da čuvaju zapisnike generirane tijekom njihove upotrebe sustava, u mjeri u kojoj su ti zapisnici pod njihovom kontrolom.
Što to znači u praksi
Za pružatelje koji razvijaju ili stavljaju visokorisične sustave AI na tržište EU-a, Članak 12 zahtijeva donošenje inženjerskih odluka tijekom faze projektiranja, a ne nakon primjene. Evidentiranje mora biti arhitekturalna značajka proizvoda.
Zahvaćene strane. Svaka organizacija koja razvija, stavlja na tržište ili u upotrebu visokorisični sustav AI kako je definirano prema Članku 6 i Annexu III podložna je Članku 12. To uključuje sustave koji se koriste u provjeri prijava za posao, bodovanju kreditne sposobnosti, biometrijskoj identifikaciji, upravljanju kritičnom infrastrukturom, obrazovnom ocjenjivanju, provedbi zakona, graničnoj kontroli i sudskoj upravi, između ostalog. Operateri — organizacije koje primjenjuju pružateljev visokorisični sustav AI u vlastitom kontekstu — imaju sekundarne obveze za čuvanje zapisnika koje kontroliraju.
Konkretne potrebne radnje. Pružatelj mora implementirati automatsko evidentiranje koje bilježi potrebne podatkovne točke bez ručne intervencije. Na primjer, pružatelj alata za provjeru životopisa uz pomoć AI mora osigurati da sustav evidentira svaku sesiju regrutiranja, verziju skupa podataka korištenu za treniranje ili kalibriranje modela te ulaze (profile kandidata) koji su generirali svaki izlaz (rangiranje ili preporuku). Operater koji primjenjuje taj alat mora čuvati te zapisnike i učiniti ih dostupnima tijelima na zahtjev.
Istražna korisnost. Zapisnici postoje primarno kako bi omogućili retrospektivnu analizu. Ako sustav proizvede diskriminatorni ishod ili uzrokuje štetu, regulatori moraju biti u mogućnosti rekonstruirati što se dogodilo. Zapisnici koji su nepotpuni, prepisani ili nedostupni poražavaju tu svrhu i izlažu i pružatelja i operatera riziku izvršnih mjera.
Razmjernost. Specifični opseg onoga što se mora evidentirati kalibriran je prema vrsti sustava. Biometrijski sustavi suočavaju se s najdetaljnijim zahtjevima. Pružatelji bi trebali dokumentirati svoje odluke o dizajnu evidentiranja u tehničkoj dokumentaciji kako zahtijeva Članak 11.
Ključne obveze
- Evidentiranje od projektiranja. Visokorisični sustavi AI moraju biti projektirani i razvijeni s automatskim sposobnostima evidentiranja događaja ugrađenima u arhitekturu sustava prije stavljanja na tržište ili primjene.
- Minimalni sadržaj zapisnika. Zapisnici moraju bilježiti, kao minimum: operativno razdoblje svake sesije upotrebe, referentnu bazu podataka korištenu za provjeru ulaza gdje je primjenjivo, ulazne podatke koji su proizveli svaki izlaz ili odluku te — za biometrijske sustave identifikacije — identitete fizičkih osoba koje su verificirale rezultate.
- Čuvanje zapisnika od strane operatera. Operateri moraju čuvati zapisnike generirane tijekom njihove upotrebe visokorisičnog sustava AI za razdoblje koje zahtijeva primjenjivo pravo te, kao minimum, za trajanje potrebno za podupiranje praćenja nakon stavljanja na tržište i regulatornih istraga.
- Dostupnost tijelima. Zapisnici moraju biti dostupni nacionalnim nadležnim tijelima na zahtjev radi olakšavanja nadzornog nadzora, istrage incidenata i aktivnosti nadzora tržišta.
- Sljedivost izlaza. Sustav evidentiranja mora omogućiti rekonstrukciju uzročnog lanca od specifičnog ulaza do specifičnog izlaza, podupirući odgovornost i pravo na objašnjenje gdje je primjenjivo.
- Usklađenost s tehničkom dokumentacijom. Arhitektura evidentiranja i njezin opseg moraju biti opisani u tehničkoj dokumentaciji koja se vodi prema Članku 11, osiguravajući dosljednost između sustava kako je projektiran i sustava kako se prati.
Odnos prema ostalim Člancima
Članak 12 ne može se čitati izolirano. On funkcionira kao dio mreže međusobno povezanih zahtjeva u Glavi III, Poglavlju 2.
Članak 9 (Sustav upravljanja rizicima) uspostavlja sveobuhvatni okvir unutar kojeg evidentiranje doprinosi — zapisnici generiraju operativne podatke potrebne za identificiranje i procjenu rizika u stvarnoj primjeni.
Članak 11 (Tehnička dokumentacija) zahtijeva od pružatelja da dokumentiraju arhitekturu i sposobnosti evidentiranja kao dio šireg tehničkog dosijea koji se podnosi prijavljenim tijelima ili čuva za regulatorni pregled.
Članak 17 (Sustav upravljanja kvalitetom) zahtijeva od pružatelja da održavaju sustav upravljanja kvalitetom koji integrira evidentiranje u šire operativne kontrole i postupke korektivnih radnji.
Članak 26 (Obveze distributera) dodjeljuje operaterima obvezu čuvanja zapisnika pod njihovom kontrolom i suradnje s pružateljima i tijelima, čineći Članak 12 zajedničkom odgovornosti kroz lanac opskrbe.
Članak 72 (Praćenje nakon stavljanja na tržište) je nizvodni korisnik zapisnika Članka 12 — sustav praćenja oslanja se na operativne zapisnike za otkrivanje pogoršanja performansi, neočekivanih izlaza i novih rizika nakon primjene.
Članak 73 (Izvješćivanje o ozbiljnim incidentima) koristi podatke iz zapisnika kao primarne dokaze kada su pružatelji dužni izvijestiti tijela za nadzor tržišta o ozbiljnim kvarovima ili incidentima.
Vremenski okvir usklađenosti
EU AI Akt (Uredba 2024/1689) stupio je na snagu 1. kolovoza 2024., dvadeset dana nakon objave u Službenom listu Europske unije.
Primjena Uredbe je fazna:
- 2. veljače 2025. — Postale su primjenjive zabrane praksi AI s neprihvatljivim rizikom (Glava II, Članak 5).
- 2. kolovoza 2025. — Postala su primjenjiva pravila o modelima AI opće namjene (Glava VIII) i obveze upravljanja (Glava III, Poglavlje 4 o prijavljenim tijelima; Glava VI o upravljanju).
- 2. kolovoza 2026. — Obveze za visokorisične sustave AI navedene u Annexu III počinju se primjenjivati za većinu kategorija. Članak 12 spada u ovu fazu. Pružatelji i operateri visokorisičnih sustava AI moraju imati usklađene sposobnosti evidentiranja na raspolaganju do ovog datuma.
- 2. kolovoza 2027. — Produljeni rok za visokorisične sustave AI obuhvaćene postojećim sektorskim zakonodavstvom Unije o harmonizaciji navedenim u Annexu I (npr. strojevi, medicinski uređaji), dajući tim sektorima dodatno vrijeme za prilagodbu postojećih okvira ocjenjivanja sukladnosti.
Organizacije koje razvijaju visokorisične sustave AI trebaju tretirati 2. kolovoza 2026. kao čvrsti rok usklađenosti za zahtjeve evidentiranja iz Članka 12, s projektiranjem i testiranjem infrastrukture evidentiranja dovršenim znatno unaprijed kako bi se omogućili postupci ocjenjivanja sukladnosti prema Članku 43.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Članak 12 zahtijeva da visokorisični sustavi AI budu projektirani i izgrađeni sa sposobnostima koje omogućavaju automatsko evidentiranje događaja — zapisnika — kroz cijeli njihov operativni vijek. Ti zapisnici moraju omogućavati praćenje nakon stavljanja na tržište i olakšavati istragu incidenata ili ozbiljnih kvarova.
Primarna obveza pada na pružatelje visokorisičnih sustava AI. Pružatelji moraju osigurati da je sposobnost evidentiranja ugrađena u sustav od projektiranja, prije nego što se sustav stavi na tržište ili u upotrebu.
Zapisnici moraju bilježiti, kao minimum, događaje relevantne za identificiranje rizika za zdravlje, sigurnost ili temeljna prava tijekom upotrebe sustava. To uključuje razdoblje svake upotrebe, referentnu bazu podataka prema kojoj su provjereni ulazni podaci, ulazne podatke koji su doveli do određenog izlaza te identitet fizičkih osoba uključenih u provjeru rezultata.
Uredba ne specificira jedinstveno univerzalno razdoblje čuvanja u samom Članku 12, ali zapisnici moraju biti čuvani za razdoblje potrebno za ispunjavanje obveza prema Uredbi, uključujući praćenje nakon stavljanja na tržište prema Članku 72. Sektorska pravila mogu nametati dodatne zahtjeve čuvanja.
Ne. Članak 12 primjenjuje se konkretno na visokorisične sustave AI kako su definirani u Članku 6 i navedeni u Annexu III Uredbe (EU) 2024/1689. Sustavi AI opće namjene i sustavi nižeg rizika nisu podložni ovom članku osim ako se također kvalificiraju kao visokorisični.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.