Článok 12 — Vedenie záznamov (Zákon EÚ o umelej inteligencii)

Článok 12 nariadenia (EÚ) 2024/1689 — Vedenie záznamov. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.

Zhrnutie oficiálneho textu

Článok 12 nariadenia (EÚ) 2024/1689 stanovuje povinné požiadavky na vedenie záznamov pre vysokorizikové systémy umelej inteligencie. Článok sa nachádza v hlave III, kapitole 2, ktorá stanovuje technické požiadavky a požiadavky na správu, ktoré musia vysokorizikové systémy umelej inteligencie spĺňať pred uvedením na trh EÚ alebo do prevádzky.

Hlavnou povinnosťou je, že vysokorizikové systémy umelej inteligencie musia byť navrhnuté a vyvinuté s možnosťami protokolovania, ktoré umožňujú automatické zaznamenávanie udalostí — bežne označovaných ako protokoly — počas prevádzkovej životnosti systému. Tieto protokoly slúžia dvojakému účelu: podporujú monitorovanie po uvedení na trh poskytovateľom podľa článku 72 a umožňujú vnútroštátnym príslušným orgánom vykonávať ich dozorné a vyšetrovacie funkcie.

Článok 12(2) špecifikuje, že možnosti protokolovania musia minimálne zaznamenávať: obdobie každého použitia systému (dátum a čas začiatku a konca), referenčnú databázu, s ktorou boli overené vstupné údaje, kde je to uplatniteľné, vstupné údaje, ktoré viedli k danému výstupu alebo výsledku, a — v prípade systémov biometrickej identifikácie — totožnosť fyzických osôb zapojených do overovania výsledkov.

Článok kladie povinnosť návrhu výlučne na poskytovateľov. Protokolovanie musí byť zabudované do systému konštrukčne, nie pridané spätne. Toto odráža širšiu filozofiu nariadenia „privacy by design". Prevádzkovatelia, ktorí tieto systémy nasadzujú, nesú doplnkové povinnosti podľa článku 26 na uchovávanie protokolov generovaných počas ich používania systému, v rozsahu, v akom sú takéto protokoly pod ich kontrolou.

Čo to znamená v praxi

Pre poskytovateľov vyvíjajúcich alebo uvádzajúcich na trh EÚ vysokorizikové systémy umelej inteligencie, článok 12 vyžaduje, aby sa inžinierske rozhodnutia prijímali počas fázy návrhu, nie po nasadení. Protokolovanie musí byť architektonickým prvkom produktu.

Dotknuté strany. Každá organizácia, ktorá vyvíja, uvádza na trh alebo do prevádzky vysokorizikový systém umelej inteligencie vymedzený podľa článku 6 a prílohy III, podlieha článku 12. Zahŕňa to systémy používané pri výbere zamestnancov, hodnotení úverovej bonity, biometrickej identifikácii, riadení kritickej infraštruktúry, vzdelávacom hodnotení, presadzovaní práva, hraničnej kontrole a výkone spravodlivosti, okrem iného. Prevádzkovatelia — organizácie, ktoré nasadzujú vysokorizikový systém umelej inteligencie poskytovateľa vo vlastnom kontexte — majú sekundárne povinnosti uchovávať protokoly, ktoré kontrolujú.

Konkrétne požadované opatrenia. Poskytovateľ musí implementovať automatické protokolovanie, ktoré zachytáva požadované dátové body bez manuálneho zásahu. Napríklad poskytovateľ nástroja na triedenie životopisov s pomocou umelej inteligencie musí zabezpečiť, aby systém zaznamenával každé náborové stretnutie, verziu súboru údajov použitú na trénovanie alebo kalibráciu modelu a vstupy (profily uchádzačov), ktoré vygenerovali každý výstup (poradie alebo odporúčanie). Prevádzkovateľ nasadzujúci tento nástroj musí uchovávať tieto protokoly a sprístupniť ich orgánom na požiadanie.

Vyšetrovacia využiteľnosť. Protokoly existujú predovšetkým na umožnenie retrospektívnej analýzy. Ak systém produkuje diskriminačný výsledok alebo spôsobí ujmu, regulačné orgány musia byť schopné rekonštruovať, čo sa stalo. Protokoly, ktoré sú neúplné, prepísané alebo neprístupné, mária tento účel a vystavujú poskytovateľa aj prevádzkovateľa riziku presadzovania práva.

Proporcionalita. Konkrétny rozsah toho, čo sa musí zaznamenávať, je kalibrovaný podľa typu systému. Biometrické systémy čelia najpodrobnejším požiadavkám. Poskytovatelia by mali dokumentovať svoje rozhodnutia o návrhu protokolovania v technickej dokumentácii požadovanej článkom 11.

Kľúčové povinnosti

• Protokolovanie prostredníctvom návrhu. Vysokorizikové systémy umelej inteligencie musia byť navrhnuté a vyvinuté s automatickými možnosťami protokolovania udalostí zabudovanými do architektúry systému pred uvedením na trh alebo nasadením.
• Minimálny obsah protokolov. Protokoly musia zachytávať minimálne: prevádzkové obdobie každej relácie používania, referenčnú databázu použitú na overenie vstupu, kde je to uplatniteľné, vstupné údaje, ktoré produkovali každý výstup alebo rozhodnutie, a — pre systémy biometrickej identifikácie — totožnosti fyzických osôb, ktoré overili výsledky.
• Uchovávanie protokolov prevádzkovateľom. Prevádzkovatelia musia uchovávať protokoly generované počas používania vysokorizikového systému umelej inteligencie po dobu požadovanú platnými právnymi predpismi a minimálne po dobu potrebnú na podporu monitorovania po uvedení na trh a regulačných vyšetrovaní.
• Dostupnosť pre orgány. Protokoly musia byť na požiadanie dostupné vnútroštátnym príslušným orgánom na uľahčenie regulačného dohľadu, vyšetrovania incidentov a činností dohľadu nad trhom.
• Sledovateľnosť výstupov. Systém protokolovania musí umožňovať rekonštrukciu kauzálneho reťazca od konkrétneho vstupu po konkrétny výstup, čím sa podporuje zodpovednosť a právo na vysvetlenie tam, kde sa uplatňuje.
• Zosúladenie s technickou dokumentáciou. Architektúra protokolovania a jej rozsah musia byť opísané v technickej dokumentácii vedenej podľa článku 11, čím sa zabezpečí konzistentnosť medzi systémom podľa návrhu a systémom podľa monitorovania.

Vzťah k iným článkom

Článok 12 nemožno čítať izolovane. Funguje ako súčasť siete vzájomne prepojených požiadaviek v hlave III, kapitole 2.

Článok 9 (Systém riadenia rizík) stanovuje zastresšujúci rámec, do ktorého protokolovanie prispieva — protokoly generujú prevádzkové údaje potrebné na identifikáciu a hodnotenie rizík v reálnom nasadení.

Článok 11 (Technická dokumentácia) vyžaduje od poskytovateľov, aby dokumentovali architektúru protokolovania a jej možnosti ako súčasť širšieho technického spisu predloženého notifikovaným orgánom alebo uchovaného na regulačnú inšpekciu.

Článok 17 (Systém manažérstva kvality) vyžaduje od poskytovateľov, aby udržiavali systém manažérstva kvality, ktorý integruje protokolovanie do širších prevádzkových kontrol a postupov nápravných opatrení.

Článok 26 (Povinnosti prevádzkovateľov) zaväzuje prevádzkovateľov na uchovávanie protokolov pod ich kontrolou a na spoluprácu s poskytovateľmi a orgánmi, čím sa z článku 12 stáva zdieľaná zodpovednosť v celom dodávateľskom reťazci.

Článok 72 (Monitorovanie po uvedení na trh) je downstream odberateľom protokolov z článku 12 — monitorovací systém sa spolieha na prevádzkové protokoly na detekciu poklesu výkonu, neočakávaných výstupov a vznikajúcich rizík po nasadení.

Článok 73 (Hlásenie závažných incidentov) využíva údaje z protokolov ako primárne dôkazy, keď sú poskytovatelia povinní hlásiť závažné poruchy alebo incidenty orgánom dohľadu nad trhom.

Časový harmonogram súladu

Zákon EÚ o umelej inteligencii (nariadenie 2024/1689) nadobudol účinnosť 1. augusta 2024, dvadsať dní po uverejnení v Úradnom vestníku Európskej únie.

Uplatňovanie nariadenia je postupné:

• 2. februára 2025 — Zákazy týkajúce sa praktík umelej inteligencie s neprijateľným rizikom (hlava II, článok 5) sa stali uplatniteľnými.
• 2. augusta 2025 — Pravidlá týkajúce sa modelov umelej inteligencie na všeobecné účely (hlava VIII) a povinnosti správy (hlava III, kapitola 4 o notifikovaných orgánoch; hlava VI o správe) sa stali uplatniteľnými.
• 2. augusta 2026 — Povinnosti pre vysokorizikové systémy umelej inteligencie uvedené v prílohe III začínajú platiť pre väčšinu kategórií. Článok 12 patrí do tejto fázy. Poskytovatelia a prevádzkovatelia vysokorizikových systémov umelej inteligencie musia mať do tohto dátumu zavedené vyhovujúce možnosti protokolovania.
• 2. augusta 2027 — Predĺžený termín pre vysokorizikové systémy umelej inteligencie, na ktoré sa vzťahujú existujúce odvetvové právne predpisy Únie o harmonizácii uvedené v prílohe I (napr. strojové zariadenia, zdravotnícke pomôcky), čím sa týmto odvetviam poskytuje ďalší čas na prispôsobenie existujúcich rámcov posudzovania zhody.

Organizácie vyvíjajúce vysokorizikové systémy umelej inteligencie by mali považovať 2. august 2026 za pevný termín súladu s požiadavkami na protokolovanie podľa článku 12, pričom návrh a testovanie infraštruktúry protokolovania musí byť dokončené dostatočne vopred, aby umožnilo postupy posudzovania zhody podľa článku 43.