Člen 20 — Korektivni ukrepi in obveznost obveščanja (Uredba EU o umetni inteligenci)

Člen 20 Uredbe (EU) 2024/1689 — Korektivni ukrepi in obveznost obveščanja. Uradni besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek Uradnega Besedila

Člen 20 Uredbe (EU) 2024/1689 vzpostavlja obvezno dolžnost korektivnih ukrepov in obveščanja za ponudnike visoko tveganih sistemov umetne inteligence. Kadar ima ponudnik razlog za prepričanje, da visoko tvegani sistem umetne inteligence, ki ga je dal na trg ali v obratovanje, ni več v skladu z zahtevami iz Poglavja 2 Naslova III, mora ta ponudnik nemudoma sprejeti potrebne korektivne ukrepe za vzpostavitev skladnosti sistema, njegov umik ali odpoklic, glede na okoliščine.

Ponudnik je hkrati dolžan obvestiti distributerje sistema in, kjer je to primerno, pooblaščenega zastopnika, upravljavce in vse druge relevantne tretje strani o neskladnosti in sprejetih korektivnih ukrepih. Kadar sistem umetne inteligence predstavlja tveganje v smislu Člena 79(1), mora ponudnik prav tako nemudoma obvestiti pristojne nacionalne organe držav članic, v katerih je sistem dal na razpolago, in, kjer je to primerno, priglašeni organ, ki je izdal certifikat za sistem, ter navesti podrobnosti o neskladnosti in sprejetih korektivnih ukrepih.

Člen torej združuje dve ločeni, a povezani obveznosti: operativno obveznost ukrepanja in vzpostavitve skladnosti ter informacijsko obveznost zagotavljanja, da so vsi akterji v dobavni in uvajalni verigi — vključno z organi za nadzor trga — pravočasno obveščeni o situaciji in ukrepih, ki se sprejemajo za njeno reševanje. Ta dvojna struktura zagotavlja, da tveganja ne ostanejo omejena na organizacijo ponudnika, temveč se hitro razširijo v regulativni in komercialni ekosistem.

Kaj To Pomeni v Praksi

Za organizacije, ki razvijajo ali dajejo visoko tvegane sisteme umetne inteligence na trg EU, Člen 20 ustvarja trajno obveznost, ki je stalno aktivna skozi celoten življenjski cikel sistema. Skladnosti ni mogoče obravnavati kot enkraten postopek, omejen na začetno ocenjevanje skladnosti.

Na koga vpliva: Vsak ponudnik visoko tveganega sistema umetne inteligence v področju uporabe Priloge III ali sistemov, za katere se uporabljajo pravila klasifikacije visokega tveganja iz Člena 6. To vključuje proizvajalce, uvoznike, ki sistem tretjih oseb dajejo na trg EU pod lastnim imenom, in pravne osebe v tretjih državah, katerih sistemi se v EU uporabljajo prek pooblaščenega zastopnika.

Kaj sproži ukrepanje: Prag je „razlog za prepričanje" — namerno nizka dokazna letvica. Ponudnik ne potrebuje gotovosti o neskladnosti; verodostojna osnova za zaskrbljenost, ki izhaja iz internih podatkov o nadzoru po dajanju v promet, poročila upravljavca, pritožbe uporabnika ali poizvedbe regulatorja, je dovolj za aktiviranje obveznosti.

Konkreten primer: Ponudnik visoko tveganega sistema umetne inteligence, ki se uporablja pri kreditnem ocenjevanju, prek postopka nadzora po dajanju v promet (zahtevanega v skladu s Členom 72) ugotovi, da se je natančnost sistema bistveno poslabšala za zaščiteno demografsko skupino, kar sproža morebitno kršitev zahtev glede pristranskosti in robustnosti iz Členov 9 in 15. V skladu s Členom 20 mora ponudnik nemudoma oceniti korektivne možnosti (ponoven trening, prilagoditev parametrov, začasna prekinitev), izvesti izbrani ukrep, obvestiti vse upravljavce, ki sistem trenutno uporabljajo, in obvestiti pristojni nacionalni organ za nadzor trga, če poslabšanje predstavlja tveganje v skladu s Členom 79(1).

Dokumentacija: Vsi korektivni ukrepi in obvestila morajo biti evidentirani v tehnični dokumentaciji, ki se vodi v skladu s Členom 18, in v dnevnikih, ki se hranijo v skladu s Členom 19, saj bodo ti primarni dokazi, ki jih pregleda organi.

Ključne Obveznosti

• Takojšnji korektivni ukrep: Sprejem vseh potrebnih ukrepov za vzpostavitev skladnosti, umik sistema s trga ali njegov odpoklic od upravljavcev in uporabnikov, sorazmerno z naravo in resnostjo ugotovljene neskladnosti.
• Obvestilo dobavne verige: Obveščanje distributerjev, pooblaščenih zastopnikov in upravljavcev o neskladnosti in sprejetih korektivnih ukrepih brez nepotrebnega odlašanja.
• Obvestilo organov: Kadar neskladnost predstavlja tveganje v smislu Člena 79(1), obvestiti pristojne organe za nadzor trga v vseh prizadetih državah članicah in vse priglašene organe, ki so izdali certifikat za sistem.
• Zagotavljanje informacij: Posredovati nacionalnim organom in priglašenim organom popolne podrobnosti o neskladnosti, njenih potencialnih posledicah ter izvedenih ali načrtovanih korektivnih ukrepih.
• Stalna budnost: Vzdrževanje sistemov nadzora po dajanju v promet, ki se zahtevajo v skladu s Členom 72, da bi se zagotovilo pravočasno odkrivanje okoliščin, ki vodijo do neskladnosti, in da te ne ostanejo nerešene.
• Dokumentiranje ukrepov: Evidentiranje vseh korektivnih odločitev, izdanih obvestil in komunikacije z organi kot del tekočih tehničnih in upravljavskih obveznosti glede kakovosti v skladu s Členi 17, 18 in 19.

Razmerje do Drugih Členov

Člen 20 se nahaja v operativnem jedru obveznosti ponudnika skozi življenjski cikel in je povezan z več drugimi določbami.

Je pred Členom 73 (poročanje o resnih incidentih), ki se uporablja posebej, kadar visoko tvegani sistem umetne inteligence povzroči resni incident ali prispeva k njemu; oba režima se lahko aktivirata hkrati in morata biti upravljana vzporedno. Je za Členom 72 (nadzor po dajanju v promet), ki je primarni mehanizem, prek katerega bodo ponudniki odkrivali neskladnosti, ki aktivirajo Člen 20.

Obveznost korektivnih ukrepov je tesno povezana tudi s Členom 9 (sistem upravljanja tveganj) in Členoma 15 in 17 (točnost, robustnost in upravljanje kakovosti), saj bo ustreznost teh sistemov določila, ali se neskladnost odkrije in odpravi pravočasno. Člen 26 upravljavcem nalaga dopolnilno obveznost, da ponudnike obvestijo o sumljivih neskladnostih, kar upravljavce naredi za pomemben vir informacij, ki napaja sprožilec Člena 20. Nazadnje Člen 21 obravnava obveznosti sodelovanja ponudnikov, ko organi formalno posredujejo, in ga je treba brati kot regulativni izvršilni pendant prostovoljni obveznosti korektivnih ukrepov v skladu s Členom 20.

Časovnica Skladnosti

Uredba EU o umetni inteligenci je začela veljati 1. avgusta 2024 (dvajset dni po objavi v Uradnem listu 12. julija 2024). Člen 20 spada pod Naslov III, Poglavje 3 in se uporablja za visoko tvegane sisteme umetne inteligence. Razpored postopne uporabe je naslednji:

• Februar 2025: Začele so se uporabljati določbe o prepovedanih praksah umetne inteligence (Naslov II).
• Avgust 2025: Začela so se uporabljati pravila za modele umetne inteligence splošnega namena (Naslov VIII, Poglavje 2).
• Avgust 2026: Začele so se uporabljati obveznosti za visoko tvegane sisteme umetne inteligence iz Priloge III, ki jih uporabljajo javni organi.
• December 2026 (primarni rok za visoko tveganje): Celoten sklop obveznosti Naslova III — vključno s Členom 20 — se je začel uporabljati za ponudnike visoko tveganih sistemov umetne inteligence, ki jih zajema Priloga III. Ponudniki, katerih sistemi so bili na trgu pred tem datumom, so imeli koristi od prehodnega obdobja, zdaj pa morajo v celoti izpolnjevati zahteve.
• Avgust 2027: Podaljšan rok za nekatere visoko tvegane sisteme umetne inteligence, ki so sestavni deli obsežnih informacijskih sistemov EU ali so predmet harmoniziranih standardov, ki ob začetku veljavnosti še niso bili objavljeni.

Za večino ponudnikov visoko tveganih sistemov umetne inteligence iz Priloge III je Člen 20 v celoti uporabljen od decembra 2026, procesi korektivnih ukrepov in obveščanja pa bi morali biti že vzpostavljeni.