Kontrolni seznam upravljanja podatkov UI

Člen 10 je zahteva, ki odpove tiho. Popišite svoje nabore podatkov, preverite vsak glede enajstih meril člena 10 in zabeležite preučitev pristranskosti, ki jo ta člen dejansko zahteva.

€79 brez DDV · enkratno plačilo

Varno plačilo prek Stripea. Takojšnja dostava po e-pošti, licenca na ime.

Člen 10 je zahteva, ki odpove tiho. Model deluje. Dokumentacija obstaja. In nihče ne more povedati, od kod so prišli učni podatki, ne pa tudi, ali predstavljajo ljudi, na katerih bo sistem uporabljen.

Kaj člen 10 dejansko zahteva

Enajst stvari, in so bolj določne, kot večina ekip pričakuje:

zasnovne odločitve glede podatkov, dokumentirane;
procesi zbiranja in izvor — pri osebnih podatkih pa prvotni namen zbiranja;
pripravljalne operacije: označevanje, etiketiranje, čiščenje, posodabljanje, bogatenje, združevanje;
predpostavke, ki jih mora vsak nabor podatkov predstavljati;
ocena razpoložljivosti, količine in primernosti;
preučitev pristranskosti, ki bi lahko vplivala na zdravje, varnost ali temeljne pravice;
ukrepi za ublažitev pristranskosti;
vrzeli in pomanjkljivosti, prepoznane in odpravljive;
učne, validacijske in testne množice, ki so ustrezne, dovolj reprezentativne ter v največji možni meri brez napak in popolne (odstavek 3);
kontekstne značilnosti — geografske, vedenjske, funkcionalne (odstavek 4);
in ozko dovoljenje v odstavku 5 za obdelavo posebnih vrst podatkov izključno za odkrivanje in popravljanje pristranskosti, z zaščitnimi ukrepi.

Kaj je v dokumentu

Popis vsake učne, validacijske in testne množice z njenim izvorom in z navedbo, ali vsebuje osebne podatke. Enajst meril kot kontrolni seznam s stanjem in kazalcem na dokazilo. Register preučitve pristranskosti — preučeni atribut, metoda, kaj je bilo ugotovljeno, uporabljeni ukrep, preostanek. In zavihek vrzeli, ker odstavek 2(h) zahteva, da pomanjkljivosti prepoznate, in ne, da jih nimate.

Vrstica, ki šteje najbolj

Člen 10(2)(b) zahteva izvor in, kadar so vpleteni osebni podatki, prvotni namen zbiranja. Preusmeritev podatkov strank v učenje modela je prav tisto mesto, kjer se morata ta dokument in vaša evidenca po GDPR ujemati — in kjer se najpogosteje ne.

Kaj pokriva iz uredbe

Čl. 10 — podatki in upravljanje podatkov

AI Act, DORA in NIS2 skupaj

Ali vaša organizacija spada tako pod AI Act kot pod DORA? Uredbi se srečata pri operativni odpornosti finančnih sistemov umetne inteligence. Naša sestrska stran regulation-dora.eu obravnava DORA poglobljeno — vključno s tem, kaj AI Act doda obstoječemu programu DORA.

AI Act za finančne institucije ↗ Raziščite regulation-dora.eu ↗

Pogosta vprašanja

Kaj člen 10 zahteva za učne podatke?

Učni, validacijski in testni podatki morajo biti ustrezni, dovolj reprezentativni ter v največji možni meri brez napak in popolni glede na predvideni namen. Odstavek 2 dodatno zahteva dokumentirane zasnovne odločitve, izvor, pripravljalne operacije, predpostavke, oceno primernosti, preučitev in ublažitev pristranskosti ter prepoznane vrzeli.

Ali lahko obdelujemo posebne vrste podatkov, da preverimo pristranskost?

Člen 10(5) to dovoljuje izključno za odkrivanje in popravljanje pristranskosti, ob zaščitnih ukrepih, ki vključujejo tehnične omejitve ponovne uporabe, varnost na ravni najnovejšega stanja tehnike in izbris, ko je pristranskost popravljena. To je ozko dovoljenje, in ne splošna licenca.

Ali to potrebujemo, če smo model kupili?

Učnih podatkov ne boste imeli, odgovore pa kljub temu potrebujete — priloga IV § 2(d) o tem sprašuje in vaš dobavitelj je edini vir. To je vprašanje skrbnega pregleda in pogodbe.