Kontrolný zoznam správy údajov AI — požiadavky článku 10 na tréningové údaje

Článok 10 je požiadavka, ktorá zlyháva potichu. Urobte inventár dátových súborov, otestujte každý proti jedenástim kritériám článku 10 a zaznamenajte skúmanie skreslení, o ktoré tento článok skutočne žiada.

Článok 10 je požiadavka, ktorá zlyháva potichu. Model funguje. Dokumentácia existuje. A nikto nevie povedať, odkiaľ tréningové údaje prišli, ani či reprezentujú ľudí, na ktorých bude systém používaný.

Čo článok 10 skutočne žiada

Jedenásť vecí, a sú konkrétnejšie, než väčšina tímov očakáva:

• koncepčné voľby pri údajoch, zdokumentované;
• procesy zberu a pôvod — a pri osobných údajoch pôvodný účel zberu;
• prípravné operácie: anotácia, označovanie, čistenie, aktualizácia, obohacovanie, agregácia;
• predpoklady, ktoré má každý dátový súbor reprezentovať;
• posúdenie dostupnosti, množstva a vhodnosti;
• skúmanie skreslení, ktoré môžu ovplyvniť zdravie, bezpečnosť alebo základné práva;
• opatrenia na zmiernenie skreslení;
• medzery a nedostatky, identifikované a riešiteľné;
• tréningové, validačné a testovacie súbory, ktoré sú relevantné, dostatočne reprezentatívne a v najvyššej možnej miere bez chýb a úplné (ods. 3);
• kontextové charakteristiky — geografické, behaviorálne, funkčné (ods. 4);
• a úzke povolenie v ods. 5 spracúvať osobitné kategórie údajov výhradne na odhaľovanie a opravu skreslení, so zárukami.

Čo je v súbore

Inventár každého tréningového, validačného a testovacieho súboru s jeho pôvodom a s údajom, či obsahuje osobné údaje. Jedenásť kritérií ako kontrolný zoznam so stavom a odkazom na doklad. Register skúmania skreslení — skúmaný atribút, metóda, čo bolo zistené, uplatnené opatrenie, zostatok. A list medzier, pretože ods. 2 písm. h) žiada, aby ste nedostatky identifikovali, nie aby ste žiadne nemali.

Riadok, na ktorom záleží najviac

Článok 10 ods. 2 písm. b) žiada pôvod a, ak sú v hre osobné údaje, pôvodný účel zberu. Preúčelovanie zákazníckych údajov na trénovanie modelu je presne to miesto, kde tento súbor a vaša evidencia podľa GDPR musia súhlasiť — a kde najčastejšie nesúhlasia.

Čo z nariadenia pokrýva

• Čl. 10 — údaje a správa údajov