Kontrolní seznam správy dat AI — požadavky článku 10 na trénovací data

Článek 10 je požadavek, který selhává potichu. Udělejte inventuru datových sad, otestujte každou proti jedenácti kritériím článku 10 a zaznamenejte zkoumání zkreslení, o které tento článek skutečně žádá.

Článek 10 je požadavek, který selhává potichu. Model funguje. Dokumentace existuje. A nikdo neumí říct, odkud trénovací data přišla, ani zda reprezentují lidi, na nichž bude systém používán.

Co článek 10 skutečně žádá

Jedenáct věcí, a jsou konkrétnější, než většina týmů očekává:

• koncepční volby u dat, zdokumentované;
• procesy sběru a původ — a u osobních údajů původní účel sběru;
• přípravné operace: anotace, označování, čištění, aktualizace, obohacování, agregace;
• předpoklady, které má každá datová sada reprezentovat;
• posouzení dostupnosti, množství a vhodnosti;
• zkoumání zkreslení, která mohou ovlivnit zdraví, bezpečnost nebo základní práva;
• opatření ke zmírnění zkreslení;
• mezery a nedostatky, identifikované a řešitelné;
• trénovací, validační a testovací sady, které jsou relevantní, dostatečně reprezentativní a v nejvyšší možné míře bez chyb a úplné (odst. 3);
• kontextové charakteristiky — geografické, behaviorální, funkční (odst. 4);
• a úzké povolení v odst. 5 zpracovávat zvláštní kategorie údajů výhradně pro odhalování a opravu zkreslení, se zárukami.

Co je v souboru

Inventura každé trénovací, validační a testovací sady s jejím původem a s údajem, zda obsahuje osobní údaje. Jedenáct kritérií jako kontrolní seznam se stavem a odkazem na doklad. Registr zkoumání zkreslení — zkoumaný atribut, metoda, co bylo zjištěno, uplatněné opatření, zbytek. A list mezer, protože odst. 2 písm. h) žádá, abyste nedostatky identifikovali, nikoli abyste žádné neměli.

Řádek, na kterém záleží nejvíc

Článek 10 odst. 2 písm. b) žádá původ a, jsou-li ve hře osobní údaje, původní účel sběru. Přeúčelování zákaznických dat k trénování modelu je přesně to místo, kde tento soubor a vaše evidence podle GDPR musí souhlasit — a kde nejčastěji nesouhlasí.

Co z nařízení pokrývá

• Čl. 10 — data a správa dat