Art. 10 to wymóg, który zawodzi po cichu. Spiszcie swoje zbiory danych, sprawdźcie każdy wobec jedenastu kryteriów z art. 10 i zapiszcie badanie obciążeń, o które ten artykuł faktycznie prosi.
Bezpieczna płatność przez Stripe. Natychmiastowa dostawa e-mailem, licencja imienna.
Artykuł 10 to wymóg, który zawodzi po cichu. Model działa. Dokumentacja istnieje. A nikt nie umie powiedzieć, skąd wzięły się dane treningowe ani czy reprezentują ludzi, wobec których system będzie używany.
O jedenaście rzeczy, a są bardziej szczegółowe, niż większość zespołów oczekuje:
Inwentaryzacja każdego zbioru treningowego, walidacyjnego i testowego z jego pochodzeniem oraz informacją, czy zawiera dane osobowe. Jedenaście kryteriów jako lista kontrolna ze stanem i odsyłaczem do dowodu. Rejestr badania obciążeń — badany atrybut, metoda, co ustalono, zastosowany środek, wartość resztkowa. Oraz arkusz luk, bo art. 10 ust. 2 lit. h) prosi o zidentyfikowanie braków, a nie o ich brak.
Art. 10 ust. 2 lit. b) wymaga pochodzenia oraz, gdy w grę wchodzą dane osobowe, pierwotnego celu zbierania. Wykorzystanie danych klientów do trenowania modelu to dokładnie to miejsce, w którym ten plik i Wasza dokumentacja RODO muszą się zgadzać — i w którym najczęściej się nie zgadzają.
Czy Państwa organizacja podlega zarówno AI Act, jak i DORA? Oba rozporządzenia spotykają się na odporności operacyjnej finansowych systemów AI. Nasza siostrzana strona regulation-dora.eu omawia DORA szczegółowo — w tym to, co AI Act dodaje do istniejącego programu DORA.
AI Act dla instytucji finansowych ↗ Poznaj regulation-dora.eu ↗Dane treningowe, walidacyjne i testowe muszą być adekwatne, wystarczająco reprezentatywne oraz w największym możliwym stopniu wolne od błędów i kompletne w świetle przeznaczenia. Art. 10 ust. 2 wymaga dodatkowo udokumentowanych decyzji projektowych, pochodzenia, operacji przygotowawczych, założeń, oceny przydatności, badania obciążeń i ich ograniczania oraz zidentyfikowanych luk.
Art. 10 ust. 5 zezwala na to wyłącznie w celu wykrywania i korygowania obciążeń, z zabezpieczeniami obejmującymi techniczne ograniczenia ponownego wykorzystania, zabezpieczenia na poziomie aktualnego stanu wiedzy oraz usunięcie po skorygowaniu obciążenia. To wąskie zezwolenie, a nie ogólna licencja.
Nie będziecie posiadać danych treningowych, ale odpowiedzi nadal są Wam potrzebne — załącznik IV § 2 lit. d) o to pyta, a Wasz dostawca jest jedynym źródłem. To kwestia due diligence i umowy.