L'articolo 10 è il requisito che fallisce in silenzio. Inventariate i set di dati, confrontateli con gli undici criteri dell'articolo 10 e documentate l'esame dei bias richiesto.
Pagamento sicuro con Stripe. Consegna immediata via e-mail, licenza nominativa.
L'articolo 10 è il requisito che fallisce in silenzio. Il modello funziona. La documentazione esiste. E nessuno sa dire da dove vengano i dati di addestramento, né se rappresentino le persone a cui il sistema sarà applicato.
Undici cose, più precise di quanto la maggior parte dei team si aspetti:
Un inventario di ogni set di addestramento, convalida e prova con la provenienza e l'eventuale presenza di dati personali. Gli undici criteri come lista di controllo con stato e rimando alla prova. Un registro dell'esame dei bias — attributo esaminato, metodo, esito, mitigazione applicata, residuo. E un foglio lacune, perché il paragrafo 2, lettera h), chiede di individuarle, non di non averne.
Il paragrafo 2, lettera b), chiede l'origine e, quando vi sono dati personali, la finalità originaria della raccolta. Riutilizzare dati dei clienti per addestrare un modello è esattamente il punto in cui questo file e il vostro registro GDPR devono coincidere, e in cui più spesso divergono.
La vostra organizzazione è soggetta sia all’AI Act sia a DORA? I due regolamenti si incrociano sulla resilienza operativa dei sistemi di IA finanziari. Il nostro sito gemello regulation-dora.eu copre DORA in profondità — compreso ciò che l’AI Act aggiunge a un programma DORA già esistente.
L’AI Act per gli istituti finanziari ↗ Esplora regulation-dora.eu ↗I set di addestramento, convalida e prova devono essere pertinenti, sufficientemente rappresentativi e, per quanto possibile, privi di errori e completi rispetto alla finalità prevista. Il paragrafo 2 richiede inoltre scelte progettuali documentate, la provenienza, le operazioni di preparazione, le ipotesi, una valutazione di idoneità, l'esame e la mitigazione dei bias e l'individuazione delle lacune.
L'articolo 10, paragrafo 5, lo consente esclusivamente per rilevare e correggere bias, con garanzie: limiti tecnici al riutilizzo, sicurezza allo stato dell'arte e cancellazione una volta corretto il bias. È un permesso ristretto, non un'autorizzazione generale.
Non avrete i dati di addestramento, ma vi serviranno comunque le risposte: l'allegato IV, sezione 2, lettera d), le chiede e il vostro fornitore è l'unica fonte. È una questione di due diligence e di contratto.