L'articolo 10 è il requisito che fallisce in silenzio. Inventariate i set di dati, confrontateli con gli undici criteri dell'articolo 10 e documentate l'esame dei bias richiesto.
Delivered by email immediately after payment. Excel file, one named user.
L'articolo 10 è il requisito che fallisce in silenzio. Il modello funziona. La documentazione esiste. E nessuno sa dire da dove vengano i dati di addestramento, né se rappresentino le persone a cui il sistema sarà applicato.
Undici cose, più precise di quanto la maggior parte dei team si aspetti:
Un inventario di ogni set di addestramento, convalida e prova con la provenienza e l'eventuale presenza di dati personali. Gli undici criteri come lista di controllo con stato e rimando alla prova. Un registro dell'esame dei bias — attributo esaminato, metodo, esito, mitigazione applicata, residuo. E un foglio lacune, perché il paragrafo 2, lettera h), chiede di individuarle, non di non averne.
Il paragrafo 2, lettera b), chiede l'origine e, quando vi sono dati personali, la finalità originaria della raccolta. Riutilizzare dati dei clienti per addestrare un modello è esattamente il punto in cui questo file e il vostro registro GDPR devono coincidere, e in cui più spesso divergono.
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗I set di addestramento, convalida e prova devono essere pertinenti, sufficientemente rappresentativi e, per quanto possibile, privi di errori e completi rispetto alla finalità prevista. Il paragrafo 2 richiede inoltre scelte progettuali documentate, la provenienza, le operazioni di preparazione, le ipotesi, una valutazione di idoneità, l'esame e la mitigazione dei bias e l'individuazione delle lacune.
L'articolo 10, paragrafo 5, lo consente esclusivamente per rilevare e correggere bias, con garanzie: limiti tecnici al riutilizzo, sicurezza allo stato dell'arte e cancellazione una volta corretto il bias. È un permesso ristretto, non un'autorizzazione generale.
Non avrete i dati di addestramento, ma vi serviranno comunque le risposte: l'allegato IV, sezione 2, lettera d), le chiede e il vostro fornitore è l'unica fonte. È una questione di due diligence e di contratto.