AI-datagovernance — vereisten van artikel 10

Artikel 10 is de eis die stilletjes faalt. Inventariseer uw datasets, toets elke set aan de elf criteria van artikel 10 en leg het vereiste vertekeningsonderzoek vast.

€79 excl. VAT · one-time

Delivered by email immediately after payment. Excel file, one named user.

Artikel 10 is de eis die stilletjes faalt. Het model werkt. De documentatie bestaat. En niemand kan zeggen waar de trainingsdata vandaan komen of of ze de mensen weerspiegelen op wie het systeem zal worden toegepast.

Wat artikel 10 werkelijk vraagt

Elf dingen, en ze zijn concreter dan de meeste teams verwachten:

de ontwerpkeuzes ten aanzien van de data, gedocumenteerd;
de verzamelprocessen en de herkomst — en, bij persoonsgegevens, het oorspronkelijke doel van de verzameling;
de voorbereidingshandelingen: annotatie, labeling, opschoning, actualisering, verrijking, aggregatie;
de aannames die elke dataset geacht wordt weer te geven;
een beoordeling van beschikbaarheid, hoeveelheid en geschiktheid;
het onderzoek naar vertekening die gezondheid, veiligheid of grondrechten kan raken;
de maatregelen ter beperking van die vertekening;
de leemten en tekortkomingen, benoemd en aanpakbaar;
trainings-, validatie- en testsets die relevant, voldoende representatief en voor zover mogelijk foutenvrij en volledig zijn (lid 3);
de contextuele kenmerken — geografisch, gedragsmatig, functioneel (lid 4);
en de smalle toestemming in lid 5 om bijzondere categorieën persoonsgegevens uitsluitend te verwerken om vertekening op te sporen en te corrigeren, met waarborgen.

Wat er in het bestand zit

Een inventaris van elke trainings-, validatie- en testset met herkomst en de vraag of er persoonsgegevens in zitten. De elf criteria als checklist met status en bewijsverwijzing. Een register van vertekeningsonderzoek — onderzocht kenmerk, methode, bevinding, toegepaste maatregel, restrisico. En een blad leemten, want lid 2, onder h), vraagt ze te benoemen, niet ze niet te hebben.

De regel die het zwaarst weegt

Lid 2, onder b), vraagt de herkomst én, wanneer er persoonsgegevens in het spel zijn, het oorspronkelijke doel van de verzameling. Klantgegevens hergebruiken om een model te trainen is precies het punt waar dit bestand en uw AVG-register met elkaar moeten kloppen — en waar ze dat het vaakst niet doen.

What it covers in the regulation

Art. 10 — data and data governance

AI Act meets DORA and NIS2

Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.

The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗

Frequently Asked Questions

Wat vereist artikel 10 voor trainingsdata?

Trainings-, validatie- en testsets moeten relevant, voldoende representatief en voor zover mogelijk foutenvrij en volledig zijn met het oog op het beoogde doel. Lid 2 vereist daarnaast gedocumenteerde ontwerpkeuzes, de herkomst, de voorbereidingshandelingen, de aannames, een geschiktheidsbeoordeling, onderzoek naar en beperking van vertekening, en het benoemen van leemten.

Mogen wij bijzondere gegevens verwerken om vertekening te controleren?

Artikel 10, lid 5, staat dit uitsluitend toe om vertekening op te sporen en te corrigeren, met waarborgen: technische beperkingen op hergebruik, beveiliging volgens de stand van de techniek en verwijdering zodra de vertekening is gecorrigeerd. Een smalle toestemming, geen algemene vrijbrief.

Hebben wij dit nodig als wij het model hebben gekocht?

U bezit de trainingsdata niet, maar u heeft de antwoorden toch nodig: bijlage IV, sectie 2, onder d), vraagt ernaar en uw aanbieder is de enige bron. Dat is een kwestie van toetsing en contract.