EU AI-verordening: Aanbieders versus Gebruikers — Wie Is Verantwoordelijk voor Wat?

De EU AI-verordening verdeelt verplichtingen tussen aanbieders (die AI-systemen bouwen) en gebruikers (die ze in de praktijk brengen). Begrijpen welke rol u vervult, bepaalt uw nalevingsdruk — en of u aansprakelijkheid aan een andere partij kunt overdragen.

De twee-acteurarchitectuur van de EU AI-verordening

De EU AI-verordening creëert geen enkele universele verplichting voor alle AI-betrokkenen. Ze maakt systematisch onderscheid tussen twee primaire rollen in de AI-waardeketen:

• Aanbieders — entiteiten die AI-systemen ontwikkelen, trainen of verfijnen en ze op de markt brengen
• Gebruikers — entiteiten die AI-systemen gebruiken in een professionele context zonder ze te hebben gebouwd

Dit onderscheid is niet semantisch. Het bepaalt welke verplichtingen van toepassing zijn, wie welke documentatie bewaart, wie registreert in de EU AI-databank, wie de conformiteitsbeoordeling uitvoert en wie aansprakelijk is wanneer er iets misgaat. Uw rol correct bepalen is de eerste stap in elk EU AI-verordening nalevingsprogramma.

Een derde rol — gemachtigde vertegenwoordiger — is van toepassing op aanbieders die buiten de EU zijn gevestigd en een in de EU gevestigde vertegenwoordiger moeten aanwijzen om hun regelgevende verplichtingen op EU-grondgebied te dragen.

De aanbieder definiëren (Art. 3(3))

Een aanbieder is elke natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan dat:

1. Een AI-systeem ontwikkelt of laat ontwikkelen, en
2. Het op de markt brengt of in gebruik stelt onder eigen naam of handelsmerk — al dan niet tegen betaling

De kernindicatoren van aanbiederstatus zijn ontwikkelingsverantwoordelijkheid en marktplaatsing. Een AI-laboratorium dat een kredietscoringsmodel bouwt en in licentie geeft, is een aanbieder. Een adviesbureau dat een op maat gemaakt wervingsscreeningtool ontwerpt en bouwt voor een klant en vervolgens overdraagt, is ook een aanbieder (zolang het systeem op de markt wordt gebracht onder eigen naam; als het is gebouwd onder het merk van de klant, kan de klant de aanbieder zijn).

De definitie omvat:

• AI-startups en softwareleveranciers die verpakte AI-producten verkopen
• Ondernemingen die AI-systemen bouwen voor interne inzet
• Onderzoeksinstellingen die AI-systemen publiceren voor algemeen gebruik
• Cloudaanbieders die AI-als-een-dienst aanbieden onder eigen merk

Aanbieders dragen de zwaarste nalevingsdruk onder de verordening. Voor hoog-risico systemen omvat dit het uitvoeren van conformiteitsbeoordelingen, het opstellen van technische documentatie, het registreren in de EU AI-databank, het aanbrengen van CE-markering en het onderhouden van een post-marktbewakingssysteem.

De gebruiker definiëren (Art. 3(4))

Een gebruiker is elke natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan dat een AI-systeem onder eigen verantwoordelijkheid gebruikt voor een professioneel doel — behalve wanneer gebruik voor persoonlijke niet-professionele activiteit plaatsvindt.

Gebruikers bouwen geen AI-systemen. Ze gebruiken systemen die door anderen zijn gebouwd — of ze nu kant-en-klaar zijn gekocht, via API zijn gelicentieerd of zijn ingebed in een SaaS-product. De grote meerderheid van Europese organisaties die "AI gebruiken" zijn gebruikers: bedrijven die ChatGPT of Claude via API gebruiken, HR-afdelingen die AI-ondersteunde sollicitantvolgsystemen gebruiken, ziekenhuizen die AI-ondersteunde diagnostische tools gebruiken, banken die door leveranciers geleverde kredietmodellen gebruiken.

Kerngebruikersverplichtingen (voor hoog-risico AI-systemen):

• Het systeem uitsluitend gebruiken in overeenstemming met de instructies van de aanbieder (Art. 26(1))
• Een persoon met competentie, bevoegdheid en middelen aanwijzen om menselijk toezicht uit te voeren (Art. 26(2))
• Zorgen dat invoergegevens relevant en representatief zijn voor het beoogde doel (Art. 26(5))
• De systeemwerking monitoren om afwijkingen te detecteren (Art. 26(5))
• Logboeken die door het systeem worden geproduceerd, bewaren voor de vereiste periode (Art. 26(6))
• De aanbieder en de bevoegde autoriteit op de hoogte stellen van ernstige incidenten (Art. 26(8))
• Een gegevensbeschermingseffectbeoordeling uitvoeren waar vereist door de AVG (Art. 26(9))

Gebruikers van emotieherkennings- en biometrische categoriseringssystemen moeten ook voldoen aan de transparantieverplichtingen van Art. 50, ongeacht de risicoklassificering.

De aanbieder-gebruikersgrens in de praktijk

De grens tussen aanbieder en gebruiker is in theorie duidelijk maar in de praktijk vaag. Drie scenario's illustreren de veelvoorkomende grijze gebieden:

Scenario 1: Kant-en-klare SaaS zonder aanpassing

Een bedrijf abonneert zich op een AI-gestuurd HR-screeningplatform van een leverancier zonder wijziging. De leverancier is de aanbieder. Het bedrijf is de gebruiker. De leverancier is de aanbieder verplicht gebruiksinstructies, conformiteitsdocumentatie en loggingmogelijkheden te verstrekken. Het bedrijf is zijn medewerkers transparantie en menselijk toezicht verschuldigd.

Scenario 2: API-integratie met aanzienlijke promptengineering

Een bedrijf integreert een GPAI-model via API, voegt een aangepaste systeemprompt toe, bouwt een gebruikersinterface en brengt de toepassing uit aan klanten. Voor het onderliggende GPAI-model is de oorspronkelijke ontwikkelaar de aanbieder. Voor de bovenop gebouwde applicatie is het bedrijf de aanbieder — het heeft een AI-systeem ontwikkeld en op de markt gebracht onder eigen merk. Zowel aanbieder- als GPAI-verplichtingen zijn van toepassing op verschillende niveaus.

Scenario 3: Op maat intern gebouwd

Een bank bouwt zijn eigen model voor kredietwaardigheidsbeoordeling, traint het op eigen gegevens en zet het intern in voor leningbeslissingen. De bank is tegelijkertijd de aanbieder (het heeft het systeem gebouwd en ingezet) en de gebruiker (het exploiteert het systeem voor eigen doeleinden). Alle aanbiedersverplichtingen onder de verordening zijn van toepassing — inclusief conformiteitsbeoordeling voor deze Bijlage III hoog-risico toepassing — evenals alle gebruikersverplichtingen.

Wanneer gebruikers aanbieders worden (Art. 25)

Art. 25 stelt duidelijke triggers vast waarmee een gebruiker aanbiederstatus aanneemt en alle aanbiedersverplichtingen overneemt:

1. Substantiële wijziging — de gebruiker brengt een substantiële wijziging aan in een hoog-risico AI-systeem die verder gaat dan wat de oorspronkelijke aanbieder bedoelde
2. Doelwijziging die hoog-risicoclassificering triggert — de gebruiker gebruikt een niet-hoog-risico systeem op een manier die voldoet aan de hoog-risico criteria van Bijlage III
3. Plaatsing onder eigen naam — de gebruiker brengt het AI-systeem op de markt of stelt het in gebruik onder eigen naam of handelsmerk
4. GPAI-modelwijziging — een gebruiker die grote wijzigingen aanbrengt in een GPAI-model op een manier die de algemene doeltoepassing verandert

Wanneer Art. 25 wordt getriggerd, worden de verplichtingen van de oorspronkelijke aanbieder overgedragen aan de nieuwe aanbieder. De oorspronkelijke aanbieder is ontheven van verplichtingen voor het gewijzigde of van doel veranderde systeem. Dit is een belangrijk mechanisme voor aansprakelijkheidstoewijzing: organisaties die een systeem slechts aanpassen, moeten begrijpen waar aanpassing eindigt en substantiële wijziging begint.

Vergelijkingstabel verplichtingen

Hoe u uw rol bepaalt

Drie vragen bepalen uw rol onder de EU AI-verordening:

1. Heeft u het AI-systeem ontwikkeld, of laten ontwikkelen onder uw regie? Zo ja — en u heeft het op de markt gebracht of in gebruik gesteld — bent u een aanbieder.

2. Gebruikt u een AI-systeem gebouwd door iemand anders voor een professioneel doel? Zo ja, bent u een gebruiker.

3. Heeft u een AI-systeem substantieel gewijzigd, van doel veranderd of van merk voorzien? Zo ja, bent u mogelijk aanbieder geworden voor dat gewijzigde systeem op grond van Art. 25.

Voor organisaties die beide zijn — intern gebouwd voor intern gebruik — stapelen alle verplichtingen zich op. Er is geen vermindering voor geïntegreerde operaties.

Contractuele toewijzing van verantwoordelijkheden

De verordening staat aanbieders en gebruikers toe specifieke verplichtingen contractueel toe te wijzen. Art. 25(1) staat dit expliciet toe voor bepaalde verplichtingen. Er gelden echter twee beperkingen:

• Regelgevende aansprakelijkheid kan niet contractueel worden overgedragen. Als de gebruiker een hoog-risico systeem exploiteert, blijft hij verantwoordelijk voor gebruikersverplichtingen ongeacht wat het contract zegt. Contracten kunnen interne verhaalsmogelijkheden regelen maar kunnen regelgevende verantwoordelijkheid niet naar de andere partij verschuiven.
• De informatiestroom moet worden gehandhaafd. Elke toewijzing moet ervoor zorgen dat de gebruiker de informatie heeft die nodig is om zijn verplichtingen na te komen — gebruiksinstructies, loggingstoegang, incidentrapportagekanalen. Contracten die deze informatiestroom afsnijden, zijn problematisch voor naleving, niet alleen commercieel.

Inkoopteams moeten AI-leverancierscontracten gebruiken om ervoor te zorgen dat aanbieders verstrekken wat gebruikers nodig hebben: instructies, conformiteitsdocumentatie, incidentmeldingskanalen, updateverplichtingen en gegevensbeheertermen voor alle gegevens die worden gedeeld voor fine-tuning.