EU AI Act: Anbieter vs. Betreiber — Wer ist wofür verantwortlich?

Der EU AI Act teilt Pflichten zwischen Anbietern (die KI-Systeme bauen) und Betreibern (die sie in der Praxis einsetzen). Zu verstehen, welche Rolle Sie einnehmen, bestimmt Ihre Compliance-Belastung — und ob Sie die Haftung auf eine andere Partei verlagern können.

Die Zwei-Akteur-Architektur des EU AI Act

Der EU AI Act schafft keine einzige universelle Pflicht für alle KI-Interessengruppen. Er unterscheidet systematisch zwischen zwei primären Rollen in der KI-Wertschöpfungskette:

• Anbieter — Einrichtungen, die KI-Systeme entwickeln, trainieren oder feinabstimmen und sie auf den Markt bringen
• Betreiber — Einrichtungen, die KI-Systeme in einem professionellen Kontext betreiben, ohne sie gebaut zu haben

Diese Unterscheidung ist nicht semantisch. Sie bestimmt, welche Pflichten gelten, wer welche Dokumentation innehält, wer in der EU-KI-Datenbank registriert, wer die Konformitätsbewertung durchführt und wer haftet, wenn etwas schiefgeht. Die eigene Rolle richtig zu bestimmen, ist der erste Schritt in jedem EU-AI-Act-Compliance-Programm.

Eine dritte Rolle — Bevollmächtigter Vertreter — gilt für außerhalb der EU ansässige Anbieter, die einen in der EU ansässigen Vertreter benennen müssen, um ihre Regulierungspflichten auf EU-Gebiet zu tragen.

Definition des Anbieters (Art. 3(3))

Ein Anbieter ist jede natürliche oder juristische Person, Behörde, Agentur oder sonstige Einrichtung, die:

1. Ein KI-System entwickelt oder entwickeln lässt, und
2. Es unter eigenem Namen oder Markenzeichen auf dem Markt in Verkehr bringt oder in Betrieb nimmt — ob gegen Entgelt oder kostenlos

Die Schlüsselindikatoren für den Anbieterstatus sind Entwicklungsverantwortung und Marktplatzierung. Ein KI-Labor, das ein Kreditwürdigkeitsmodell baut und lizenziert, ist ein Anbieter. Eine Beratungsfirma, die ein maßgeschneidertes Recruiting-Screening-Tool für einen Kunden entwirft und baut und dann übergibt, ist ebenfalls ein Anbieter (solange es das System unter eigenem Namen auf den Markt bringt; wenn es unter der Marke des Kunden gebaut wird, kann der Kunde der Anbieter sein).

Die Definition umfasst:

• KI-Start-ups und Software-Anbieter, die verpackte KI-Produkte verkaufen
• Unternehmen, die KI-Systeme für den internen Einsatz aufbauen
• Forschungseinrichtungen, die KI-Systeme für den allgemeinen Gebrauch veröffentlichen
• Cloud-Anbieter, die KI-as-a-Service unter eigenem Namen anbieten

Anbieter tragen die schwerste Compliance-Belastung nach dem Gesetz. Bei hochriskanten Systemen umfasst dies die Durchführung von Konformitätsbewertungen, die Erstellung technischer Dokumentation, die Registrierung in der EU-KI-Datenbank, das Anbringen der CE-Kennzeichnung und die Aufrechterhaltung eines Marktüberwachungssystems.

Definition des Betreibers (Art. 3(4))

Ein Betreiber ist jede natürliche oder juristische Person, Behörde, Agentur oder sonstige Einrichtung, die ein KI-System unter ihrer Autorität für einen professionellen Zweck verwendet — außer wenn die Nutzung in einer persönlichen, nicht-professionellen Aktivität erfolgt.

Betreiber bauen keine KI-Systeme. Sie verwenden von anderen gebaute Systeme — ob von der Stange gekauft, über API lizenziert oder in ein SaaS-Produkt eingebettet. Die überwiegende Mehrheit europäischer Organisationen, die „KI verwenden", sind Betreiber: Unternehmen, die ChatGPT oder Claude über API verwenden, Personalabteilungen, die KI-gestützte Bewerber-Tracking-Software verwenden, Krankenhäuser, die KI-gestützte Diagnosewerkzeuge verwenden, Banken, die vom Anbieter bereitgestellte Kreditmodelle verwenden.

Wesentliche Betreiberpflichten (für hochriskante KI-Systeme):

• Das System nur gemäß den vom Anbieter bereitgestellten Anweisungen verwenden (Art. 26(1))
• Eine natürliche Person mit Kompetenz, Autorität und Ressourcen für die menschliche Aufsicht über die KI-System-Outputs benennen (Art. 26(2))
• Sicherstellen, dass Eingabedaten relevant und repräsentativ für den beabsichtigten Zweck sind (Art. 26(5))
• Den Systembetrieb auf Anomalien überwachen (Art. 26(5))
• Protokolle für den erforderlichen Zeitraum aufbewahren (Art. 26(6))
• Den Anbieter und die zuständige Behörde über schwerwiegende Vorfälle benachrichtigen (Art. 26(8))
• Eine Datenschutz-Folgenabschätzung (DSFA) nach DSGVO durchführen, wo erforderlich (Art. 26(9))

Betreiber von Emotionserkennungs- und biometrischen Kategorisierungssystemen müssen auch Art.-50-Transparenzpflichten unabhängig von der Risikoeinstufung einhalten.

Die Anbieter-Betreiber-Grenze in der Praxis

Die Grenze zwischen Anbieter und Betreiber ist in der Theorie einfach, in der Praxis jedoch verschwommen. Drei Szenarien veranschaulichen die häufigen Graubereiche:

Szenario 1: Off-the-shelf SaaS ohne Anpassung

Ein Unternehmen abonniert die KI-gestützte HR-Screening-Plattform eines Anbieters ohne Änderung. Der Anbieter ist der Anbieter. Das Unternehmen ist der Betreiber. Der Anbieter schuldet dem Unternehmen Gebrauchsanweisungen, Konformitätsdokumentation und Protokollierungsfähigkeit. Das Unternehmen schuldet seinen Mitarbeitern Transparenz und menschliche Aufsicht.

Szenario 2: API-Integration mit erheblichem Prompt Engineering

Ein Unternehmen integriert ein GPAI-Modell über API, fügt einen benutzerdefinierten System-Prompt hinzu, erstellt eine Benutzeroberfläche und veröffentlicht die Anwendung für Kunden. Für das zugrunde liegende GPAI-Modell ist der ursprüngliche Entwickler der Anbieter. Für die darauf aufbauende Anwendung ist das Unternehmen der Anbieter — es hat ein KI-System entwickelt und unter eigenem Namen auf den Markt gebracht. Sowohl Anbieter- als auch GPAI-Pflichten gelten auf verschiedenen Schichten.

Szenario 3: Maßgeschneiderter interner Aufbau

Eine Bank baut ihr eigenes Kreditwürdigkeitsbewertungsmodell, trainiert es mit proprietären Daten und setzt es intern für Kreditentscheidungen ein. Die Bank ist gleichzeitig der Anbieter (sie hat das System gebaut und eingesetzt) und der Betreiber (sie betreibt das System für eigene Zwecke). Alle Anbieterpflichten nach dem Gesetz gelten — einschließlich der Konformitätsbewertung für diesen Anhang-III-hochriskanten Anwendungsfall — sowie alle Betreiberpflichten.

Wenn Betreiber zu Anbietern werden (Art. 25)

Art. 25 legt klare Auslöser fest, durch die ein Betreiber den Anbieterstatus annimmt und alle Anbieterpflichten übernimmt:

1. Wesentliche Änderung — der Betreiber nimmt eine wesentliche Änderung an einem hochriskanten KI-System vor, die über das vom ursprünglichen Anbieter Beabsichtigte hinausgeht
2. Zweckänderung, die die Hochrisiko-Klassifizierung auslöst — der Betreiber verwendet ein nicht-hochriskantes System so, dass es die Anhang-III-Hochrisiko-Kriterien erfüllt
3. Eigenname-Platzierung — der Betreiber bringt das KI-System unter eigenem Namen oder Markenzeichen auf den Markt oder nimmt es in Betrieb
4. GPAI-Modell-Änderung — ein Betreiber, der eine wesentliche Änderung an einem GPAI-Modell vornimmt, die seinen allgemeinen Verwendungsfall ändert

Wenn Art. 25 ausgelöst wird, übertragen sich die Pflichten des ursprünglichen Anbieters auf den neuen Anbieter. Der ursprüngliche Anbieter wird von Pflichten für das geänderte oder zweckveränderte System befreit. Dies ist ein wichtiger Haftungsallokationsmechanismus: Organisationen, die nur ein System anpassen, müssen verstehen, wo die Anpassung endet und die wesentliche Änderung beginnt.

Pflichtenvergleichstabelle

Wie Sie Ihre Rolle bestimmen

Drei Fragen bestimmen Ihre Rolle nach dem EU AI Act:

1. Haben Sie das KI-System entwickelt oder unter Ihrer Leitung entwickeln lassen? Wenn ja — und Sie es auf dem Markt in Verkehr gebracht oder in Betrieb genommen haben — sind Sie ein Anbieter.

2. Verwenden Sie ein von jemand anderem gebautes KI-System für einen professionellen Zweck? Wenn ja, sind Sie ein Betreiber.

3. Haben Sie ein KI-System wesentlich geändert, zweckverändert oder umgebrandmarkt? Wenn ja, sind Sie möglicherweise für dieses geänderte System nach Art. 25 zum Anbieter geworden.

Für Organisationen, die beides sind — interner Aufbau für internen Gebrauch — kumulieren alle Pflichten. Es gibt keine Reduzierung für integrierte Abläufe.

Vertragliche Zuweisung von Verantwortlichkeiten

Das Gesetz erlaubt Anbietern und Betreibern, bestimmte Pflichten vertraglich zuzuweisen. Art. 25(1) erlaubt dies ausdrücklich für bestimmte Pflichten. Jedoch gelten zwei Grenzen:

• Regulatorische Haftung kann nicht vertraglich beseitigt werden. Wenn der Betreiber ein hochriskantes System betreibt, bleibt er für Betreiberpflichten verantwortlich, unabhängig davon, was der Vertrag sagt. Verträge können einen internen Rückgriff etablieren, können die regulatorische Rechenschaftspflicht aber nicht auf die andere Partei verlagern.
• Der Informationsfluss muss erhalten bleiben. Jede Zuweisung muss sicherstellen, dass der Betreiber die zur Erfüllung seiner Pflichten notwendigen Informationen hat — Gebrauchsanweisungen, Protokollierungszugang, Vorfallmeldekanäle. Verträge, die diesen Informationsfluss unterbrechen, sind compliance-problematisch, nicht nur kommerziell.

Beschaffungsteams sollten KI-Anbieterverträge nutzen, um sicherzustellen, dass Anbieter das liefern, was Betreiber brauchen: Anweisungen, Konformitätsdokumentation, Vorfallmeldekanäle, Aktualisierungsverpflichtungen und Daten-Governance-Bedingungen für alle zur Feinabstimmung geteilten Daten.