Artikel 26 der Verordnung (EU) 2024/1689 — Pflichten der Betreiber von Hochrisiko-KI-Systemen. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Compliance-Implikationen.

Zusammenfassung des offiziellen Textes

Artikel 26 der Verordnung (EU) 2024/1689 legt die Pflichten fest, die Betreibern — also denjenigen, die Hochrisiko-KI-Systeme in Betrieb nehmen — obliegen, und befindet sich in Titel III, Kapitel 3 der Verordnung. Der Artikel legt fest, dass Betreiber geeignete technische und organisatorische Maßnahmen ergreifen müssen, um sicherzustellen, dass sie diese Systeme gemäß den vom Anbieter bereitgestellten Gebrauchsanweisungen nutzen (Artikel 26(1)). Betreiber sind verpflichtet, die Aufgabe der menschlichen Aufsicht Personen zu übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, diese wirksam auszuüben (Artikel 26(2)).

Wenn Betreiber den Verwendungszweck bestimmen oder einen erheblichen Einfluss auf den Betrieb des KI-Systems ausüben, tragen sie eine gesteigerte Verantwortung, die der Rolle eines Anbieters entspricht. Betreiber müssen den Betrieb des Hochrisiko-KI-Systems auf der Grundlage der Gebrauchsanweisungen überwachen und den Anbieter gegebenenfalls über erkannte Risiken informieren (Artikel 26(5)). Sie dürfen das System nicht in einer Weise verwenden, die diesen Anweisungen widerspricht, und dürfen Mitarbeiter nicht unter Druck setzen, der eine ordnungsgemäße Aufsicht gefährdet.

Artikel 26(7) verpflichtet Betreiber, automatisch vom Hochrisiko-KI-System erzeugte Protokolle aufzubewahren, soweit sich diese unter ihrer Kontrolle befinden, und zwar für einen Zeitraum, der dem Verwendungszweck und den geltenden Branchenvorschriften angemessen ist und mindestens sechs Monate beträgt. Artikel 26(9) verpflichtet Betreiber, die öffentlich-rechtliche Körperschaften oder bestimmte private Betreiber sind, vor der Inbetriebnahme eine Grundrechte-Folgenabschätzung durchzuführen und zu dokumentieren sowie diese in der gemäß Artikel 71 eingerichteten EU-Datenbank zu registrieren.

Bedeutung für die Praxis

Artikel 26 betrifft unmittelbar jede Organisation, die ein Hochrisiko-KI-System in ihren Betrieb integriert, ohne dessen Entwickler oder ursprünglicher Anbieter zu sein. Typische Betreiber sind Krankenhäuser, die KI-gestützte Diagnosetools einsetzen, Arbeitgeber, die KI für die Personalauswahl nutzen, Banken, die KI-Kreditscoring-Engines verwenden, und Behörden, die KI für Entscheidungen über Leistungsansprüche einsetzen.

Konkret muss ein Betreiber zunächst die Gebrauchsanweisungen des Anbieters sorgfältig lesen und umsetzen — diese bilden die Compliance-Grundlage. Vor der Inbetriebnahme muss der Betreiber festlegen, welcher Mitarbeiter oder welches Team die Aufsichtsverantwortung trägt, und sicherstellen, dass diese über die Ausbildung und Befugnis verfügen, die Systemausgaben zu unterbrechen, auszusetzen oder zu übersteuern. Ein Druck, Aufsichtsmechanismen zu ignorieren oder zu umgehen, ist ausdrücklich verboten.

Während des Betriebs muss der Betreiber vom System erzeugte Protokolle aufbewahren. Für eine Bank, die ein Kreditrisikomodell eines Drittanbieters einsetzt, bedeutet dies, automatisierte Entscheidungsprotokolle mindestens sechs Monate lang aufzubewahren und sicherzustellen, dass sie für Prüfungen oder Aufsichtsbehörden zugänglich sind. Wenn das System unerwartete Ausgaben produziert oder an einem Vorfall beteiligt ist, der Schäden verursacht oder verursachen könnte, muss der Betreiber unverzüglich den Anbieter und, falls erforderlich, die nationale Aufsichtsbehörde informieren.

Betreiber im öffentlichen Sektor und private Unternehmen, die öffentlich zugängliche Dienstleistungen anbieten, müssen einen zusätzlichen Schritt vornehmen: Eine formelle Grundrechte-Folgenabschätzung muss abgeschlossen und in der EU-Datenbank registriert werden, bevor das System aktiviert wird. Diese Abschätzung muss vorhersehbare Auswirkungen auf Rechte wie Nichtdiskriminierung, Datenschutz und ein faires Verfahren ermitteln und mildernde Maßnahmen dokumentieren.

Betreiber, die über ihre Anweisungen hinausgehen — indem sie ein System für einen anderen Anwendungsfall zweckentfremden oder seine Konfiguration wesentlich ändern —, riskieren eine Umklassifizierung als Anbieter gemäß Artikel 25, was die vollständige Last der Anbieterpflichten einschließlich der Konformitätsbewertung mit sich bringt.

Wesentliche Pflichten

Verhältnis zu anderen Artikeln

Artikel 26 ist zusammen mit mehreren miteinander verknüpften Bestimmungen zu lesen. Artikel 25 legt fest, wann ein Betreiber als Anbieter umklassifiziert wird — einen Schwellenwert, den Betreiber aktiv überwachen müssen, wenn sie ein System modifizieren oder zweckentfremden. Artikel 13 (Transparenz und Bereitstellung von Informationen für Betreiber) regelt, was der Anbieter über Gebrauchsanweisungen mitteilen muss, und bestimmt damit unmittelbar, wie Compliance gemäß Artikel 26(1) aussieht. Artikel 14 (Menschliche Aufsicht) erläutert die technischen Anforderungen, die Anbieter in Systeme einbauen müssen, damit Betreiber ihre Aufsichtspflichten gemäß Artikel 26(2) erfüllen können.

Artikel 71 (EU-Datenbank) unterstützt die Registrierungspflicht, die öffentlichen Betreibern durch Artikel 26(9) auferlegt wird. Artikel 73 (Meldung schwerwiegender Vorfälle) ergänzt Artikel 26(5), indem er den Verfahrensrahmen für Vorfallsmeldungen beschreibt. In Beschäftigungskontexten überschneidet sich Artikel 26(6) mit der Richtlinie 2002/14/EG über die Unterrichtung und Anhörung der Arbeitnehmer. Für Betreiber in regulierten Sektoren — Finanzen, Gesundheit, Verkehr — können sektorspezifische Unionsvorschriften zusätzliche oder überlappende Pflichten auferlegen, die mit dem Rahmen von Artikel 26 zusammenwirken.

Zeitplan für die Compliance

Der EU AI Act trat am 1. August 2024 in Kraft, wobei die Pflichten nach einem abgestuften Zeitplan gelten. Bestimmungen über verbotene KI-Praktiken galten ab dem 2. Februar 2025. Pflichten in Bezug auf Allzweck-KI-Modelle galten ab dem 2. August 2025.

Artikel 26 als Pflicht für in Anhang III aufgeführte Hochrisiko-KI-Systeme gilt ab dem 2. Dezember 2027 für die meisten Hochrisikosysteme, mit einer verlängerten Frist bis zum 2. August 2028 für Hochrisiko-KI-Systeme in den Bereichen Beschäftigung, Bildung und Zugang zu wesentlichen Dienstleistungen, für die bestehende unionsrechtliche Harmonisierungsvorschriften gelten (in Anhang I aufgeführte Systeme). Betreiber sollten den 2. Dezember 2027 daher als primären Compliance-Stichtag für die operative Bereitschaft, die Bestimmung der menschlichen Aufsicht, die Infrastruktur zur Protokollaufbewahrung und die Verfahren zur Grundrechte-Folgenabschätzung betrachten und unverzüglich mit den Vorbereitungen beginnen, um ausreichend Zeit für Governance, Beschaffungsüberprüfungen und Mitarbeiterschulungen zu haben.

Official AI Act Compliance Deadline Calendar

Deadline data last changed · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.

Obligation Applies to Original date New date Status Countdown Legal basis
Prohibited Practices (Art. 5) All providers and deployers active — AI Act Art. 5
GPAI Rules (Chapter 5) GPAI model providers active — AI Act Art. 51-56
AI-Generated Content Marking Providers of generative GPAI systems active — AI Act Art. 50(2)
Regulatory Sandboxes National competent authorities active — AI Act Art. 57
High-risk AI — Annex III (standalone) Providers of standalone Annex III systems deferred — AI Omnibus 2026 Art. 6(2)
High-risk AI — Annex I (embedded) AI embedded in Annex I regulated products deferred — AI Omnibus 2026 Art. 6(1)

⬇ Download JSON · CC BY 4.0

Häufig gestellte Fragen

Ein Betreiber ist jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein Hochrisiko-KI-System unter ihrer eigenen Verantwortung nutzt, außer wenn das System im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit verwendet wird. Dazu gehören Unternehmen, öffentliche Einrichtungen und Betreiber, die Hochrisiko-KI von Drittanbietern in ihre Arbeitsabläufe integrieren.

Betreiber müssen geeignete technische und organisatorische Maßnahmen ergreifen, um sicherzustellen, dass sie Hochrisiko-KI-Systeme gemäß den vom Anbieter bereitgestellten Gebrauchsanweisungen einsetzen. Sie müssen außerdem qualifizierten Personen die menschliche Aufsicht übertragen, die Leistung überwachen und die Nutzung aussetzen, wenn sie Risiken erkennen.

Ja. Artikel 26(9) verpflichtet Betreiber, die öffentlich-rechtliche Körperschaften sind oder private Betreiber, die öffentliche Dienstleistungen erbringen, vor der Inbetriebnahme bestimmter Hochrisiko-KI-Systeme eine Grundrechte-Folgenabschätzung durchzuführen. Diese Abschätzung muss vor der Inbetriebnahme in der EU-Datenbank registriert werden.

Gemäß Artikel 26(5) müssen Betreiber unverzüglich den Anbieter und gegebenenfalls die zuständige Marktüberwachungsbehörde informieren. Falls der Betreiber den Anbieter nicht erreichen kann, muss er die Behörde direkt benachrichtigen. Die Pflicht gilt, wenn der Betreiber Grund zu der Annahme hat, dass das System ein Risiko darstellt oder einen schwerwiegenden Vorfall verursacht hat.

Nein. Die Konformitätsbewertung liegt gemäß Artikel 43 in der Verantwortung des Anbieters. Betreiber sind verantwortlich für die ordnungsgemäße Nutzung gemäß den Anweisungen des Anbieters, eine angemessene menschliche Aufsicht, Data Governance für von ihnen kontrollierte Eingaben und Meldepflichten. Betreiber, die ein System wesentlich modifizieren, können jedoch Anbieterpflichten übernehmen.

Stay ahead of AI Act changes

Get compliance alerts when deadlines or obligations change.

No spam. One-click unsubscribe.

Weiter mit der AI-Act-Academy

Kostenloser Kurs, serverseitig bewertete Prüfung, überprüfbares Zertifikat — und die Arbeitsvorlagen.