Artikel 13 der Verordnung (EU) 2024/1689 — Transparenz und Bereitstellung von Informationen für Betreiber. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Compliance-Auswirkungen.
Zusammenfassung des offiziellen Textes
Artikel 13 der Verordnung (EU) 2024/1689 (EU-KI-Gesetz) legt Transparenzpflichten für Hochrisiko-KI-Systeme im Sinne von Titel III fest. Er verpflichtet Anbieter, Hochrisiko-KI-Systeme so zu gestalten und zu entwickeln, dass Betreiber die Ausgaben dieser Systeme verstehen, korrekt interpretieren und sachgemäß verwenden können.
Das zentrale Instrument des Artikels ist die verpflichtende Bereitstellung einer Gebrauchsanweisung — ein strukturiertes Dokument, das jedem in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-System beigefügt sein muss. Artikel 13(3) legt den Mindestinhalt dieses Dokuments im Einzelnen fest. Es muss enthalten: die Identität und Kontaktdaten des Anbieters; die Eigenschaften, Fähigkeiten und Grenzen des Systems, einschließlich seines Verwendungszwecks und der spezifischen Kontexte, für die es validiert wurde; das Niveau der Genauigkeit, Robustheit und Cybersicherheit, gegen das das System getestet wurde, sowie bekannte und vorhersehbare Umstände, die diese Leistung beeinflussen können; sofern relevant, technische Fähigkeiten hinsichtlich der menschlichen Aufsicht, einschließlich Maßnahmen zur Erleichterung der Interpretation von Ausgaben; sowie Hinweise zu Eingabedaten und der Hardware- und Softwareumgebung, in der das System betrieben werden soll.
Die durch Artikel 13 geforderte Transparenz ist nicht nur informatorischer Natur: Sie ist eine Voraussetzung für die sinnvolle menschliche Aufsicht, die Artikel 14 vorschreibt. Anbieter können die Pflichten aus Artikel 14 nicht erfüllen, wenn Betreibern das Verständnis fehlt, das Artikel 13 zu vermitteln beabsichtigt.
Praktische Bedeutung
Für Organisationen, die Hochrisiko-KI-Systeme entwickeln oder vermarkten, übersetzt sich Artikel 13 in eine konkrete Dokumentationspflicht, die in den Produktentwicklungsprozess integriert werden muss und nicht als nachträglicher Gedanke behandelt werden darf.
Für Anbieter bedeutet dies, Gebrauchsanweisungen zu erstellen, die weit über ein Standard-Technikhandbuch hinausgehen. Das Dokument muss auf eine Betreiber-Zielgruppe ausgerichtet sein — typischerweise eine Organisation, die das KI-System für einen bestimmten Betriebskontext beschafft, nicht notwendigerweise ein KI-Ingenieur. Konkrete Beispiele für erforderliche Inhalte: Genauigkeitsraten, die bei der Validierung erzielt wurden, aufgeschlüsselt nach relevanten Bevölkerungsuntergruppen, sofern anwendbar (wichtig für Systeme, die im Bereich Personalwesen oder Kreditwürdigkeitsbewertung eingesetzt werden); die Art der Eingabedaten, mit denen das System trainiert wurde, und wie Abweichungen von dieser Verteilung die Leistung beeinträchtigen können; sowie konkrete Hinweise dazu, wie ein menschlicher Prüfer einen Konfidenzwert oder eine Risikomarkierung des Systems interpretieren soll.
Für Betreiber bildet Artikel 13 die Grundlage des Sorgfaltspflichtsverfahrens vor der Inbetriebnahme. Ein Betreiber, der ein Hochrisiko-KI-System beschafft, sollte prüfen, ob die Gebrauchsanweisung vorhanden und inhaltlich substanziell ist. Das Fehlen angemessener Anweisungen ist selbst ein Compliance-Signal über den Anbieter. Betreiber in regulierten Sektoren — Kreditinstitute, Gesundheitsdienstleister, Behörden — sollten die Überprüfung der Dokumentation gemäß Artikel 13 in ihre Lieferantenbewertungs- und Beschaffungsverfahren integrieren.
Praktische Beispiele: Ein Anbieter eines KI-gestützten Lebenslauf-Screening-Tools (Hochrisiko gemäß Annex III, Punkt 4) muss dessen Genauigkeit über demografische Gruppen hinweg und die Bedingungen dokumentieren, unter denen die Ausgaben des Systems nicht ohne menschliche Überprüfung herangezogen werden sollten. Ein Anbieter eines KI-Systems zur Kreditwürdigkeitsbewertung muss die erforderlichen Dateneingaben und die statistische Konfidenz seiner Risikoklassifizierungen angeben.
Wesentliche Pflichten
- Gestaltung für Interpretierbarkeit: Hochrisiko-KI-Systeme müssen so gestaltet und entwickelt werden, dass ihr Betrieb für Betreiber ausreichend transparent ist, um Ausgaben interpretieren und das System sachgemäß einsetzen zu können (Artikel 13(1)).
- Bereitstellung der Gebrauchsanweisung: Anbieter müssen jedem in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-System eine Gebrauchsanweisung in digitaler oder physischer Form beifügen (Artikel 13(2)).
- Offenlegung von Identität und Kontaktdaten: Die Anweisungen müssen den Anbieter identifizieren und Kontaktdaten angeben, die es dem Betreiber ermöglichen, Compliance-bezogene Anfragen zu stellen (Artikel 13(3)(a)).
- Dokumentation von Fähigkeiten und Grenzen: Die Anweisungen müssen den Verwendungszweck des Systems, seine validierten Leistungsniveaus, bekannte oder vorhersehbare Umstände, unter denen die Leistung unter die dokumentierten Werte fallen kann, sowie bekannte Verzerrungen beschreiben (Artikel 13(3)(b)).
- Angabe der Anforderungen an Eingabedaten: Soweit für die Leistung relevant, müssen die Anweisungen Art, Format und Herkunft der Daten beschreiben, die das System als Eingabe benötigt (Artikel 13(3)(c)).
- Ermöglichung menschlicher Aufsicht: Die Anweisungen müssen Informationen über die in das System integrierten Maßnahmen zur Unterstützung der menschlichen Aufsichtspflichten aus Artikel 14 enthalten, einschließlich Hinweisen zur Interpretation und zum Handeln auf Basis der Systemausgaben (Artikel 13(3)(d) und (e)).
Beziehung zu anderen Artikeln
Artikel 13 steht an der Schnittstelle mehrerer ineinandergreifender Pflichten in Titel III, Kapitel 2. Er ist operativ untrennbar mit Artikel 14 (Menschliche Aufsicht) verbunden: Die in Artikel 13(3)(d) beschriebenen Maßnahmen zur Ermöglichung menschlicher Aufsicht sind die direkte informatorische Voraussetzung dafür, dass Betreiber die Aufsichtspflichten ausüben können, die Artikel 14 ihnen auferlegt. Ohne angemessene Anweisungen gemäß Artikel 13 ist die Einhaltung von Artikel 14 strukturell unmöglich.
Artikel 13 stützt sich auf die technische Dokumentation, die gemäß Artikel 11 erstellt wurde, der von Anbietern eine umfassende Dokumentation ihrer Hochrisiko-KI-Systeme verlangt. Die Gebrauchsanweisung ist ein an Betreiber gerichteter Auszug aus dieser umfassenderen Dokumentation.
Die Pflichten interagieren mit Artikel 16 (Pflichten der Anbieter) und Artikel 26 (Pflichten der Betreiber), die regeln, wie jede Partei ihre jeweilige Rolle nach dem Inverkehrbringen des Systems erfüllen muss. Bei Systemen, die einer Konformitätsbewertung gemäß Artikel 43 unterzogen werden, stellt die Gebrauchsanweisung ein erforderliches Element der von notifizierten Stellen geprüften Konformitätsbewertungsakte dar.
Schließlich verbindet sich Artikel 13 mit Artikel 50 (Transparenzpflichten für bestimmte KI-Systeme) insofern, als beide Transparenz behandeln, Artikel 50 jedoch einen anderen Kontext adressiert — KI-Systeme, die mit natürlichen Personen interagieren, und nicht professionelle Betreiber.
Zeitplan für die Compliance
Das EU-KI-Gesetz trat am 1. August 2024, zwanzig Tage nach seiner Veröffentlichung im Amtsblatt der Europäischen Union, in Kraft. Die Anwendung erfolgt stufenweise:
- 2. Februar 2025: Verbote von KI-Praktiken mit inakzeptablem Risiko (Artikel 5) wurden anwendbar.
- 2. August 2025: Regeln für Allzweck-KI-Modelle (Titel VIII, Artikel 51–56) und Governance-Pflichten wurden anwendbar.
- 2. August 2026: Artikel 13 wird auf Hochrisiko-KI-Systeme anwendbar, die in Annex III aufgeführt sind (eigenständige Hochrisiko-Systeme, einschließlich solcher, die in den Bereichen biometrische Identifizierung, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienstleistungen, Strafverfolgung, Migration und Rechtspflege eingesetzt werden).
- 2. August 2027: Artikel 13 wird auf Hochrisiko-KI-Systeme anwendbar, die durch Annex I erfasst sind (KI-Systeme, die Sicherheitskomponenten von Produkten sind, die bestehender EU-Produktsicherheitsgesetzgebung unterliegen, wie Maschinen, Medizinprodukte und Ausrüstungen für die Zivilluftfahrt).
Anbieter, die auf die Frist im August 2026 hinarbeiten, sollten den aktuellen Zeitraum als aktive Vorbereitungsphase betrachten. Gebrauchsanweisungen müssen vor dem Inverkehrbringen des Systems abgeschlossen und gegen die Anforderungen von Artikel 13(3) validiert sein, nicht danach. Organisationen, die Hochrisiko-KI-Systeme beschaffen, sollten bereits jetzt damit beginnen, die Überprüfung gemäß Artikel 13 in ihre Lieferanten-Sorgfaltspflichtsverfahren zu integrieren, im Voraus der geltenden Termine.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Artikel 13 verpflichtet Anbieter von Hochrisiko-KI-Systemen sicherzustellen, dass ihre Systeme ausreichend transparent sind, damit Betreiber die Fähigkeiten und Grenzen des Systems verstehen, seine Ausgaben interpretieren und es sachgemäß einsetzen können. Dies wird in erster Linie durch die Pflicht erreicht, jedem Hochrisiko-KI-System eine umfassende Gebrauchsanweisung beizufügen.
Die primäre Verpflichtung trifft Anbieter — natürliche oder juristische Personen, die ein Hochrisiko-KI-System entwickeln oder es in Verkehr bringen oder in Betrieb nehmen. Betreiber (Organisationen oder Einzelpersonen, die ein Hochrisiko-KI-System in eigener Verantwortung nutzen) sind die vorgesehenen Empfänger der Informationen und müssen diese vor oder zum Zeitpunkt der Inbetriebnahme erhalten.
Die Gebrauchsanweisung muss die Identität und Kontaktdaten des Anbieters, die Fähigkeiten, Grenzen und den Verwendungszweck des Systems, Leistungsmetriken (einschließlich Genauigkeitswerte und bekannte Verzerrungen), bekannte Umstände, die die Leistung beeinflussen können, Anforderungen an Eingabedaten, die Hardware- und Softwareumgebung sowie gegebenenfalls Maßnahmen zur Interpretation der KI-Ausgaben enthalten. Maßnahmen zur menschlichen Aufsicht müssen ebenfalls beschrieben werden.
Artikel 13 ist in Titel III (Hochrisiko-KI-Systeme) angesiedelt und reguliert Allzweck-KI-Modelle nicht unmittelbar; diese werden durch Titel VIII (Artikel 51–56) geregelt. Wird ein Allzweck-KI-Modell jedoch in ein Hochrisiko-KI-System integriert, bleibt der Anbieter dieses Systems für die Erfüllung der Pflichten aus Artikel 13 verantwortlich.
Artikel 13 gilt für Hochrisiko-KI-Systeme, die in Annex III aufgeführt sind, ab dem 2. August 2026 und für Hochrisiko-KI-Systeme, die unter Annex I (Produktsicherheitsgesetzgebung) fallen, ab dem 2. August 2027. Anbieter sollten rechtzeitig vor diesen Terminen mit der Erstellung technischer Dokumentation und Gebrauchsanweisungen beginnen.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.