Artikel 9 der Verordnung (EU) 2024/1689 — Risikomanagementsystem. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Compliance-Implikationen.
Zusammenfassung des offiziellen Textes
Artikel 9 der Verordnung (EU) 2024/1689 legt Anbietern von Hochrisiko-KI-Systemen während des gesamten Systemlebenszyklus ein verpflichtendes, kontinuierliches Risikomanagementsystem auf. Die Bestimmung verlangt, dass das Risikomanagementsystem aus einem iterativen Prozess besteht, der in die Entwicklung und den Betrieb des Hochrisiko-KI-Systems integriert ist und regelmäßig im Lichte neuer Informationen, die im Rahmen der Marktüberwachung nach der Markteinführung gewonnen werden, aktualisiert wird.
Konkret verlangt Artikel 9 von Anbietern: (a) alle bekannten und vernünftigerweise vorhersehbaren Risiken, die mit dem Hochrisiko-KI-System verbunden sind, zu identifizieren und zu analysieren; (b) Risiken zu schätzen und zu bewerten, die entstehen können, wenn das System bestimmungsgemäß und unter Bedingungen vernünftigerweise vorhersehbaren Missbrauchs eingesetzt wird; (c) Risiken zu bewerten, die aus verfügbaren Daten und dem Verhalten von Personen entstehen, die mit dem System interagieren; und (d) geeignete Risikomanagementmaßnahmen auf der Grundlage dieser Analyse zu ergreifen.
Risikomanagementmaßnahmen müssen so beschaffen sein, dass das mit jeder Gefährdung verbundene Restrisiko sowie das Gesamtrestrisiko des Hochrisiko-KI-Systems als akzeptabel eingestuft wird. Artikel 9 legt auch fest, dass Tests zur Ermittlung geeigneter Maßnahmen durchgeführt werden müssen und dass diese Tests anhand definierter Metriken und probabilistischer Schwellenwerte erfolgen müssen. Besondere Aufmerksamkeit ist erforderlich, wenn das System voraussichtlich mit Kindern oder anderen gefährdeten Gruppen interagiert. Informationen aus den Erfahrungen der Betreiber sind in den Risikomanagementprozess des Systemanbieters zurückzuführen.
Was dies in der Praxis bedeutet
Artikel 9 ist eine der operativ anspruchsvollsten Anforderungen in Titel III der KI-Verordnung. Er gilt für jede juristische Person, die als Anbieter eines Hochrisiko-KI-Systems qualifiziert — also die Stelle, die das System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder Warenzeichen in Verkehr bringt oder in Betrieb nimmt.
In der Praxis erfordert die Einhaltung die Einrichtung eines dokumentierten Risikomanagement-Rahmens, bevor das System in Verkehr gebracht wird. Dies ist keine bloße Formalität: Die Verordnung verlangt einen iterativen Prozess, der für die gesamte Lebensdauer des Produkts andauert, was bedeutet, dass die Risikomanagementdokumentation sich weiterentwickeln muss, wenn das System aktualisiert, neu trainiert oder in neuen Kontexten eingesetzt wird.
Ein konformes Risikomanagementsystem umfasst in der Regel: ein strukturiertes Risikoidentifizierungsverfahren, das sowohl die bestimmungsgemäße Verwendung als auch plausible Missbrauchsszenarien abdeckt; eine Risikoschätzungsmatrix, die Wahrscheinlichkeit und Schwere des Schadens bewertet; einen Katalog von Minderungsmaßnahmen mit dokumentierter Begründung für ihre Auswahl; formale Tests vor der Markteinführung anhand definierter Metriken; und einen Mechanismus, um Rückmeldungen nach der Markteinführung — einschließlich von Betreibern bereitgestellter Vorfallsdaten — in die laufende Risikoanalyse einfließen zu lassen.
Zum Beispiel muss ein Anbieter eines KI-basierten Kreditwürdigkeitsbewertungstools, das nach Anhang III als Hochrisiko eingestuft ist, dokumentieren, wie das Modell diskriminierende Ergebnisse produzieren könnte, welche technischen und organisatorischen Maßnahmen dieses Risiko reduzieren und wie reale Leistungsdaten eine Neubewertung auslösen werden. Ein KI-System, das im medizinischen Kontext eingesetzt wird, muss zusätzlich der erhöhten Sorgfaltspflicht bei gefährdeten Nutzern Rechnung tragen. Die Ergebnisse des Risikomanagements fließen direkt in die nach Artikel 11 erforderliche technische Dokumentation und die Konformitätsbewertung nach den Artikeln 43–44 ein.
Wesentliche Pflichten
- Einrichten und Aufrechterhalten eines kontinuierlichen Risikomanagementsystems, das den gesamten Lebenszyklus des Hochrisiko-KI-Systems von der Konzeption bis zur Außerbetriebnahme abdeckt und im Lichte von Marktüberwachungsdaten nach der Markteinführung aktualisiert wird.
- Identifizierung aller bekannten und vernünftigerweise vorhersehbaren Risiken, einschließlich Risiken aus vernünftigerweise vorhersehbarem Missbrauch, aus Interaktionen mit anderen Systemen und aus dem soziotechnischen Kontext des Einsatzes.
- Schätzung und Bewertung von Risiken hinsichtlich ihrer Eintrittswahrscheinlichkeit und der Schwere des potenziellen Schadens unter Berücksichtigung des beabsichtigten Verwendungszwecks und der Kategorien von Personen, die voraussichtlich betroffen sein werden, einschließlich gefährdeter Gruppen und Kinder.
- Ergreifen von Risikomanagementmaßnahmen, die identifizierte Risiken auf ein akzeptables Restniveau reduzieren; wo technische Maßnahmen nicht ausreichen, müssen organisatorische oder informative Maßnahmen diese ergänzen.
- Durchführung von Tests vor der Markteinführung anhand definierter Metriken und probabilistischer Schwellenwerte, die dem beabsichtigten Verwendungszweck entsprechen, um zu validieren, dass ausgewählte Maßnahmen wirksam sind und das Restrisiko akzeptabel ist.
- Integration von Rückmeldungen aus der Marktüberwachung nach der Markteinführung von Betreibern und Endnutzern in den laufenden Risikomanagementprozess, um sicherzustellen, dass das System auf reale Belege von Schäden oder Beinahe-Vorfällen reagiert.
Verhältnis zu anderen Artikeln
Artikel 9 steht im Mittelpunkt des Anforderungsrahmens von Kapitel 2 und ist strukturell mit mehreren anderen Bestimmungen verknüpft. Er hängt von Artikel 6 und Anhang III für seinen Anwendungsbereich ab: Nur Systeme, die als Hochrisiko qualifizieren, unterliegen seinen Pflichten. Die Ergebnisse des Artikel-9-Prozesses fließen direkt in Artikel 11 (technische Dokumentation) ein, der von Anbietern verlangt zu belegen, dass ein konformes Risikomanagementsystem existiert und angewendet wurde.
Artikel 9 ist auch eng mit Artikel 10 (Daten und Daten-Governance) verbunden, da die Qualität der Trainings-, Validierungs- und Testdaten das Risikoprofil, das gemanagt werden muss, wesentlich beeinflusst. Artikel 13 (Transparenz und Bereitstellung von Informationen) verlangt, dass bestimmte risikobezogene Informationen an Betreiber weitergegeben werden, und Artikel 14 (menschliche Aufsicht) legt Maßnahmen fest, die häufig als erstrangige Risikominderungswerkzeuge nach Artikel 9 dienen. Artikel 26 legt nachgelagerten Betreibern Pflichten auf, die reale Nutzung zu überwachen und relevante Informationen an Anbieter zurückzumelden, und schließt damit die Rückkopplungsschleife, die Artikel 9 erfordert. Schließlich formalisiert Artikel 72 (Marktüberwachung nach der Markteinführung) die Datenerhebungsmechanismen, die den iterativen Risikomanagementprozess im Laufe der Zeit aufrechterhalten.
Zeitplan für die Compliance
Die KI-Verordnung trat am 1. August 2024 in Kraft. Artikel 9, als zentrale Kapitel-2-Anforderung für Hochrisiko-KI-Systeme, folgt dem allgemeinen Compliance-Zeitplan für Titel-III-Pflichten:
- 1. August 2024 — Verordnung tritt in Kraft; die 24-monatige Übergangsfrist beginnt für die meisten Hochrisiko-Pflichten.
- 2. Februar 2025 — Verbote von KI-Praktiken mit unannehmbarem Risiko (Artikel 5) werden anwendbar. Artikel 9 gilt noch nicht.
- 2. August 2025 — Regeln für KI-Modelle mit allgemeinem Verwendungszweck (Titel VIII) werden anwendbar. Artikel 9 ist für die meisten Hochrisiko-Systeme noch nicht verpflichtend.
- 2. Dezember 2026 — Artikel 9 wird vollständig anwendbar für in Anhang III aufgeführte Hochrisiko-KI-Systeme (KI-Systeme in Bereichen wie Bildung, Beschäftigung, grundlegende Dienste, Strafverfolgung, Migration und Rechtspflege). Anbieter müssen zu diesem Datum ein konformes Risikomanagementsystem eingerichtet haben.
- 2. August 2027 — Verlängerte Frist für Hochrisiko-KI-Systeme, die Sicherheitskomponenten von Produkten sind, die bereits von bestehenden Harmonisierungsvorschriften der Union gemäß Anhang I abgedeckt werden (z. B. Maschinen, Medizinprodukte, Zivilluftfahrt).
Anbieter, die Hochrisiko-KI-Systeme entwickeln oder beschaffen, sollten den 2. Dezember 2026 als ihre feste Frist für die Einhaltung von Artikel 9 betrachten und Risikomanagementrahmen weit im Voraus in ihre Entwicklungsprozesse einbauen, um ausreichend Zeit für Tests, Dokumentation und Konformitätsbewertung zu haben.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Anbieter von Hochrisiko-KI-Systemen im Sinne von Artikel 6 und Anhang III der Verordnung (EU) 2024/1689 sind verpflichtet, vor der Markteinführung oder Inbetriebnahme ihres Systems ein Risikomanagementsystem einzurichten und aufrechtzuerhalten.
Das System muss bekannte und vernünftigerweise vorhersehbare Risiken identifizieren und analysieren, Risiken, die bei der Nutzung entstehen können, schätzen und bewerten, geeignete Risikomanagementmaßnahmen ergreifen und sicherstellen, dass Restrisiken als nach der Verordnung akzeptabel eingestuft werden.
Nein. Artikel 9 verlangt einen kontinuierlichen, iterativen Prozess, der während des gesamten Lebenszyklus des Hochrisiko-KI-Systems — einschließlich der Marktüberwachung nach der Markteinführung — andauert. Das System muss aktualisiert werden, wenn neue Informationen über Risiken vorliegen.
Artikel 9 verlangt von Anbietern ausdrücklich, Risiken zu berücksichtigen, die aus vernünftigerweise vorhersehbarem Missbrauch entstehen — nicht nur aus der bestimmungsgemäßen Verwendung. Dies bedeutet, dass Anbieter plausible Wege analysieren müssen, auf denen das System falsch oder in böser Absicht eingesetzt werden könnte, und diese Risiken entsprechend mindern müssen.
Artikel 9(7) verlangt, dass Testverfahren definiert und durchgeführt werden, um die am besten geeigneten Risikomanagementmaßnahmen zu ermitteln. Tests müssen anhand zuvor definierter Metriken und probabilistischer Schwellenwerte durchgeführt werden, die dem beabsichtigten Verwendungszweck entsprechen, und müssen vor der Markteinführung erfolgen.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.