Artikel 74 der Verordnung (EU) 2024/1689 — Marktüberwachung und Kontrolle von KI-Systemen im Unionsgebiet. Offizieller Text, praktische Auslegung, zentrale Verpflichtungen und Compliance-Implikationen.
Zusammenfassung des offiziellen Textes
Artikel 74 der Verordnung (EU) 2024/1689 legt den Rahmen für die Marktüberwachung und Kontrolle von KI-Systemen im Unionsgebiet fest und bildet das Durchsetzungsrückgrat von Titel IX. Er verpflichtet die Mitgliedstaaten, Marktüberwachungsbehörden gemäß der Verordnung (EU) 2019/1020 über die Marktüberwachung und die Konformität von Produkten zu benennen, die mutatis mutandis für KI-Systeme gilt, die unter den EU AI Act fallen, mit Ausnahme der Fälle, in denen der AI Act spezifische Ausnahmen vorsieht.
Der Artikel verleiht den benannten nationalen Behörden die Befugnis, KI-Systeme zu untersuchen, die bereits in Verkehr gebracht oder in Betrieb genommen wurden, unabhängig davon, ob sie kommerziell oder anderweitig bereitgestellt werden. Die Behörden haben Anspruch auf Zugang zu technischer Dokumentation, Trainingsdatensätzen, Quellcode, soweit dies erforderlich und verhältnismäßig ist, sowie allen anderen Informationen, die zur Beurteilung der Konformität erforderlich sind. Sie können Betreibern – Anbietern, Betreibern, Importeuren und Händlern – Korrekturmaßnahmen auferlegen, einschließlich der Beschränkung oder Untersagung der Nutzung, der Rücknahme eines Systems vom Markt oder der Organisation einer Rückrufaktion.
Wenn ein KI-System ein ernsthaftes Risiko darstellt, müssen nationale Behörden die Kommission und alle anderen Mitgliedstaaten über etablierte Schnellwarnsysteme benachrichtigen. Artikel 74 befasst sich auch mit der Situation, in der KI-Systeme in Produkte eingebettet sind, die durch andere Harmonisierungsrechtsvorschriften der Union reguliert werden, und klärt, dass die zuständige sektorale Marktüberwachungsbehörde ihre Zuständigkeit beibehält, während sie die Anforderungen des AI Act in Koordination mit dem allgemeinen Überwachungsrahmen anwendet. Für KI-Modelle für allgemeine Zwecke übt das Europäische KI-Büro auf Unionsebene gleichwertige Aufsichtsfunktionen aus und gewährleistet eine kohärente Kontrolle von KI-Komponenten, die über nationale Grenzen und Produktkategorien hinweg tätig sind.
Was dies in der Praxis bedeutet
Für Organisationen, die KI-Systeme in der EU entwickeln, importieren, vertreiben oder einsetzen, wandelt Artikel 74 den Konformitätsbewertungsprozess von einem einmaligen Schritt in eine fortlaufende Compliance-Verpflichtung um. Das Erlangen der CE-Kennzeichnung oder der Abschluss einer internen Konformitätsbewertung schützt ein System nicht vor einer Überprüfung nach der Markteinführung. Behörden können während der gesamten Betriebszeit des Systems Untersuchungen einleiten, ausgelöst durch Beschwerden, Vorfälle, die über den Meldemechanismus für schwerwiegende Vorfälle gemäß Artikel 73 gemeldet werden, oder proaktive Überwachungskampagnen.
Anbieter müssen sicherstellen, dass die technische Dokumentation aktuell, zugänglich und ausreichend detailliert ist, um ein Audit einer Behörde zu unterstützen. Wenn ein System aktualisiert wird – durch Modellneutraining, Feinabstimmung oder wesentliche Änderungen des beabsichtigten Zwecks – muss die Dokumentation diese Änderungen widerspiegeln, und wo erforderlich, kann eine neue Konformitätsbewertung notwendig sein.
Betreiber von Hochrisiko-KI-Systemen sollten damit rechnen, dass Behörden sie direkt kontaktieren, um zu verstehen, wie ein System in der Praxis eingesetzt wird, insbesondere wenn der eingesetzte Kontext vom ursprünglich vorgesehenen Anwendungsfall des Anbieters abweicht. Betreiber müssen vollständig kooperieren und sollten Betriebsprotokolle und Aufzeichnungen zur menschlichen Aufsicht als Nachweis des konformen Einsatzes führen.
Importeure und Händler tragen die Verantwortung dafür, zu überprüfen, dass die von ihnen gehandelten Produkte über gültige Dokumentation und Kennzeichnungen verfügen, bevor sie auf dem EU-Markt in Verkehr gebracht werden, da Artikel 74 zu Korrekturanordnungen führen kann, die an jeden Akteur in der Lieferkette gerichtet sind.
In der Praxis sollten Organisationen interne Verfahren für die Reaktion auf Marktüberwachungsanfragen einrichten, einen benannten Compliance-Ansprechpartner benennen und regelmäßige interne Überprüfungen durchführen, um sicherzustellen, dass die reale Leistung des Systems weiterhin der Konformitätsbewertungsgrundlage entspricht.
Wesentliche Verpflichtungen
- Benennung von Kooperationspunkten: Anbieter, Betreiber, Importeure und Händler müssen interne Kontakte identifizieren, die in der Lage sind, schnell mit nationalen Marktüberwachungsbehörden zu interagieren und Zugang zu erforderlicher Dokumentation bereitzustellen.
- Pflege zugänglicher technischer Dokumentation: Alle gemäß Artikel 11 und Annex IV erforderlichen Dokumentationen müssen auf dem neuesten Stand gehalten und den Marktüberwachungsbehörden auf Anfrage zur Verfügung gestellt werden, auch für Systeme, die bereits im Einsatz sind.
- Kooperation bei Untersuchungen: Betreiber müssen auf offizielle Anfragen antworten, auf Anfrage Zugang zu Räumlichkeiten und Systemen gewähren und Überwachungsaktivitäten nicht behindern oder verzögern – mangelnde Kooperation kann selbst einen Verstoß darstellen, der Sanktionen gemäß Artikel 99 unterliegt.
- Meldung schwerwiegender Vorfälle: Wenn Anbieter oder Betreiber von einem schwerwiegenden Vorfall im Sinne von Artikel 3 Kenntnis erlangen, müssen sie die zuständige Marktüberwachungsbehörde gemäß Artikel 73 benachrichtigen, was wiederum koordinierte Maßnahmen im Rahmen von Artikel 74 auslöst.
- Umsetzung von Korrekturmaßnahmen bei Anordnung: Bei Erhalt einer Anordnung einer Marktüberwachungsbehörde – ob zur Änderung, Beschränkung, Rücknahme oder zum Rückruf eines KI-Systems – müssen Betreiber innerhalb der festgelegten Frist handeln und die Behörde über die ergriffenen Maßnahmen informieren.
- Einhaltung grenzüberschreitender Benachrichtigungspflichten: Wenn festgestellt wird, dass ein System ein ernsthaftes Risiko darstellt und Gegenstand einer nationalen Durchsetzungsmaßnahme ist, benachrichtigt die Behörde die Kommission und andere Mitgliedstaaten; betroffene Betreiber können verpflichtet sein, Korrekturmaßnahmen gleichzeitig in mehreren Rechtsgebieten auszuweiten.
Verhältnis zu anderen Artikeln
Artikel 74 fungiert als Durchsetzungsebene, die den materiellen Anforderungen, die an anderer Stelle in der Verordnung definiert sind, praktische Wirkung verleiht. Er stützt sich direkt auf Artikel 73 (Überwachung nach dem Inverkehrbringen und Meldung schwerwiegender Vorfälle), der die Daten und Meldungen generiert, die viele Überwachungsuntersuchungen auslösen. Er ist untrennbar mit Artikeln 11 und 12 (technische Dokumentation und Aufzeichnungen) sowie Artikeln 16 und 26 (Pflichten von Anbietern und Betreibern) verbunden, da diese definieren, was Behörden zu prüfen berechtigt sind.
Der Artikel interagiert mit Artikel 9 (Risikomanagementsysteme) und Artikel 72 (Pläne zur Überwachung nach dem Inverkehrbringen), da die im Rahmen dieser Bestimmungen gesammelten realen Leistungsdaten in jeder Überwachungsüberprüfung als Beweismittel dienen. Bei schwerwiegenden Risikoszenarien regeln die Artikel 79 bis 83 die spezifischen Korrektur- und Schutzmaßnahmen, die Marktüberwachungsbehörden nach einer gemäß Artikel 74 eingeleiteten Untersuchung anwenden können. Der Artikel integriert sich auch horizontal mit der Verordnung (EU) 2019/1020, dem allgemeinen EU-Marktüberwachungsrahmen, dessen Verfahren und Benachrichtigungsmechanismen er durch Verweis übernimmt.
Zeitplan für die Compliance
Der EU AI Act trat am 1. August 2024 in Kraft, nachdem er im Amtsblatt veröffentlicht wurde. Die Anwendung der Verordnung erfolgt stufenweise:
- 2. Februar 2025: Verbote für KI-Praktiken mit unannehmbarem Risiko (Artikel 5) wurden anwendbar. Marktüberwachungsbehörden erhielten die Zuständigkeit, ab diesem Datum verbotene Systeme zu untersuchen und durchzusetzen.
- 2. August 2025: Bestimmungen zu KI-Modellen für allgemeine Zwecke (Titel III, Kapitel V) und der zugehörige Governance-Rahmen, einschließlich der Aufsichtsrolle des Europäischen KI-Büros, wurden anwendbar. Die Marktüberwachung von GPAI-Modellen und Systemen mit systemischem Risiko fällt in dieses Regime.
- 2. Dezember 2026: Regeln für Hochrisiko-KI-Systeme aus Annex III (die von öffentlichen Stellen eingesetzt werden) und die damit verbundenen Pflichten zur Überwachung nach dem Inverkehrbringen und zur Marktüberwachung gemäß Titel IX, einschließlich des vollständigen Artikel-74-Rahmens für diese Systeme, werden anwendbar.
- 2. August 2027: Die verbleibenden Hochrisiko-KI-Systeme aus Annex III und KI-Systeme, die unter die in Annex I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unterliegen dem vollständigen Konformitäts- und Überwachungsregime.
Organisationen sollten die Stufendaten als Aktivierungspunkte betrachten – die Überwachungsinfrastruktur (Dokumentation, Vorfallsmeldung, Kooperationsverfahren) sollte vor dem jeweiligen Datum vorhanden sein, nicht erst nach Eingang der ersten Anfrage.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Jeder EU-Mitgliedstaat muss eine oder mehrere Marktüberwachungsbehörden benennen, die für die Überwachung von KI-Systemen zuständig sind, die in ihrem Hoheitsgebiet in Verkehr gebracht oder in Betrieb genommen werden. Diese Behörden sind mit Ermittlungs- und Korrekturbefugnissen ausgestattet, einschließlich des Zugangs zu Dokumentation, Testrechten und der Möglichkeit, die Rücknahme oder den Rückruf nicht konformer KI-Systeme anzuordnen.
Artikel 74 legt den allgemeinen Marktüberwachungsrahmen fest, der für die gesamte Verordnung gilt; seine intensivste Anwendung betrifft jedoch Hochrisiko-KI-Systeme aus Annex III und Systeme, die unter harmonisierte Rechtsvorschriften der Union fallen. Der Artikel koordiniert mit sektorspezifischen Überwachungsregimen, soweit diese bereits gelten.
Marktüberwachungsbehörden können Zugang zu Trainingsdaten, Quellcode und technischer Dokumentation verlangen, Audits und Tests durchführen, Anordnungen zur Beschränkung, Rücknahme oder zum Rückruf von KI-Systemen erlassen, Korrekturmaßnahmen auferlegen und die Kommission sowie andere Mitgliedstaaten über die RAPEX/ICSMS-Meldesysteme bei ernsthaftem Risiko benachrichtigen.
Artikel 74 wirkt nachgelagert zur Konformitätsbewertung. Auch nachdem eine CE-Kennzeichnung angebracht wurde, können Marktüberwachungsbehörden die Konformität in der realen Welt überprüfen, Beschwerden untersuchen und Durchsetzungsmaßnahmen ergreifen, wenn ein KI-System ein Risiko darstellt oder die Anforderungen, auf deren Grundlage es zertifiziert wurde, nicht mehr erfüllt.
Bei KI-Modellen für allgemeine Zwecke und grenzüberschreitenden Durchsetzungsfragen fungiert das Europäische KI-Büro als zuständige Behörde auf Unionsebene. Es koordiniert mit den nationalen Marktüberwachungsbehörden und kann Untersuchungen bei systemischen Risiken oder bei Anbietern, die in mehreren Mitgliedstaaten tätig sind, leiten.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.