Artikel 51 der Verordnung (EU) 2024/1689 — Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als Modelle mit systemischem Risiko. Offizieller Text, praktische Auslegung, wesentliche Verpflichtungen und Compliance-Folgen.
Zusammenfassung des offiziellen Textes
Artikel 51 der Verordnung (EU) 2024/1689 (EU-KI-Gesetz) legt den Einstufungsmechanismus für KI-Modelle mit allgemeinem Verwendungszweck (GPAI-Modelle) als Modelle mit systemischem Risiko fest. Er befindet sich in Titel V, der eine eigenständige Regulierungsschicht für GPAI-Modelle schafft, die sich von dem Hochrisiko-KI-System-Rahmen des Titels III unterscheidet.
Gemäß Artikel 51(1) wird ein GPAI-Modell als Modell mit systemischem Risiko eingestuft, wenn es eine von zwei Bedingungen erfüllt. Erstens verfügt es über hochwertige Fähigkeiten, die anhand geeigneter technischer Instrumente und Methoden — einschließlich Indikatoren und Benchmarks — bewertet werden. Dabei gilt die widerlegbare Vermutung, dass jedes Modell, das mit einem kumulierten Rechenaufwand von mehr als 10^25 FLOPs trainiert wurde, in diese Kategorie fällt. Zweitens wird es von der Kommission gemäß Artikel 51(2) auf der Grundlage anderer Kriterien benannt, unabhängig davon, ob der Rechenschwellenwert erreicht wird.
Artikel 51(2) räumt der Kommission die Befugnis ein, den Rechenschwellenwert im Wege delegierter Rechtsakte anzupassen, wenn sich die technologische Entwicklung weiterentwickelt, um sicherzustellen, dass der Rahmen an die Marktgegebenheiten angepasst bleibt. Anbieter, die der Auffassung sind, dass ihr Modell trotz Erfüllung des Schwellenwerts kein systemisches Risiko darstellt, können die Kommission benachrichtigen und Belege vorlegen. Die Kommission trifft dann eine abschließende Feststellung. Die Einstufung gemäß Artikel 51 löst die in Artikel 55 enthaltenen zusätzlichen Pflichten aus, die die anspruchsvollste Ebene der Pflichten im GPAI-Rahmen darstellen.
Praktische Bedeutung
Artikel 51 betrifft direkt die Anbieter von GPAI-Modellen der Spitzenklasse — in erster Linie große KI-Labore und Technologieunternehmen, die Basismodelle oder Large Language Models in großem Maßstab entwickeln und veröffentlichen. Jeder Anbieter, dessen Modell den Trainingsrechen-Schwellenwert von 10^25 FLOPs erreicht oder überschreitet, muss dieses Modell als vermutlich systemisch riskant behandeln und mit der Compliance-Vorbereitung gemäß den Pflichten aus Artikel 55 beginnen, es sei denn, er widerlegt die Vermutung erfolgreich gegenüber der Kommission.
Konkret bedeutet dies, dass ein Anbieter seine Trainingsinfrastruktur und Dokumentation prüfen muss, um festzustellen, ob der Rechenschwellenwert überschritten wurde. Dies erfordert die Führung genauer Aufzeichnungen über Trainingsläufe, einschließlich kumulierter FLOPs. Wenn ein neues Modell in der Entwicklung ist und voraussichtlich den Schwellenwert erreichen wird, sollten Anbieter mit der Compliance-Planung vor der Markteinführung beginnen, da die Pflichten im Zeitpunkt des Inverkehrbringens oder der Inbetriebnahme des Modells entstehen.
Für Anbieter, deren Modelle von der Kommission aus qualitativen Gründen benannt werden — zum Beispiel aufgrund sehr weitverbreiteter Nutzung auf dem EU-Markt, autonomer Entscheidungsfähigkeiten oder multimodaler Reichweite — tritt der Auslöser nicht auf dieselbe Weise automatisch ein, die Benennung hat jedoch identische rechtliche Folgen. Anbieter sollten daher das öffentliche Register des KI-Amts für Modelle mit systemischem Risiko und die Leitlinien der Kommission zu den Kriterien, die sie gemäß Artikel 51(2) anwendet, beobachten.
Nachgelagerte Einsetzer und Unternehmen, die GPAI-Modelle über den API-Zugang nutzen, sollten ebenfalls beachten: Wenn das zugrunde liegende Modell, das sie verwenden, gemäß Artikel 51 eingestuft ist, können ihnen zusätzliche vertragliche Offenlegungspflichten des Anbieters entstehen, und sie sollten den Status des systemischen Risikos in ihre eigenen Due-Diligence-Prozesse einbeziehen.
Wesentliche Verpflichtungen
- Überwachung des Rechenschwellenwerts: Anbieter müssen den kumulierten Trainingsrechenaufwand ihrer GPAI-Modelle verfolgen und dokumentieren, um festzustellen, ob der Schwellenwert von 10^25 FLOPs erreicht wird, der die widerlegbare Vermutung eines systemischen Risikos gemäß Artikel 51(1)(a) auslöst.
- Proaktive Benachrichtigung: Anbieter, die der Auffassung sind, dass ihr Modell trotz Erfüllung des Schwellenwerts kein systemisches Risiko darstellt, müssen die Kommission proaktiv mit belastenden Nachweisen benachrichtigen, anstatt auf Durchsetzungsmaßnahmen zu warten.
- Einhaltung der Benennung durch die Kommission: Wenn die Kommission ein Modell gemäß Artikel 51(2) als Modell mit systemischem Risiko benennt — sei es auf der Grundlage des Rechenaufwands oder anderer Kriterien — muss der Anbieter dieser Benennung und den dadurch ausgelösten Pflichten nachkommen.
- Überwachung von Schwellenwertänderungen: Anbieter müssen Änderungen des Rechenschwellenwerts verfolgen, die die Kommission durch delegierte Rechtsakte gemäß Artikel 51(2) vornimmt, da Modelle, die derzeit nicht erfasst werden, in den Anwendungsbereich fallen können, wenn der Schwellenwert angepasst wird.
- Bereitschaft zur Aufzeichnungspflicht: Anbieter müssen technische Dokumentationen aufbewahren, die ausreichen, um nachzuweisen, ob die Einstufungsschwellenwerte erfüllt sind oder nicht, und die sowohl die Selbstbewertung als auch eine etwaige Überprüfung durch die Kommission unterstützen.
- Nachgelagerte Kommunikation: Anbieter von eingestuften GPAI-Modellen mit systemischem Risiko müssen sicherstellen, dass nachgelagerte Anbieter und Einsetzer, die auf das Modell über APIs oder andere Schnittstellen zugreifen, über den Einstufungsstatus des Modells informiert werden, wie durch die Transparenzpflichten gemäß Artikel 53 vorgeschrieben.
Bezug zu anderen Artikeln
Artikel 51 fungiert als Eingangsbestimmung für die anspruchsvollste Ebene des GPAI-Rahmens. Er ist zusammen mit Artikel 52 zu lesen, der das Verfahren zur Einstufung und die Benennungsbefugnisse der Kommission ausführlicher darlegt, sowie mit Artikel 55, der die materiellen Pflichten — adversarielle Tests, Meldung von Vorfällen an das KI-Amt, Cybersicherheitsmaßnahmen und Berichterstattung zur Energieeffizienz — auflistet, die nach der Einstufung gelten.
Artikel 53 legt die grundlegenden Pflichten fest, die für alle GPAI-Modell-Anbieter unabhängig von der Einstufung als systemisches Risiko gelten, einschließlich technischer Dokumentation, Einhaltung des Urheberrechts und Veröffentlichung von Zusammenfassungen der Trainingsdaten. Artikel 51 baut auf dieser Grundlage auf, indem er festlegt, welche Anbieter dem erhöhten Regime des Artikels 55 unterliegen.
Artikel 4 räumt der Kommission die Befugnis ein, delegierte Rechtsakte zur Anpassung technischer Details zu erlassen, einschließlich des Rechenschwellenwerts in Artikel 51. Die Erwägungsgründe 110 bis 114 der Verordnung bieten Auslegungshinweise dazu, warum die Einstufung als systemisches Risiko für hochrechnerische Modelle gerechtfertigt ist und wie die Kommission die qualitativen Benennungskriterien anzuwenden beabsichtigt. Das gemäß Artikel 64 eingerichtete KI-Amt spielt eine zentrale Rolle bei der Überwachung der Einhaltung des Einstufungsrahmens gemäß Artikel 51.
Zeitplan für die Compliance
Das EU-KI-Gesetz trat am 1. August 2024, zwanzig Tage nach seiner Veröffentlichung im Amtsblatt der Europäischen Union, in Kraft. Das Gesetz gilt stufenweise:
- Februar 2025: Verbote unannehmbarer KI-Praktiken (Artikel 5) wurden anwendbar.
- August 2025: Der GPAI-Rahmen gemäß Titel V, einschließlich Artikel 51, wurde anwendbar. Anbieter von GPAI-Modellen mit systemischem Risiko mussten ab diesem Datum die Einstufungsverfahren und die Pflichten aus Artikel 55 einhalten. Dies ist die am direktesten relevante Frist für Artikel 51.
- Dezember 2026: Pflichten für Hochrisiko-KI-Systeme, die in Annex I aufgeführt sind (sicherheitsrelevante Systeme, die unter bestehendem Unionsrecht reguliert sind), gelten.
- August 2027: Vollständige Anwendung der Pflichten für Hochrisiko-KI-Systeme, die in Annex III aufgeführt sind.
Für Artikel 51 im Besonderen mussten Anbieter großmaßstäblicher GPAI-Modelle ab August 2025 ihren Trainingsrechenaufwand bewerten und feststellen, ob der Schwellenwert für systemisches Risiko erfüllt wurde. Das KI-Amt begann im Vorfeld dieses Datums, Leitlinien und Verhaltenskodizes herauszugeben, um Anbieter bei dieser Feststellung zu unterstützen.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Bei einem KI-Modell mit allgemeinem Verwendungszweck wird vermutet, dass es ein systemisches Risiko darstellt, wenn die kumulierte Rechenleistung, die für sein Training eingesetzt wurde, 10^25 Gleitkommaoperationen (FLOPs) übersteigt. Dies ist der primäre quantitative Schwellenwert gemäß Artikel 51(1)(a). Die Kommission kann Modelle jedoch auch auf der Grundlage anderer Kriterien als Modelle mit systemischem Risiko einzustufen, etwa anhand der Nutzerzahl, des Grades der Autonomie oder der Reichweite auf dem Binnenmarkt.
Ja. Wenn ein Anbieter der Auffassung ist, dass sein Modell die Kriterien nicht erfüllt — auch wenn er der Meinung ist, dass sein Modell trotz Überschreitung des Rechenschwellenwerts kein systemisches Risiko darstellt — kann er die Kommission benachrichtigen und eine Neubewertung beantragen. Die Kommission kann Modelle auch von Amts wegen oder auf einen begründeten Antrag des KI-Amts hin benennen. Das Verfahren soll einen Dialog ermöglichen, bevor eine formelle Benennung verbindlich wird.
Nach der Einstufung unterliegt der Anbieter den zusätzlichen Pflichten aus Artikel 55, die adversarielle Tests (Red-Teaming), die Meldung von Vorfällen an das KI-Amt, Cybersicherheitsmaßnahmen und Berichtspflichten zur Energieeffizienz umfassen. Diese Pflichten kommen zu den grundlegenden Transparenz- und Urheberrechtspflichten hinzu, die für alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck gelten.
Die rechenbasierte Vermutung und der Rahmen für systemische Risiken können grundsätzlich für jedes GPAI-Modell gelten, einschließlich Open-Source-Modelle. Das EU-KI-Gesetz sieht jedoch bestimmte Erleichterungen für Anbieter von Open-Source-GPAI-Modellen gemäß Artikel 53(2) vor, sofern bestimmte Voraussetzungen erfüllt sind. Anbieter von Open-Source-Modellen, die als Modelle mit systemischem Risiko eingestuft werden, bleiben den Pflichten aus Artikel 55 unterworfen.
Die Europäische Kommission ist befugt, Modelle als Modelle mit systemischem Risiko einzustufen — entweder weil sie den Trainingsrechen-Schwellenwert von 10^25 FLOPs überschreiten (was eine widerlegbare Vermutung auslöst) oder auf der Grundlage einer qualitativen Bewertung. Das innerhalb der Kommission eingerichtete KI-Amt spielt eine zentrale Aufsichts- und Verfahrensrolle in diesem Prozess.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.