Artikel 53 der Verordnung (EU) 2024/1689 — Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Auswirkungen auf die Compliance.
Zusammenfassung des offiziellen Textes
Artikel 53 der Verordnung (EU) 2024/1689 legt Pflichten fest, die ausschließlich für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gelten, die gemäß Artikel 51 als Modelle mit systemischem Risiko eingestuft wurden. Dabei handelt es sich um Modelle, die mit einem Rechenaufwand von mehr als 10^25 Gleitkommaoperationen (FLOP) trainiert wurden, oder um Modelle, die vom KI-Büro auf der Grundlage einer Fähigkeits- oder Folgenabschätzung benannt wurden.
Zusätzlich zu den grundlegenden Pflichten, die für alle Anbieter von GPAI-Modellen gemäß Artikel 52 gelten, müssen die von Artikel 53 erfassten Anbieter: Modellbewertungen durchführen, einschließlich adversariellem Testen gemäß standardisierten Protokollen oder genehmigten Methoden; systemische Risiken auf Unionsebene bewerten und mindern; schwerwiegende Vorfälle und Fehlfunktionen dem KI-Büro unverzüglich melden; ein angemessenes Niveau des Cybersicherheitsschutzes für das Modell, seine Infrastruktur und seine physische Umgebung gewährleisten; und die Ergebnisse von Modellbewertungen dokumentieren und dem KI-Büro auf Anfrage zur Verfügung stellen.
Artikel 53(2) sieht vor, dass Anbieter sich auf Verhaltenskodizes stützen können, die gemäß Artikel 56 angenommen wurden, um die Einhaltung nachzuweisen. Die Europäische Kommission ist befugt, delegierte Rechtsakte zur Präzisierung des Inhalts und der Verfahren für Bewertungen zu erlassen und Schwellenwerte entsprechend dem wissenschaftlichen Erkenntnisfortschritt anzupassen. Das KI-Büro überwacht die Einhaltung und kann weitere Informationen oder Korrekturmaßnahmen verlangen.
Was dies in der Praxis bedeutet
Artikel 53 schafft eine eigene Compliance-Ebene für die leistungsfähigsten und potenziell wirkungsstärksten GPAI-Modelle auf dem EU-Markt. Jede Organisation — unabhängig von ihrem Niederlassungsort —, die ein solches Modell Betreibern oder Endnutzern in der EU zur Verfügung stellt, muss prüfen, ob sie die Schwelle für systemisches Risiko überschreitet.
Für Anbieter, die die Rechenschwelle von 10^25 FLOP überschreiten, sind die Pflichten automatisch. Für Anbieter unterhalb dieser Schwelle kann das KI-Büro die Pflichten gemäß Artikel 53 nach einer Einzelfallbewertung anhand von Indikatoren wie der Nutzeranzahl, der Breite der Fähigkeiten oder der Integration in kritische Sektoren aktivieren.
In der Praxis erfordert die Einhaltung den Aufbau robuster interner Prozesse: ein Modellbewertungsprogramm, das Red-Teaming und adversarielle Tests vor und nach der Bereitstellung durchführen kann; ein Register systemischer Risiken und einen zugehörigen Minderungsplan; einen Cybersicherheitsrahmen, der Modellgewichte, APIs und Trainingsinfrastrukturen abdeckt; und ein Vorfallsreaktionsverfahren, das mit der Meldepflicht gegenüber dem KI-Büro verknüpft ist.
Konkret muss ein Anbieter eines Frontier-Großsprachmodells, das über eine API für EU-ansässige Betreiber verfügbar gemacht wird, adversarielle Tests durchführen — wie Jailbreak-Versuche und das Hervorrufen von Fähigkeiten für gefährliche Inhalte —, Ergebnisse dokumentieren, aufbewahren und mit dem KI-Büro teilen können. Wenn das Modell eine Ausgabe erzeugt, die einer Person oder kritischen Infrastruktur ernsthaften Schaden zufügt oder fast zufügt, muss dieser Vorfall unverzüglich gemeldet werden. Die Teilnahme an einem vom KI-Büro genehmigten Verhaltenskodex gemäß Artikel 56 bietet einen strukturierten Weg, die Einhaltung ohne Warten auf harmonisierte Standards nachzuweisen.
Wesentliche Pflichten
- Modellbewertungen und adversarielle Tests: Durchführung gründlicher Bewertungen, einschließlich Red-Teaming und adversarieller Tests, unter Verwendung standardisierter oder vom KI-Büro genehmigter Protokolle, vor und nach wesentlichen Modellaktualisierungen.
- Bewertung und Minderung systemischer Risiken: Identifizierung, Analyse und Minderung potenzieller systemischer Risiken auf Unionsebene, die sich aus der Entwicklung, dem Inverkehrbringen oder der Nutzung des Modells ergeben können.
- Meldung schwerwiegender Vorfälle: Unverzügliche Meldung an das KI-Büro über jeden schwerwiegenden Vorfall oder jede Fehlfunktion im Zusammenhang mit dem GPAI-Modell mit systemischem Risiko, einschließlich Informationen zum Vorfall und ergriffenen Korrekturmaßnahmen.
- Cybersicherheitsschutz: Implementierung und Aufrechterhaltung angemessener Cybersicherheitsmaßnahmen zum Schutz des Modells, seiner physischen Infrastruktur und Lieferkette — einschließlich Modellgewichten, APIs und Trainings-Pipelines — entsprechend den identifizierten Risiken.
- Dokumentation und Transparenz gegenüber dem KI-Büro: Führung von Aufzeichnungen über Bewertungsergebnisse, Testmethoden und Risikominderungsmaßnahmen; Bereitstellung dieser Unterlagen für das KI-Büro auf Anfrage.
- Compliance-Weg über Verhaltenskodizes: Nachweis der Einhaltung der Pflichten aus Artikel 53 durch Einhaltung von Verhaltenskodizes, die gemäß Artikel 56 entwickelt wurden, bis harmonisierte Standards verfügbar sind.
Verhältnis zu anderen Artikeln
Artikel 53 kann nicht isoliert gelesen werden. Er baut unmittelbar auf Artikel 51 auf, der die Kriterien und Verfahren für die Einstufung eines GPAI-Modells als Modell mit systemischem Risiko definiert — einschließlich der Rechenschwelle von 10^25 FLOP und der Ermessensbefugnis des KI-Büros zur Benennung. Die grundlegenden Pflichten aus Artikel 52 bleiben neben Artikel 53 vollständig anwendbar; letzterer fügt eine weitere Schicht hinzu, anstatt erstere zu ersetzen.
Artikel 55 regelt qualifizierte Konformitätsvermutungen, während Artikel 56 den Verhaltenskodex-Mechanismus einrichtet, auf den Artikel 53(2) ausdrücklich als Compliance-Weg verweist. Die Aufsichtsrolle des KI-Büros in Bezug auf die Pflichten aus Artikel 53 ist in Artikel 88 bis 90 verankert, die Durchsetzungsbefugnisse und -verfahren festlegen. Für Anbieter, die auch Betreiber von Hochrisiko-KI-Systemen sind, können die Anforderungen von Kapitel III (Artikel 9–16) zum Risikomanagement und zur technischen Dokumentation mit den von Artikel 53 geforderten Maßnahmen zur Minderung systemischer Risiken überschneiden, und eine Koordinierung zwischen den Compliance-Teams ist ratsam, um Doppelarbeit zu vermeiden.
Zeitplan für die Compliance
Das EU-KI-Gesetz trat am 1. August 2024 in Kraft (zwanzig Tage nach der Veröffentlichung im Amtsblatt am 12. Juli 2024). Artikel 53, als Teil von Titel V, der KI-Modelle mit allgemeinem Verwendungszweck regelt, wurde am 2. August 2025 anwendbar — zwölf Monate nach Inkrafttreten, gemäß Artikel 113(3).
Dies bedeutet, dass Anbieter von GPAI-Modellen mit systemischem Risiko ihre Bewertungsprogramme, Vorfallsmeldeverfahren und Cybersicherheitsrahmen bis zu diesem Datum in Betrieb haben mussten. Der phasenweise Anwendungsplan zur Orientierung: Verbotene KI-Praktiken gemäß Artikel 5 galten ab 2. Februar 2025 (sechs Monate); GPAI-Modellpflichten einschließlich Artikel 53 ab 2. August 2025 (zwölf Monate); Pflichten für Hochrisiko-KI-Systeme gemäß Anhang I ab 2. August 2026 (vierundzwanzig Monate); und verbleibende Pflichten für Hochrisiko-KI-Systeme ab 2. August 2027 (sechsunddreißig Monate). Anbieter sollten auch delegierte Rechtsakte der Europäischen Kommission beobachten, die die Bewertungsanforderungen des Artikels 53 präzisieren oder die Rechenschwelle entsprechend dem wissenschaftlichen Verständnis der Fähigkeiten von Frontier-Modellen anpassen können.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Artikel 53 gilt für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die als Modelle mit systemischem Risiko eingestuft wurden — entweder weil sie mit einem kumulativen Rechenaufwand von mehr als 10^25 FLOP trainiert wurden oder weil das KI-Büro sie nach einer Bewertung gemäß Artikel 51 als solche eingestuft hat.
Artikel 52 legt grundlegende Pflichten für alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck fest, einschließlich Dokumentations- und Transparenzanforderungen. Artikel 53 erlegt ausschließlich Anbietern von GPAI-Modellen mit systemischem Risiko zusätzliche, strengere Pflichten auf, einschließlich adversariellem Testen, Vorfallsmeldung und Cybersicherheitsmaßnahmen.
Artikel 53 schreibt keine Zugangsbeschränkungen vor, verlangt jedoch von den Anbietern, Maßnahmen und technische Vorkehrungen zu treffen, die dem systemischen Risiko angemessen sind. Dies kann Zugriffskontrollen umfassen, wenn dies durch die Ergebnisse des adversariellen Testens oder die Cybersicherheitsrisikobewertung gerechtfertigt ist.
Ein schwerwiegender Vorfall gemäß Artikel 53 bezieht sich auf jeden Vorfall oder jede Fehlfunktion eines GPAI-Modells mit systemischem Risiko, der/die zu Tod, ernsthaftem Gesundheitsschaden, ernsthafter Störung kritischer Infrastrukturen, Sachschäden oder erheblichen nachteiligen Auswirkungen auf Grundrechte führt oder mit vernünftiger Wahrscheinlichkeit führen kann. Anbieter müssen solche Vorfälle dem KI-Büro unverzüglich melden.
Artikel 53 wurde am 2. August 2025 anwendbar, zwölf Monate nach Inkrafttreten der Verordnung am 1. August 2024. Dies spiegelt den spezifischen Zeitplan des EU-KI-Gesetzes für die Bestimmungen von Titel V wider, die KI-Modelle mit allgemeinem Verwendungszweck regeln.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.