Article 64 — KI-Amt (EU AI Act)

Article 64 der Verordnung (EU) 2024/1689 — KI-Amt. Offizieller Text, praktische Interpretation, Hauptpflichten und Konsequenzen für die Compliance.

Zusammenfassung des offiziellen Textes

Article 64 der Verordnung (EU) 2024/1689 richtet das KI-Amt als Stelle innerhalb der Europäischen Kommission ein, die dazu beiträgt, den EU AI Act auf Unionsebene umzusetzen, zu überwachen und zu beaufsichtigen. Das KI-Amt ist mit einem breiten institutionellen Mandat ausgestattet, das mehrere Kernfunktionen umfasst: Entwicklung und Pflege von Unionsexpertise zu Technologien und Märkten für künstliche Intelligenz; Überwachung der Einhaltung durch Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, einschließlich solcher, die systemische Risiken darstellen; Unterstützung des Europäischen Ausschusses für Künstliche Intelligenz und der Kommission bei ihren jeweiligen Aufgaben; und Koordinierung mit nationalen zuständigen Behörden zur Gewährleistung kohärenter Durchsetzung im Binnenmarkt.

Der Artikel verleiht dem KI-Amt Untersuchungs- und Durchsetzungsbefugnisse in Bezug auf KI-Modelle mit allgemeinem Verwendungszweck (GPAI). Diese umfassen die Befugnis, von Anbietern Informationen und Dokumentationen anzufordern, Bewertungen von GPAI-Modellen durchzuführen und Angelegenheiten zur weiteren Bearbeitung weiterzuleiten. Das Amt verwaltet auch die Entwicklung von Praxis-Codes, die die Einhaltung der für GPAI-Modellanbieter geltenden Pflichten nach Kapitel V der Verordnung erleichtern sollen.

Article 64 weist dem KI-Amt auch die Verantwortung für die Überwachung von Marktentwicklungen, aufkommenden KI-Fähigkeiten und systemischen Risiken im Zusammenhang mit Frontier-Modellen zu. Es kann Leitlinien, Empfehlungen und Stellungnahmen an Interessengruppen und nationale Behörden herausgeben. Das KI-Amt fungiert als zentrale Anlaufstelle für Angelegenheiten im Zusammenhang mit GPAI-Modellen und stellt sicher, dass Durchsetzungsmaßnahmen auf Unionsebene verhältnismäßig, technisch fundiert und verfahrensrechtlich einwandfrei im Rahmen der Verordnung sind.

Praktische Bedeutung

Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck – einschließlich großer Sprachmodelle und multimodaler Foundation-Modelle – ist das KI-Amt der primäre regulatorische Ansprechpartner auf europäischer Ebene. Jeder Anbieter, dessen Modell in der EU verfügbar gemacht wird, unabhängig davon, wo der Anbieter ansässig ist, fällt in den Anwendungsbereich des Überwachungsmandats des KI-Amts, sobald die GPAI-Bestimmungen gelten.

In der Praxis sollten Anbieter damit rechnen, dass das KI-Amt Anfragen zu technischer Dokumentation, Modellbewertungen und Informationen zu Trainingsdaten, Rechenschwellen und nachgelagerten Anwendungsfällen stellt. Anbieter von Modellen, die als systemische Risiken darstellend eingestuft wurden – jene, die mit mehr als 10^25 FLOPs trainiert wurden oder anderweitig von der Kommission identifiziert wurden –, unterliegen einer verstärkten Prüfung, einschließlich adversarischer Testanforderungen und Vorfallsmeldepflichten, die vom KI-Amt überwacht werden.

Das KI-Amt leitet auch die Entwicklung und Aufsicht über Praxis-Codes für die GPAI-Compliance. Die Teilnahme an diesen Codes ist freiwillig, hat aber erhebliches Compliance-Gewicht: Anbieter, die einem genehmigten Praxis-Code folgen, profitieren von einer Konformitätsvermutung bezüglich der entsprechenden Pflichten. Anbieter, die nicht teilnehmen, müssen die Compliance anderweitig nachweisen, was das KI-Amt bewertet.

Für Deployer und nachgelagerte Betreiber ist das KI-Amt weniger direkt relevant, aber seine Leitliniendokumente, veröffentlichten Bewertungen und Durchsetzungsentscheidungen setzen den interpretativen Rahmen, dem nationale Marktüberwachungsbehörden folgen. Unternehmen, die GPAI-Modelle in Hochrisiko-KI-Systeme integrieren, sollten die Veröffentlichungen des KI-Amts genau verfolgen, da seine technischen Feststellungen beeinflussen, wie Pflichten von GPAI-Anbietern auf Deployer übergehen.

Nationale zuständige Behörden, die Hochrisiko-KI-Systeme bearbeiten, koordinieren mit dem KI-Amt über den Europäischen Ausschuss für Künstliche Intelligenz, um sicherzustellen, dass die Durchsetzung in den Mitgliedstaaten kohärent und technisch fundiert bleibt.

Hauptpflichten

• Anbieter von GPAI-Modellen müssen vollständig mit Informationsanfragen des KI-Amts kooperieren, einschließlich des Zugangs zu technischer Dokumentation, Modellgewichten (unter geeignetem Vertraulichkeitsschutz), Zusammenfassungen von Trainingsdaten und Bewertungsergebnissen innerhalb der vom Amt gesetzten Fristen.
• Anbieter von GPAI-Modellen mit systemischem Risiko müssen sich am erweiterten Überwachungsregime des KI-Amts beteiligen, einschließlich adversarischer Fähigkeitsbewertungen, Vorfallsnotifizierung und Meldung von Cybersicherheitsmaßnahmen.
• Alle GPAI-Anbieter sollten vom KI-Amt geleitete Praxis-Code-Prozesse überwachen und daran teilnehmen oder ausreichende dokumentierte alternative Compliance-Nachweise pflegen, die der Gleichwertigkeitsbewertung des Amts genügen.
• Das KI-Amt selbst ist verpflichtet, seine Befugnisse im Einklang mit dem Grundsatz der fairen Verfahren, der Verhältnismäßigkeit und den in Kapitel VII der Verordnung festgelegten Verfahrensgarantien auszuüben, einschließlich der Verteidigungsrechte für untersuchte Stellen.
• Nationale zuständige Behörden müssen mit dem KI-Amt zusammenarbeiten und seine grenzüberschreitenden Untersuchungen unterstützen sowie relevante Marktüberwachungsergebnisse über die etablierten Koordinierungsmechanismen teilen.
• Die Europäische Kommission muss sicherstellen, dass das KI-Amt angemessen mit technischer Expertise, Personal und operativer Unabhängigkeit ausgestattet ist, um sein Mandat im Rahmen der Verordnung wirksam wahrnehmen zu können.

Bezug zu anderen Artikeln

Article 64 ist das institutionelle Fundament der Governance-Architektur auf Unionsebene und muss in Verbindung mit den umgebenden Bestimmungen von Titel VII gelesen werden. Article 65 richtet den Europäischen Ausschuss für Künstliche Intelligenz ein, der neben dem KI-Amt als primäres Beratungsgremium fungiert. Articles 66 und 67 schaffen das Beratungsforum und das Wissenschaftliche Gremium für KI mit allgemeinem Verwendungszweck – beide liefern technische Expertise für die Arbeit des KI-Amts.

Für die GPAI-spezifische Aufsicht verbindet Article 64 direkt mit Kapitel V (Articles 51–56), das die Pflichten festlegt, die das KI-Amt durchsetzt. Die Articles 88 bis 94 regeln die Untersuchungs- und Durchsetzungsbefugnisse des KI-Amts im Detail, einschließlich des Zugangs zu Modellen, Korrekturmaßnahmen und Sanktionen.

Article 74 zur Marktüberwachung und Article 85 zur Vertraulichkeit von Informationen sind ebenfalls operativ relevant für die Tätigkeiten des KI-Amts. Article 5 (verbotene Praktiken) und Articles 6–51 (Hochrisiko-Systeme) informieren über die Marktüberwachungsverantwortung des KI-Amts, auch wenn die primäre Durchsetzung bei nationalen Behörden liegt.

Zeitplan für die Compliance

Der EU AI Act trat am 1. August 2024 in Kraft und schuf sofort die Rechtsgrundlage für das KI-Amt. Das Amt begann während der anfänglichen Übergangsphase mit dem Aufbau seiner Struktur und seines Fachwissens.

Februar 2025: Bestimmungen zu verbotenen KI-Praktiken (Article 5) wurden anwendbar; die Überwachungsrolle des KI-Amts in Bezug auf systemische Risiken und Marktentwicklungen wurde aktiviert.

August 2025: GPAI-Modellpflichten nach Kapitel V wurden vollständig anwendbar. Ab diesem Zeitpunkt wurden die Durchsetzungsbefugnisse des KI-Amts über Anbieter von KI-Modellen mit allgemeinem Verwendungszweck – einschließlich systemischer Risikobewertungen, Aufsicht über Praxis-Codes und Informationsanfragen – vollständig operativ.

Dezember 2026: Anforderungen an Hochrisiko-KI-Systeme nach Annex I (Produktsicherheitsgesetzgebung) gelten; nationale Marktüberwachungsbehörden werden unter Koordinierung des KI-Amts aktiviert.

August 2027: Verbleibende Pflichten für Hochrisiko-KI-Systeme nach Annex III gelten. Vollständige Governance auf mehreren Ebenen – Kombination aus GPAI-Aufsicht des KI-Amts und Durchsetzung durch nationale Behörden für Hochrisiko-Systeme – ist im gesamten EU-Binnenmarkt operativ.

Anbieter von GPAI-Modellen, die bereits vor August 2025 verfügbar waren, hatten nur begrenzten Übergangsspielraum und sollten inzwischen vollständig mit allen Pflichten nach Kapitel V konform sein und aktiv an den Aufsichtsprozessen des KI-Amts teilnehmen.