Artikel 76 — Aufsicht über Tests unter realen Bedingungen durch Marktüberwachungsbehörden (EU AI Act)

Artikel 76 der Verordnung (EU) 2024/1689 — Aufsicht über Tests unter realen Bedingungen durch Marktüberwachungsbehörden. Offizieller Text, praktische Auslegung, zentrale Verpflichtungen und Compliance-Implikationen.

Zusammenfassung des offiziellen Textes

Artikel 76 der Verordnung (EU) 2024/1689 verleiht Marktüberwachungsbehörden spezifische Aufsichtsbefugnisse über Tests von Hochrisiko-KI-Systemen unter realen Bedingungen, wie in Artikel 60 vorgesehen. Der Artikel legt fest, dass dann, wenn solche Tests im Hoheitsgebiet eines Mitgliedstaats stattfinden, die zuständige Marktüberwachungsbehörde dieses Gebiets die Zuständigkeit hat, die Durchführung der Tests zu überwachen und zu überprüfen, ob alle von Artikel 60 vorgeschriebenen Bedingungen während des gesamten Testzeitraums eingehalten werden.

Die Behörden sind befugt, Zugang zu allen Unterlagen zu verlangen, die dem Realwelttest zugrunde liegen, einschließlich des Testplans, der auf die Teilnehmer angewandten Einwilligungsverfahren und aller vom KI-System während des Betriebs erzeugten Aufzeichnungen. Wenn die Behörde Umstände identifiziert, die darauf hindeuten, dass die Tests ein Risiko begründen – insbesondere für die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen – kann sie die Aussetzung oder endgültige Beendigung der Testaktivität anordnen. Solche Entscheidungen müssen der Europäischen Kommission und den Marktüberwachungsbehörden anderer Mitgliedstaaten unverzüglich über die bestehende Produkt­sicherheits­informations- und Kommunikationsinfrastruktur der Union mitgeteilt werden.

Der Artikel befasst sich auch mit der Koordination zwischen Behörden, wenn Tests mehrere Mitgliedstaaten umfassen, indem die Behörde des Mitgliedstaats, in dem der Anbieter ansässig ist, als federführende Aufsichtsbehörde benannt wird, während das Recht jeder betroffenen Behörde, Schutzmaßnahmen in ihrem eigenen Hoheitsgebiet zu ergreifen, erhalten bleibt. Dies spiegelt das koordinierte Durchsetzungsmodell wider, das unter anderen Harmonisierungsrechtsvorschriften der Union angewandt wird, und stellt sicher, dass grenzüberschreitende Realwelttests nicht in ein Aufsichtsvakuum fallen.

Was dies in der Praxis bedeutet

Für Anbieter und Betreiber, die Tests von Hochrisiko-KI-Systemen unter realen Bedingungen durchführen, bedeutet Artikel 76, dass Tests keine selbstregulierte Aktivität sind: Eine benannte Marktüberwachungsbehörde behält eine kontinuierliche Aufsichtszuständigkeit vom Beginn der Tests bis zu deren Abschluss.

In der Praxis muss ein KI-Anbieter, der zum Beispiel ein medizinisches Diagnose-Unterstützungssystem an Patienten in zwei Mitgliedstaaten pilotiert, die federführende Aufsichtsbehörde identifizieren – in der Regel die Behörde in dem Mitgliedstaat, in dem der Anbieter ansässig ist – und muss sicherstellen, dass alle gemäß Artikel 60 erforderlichen Testunterlagen für eine kurzfristige Inspektion verfügbar sind. Wenn die Behörde Zugang zu Systemprotokollen, dem Einwilligungsregister der Teilnehmer oder den Vorfallsmanagement-Aufzeichnungen anfordert, müssen diese innerhalb der von der Behörde angegebenen Frist vorgelegt werden, die in dringenden Situationen so kurz wie wenige Tage sein kann.

Betreiber (Krankenhäuser, Personalvermittlungsagenturen, Kreditinstitute oder andere Organisationen, die das System eines Anbieters integrieren) teilen die Compliance-Last. Sie müssen mit Aufsichtsinspektionen kooperieren und dürfen den Behördenzugang zu Teststandorten oder Systemschnittstellen nicht behindern.

Wenn ein Test einen schwerwiegenden Vorfall erzeugt – einen Schaden, einen Beinahe-Vorfall oder ein unerwartetes nachteiliges Ergebnis, an dem ein Teilnehmer beteiligt ist – werden die Meldepflichten gemäß Artikel 73 parallel ausgelöst, und die gemäß Artikel 76 aufsichtsführende Marktüberwachungsbehörde wird unmittelbarer Empfänger dieser Meldung. Organisationen sollten daher ihre Vorfallreaktionsverfahren mit ihren Testgovernance-Frameworks integrieren, bevor die Tests beginnen, nicht erst nach einem Vorfall.

Multinationale Testprogramme sollten einen einzigen internen Compliance-Verantwortlichen benennen, der für die Koordination zwischen Behörden der Mitgliedstaaten zuständig ist, und im Voraus kartieren, welche Behörde die federführende Zuständigkeit und welche die gleichzeitigen territorialen Befugnisse innehat.

Wesentliche Verpflichtungen

• Anbieter und Betreiber müssen alle Unterlagen zu Realwelttests – einschließlich des Testplans, Einwilligungsunterlagen der Teilnehmer, Risikomanagementaufzeichnungen und Betriebsprotokolle des Systems – in einer Form vorhalten, die der zuständigen Marktüberwachungsbehörde für die Dauer des Tests sofort zugänglich ist.
• Auf Anfrage der Marktüberwachungsbehörde müssen Anbieter und Betreiber alle Informationen, Daten oder den Zugang liefern, die die Behörde benötigt, um die Einhaltung der in Artikel 60 festgelegten Bedingungen innerhalb der von der Behörde angegebenen Frist zu beurteilen.
• Wenn Tests mehrere Mitgliedstaaten umfassen, muss der Anbieter die federführende Aufsichtsbehörde (die Behörde des Mitgliedstaats, in dem der Anbieter ansässig ist) einbinden und sicherstellen, dass alle betroffenen territorialen Behörden informiert sind und Schutzmaßnahmen in ihrem Zuständigkeitsbereich ergreifen können.
• Wenn eine Marktüberwachungsbehörde die Aussetzung oder Beendigung von Realwelttests anordnet, müssen Anbieter und Betreiber unverzüglich handeln und alle Testaktivitäten im Unionsgebiet einstellen, bis die Behörde die Maßnahme aufhebt oder die Angelegenheit durch das anwendbare Überprüfungsverfahren gelöst wird.
• Jeder schwerwiegende Vorfall, der während Tests unter realen Bedingungen auftritt, muss der aufsichtsführenden Marktüberwachungsbehörde gemäß den in Artikel 73 festgelegten Fristen und Verfahren gemeldet werden, ohne auf den Abschluss einer internen Untersuchung zu warten.
• Anbieter und Betreiber müssen in gutem Glauben mit Marktüberwachungsinspektionen kooperieren, einschließlich der Gewährung des Zugangs vor Ort zu Einrichtungen, Personal und KI-Systemschnittstellen, wenn dies angefordert wird.

Verhältnis zu anderen Artikeln

Artikel 76 steht an der Schnittstelle mehrerer ineinandergreifender Bestimmungen der Verordnung (EU) 2024/1689. Seine primäre Verbindung besteht zu Artikel 60, der die materiellen Bedingungen festlegt, unter denen Tests von Hochrisiko-KI-Systemen unter realen Bedingungen genehmigt sind; Artikel 76 ist das Durchsetzungsgegenstück, das diesen Bedingungen durch Aufsichtskontrolle bindende Kraft verleiht.

Er stützt sich auf den allgemeinen Marktüberwachungsrahmen, der durch Artikel 74 und 75 etabliert wurde, die die Befugnisse und Verfahren der Marktüberwachungsbehörden für alle Kategorien von KI-Systemen definieren, und sollte zusammen mit diesen Artikeln gelesen werden, um den vollen Umfang der verfügbaren Ermittlungs- und Korrekturbefugnisse zu verstehen.

Der Artikel knüpft an Artikel 73 zur Meldung schwerwiegender Vorfälle an, da Vorfälle, die während beaufsichtigter Tests auftreten, sofort die Meldekette dieses Artikels aktivieren. Artikel 57 zu KI-Regulierungssandboxen ist eine verwandte, aber eigenständige Bestimmung: Sandboxen operieren unter der Aufsicht nationaler zuständiger Behörden mit besonderen Abweichungen, während Artikel 76 Tests unter realen Bedingungen im Rahmen des Standardregimes der Marktüberwachung regelt.

Artikel 85 und 86 zu Sanktionen und Zugang zur Justiz sind nachgelagert relevant: Eine Verweigerung der Kooperation mit der Aufsicht gemäß Artikel 76 kann einen Compliance-Verstoß darstellen, der Verwaltungsgeldbußen nach dem Sanktionsrahmen des Gesetzes nach sich zieht.

Zeitplan für die Compliance

Die Verordnung (EU) 2024/1689 trat am 1. August 2024 in Kraft und markiert den Beginn des stufenweisen Anwendungsplans. Artikel 76 fällt als Teil von Titel IX zur Überwachung nach dem Inverkehrbringen und Marktüberwachung in die Bestimmungen, die für Hochrisiko-KI-Systeme in der zweiten und dritten Anwendungsphase vollständig anwendbar werden.

Für Hochrisiko-KI-Systeme aus Annex III (eigenständige Hochrisikoanwendungen) gelten die vollständigen Marktüberwachungspflichten – einschließlich der Aufsicht über Realwelttests gemäß Artikel 76 – ab dem 2. August 2026. Für Hochrisiko-KI-Systeme, die Sicherheitskomponenten von Produkten sind, die durch bestehende Harmonisierungsrechtsvorschriften der Union aus Annex I reguliert werden (wie Medizinprodukte und Maschinen), ist das anwendbare Datum der 2. August 2027.

Anbieter, die Realwelttests von Hochrisikosystemen planen, sollten August 2026 als harte Frist für die Einrichtung konformer Testgovernance-Frameworks behandeln, einschließlich dokumentierter Verfahren für den Behördenzugang, die Vorfallseskalation und die grenzüberschreitende Koordination. Da Testprogramme häufig sechs bis zwölf Monate laufen, bevor ein System die Bereitstellung erreicht, sollten Governance-Frameworks realistischerweise spätestens bis Anfang 2026 konzipiert und getestet sein, um Verzögerungen beim Markteintritt zu vermeiden.