Artikel 60 der Verordnung (EU) 2024/1689 — Erprobung von Hochrisiko-KI-Systemen unter realen Bedingungen außerhalb von KI-Regulierungssandboxen. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Compliance-Implikationen.
Zusammenfassung des offiziellen Textes
Artikel 60 der Verordnung (EU) 2024/1689 legt die Bedingungen fest, unter denen Anbieter und potenzielle Anbieter von Hochrisiko-KI-Systemen Erprobungen unter realen Bedingungen außerhalb des strukturierten Rahmens der nach den Artikeln 57 bis 59 eingerichteten KI-Regulierungssandboxen durchführen dürfen. Diese Bestimmung erkennt an, dass eine aussagekräftige Bewertung von Hochrisiko-KI-Systemen häufig den Einsatz in echten operativen Umgebungen erfordert, während gleichzeitig den mit den betreffenden Risiken angemessene Schutzmaßnahmen aufrechterhalten werden.
Der Artikel schreibt vor, dass Tests außerhalb von Sandboxen nur durchgeführt werden dürfen, wenn eine Reihe kumulativer Bedingungen erfüllt ist. Der Anbieter oder potenzielle Anbieter muss der zuständigen nationalen Behörde mindestens 30 Tage vor Beginn der Erprobung eine Benachrichtigung einreichen. Die Benachrichtigung muss einen Testplan enthalten, der Umfang, Dauer, geografisches Gebiet, Kategorien der beteiligten Personen und die vorhandenen Risikominderungsmaßnahmen beschreibt.
Die informierte Einwilligung der Testpersonen ist eine zentrale Anforderung. Wenn das KI-System mit identifizierbaren natürlichen Personen interagiert oder Entscheidungen trifft, die diese betreffen, müssen diese Personen über ihre Teilnahme informiert werden und ausdrücklich einwilligen, sofern anwendbares sektorales Recht nicht anderes vorsieht. Der Umfang der Erprobung darf nicht über das hinausgehen, was zur Erreichung der angegebenen Ziele unbedingt erforderlich ist, und darf die Testpersonen keinem unannehmbaren Risiko oder Schaden aussetzen.
Der Artikel schreibt ferner vor, dass die Erprobung unter der Aufsicht des Anbieters durchgeführt wird, dass die Ergebnisse aufgezeichnet werden und dass schwerwiegende Vorkommnisse, die während der Erprobung auftreten, der zuständigen Behörde gemeldet werden. Die Mitgliedstaaten behalten die Möglichkeit, Erprobungsaktivitäten in ihrem Hoheitsgebiet zu genehmigen oder abzulehnen und können zusätzliche Bedingungen auferlegen.
Was dies in der Praxis bedeutet
Artikel 60 ist in erster Linie für Organisationen relevant, die Hochrisiko-KI-Systeme — wie in Artikel 6 und Annex III der Verordnung definiert — entwickeln oder einsetzen und die Systemleistung oder Sicherheitseigenschaften in echten operativen Umgebungen validieren müssen, bevor oder neben der formalen Konformitätsbewertung. Dies umfasst beispielsweise ein Krankenhaus, das ein KI-gestütztes Diagnoseinstrument in einer aktiven klinischen Umgebung erprobt, oder eine Finanzinstitution, die ein Kreditwürdigkeitsmodell mit echten Antragstellern außerhalb einer kontrollierten Sandbox testet.
In der Praxis bedeutet die Compliance die Einrichtung eines internen Prozesses zur Verwaltung realer Tests, der die Pflichten des Artikels widerspiegelt. Vor Beginn eines Tests muss die Organisation einen strukturierten Testplan erstellen, sicherstellen, dass alle Einwilligungsmechanismen vorhanden sind, und die erforderliche Benachrichtigung mindestens 30 Tage im Voraus bei der zuständigen Behörde einreichen — und dabei ausreichend Zeit für die Behörde lassen, um Einwände zu erheben oder Bedingungen aufzuerlegen.
Während des Tests muss die Organisation eine aktive menschliche Aufsicht aufrechterhalten, alle wesentlichen Vorkommnisse dokumentieren und bereit sein, die Erprobung sofort auszusetzen, wenn die Risiken das erwartete Maß übersteigen. Die während der Erprobung gesammelten Daten unterliegen weiterhin den geltenden DSGVO-Pflichten, und die Verarbeitung besonderer Datenkategorien erfordert eine spezifische Rechtsgrundlage.
Organisationen sollten auch sicherstellen, dass ihre Verträge mit Betreibern oder Drittanbieter-Testbetreibern die Verantwortung für die Einhaltung der Bedingungen nach Artikel 60 klar zuweisen, da die Verpflichtung in erster Linie beim Anbieter oder potenziellen Anbieter liegt, unabhängig davon, wer den Test physisch durchführt. Interne Governance-Rahmen — einschließlich einer benannten verantwortlichen Person und eines dokumentierten Risikoregisters für den Test — sind dringend empfehlenswert.
Wesentliche Pflichten
- Vorabbenachrichtigung: Einreichung eines Testplans bei der zuständigen nationalen Behörde mindestens 30 Tage vor Beginn der realen Erprobung, mit Angaben zu Umfang, Dauer, Ort, Kategorien der Testpersonen und Risikominderungsmaßnahmen.
- Informierte Einwilligung: Einholung der ausdrücklichen informierten Einwilligung aller an der Erprobung beteiligten oder davon betroffenen natürlichen Personen und Information dieser Personen über ihr bedingungsloses Recht, jederzeit ohne Nachteil zurückzutreten.
- Risikoverhältnismäßigkeit: Sicherstellung, dass die Erprobungsaktivitäten nicht über das zur Erreichung des angegebenen Ziels unbedingt Erforderliche hinausgehen und die Testpersonen oder Dritte keinen Risiken aussetzen, die den erwarteten Nutzen überwiegen.
- Aufsicht und Dokumentation: Aufrechterhaltung einer aktiven Aufsicht über den Test, Führen von Aufzeichnungen über den Testplan, die Ergebnisse und alle Abweichungen oder Vorkommnisse während des gesamten Erprobungszeitraums.
- Vorkommnismeldung: Unverzügliche Meldung jedes schwerwiegenden Vorkommnisses während der realen Erprobung an die zuständige Behörde und sofortige Ergreifung von Korrekturmaßnahmen zur Schadensminderung.
- EU-Datenbankregistrierung: Registrierung der realen Erprobungsaktivität in der nach Artikel 71 eingerichteten EU-Datenbank für Hochrisiko-KI-Systeme vor Beginn der Erprobung.
Verhältnis zu anderen Artikeln
Artikel 60 ist Teil von Titel VI (Maßnahmen zur Unterstützung von Innovationen) und sollte zusammen mit den Artikeln 57 bis 59 gelesen werden, die den primären Rahmen für KI-Regulierungssandboxen etablieren. Artikel 60 fungiert als ergänzender Weg für Tests, die nicht in einer formalen Sandbox stattfinden, ersetzt aber nicht die materiellen Sicherheits- und Transparenzpflichten, die für Hochrisiko-KI-Systeme nach Titel III gelten (insbesondere Artikel 8 bis 15 über Anbieterpflichten, Risikomanagement und technische Dokumentation) und setzt diese auch nicht herab.
Die Einwilligungs- und Datenschutzanforderungen nach Artikel 60 stehen in direkter Wechselwirkung mit der Verordnung (EU) 2016/679 (DSGVO), insbesondere Artikel 6, 9 und 22 über die rechtmäßige Verarbeitung und automatisierte Entscheidungsfindung. Artikel 60 verbindet sich auch mit Artikel 71 über die EU-Datenbank, der die Registrierungspflichten regelt, und mit Artikel 73 über die Marktüberwachung, da die zuständigen Behörden reale Tests inspizieren können. Anbieter sollten darüber hinaus Artikel 26 über die Pflichten der Betreiber berücksichtigen, da reale Erprobungen häufig betreiberseitige Infrastruktur und Daten einbeziehen.
Compliance-Zeitplan
Das EU-KI-Gesetz trat am 1. August 2024 in Kraft, zwanzig Tage nach seiner Veröffentlichung im Amtsblatt der Europäischen Union. Seine Bestimmungen gelten in Phasen:
- 2. Februar 2025 — Verbote von KI-Praktiken mit unannehmbarem Risiko (Artikel 5) wurden anwendbar.
- 2. August 2025 — Bestimmungen über Allzweck-KI-Modelle (Titel III, Kapitel 3, Artikel 51 bis 56) und Governance-Pflichten (Titel VI und VIII in Teilen) wurden anwendbar. Der Regulierungssandbox-Rahmen nach den Artikeln 57 bis 59 wurde ab diesem Datum ebenfalls anwendbar.
- 2. August 2026 — Das allgemeine Anwendungsdatum für die meisten verbleibenden Bestimmungen, einschließlich Artikel 60. Ab diesem Datum müssen Anbieter und potenzielle Anbieter von Hochrisiko-KI-Systemen, die reale Tests außerhalb von Sandboxen durchführen möchten, die durch diesen Artikel begründeten Benachrichtigungs-, Einwilligungs-, Dokumentations- und Vorkommnismeldepflichten vollständig einhalten.
- 2. August 2027 — Verlängerte Frist für Hochrisiko-KI-Systeme, die unter Annex III Nummer 2 fallen (KI-Systeme in bestehenden Produkten, die bereits Unionsharmonisierungsrechtsvorschriften nach Annex I unterliegen), was den betroffenen Sektoren zusätzliche Zeit gibt, sich an die Konformitätsbewertungs- und Betriebsanforderungen anzupassen.
Organisationen, die reale Erprobungsprogramme planen, sollten weit vor dem 2. August 2026 mit der Gestaltung konformer Test-Governance-Rahmen und Benachrichtigungsverfahren beginnen, um Verzögerungen zu vermeiden, wenn die Verpflichtung durchsetzbar wird.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Anbieter und potenzielle Anbieter von Hochrisiko-KI-Systemen dürfen reale Tests außerhalb von Sandboxen durchführen, sofern sie die zuständige nationale Behörde mindestens 30 Tage vor Beginn der Tests benachrichtigen und die in Artikel 60 festgelegten Bedingungen erfüllen, einschließlich der Einholung der informierten Einwilligung der Testpersonen und der Einführung geeigneter Risikominderungsmaßnahmen.
Nein. Artikel 60 schafft einen eigenständigen Weg für reale Tests, die außerhalb der formalen KI-Regulierungssandboxen nach den Artikeln 57 bis 59 stattfinden. Er sieht einen leichteren Mechanismus vor, legt aber weiterhin obligatorische Schutzmaßnahmen, Benachrichtigungspflichten und Bedingungen zum Schutz der an den Tests beteiligten Personen fest.
Personen, die an realen Tests teilnehmen, müssen eine ausdrückliche informierte Einwilligung geben, sofern anwendbares sektorales Recht nicht anderes zulässt. Sie müssen über ihr Recht informiert werden, ohne Nachteil zurückzutreten, vor unverhältnismäßigen negativen Auswirkungen geschützt werden, und der Anbieter muss sicherstellen, dass etwaige bei der Erprobung entstehende Schäden behoben werden. Für gefährdete Gruppen gelten besondere Schutzmaßnahmen.
Artikel 60 fällt unter Titel VI und gilt ab dem 2. August 2026, dem allgemeinen Anwendungsdatum für die meisten Bestimmungen des EU-KI-Gesetzes. In Annex III aufgeführte Hochrisiko-KI-Systeme sehen gestaffelte Pflichten vor, wobei einige Kategorien unter dem verlängerten Zeitplan bis zum 2. August 2027 fallen.
Nicht notwendigerweise in der Testphase, aber die Erprobung muss unter Bedingungen durchgeführt werden, die mit dem bestimmungsgemäßen Verwendungszweck und den Risikomanagementanforderungen des KI-Gesetzes vereinbar sind. Anbieter müssen die geplante Erprobung in der EU-Datenbank registrieren und sicherstellen, dass der Testplan, die Schutzmaßnahmen und die Aufsichtsmechanismen die in Artikel 60 Absatz 4 aufgeführten Bedingungen erfüllen.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.