Artikel 60 i forordning (EU) 2024/1689 — Afprøvning af højrisiko-AI-systemer under virkelige betingelser uden for AI-regulatoriske sandkasser. Officiel tekst, praktisk fortolkning, centrale forpligtelser og efterlevelsesmæssige konsekvenser.
Sammenfatning af den officielle tekst
Artikel 60 i forordning (EU) 2024/1689 fastlægger de betingelser, under hvilke udbydere og potentielle udbydere af højrisiko-AI-systemer kan gennemføre afprøvning under virkelige betingelser uden for den strukturerede ramme for AI-regulatoriske sandkasser, der er etableret i henhold til artiklerne 57 til 59. Denne bestemmelse anerkender, at meningsfuld evaluering af højrisiko-AI-systemer ofte kræver eksponering for reelle driftsmiljøer, samtidig med at der opretholdes sikkerhedsforanstaltninger, der er proportionale med de involverede risici.
Artiklen kræver, at afprøvning uden for sandkasser kun må gennemføres, hvis et sæt kumulative betingelser er opfyldt. Udbyderen eller den potentielle udbyder skal indgive en underretning til den kompetente nationale myndighed mindst 30 dage inden afprøvningens påbegyndelse. Underretningen skal indeholde en afprøvningsplan, der beskriver omfanget, varigheden, det geografiske område, kategorierne af involverede personer og de risikobegrænsende foranstaltninger, der er på plads.
Informeret samtykke fra forsøgspersoner er et centralt krav. Hvor AI-systemet interagerer med eller træffer beslutninger, der berører identificerbare fysiske personer, skal disse personer informeres om deres deltagelse og skal give udtrykkelig samtykke, medmindre gældende sektorlovgivning bestemmer andet. Afprøvningen må ikke overstige, hvad der er strengt nødvendigt for at nå de angivne mål, og må ikke udsætte forsøgspersoner for uacceptable risici eller skader.
Artiklen kræver endvidere, at afprøvningen gennemføres under udbyderens tilsyn, at resultaterne registreres, og at alvorlige hændelser, der opstår under afprøvningen, rapporteres til den kompetente myndighed. Medlemsstaterne bevarer muligheden for at give tilladelse til eller nægte afprøvningsaktiviteter på deres territorium og kan pålægge yderligere betingelser.
Hvad dette betyder i praksis
Artikel 60 er primært relevant for organisationer, der udvikler eller anvender højrisiko-AI-systemer — som defineret i henhold til artikel 6 og Annex III i forordningen — og som har behov for at validere systemets ydeevne eller sikkerhedsegenskaber i reelle driftsomgivelser før eller sideløbende med formel overensstemmelsesvurdering. Dette inkluderer f.eks. et hospital, der afprøver et AI-assisteret diagnosticeringsværktøj i et levende klinisk miljø, eller en finansiel institution, der afprøver en kreditvurderingsmodel med reelle ansøgere uden for en kontrolleret sandkasse.
I praksis indebærer efterlevelse etablering af en intern proces til styring af afprøvninger under virkelige betingelser, der afspejler forpligtelserne i artiklen. Inden en afprøvning påbegyndes, skal organisationen udarbejde en struktureret afprøvningsplan, verificere, at alle samtykkemekanismer er på plads, og indgive den nødvendige underretning til den kompetente myndighed mindst 30 dage i forvejen — hvilket efterlader tilstrækkelig tid til, at myndigheden kan rejse indsigelser eller pålægge betingelser.
Under afprøvningen skal organisationen opretholde aktiv menneskelig overvågning, dokumentere alle væsentlige hændelser og være forberedt på at suspendere afprøvningen omgående, hvis risici overstiger de forventede niveauer. Data indsamlet under afprøvningen er fortsat underlagt gældende GDPR-forpligtelser, og behandling af særlige kategorier af oplysninger kræver et specifikt retsgrundlag.
Organisationer bør også sikre, at deres kontrakter med anvendere eller tredjeparts afprøvningsoperatører klart fordeler ansvaret for overholdelse af betingelserne i artikel 60, da forpligtelsen primært påhviler udbyderen eller den potentielle udbyder uanset hvem der rent faktisk gennemfører afprøvningen. Interne styringsrammer — herunder en udpeget ansvarlig person og et dokumenteret risikoregister for afprøvningen — anbefales stærkt.
Centrale forpligtelser
- Forudgående underretning: Indsend en afprøvningsplan til den relevante nationale kompetente myndighed mindst 30 dage inden afprøvning under virkelige betingelser påbegyndes, der dækker omfang, varighed, placering, forsøgspersonskategorier og risikobegrænsende foranstaltninger.
- Informeret samtykke: Indhent udtrykkelig informeret samtykke fra alle fysiske personer, der er involveret i eller berørt af afprøvningen, og informer dem om deres ubetingede ret til at trække sig tilbage til enhver tid uden negative konsekvenser.
- Risikoproportionalitet: Sikr, at afprøvningsaktiviteterne ikke overstiger, hvad der er strengt nødvendigt for det angivne mål, og ikke udsætter forsøgspersoner eller tredjeparter for risici, der opvejer de forventede fordele.
- Tilsyn og dokumentation: Oprethold aktivt tilsyn med afprøvningen, før optegnelser over afprøvningsplanen, resultaterne og eventuelle afvigelser eller hændelser i hele afprøvningsperioden.
- Hændelsesrapportering: Rapporter uden unødig forsinkelse enhver alvorlig hændelse, der opstår under afprøvning under virkelige betingelser, til den kompetente myndighed, og træf øjeblikkelige korrigerende foranstaltninger for at begrænse skaden.
- Registrering i EU-databasen: Registrer afprøvningsaktiviteten under virkelige betingelser i EU-databasen for højrisiko-AI-systemer, der er etableret i henhold til artikel 71, inden afprøvningen påbegyndes.
Forholdet til andre artikler
Artikel 60 er en del af afsnit VI (Foranstaltninger til støtte for innovation) og bør læses i sammenhæng med artiklerne 57 til 59, som etablerer den primære ramme for AI-regulatoriske sandkasser. Artikel 60 fungerer som en komplementær vej til afprøvning, der ikke finder sted inden for en formel sandkasse, men den erstatter eller sænker ikke de substantielle sikkerheds- og gennemsigtighedsforpligtelser, der gælder for højrisiko-AI-systemer i henhold til afsnit III (navnlig artiklerne 8 til 15 om udbyderes forpligtelser, risikostyring og teknisk dokumentation).
Samtykke- og databeskyttelseskravene i artikel 60 er direkte forbundet med forordning (EU) 2016/679 (GDPR), navnlig artiklerne 6, 9 og 22 om lovlig behandling og automatiseret beslutningstagning. Artikel 60 er også forbundet med artikel 71 om EU-databasen, som regulerer registreringsforpligtelser, og med artikel 73 om markedsovervågning, da kompetente myndigheder kan inspicere afprøvninger under virkelige betingelser. Udbydere bør endvidere overveje artikel 26 om anvendernes forpligtelser, da afprøvning under virkelige betingelser ofte involverer infrastruktur og data på anvendersiden.
Tidsplan for efterlevelse
EU's AI-forordning trådte i kraft den 1. august 2024, tyve dage efter offentliggørelsen i Den Europæiske Unions Tidende. Dens bestemmelser finder anvendelse i faser:
- 2. februar 2025 — Forbud mod AI-praksisser med uacceptabel risiko (artikel 5) fandt anvendelse.
- 2. august 2025 — Bestemmelser om AI-modeller til almene formål (afsnit III, kapitel 3, artiklerne 51 til 56) og governance-forpligtelser (delvist afsnit VI og VIII) fandt anvendelse. Rammen for regulatorisk sandkasse i henhold til artiklerne 57 til 59 fandt også anvendelse fra denne dato.
- 2. august 2026 — Den generelle anvendelsesdato for de fleste resterende bestemmelser, herunder artikel 60. Fra denne dato skal udbydere og potentielle udbydere af højrisiko-AI-systemer, der ønsker at gennemføre afprøvning under virkelige betingelser uden for sandkasser, fuldt ud overholde underretnings-, samtykke-, dokumentations- og hændelsesrapporteringsforpligtelserne, der er fastlagt i denne artikel.
- 2. august 2027 — Udvidet deadline for højrisiko-AI-systemer, der henhører under Annex III, punkt 2 (AI-systemer i eksisterende produkter, der allerede er underlagt EU-harmoniseringslovgivningen opført i Annex I), hvilket giver berørte sektorer yderligere tid til at tilpasse sig til overensstemmelsesvurderings- og driftskrav.
Organisationer, der planlægger afprøvningsprogrammer under virkelige betingelser, bør begynde at designe compliant afprøvningsstyrerammer og underretningsprocedurer i god tid inden den 2. august 2026 for at undgå forsinkelser, når forpligtelsen bliver håndhævbar.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Udbydere og potentielle udbydere af højrisiko-AI-systemer kan gennemføre afprøvning under virkelige betingelser uden for sandkasser, forudsat at de underretter den relevante nationale kompetente myndighed mindst 30 dage, inden afprøvningen begynder, og opfylder de betingelser, der er fastsat i artikel 60, herunder indhentning af informeret samtykke fra forsøgspersoner og indførelse af passende risikobegrænsende foranstaltninger.
Nej. Artikel 60 etablerer en særskilt vej til afprøvning under virkelige betingelser, der finder sted uden for de formelle AI-regulatoriske sandkasser, der er reguleret af artiklerne 57 til 59. Den giver en lettere mekanisme, men pålægger stadig obligatoriske sikkerhedsforanstaltninger, underretningskrav og betingelser for beskyttelse af forsøgspersoner, der er involveret i afprøvningen.
Forsøgspersoner, der er involveret i afprøvning under virkelige betingelser, skal give udtrykkelig informeret samtykke, medmindre gældende sektorlovgivning tillader andet. De skal informeres om deres ret til at trække sig tilbage uden negative konsekvenser, beskyttes mod urimelige negative virkninger, og udbyderen skal sikre, at enhver skade, der opstår under afprøvningen, afhjælpes. Særlige beskyttelsesforanstaltninger gælder for sårbare grupper.
Artikel 60 henhører under afsnit VI og finder anvendelse fra den 2. august 2026, som er den generelle anvendelsesdato for de fleste bestemmelser i EU's AI-forordning. Højrisiko-AI-systemer opført i Annex III er underlagt trinvise forpligtelser, med visse kategorier under den forlængede tidslinje til den 2. august 2027.
Ikke nødvendigvis på afprøvningsstadiet, men afprøvningen skal gennemføres under betingelser, der er i overensstemmelse med den tilsigtede anvendelse og risikostyringskravene i AI-forordningen. Udbydere skal registrere den planlagte afprøvning i EU-databasen og sikre, at afprøvningsplanen, sikkerhedsforanstaltningerne og tilsynsmekanismerne opfylder de betingelser, der er angivet i artikel 60, stk. 4.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.