Artikel 15 — Nøjagtighed, robusthed og cybersikkerhed (EU's AI-forordning)

Artikel 15 i forordning (EU) 2024/1689 — Nøjagtighed, robusthed og cybersikkerhed. Officiel tekst, praktisk fortolkning, centrale forpligtelser og efterlevelsesmæssige konsekvenser.

Resumé af den officielle tekst

Artikel 15 i forordning (EU) 2024/1689 fastlægger tekniske krav til nøjagtighed, robusthed og cybersikkerhed, som skal opfyldes af højrisiko-AI-systemer i hele deres livscyklus. Artiklen er struktureret omkring tre indbyrdes sammenhængende forpligtelser.

For det første skal højrisiko-AI-systemer designes og udvikles til at opnå et passende niveau af nøjagtighed for deres tilsigtede formål. Udbydere er forpligtet til at angive de relevante nøjagtighedsmålinger i den medfølgende tekniske dokumentation, hvilket muliggør efterfølgende verifikation og regulatorisk kontrol.

For det andet skal systemer demonstrere robusthed — evnen til at håndtere fejl, mangler og inkonsistenser, der opstår inden i selve systemet, fra dets driftsmiljø eller fra bevidst fjendtlig manipulation. Forordningen nævner udtrykkeligt behovet for at håndtere risikoen for utilsigtede feedbacksløjfer, særligt når et højrisiko-AI-system påvirker sine egne træningsdata eller output.

For det tredje skal systemer inkorporere cybersikkerhedsforanstaltninger, der er forholdsmæssige i forhold til de risici, de udgør. Disse foranstaltninger skal beskytte mod forsøg fra tredjeparter på at udnytte systemets sårbarheder, der kunne få systemet til at opføre sig på skadelige, fordomsfulde eller på anden måde ikkeoverensstemmende måder. Forordningen anerkender, at cybersikkerhedsrobusthed ikke er en statisk tilstand, men skal opretholdes i takt med, at trusselsbilledet udvikler sig.

Samlet set operationaliserer Artikel 15 det bredere princip — som er formuleret i betragtning 51 og 52 — om, at teknisk pålidelighed er en forudsætning for anvendelse af AI i konsekvente domæner.

Hvad dette betyder i praksis

Artikel 15 skaber konkrete tekniske og styringsmæssige forpligtelser for enhver organisation, der bringer et højrisiko-AI-system i omsætning på EU-markedet eller ibrugtager et sådant system.

For udbydere er den umiddelbare konsekvens, at nøjagtighed ikke blot er et kommercielt krav, men en regulatorisk forpligtelse, der skal dokumenteres, måles og opretholdes. En producent af medicinsk udstyr, der integrerer et AI-diagnosticeringsværktøj, skal specificere, om nøjagtighed måles som sensitivitet, specificitet, AUC eller en anden måling — og dette valg skal stemme overens med systemets tilsigtede formål og risikoprofil. Vage eller aspirationelle nøjagtighedsudsagn vil ikke opfylde kravet.

Robusthedstest skal gå ud over standard kvalitetssikring. Udbydere bør udføre stresstests, out-of-distribution-test og — når systemet er udsat for brugercontrollede input — fjendtlig red-teaming. Når et system inkorporerer feedbacksløjfer (for eksempel en ansættelsesalgoritme, der lærer af rekrutterbeslutninger), skal udbyderne kortlægge og afbøde risikoen for, at fordomsfulde output korrumperer fremtidige træningscyklusser.

Cybersikkerhedsforpligtelser i henhold til Artikel 15 bør læses i sammenhæng med udbyderens bredere informationssikkerhedspolitik. Højrisiko-AI-systemer, der behandler personoplysninger eller er forbundet til kritisk infrastruktur, står over for sammensatte forpligtelser i henhold til både denne forordning og NIS 2-direktivet. Praktiske tiltag inkluderer modeladgangskontroller, inputsanering, anomaliopsporing af inferensanmodninger og procedurer for sårbarhedsoplysning.

For brugere afhænger efterlevelse af Artikel 15 i væsentlig grad af at opretholde de validerede driftsbetingelser, som udbyderen har beskrevet. Anvendelse af et system på datadistributioner, der adskiller sig væsentligt fra dem, der er brugt ved validering — for eksempel at anvende en kreditscoringsmodel, der er trænet på et nationalt marked, i en anden jurisdiktion — kan underminere de nøjagtighedsegenskaber og robusthedsegenskaber, som CE-mærket er udstedt på grundlag af.

Centrale forpligtelser

• Angivelse af nøjagtighedsmålinger: Udbydere skal specificere de relevante nøjagtighedsmålinger for højrisiko-AI-systemet og inkludere dem i den tekniske dokumentation, der kræves i henhold til Artikel 11 og Annex IV. Målinger skal være passende for systemets tilsigtede formål.
• Opnå og opretholde passende nøjagtighed: Systemet skal designes og udvikles til at opnå det erklærede nøjagtighedsniveau; nøjagtighed må ikke behandles som et engangssvarresultat, men skal overvåges efter ibrugtagning via det markedsovervågningssystem, der kræves i henhold til Artikel 72.
• Sikre robusthed over for fejl og inkonsistenser: Tekniske og organisatoriske foranstaltninger skal sikre, at systemet kan håndtere fejl, mangler og inkonsistenser — uanset om disse opstår fra interne fejl, miljøvariabilitet eller bevidste fjendtlige input — uden at forårsage usikre eller ikkeoverensstemmende output.
• Beskyttelse mod fjendtlige angreb: Når systemet er udsat for tredjeparts input, skal udbydere implementere foranstaltninger til at opdage og modstå fjendtlig manipulation, herunder prompt-injektion, modelinversion eller dataforgiftningsangreb, hvor dette er relevant.
• Håndtering af feedbacksløjferisici: Når et systems output kan påvirke fremtidige træningsdata eller modeladfærd, skal udbydere identificere denne risiko i den tekniske dokumentation og implementere sikkerhedsforanstaltninger for at forhindre ydeevneforringelse eller biasforstærkning over tid.
• Implementering af forholdsmæssige cybersikkerhedsforanstaltninger: Tekniske løsninger — herunder adgangskontroller, overvågning og procedurer for hændelseshåndtering — skal stå i et rimeligt forhold til de cybersikkerhedsrisici, systemet udgør, under hensyntagen til dets tilsigtede formål, ibrugtagningskontekst og eksponering for eksterne netværk eller brugercontrollede input.

Sammenhæng med andre artikler

Artikel 15 kan ikke læses isoleret. Den befinder sig i hjertet af de tekniske krav til højrisiko-AI-systemer og skærer ind i flere andre bestemmelser i forordningen.

Artikel 9 (risikostyringssystem) udgør den overordnede ramme, inden for hvilken nøjagtighedsrisici, robusthedsrisici og cybersikkerhedsrisici skal identificeres, vurderes og afbødes. Risikostyringssystemet er det proceduremæssige middel til at opfylde mange af de materielle krav, som Artikel 15 pålægger.

Artikel 10 (data og datastyring) er grundlæggende for nøjagtighed: et system, der er trænet på data af lav kvalitet, data der ikke er repræsentative eller fordomsfulde data, kan ikke opnå meningsfulde nøjagtighedsgarantier. Datakvalitetsforpligtelser muliggør direkte efterlevelse af Artikel 15.

Artikel 11 og Annex IV specificerer, hvad der skal fremgå af teknisk dokumentation, herunder de nøjagtighedsmålinger, der kræves af Artikel 15(1).

Artikel 17 (kvalitetsstyringssystem) kræver, at udbydere indlejrer Artikel 15-efterlevelse i deres organisatoriske processer, herunder designkontroller, testprotokoller og procedurer for ændringsstyring.

Artikel 72 (markedsovervågning efter ibrugtagning) skaber den løbende forpligtelse til at verificere, at nøjagtighedsniveauer og robusthedsniveauer opretholdes efter ibrugtagning, og lukker dermed livscyklussløjfen, som Artikel 15 åbner i designfasen.

For systemer, der også er medicinsk udstyr eller sikkerhedskomponenter, skal Artikel 15 læses i sammenhæng med den gældende EU-harmoniseringslovgivning opført i Annex I.

Tidsplan for efterlevelse

Artikel 15 følger den faseinddelte anvendelsestidsplan fastsat ved Artikel 113 i forordning (EU) 2024/1689, som trådte i kraft den 1. august 2024.

Udbydere, der udvikler eller bringer højrisiko-AI-systemer i omsætning inden den gældende dato, skal ikke desto mindre forberede dokumentation, testprotokoller og cybersikkerhedsarkitekturer i forvejen — beredskabsvurderinger og overensstemmelsesvurderinger i henhold til Artikel 43–47 kræver betydelig fremtid. Efterslæb hos bemyndigede organer og kompleksiteten af fjendtlig testning betyder, at organisationer, der sigter mod en lancering i 2026, bør begynde gapanalyser i henhold til Artikel 15 senest i midten af 2025.