Asetuksen (EU) 2024/1689 14 artikla — Ihmisen suorittama valvonta. Virallinen teksti, käytännön tulkinta, keskeiset velvoitteet ja vaatimustenmukaisuuden vaikutukset.
Virallisen tekstin tiivistelmä
Asetuksen (EU) 2024/1689 14 artikla vahvistaa korkean riskin tekoälyjärjestelmille pakolliset ihmisvalvontavaatimukset muodostaen III osaston 2. luvun mukaisen sääntelykehyksen keskeisen pilarin. Artikla edellyttää, että korkean riskin tekoälyjärjestelmät on suunniteltu ja kehitetty siten, että luonnolliset henkilöt voivat tehokkaasti valvoa niitä käyttöjakson aikana.
Erityisesti 14 artiklan 1 kohdassa edellytetään, että tarjoajat varmistavat siltä osin kuin se on teknisesti toteutettavissa, että ihmisvalvontatoimenpiteet on rakennettu järjestelmään ennen sen markkinoille saattamista tai käyttöönottoa. Näiden toimenpiteiden on mahdollistettava valvontaan nimetyille henkilöille järjestelmän ominaisuuksien ja rajoitusten ymmärtäminen (14 artiklan 4 kohdan a alakohta), toiminnan seuraaminen poikkeamien, toimintahäiriöiden tai odottamattoman suorituskyvyn merkkien varalta (14 artiklan 4 kohdan b alakohta), automaatioharhan riskin tiedostaminen (14 artiklan 4 kohdan c alakohta), tuotosten oikea tulkitseminen (14 artiklan 4 kohdan d alakohta) sekä päätöksen tekeminen olla käyttämättä järjestelmää tai ohittaa, jättää huomiotta tai pysäyttää se missä tahansa tilanteessa (14 artiklan 4 kohdan e alakohta).
14 artiklan 3 kohdassa edellytetään, että valvontaan nimetyillä luonnollisilla henkilöillä on tehtävänsä suorittamiseen tarvittava osaaminen, toimivalta ja resurssit. Kun järjestelmä on tarkoitettu luonnollisten henkilöiden käytettäväksi, valvontatoimenpiteet on siltä osin kuin se on teknisesti toteutettavissa rakennettava suoraan järjestelmän käyttöliittymään. 14 artiklan 5 kohdassa käsitellään turvakomponentin toiminnon sisältäviä järjestelmiä asettaen korotettuja odotuksia tapauksissa, joissa tekoälyn tuotokset syötetään turvallisuuden kannalta kriittisiin päätöksiin.
Mitä tämä tarkoittaa käytännössä
14 artikla luo velvoitteita sekä tarjoajille että käyttöönottajille, vaikka näiden velvoitteiden luonne eroaa tekoälyjärjestelmän elinkaaren kussakin vaiheessa.
Tarjoajille velvoite on ensisijaisesti suunnitteluvelvoite: ihmisvalvonnan ei pidä olla kehityksen jälkeen lisätty jälkiajatus, vaan ominaisuus, joka on suunniteltu järjestelmään alusta alkaen. Tämä tarkoittaa käyttöliittymien rakentamista, jotka näyttävät mielekkäitä luottamusosoittimia, matalan varmuuden tuotosten merkitsemistä, keskeytyksen tai ohittamisen mahdollistamista ilman teknistä kitkaa sekä dokumentaation tarjoamista, jonka avulla käyttöönottajat voivat ymmärtää, mitä valvontaa on realistisesti saavutettavissa.
Käyttöönottajille velvoite on operatiivinen: heidän on nimettävä päteviä henkilöitä järjestelmän valvontaan, varmistettava, että nämä henkilöt ovat koulutettuja ja tietoisia järjestelmän rajoituksista, laadittava eskalaatio- ja interventioohjeistot sekä pidettävä kirjaa valvontatoimista. Tekoälypohjaista rekrytointiseulontatyökalua käyttävän käyttöönottajan on esimerkiksi varmistettava, että ihmisrekrytoijat tarkastelevat merkittyjä ehdokkaita, ymmärtävät mallin soveltamat kriteerit ja säilyttävät toimivallan ohittaa sijoitukset ilman seuraamuksia tai menettelyllisiä esteitä.
Keskeinen käytännön huolenaihe on automaatioharhaisuus — ihmisvalvojien dokumentoitu taipumus alistua kritiikittömästi tekoälyn tuotoksille. 14 artiklan 4 kohdan c alakohdassa edellytetään nimenomaisesti, että valvontahenkilöt ovat tietoisia tästä riskistä. Käytännössä tämä tarkoittaa, että koulutusohjelmien on käsiteltävä kognitiivisia harhoja, ja työnkulut on jäsenneltävä siten, että ne edellyttävät aitoa harkintaa pelkän muodollisen hyväksynnän sijaan.
Säänneltyjen alojen, kuten terveydenhuollon, lainvalvonnan ja luottoarvioinnin, käyttöönottajiin kohdistuu korotettuja odotuksia, koska hallitsemattomat tekoälysuositukset voivat johtaa vakaviin vahinkoihin näissä yhteyksissä.
Keskeiset velvoitteet
- Integrointi suunnitteluvaiheessa: Tarjoajien on sisällytettävä ihmisvalvontakapasiteetti korkean riskin tekoälyjärjestelmiin ennen markkinoille saattamista varmistaen, että se on teknisesti toteutettavissa eikä pelkästään muodollinen.
- Ymmärrettävyys: Valvontatoimenpiteiden on mahdollistettava nimetyille henkilöille järjestelmän ominaisuuksien, aiotun käyttötarkoituksen ja rajoitusten ymmärtäminen, mukaan lukien olosuhteet, joissa suorituskyky voi heikentyä.
- Poikkeamien seuranta: Nimettyjen henkilöiden on pystyttävä havaitsemaan toimintahäiriöitä, odottamattomia tuotoksia ja poikkeamia odotetusta järjestelmän toiminnasta käytön aikana.
- Tietoisuus harhaisuuksista: Valvonnasta vastuussa olevia henkilöitä on tiedotettava automaatioharhan riskistä ja taipumuksesta luottaa liiaksi tekoälyn tuottamiin tuotoksiin ilman itsenäistä todentamista.
- Ohittamistoimivalta: Valvojilla on oltava todellinen, esteetön kyky jättää tekoälyjärjestelmä huomiotta, ohittaa se tai pysäyttää se milloin tahansa käytön aikana ilman teknisiä tai organisatorisia esteitä, jotka estävät puuttumisen.
- Osaamis- ja resurssivaatimukset: Käyttöönottajien on varmistettava, että valvontaan nimetyillä henkilöillä on riittävä osaaminen, koulutus, toimivalta ja aika merkityksellisen valvonnan suorittamiseen — valvontaa ei voida delegoida henkilöille, joilta puuttuu tarvittava pätevyys tai kapasiteetti.
Suhde muihin artikloihin
14 artikla ei toimi eristyksissä. Se edellyttää 9 artiklan (riskinhallintajärjestelmä) noudattamista, koska tehokas valvonta edellyttää, että järjestelmän aiheuttamat riskit ja olosuhteet, joissa valvonnasta tulee kriittistä, on tunnistettu. Se liittyy läheisesti 13 artiklaan (avoimuus ja tietojen toimittaminen käyttöönottajille), jossa edellytetään, että tarjoajat toimittavat tiedot, joita käyttöönottajat tarvitsevat järjestelmän ymmärtämiseen ja valvontaan — ilman näitä tietoja 14 artiklassa tarkoitettu valvonta ei voi toimia.
16 artikla ja 26 artikla vahvistavat tarjoajien ja käyttöönottajien yleiset velvoitteet, joihin 14 artiklan velvoitteet on sisällytetty. 17 artiklassa (laadunhallintajärjestelmä) edellytetään, että ihmisvalvontamenettelyt dokumentoidaan osana tarjoajan laadunkehystä.
Turvakomponentin toiminnon sisältävien järjestelmien osalta 14 artiklan 5 kohta leikkaa liitteessä I mainitun tuoteturvallisuuslainsäädännön sekä alakohtaisten vaatimusten kanssa, jotka voivat asettaa lisää tai tarkemmin määriteltyjä valvontavelvoitteita. Lopuksi 72 artikla (markkinoille saattamisen jälkeinen seuranta) ulottaa valvonnan logiikan käyttöönoton jälkeiseen järjestelmän käynnissä olevaan operatiiviseen elinkaareen.
Vaatimustenmukaisuuden aikataulu
Asetus (EU) 2024/1689 tuli voimaan 1. elokuuta 2024, kaksikymmentä päivää sen jälkeen kun se julkaistiin Euroopan unionin virallisessa lehdessä. Sen säännöksiä sovelletaan vaiheistettuna aikatauluna:
- 2. helmikuuta 2025: Ei-hyväksyttävän riskin tekoälykäytäntöjä koskevat kiellot (5 artikla) tulivat sovellettaviksi.
- 2. elokuuta 2025: Yleiskäyttöisiä tekoälymalleja koskevat säännöt (VIII osasto) ja hallintavelvoitteet (III osasto, 4. luku) tulivat sovellettaviksi.
- 2. elokuuta 2026: Liitteessä III lueteltujen korkean riskin tekoälyjärjestelmien velvoitteet — mukaan lukien 14 artikla — tulevat täysin sovellettaviksi useimpien luokkien osalta. Tämä on ensisijainen vaatimustenmukaisuuden määräaika korkean riskin tekoälyjärjestelmien tarjoajille ja käyttöönottajille, joihin sovelletaan ihmisvalvontavaatimuksia.
- 2. elokuuta 2027: Pidennetty määräaika tietyille korkean riskin tekoälyjärjestelmille, joihin sovelletaan jo alakohtaista unionin yhdenmukaistamislainsäädäntöä (liitteen I järjestelmät), antaen näille toimitusketjuille lisäaikaa vaatimustenmukaisuuden arviointimenettelyjen mukauttamiseen.
Korkean riskin tekoälyjärjestelmien tarjoajien ja käyttöönottajien tulee pitää 2. elokuuta 2026 14 artiklan vaatimustenmukaisuuden operatiivisena määräaikana, ja valmistelevat suunnittelu- ja hallintotoimet on aloitettava hyvissä ajoin ennen tätä päivämäärää vaatimustenmukaisuuden arvioinnin ja dokumentaation mahdollistamiseksi.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Korkean riskin tekoälyjärjestelmien tarjoajilla on ensisijainen vastuu ihmisvalvontakapasiteetin suunnittelusta ja rakentamisesta järjestelmiinsä ennen niiden markkinoille saattamista. Käyttöönottajat puolestaan vastaavat näiden toimenpiteiden käytännön toteuttamisesta, pätevien luonnollisten henkilöiden nimeämisestä järjestelmän toiminnan valvontaan sekä siitä, että näillä henkilöillä on tarvittava toimivalta ja osaaminen puuttua tilanteeseen.
Tehokas valvonta tarkoittaa, että korkean riskin tekoälyjärjestelmän valvontaan nimetyillä luonnollisilla henkilöillä on oltava kyky täysin ymmärtää järjestelmän ominaisuudet ja rajoitukset, havaita ja puuttua vikoihin tai odottamattomaan toimintaan, tulkita sen tuotokset oikein sekä valita jättää järjestelmä huomiotta, ohittaa se tai pysäyttää se tarvittaessa. Ei riitä, että henkilö nimetään muodollisesti — kyseisellä henkilöllä on oltava todellinen kapasiteetti ja toimivalta toimia.
Ei. 14 artikla ei edellytä ihmisen hyväksyntää jokaiselle yksittäiselle tuotokselle. Se edellyttää, että ihmisvalvonta on rakennettu järjestelmään ja sen käyttöönottokontekstiin siten, että vastuuhenkilö voi valvoa toimintaa, tunnistaa poikkeamia ja puuttua tilanteeseen. Valvonnan intensiteetin on oltava oikeassa suhteessa riskiin; joissakin korkean riskin yhteyksissä saattaa vaatia tiiviimpää ja useammin toistuvaa ihmisen suorittamaa tarkastelua kuin toisissa.
14 artiklan 4 kohdassa todetaan, että tiettyjen luonnollisten henkilöiden käyttöön tarkoitettujen järjestelmien osalta ihmisvalvontatoimenpiteet on rakennettava järjestelmään siinä määrin kuin se on teknisesti toteutettavissa ottaen huomioon aiottu käyttötarkoitus. Siinä tapauksessa, ettei täyttä valvontaa voida sisällyttää järjestelmään, tarjoajien on dokumentoitava tämä rajoitus ja käyttöönottajien on kompensoitava se organisatorisilla ja menettelyllisillä suojatoimilla.
Kyllä. 14 artiklaa sovelletaan kaikkiin liitteen III ja 6 artiklan mukaisesti määriteltyihin korkean riskin tekoälyjärjestelmiin riippumatta siitä, tekeekö järjestelmä täysin autonomisia päätöksiä vai ainoastaan avustaa ihmispäättäjiä. Jopa avustavat järjestelmät voivat vaikuttaa tuloksiin tavalla, joka edellyttää jäsenneltyä valvontaa, erityisesti silloin, kun niiden tuotoksiin saatetaan luottaa kritiikittömästi.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.