ES Mākslīgā intelekta akts pa nozarēm — nozarei specifisks atbilstības ceļvedis

Nozarei specifiski ES MI akta atbilstības ceļveži veselības aprūpei, HR, publiskajam sektoram, transportam, apdrošināšanai, mazumtirdzniecībai, MVU un izglītībai.

Kā nozare nosaka eksponētību ES MI aktam

ES MI akts ir horizontāls tiesību akts — tas attiecas uz MI sistēmām, kas laistas tirgū vai nodotas ekspluatācijā katrā Eiropas Savienības tautsaimniecības sektorā. Tomēr praktiskais atbilstības slogs nav vienveidīgs. Nozare nosaka, kuras III pielikuma augsta riska kategorijas ir aktuālas, kuri jau esošie regulatīvie ietvari rada pārklājošos pienākumus un kuras valstu vai ES līmeņa uzraudzības iestādes būs kompetentas attiecībā uz MI izvietojumiem.

Akts nosaka pakāpenisku riska arhitektūru: aizliegtās prakses saskaņā ar Art. 5, augsta riska MI saskaņā ar Art. 6 un III pielikumu, vispārējas nozīmes MI (GPAI) pienākumi saskaņā ar Art. 51 līdz Art. 55 un pārredzamības pienākumi saskaņā ar Art. 50. Uz visām nozarēm attiecas aizliegums pret aizliegtajām praksēm un Art. 50 pārredzamības slānis. III pielikuma augsta riska pienākumi tiek piemēroti selektīvi, atkarībā no tā, kādu MI organizācija izvietoja un kādam nolūkam.

Nozares eksponētības izpratne sākas ar darbības MI lietojuma gadījumu kartēšanu pret III pielikuma kategorijām. Organizācijām arī jānovērtē, vai izvietotais MI ir GPAI modelis saskaņā ar Art. 3(63), un vai kādi piegādātāju sakari rada pienākumus kā GPAI izvietotājam vai sniedzējam.

III pielikuma izpratne pa nozarēm

ES MI akta III pielikums definē 8 patstāvīgu augsta riska MI kategorijas. Katra kategorija attiecas uz konkrētām nozarēm un MI lietojuma gadījumiem.

1. kategorija — Biometrija (starpnozaru)

Art. 6, lasot kopā ar III pielikuma 1. punktu, aptver MI sistēmas fizisko personu biometriskai identifikācijai un biometriskai kategorizācijai. Reāllaika attālā biometriskā identifikācija publiski pieejamās vietās, ko veic tiesībaizsardzības iestādes, ir aizliegta saskaņā ar Art. 5(1)(h) — tā nav tikai augsta riska, bet pilnīgs aizliegums. Post-hoc biometriskās identifikācijas un biometriskās kategorizācijas sistēmas, ko izmanto nodarbinātībā, robežkontrolē, tiesībaizsardzībā (atļauto ierobežojumu ietvaros) un piekļuves kontrolē, paliek augsta riska kategorijā. Ikviena organizācija, kas ievieto sejas atpazīšanas, pirkstu nospiedumu saskaņošanas, balss atpazīšanas vai līdzīgas sistēmas sekojumiem lēmumiem, ietilpst darbības jomā.

2. kategorija — Kritiskā infrastruktūra (transports, enerģētika, ūdensapgāde)

III pielikuma 2. punkts aptver MI, ko izmanto kā drošības komponentu kritiskās digitālās infrastruktūras, ceļu satiksmes, ūdensapgādes, gāzes, apkures un elektroenerģijas pārvaldībā un darbībā. Transporta operatoriem, enerģētikas tīkla pārvaldniekiem, ūdensapgādes uzņēmumiem un digitālās infrastruktūras sniedzējiem jānovērtē, vai to MI sistēmas atbilst šiem kritērijiem. MI akta I pielikums šeit arī krustojas: MI drošības komponenti, kas iekļauti I pielikuma regulētajos produktos (iekārtās, transportlīdzekļos, civilās aviācijas aprīkojumā, dzelzceļa sistēmās), ir augsta riska saskaņā ar Art. 6(1), nevis III pielikumu.

3. kategorija — Izglītība un profesionālā apmācība

III pielikuma 3. punkts aptver MI, kas nosaka pieeju izglītības iestādēm, sadala studentus pa izglītības ceļiem, vērtē pārbaudījumu vai testu rezultātus, novērtē mācību sasniegumus, kas būtiski ietekmē nākotnes iespējas, un uzrauga studentu uzvedību vērtēšanas laikā. EdTech platformām, universitātēm, profesionālās apmācības sniedzējiem un pārbaudījumu struktūrām jāvērtē savi ar MI vadītie rīki pret šiem kritērijiem.

4. kategorija — Nodarbinātība un HR

III pielikuma 4. punkts aptver MI, ko izmanto darbinieku atlasē un izvēlē (CV atlasē, kandidātu sarindošanā, automatizētā interviju analīzē), lēmumos par paaugstināšanu amatā, atlaišanu, uzdevumu sadali platformu darbiniekiem, darbinieku uzvedības uzraudzībā un veiktspējas vērtēšanā. Šī kategorija ir viena no plašākajām pēc darbības jomas — praktiski katra organizācija, kas izmanto ar MI atbalstītus HR procesus, ir jāvērtē atbilstība. Pienākums attiecas uz MI, ko izmanto darba devēji, darbaspēka piesaistes aģentūras un platformu ekonomikas uzņēmumi.

5. kategorija — Pamatprivātie un publiskie pakalpojumi (finanses, apdrošināšana, ar veselību saistītie, pabalsti)

III pielikuma 5. punkts ir plašākā kategorija, aptverot MI, ko izmanto fizisko personu kredītspējas novērtēšanā un kredītu piešķiršanā, apdrošināšanas riska novērtēšanā un cenu noteikšanā, tiesību uz publiskiem pabalstiem un sociālajiem pakalpojumiem novērtēšanā un ārkārtas situāciju izsaukumu lēmumu pieņemšanā. Šī kategorija tieši ietekmē bankas, apdrošinātājus, publiskās pārvaldes iestādes un sociālo pakalpojumu sniedzējus. Ar veselību saistītais MI, kas vērtē personas apdrošināšanas tiesībām, arī ietilpst šeit, radot pārklāšanos starp finanšu pakalpojumu un veselības aprūpes pienākumiem.

6., 7. un 8. kategorija — Tiesībaizsardzība, migrācija, tiesvedība

III pielikuma 6., 7. un 8. punkts attiecas uz publiskā sektora iestādēm un to tehnoloģiju piegādātājiem. Tiesībaizsardzības MI (riska punktu skaitīšana, atkārtotu noziedzīgu nodarījumu prognozēšana, noziegumu prognozēšana, pierādījumu vērtēšana), migrācijas un robežkontroles MI (patvēruma riska novērtēšana, dokumentu verificēšana, pieteikumu apstrāde) un tiesvedības un demokrātisko procesu MI (juridiskās izpētes rīki, ar vēlēšanām saistīts MI) — visi ir augsta riska. Šīs kategorijas galvenokārt ietekmē policijas iestādes, robežaģentūras, imigrācijas tribunālus, tiesas un to līgumslēdzējus, kas nodrošina MI.

Nozaru ceļveži

Katrs no tālāk norādītajiem speciālajiem ceļvežiem kartē ES MI akta pienākumus uz nozares specifisko regulatīvo kontekstu, tipiskajiem MI lietojuma gadījumiem un izpildes arhitektūru.

Veselības aprūpe un dzīvības zinātnes

Veselības aprūpes MI darbojas ES MI akta un Medicīnas ierīču regulas (MDR) un In Vitro Diagnostikas regulas (IVDR) krustpunktā. MI sistēmas, kas kvalificējas kā medicīnas ierīces, tiek regulētas galvenokārt saskaņā ar MDR/IVDR, bet paliek pakļautas MI akta pamattiesību un pārredzamības pienākumiem. III pielikuma 5. punkts aptver MI, ko izmanto veselības riska punktu skaitīšanai apdrošināšanā un publisko pabalstu tiesībspējas noteikšanā. Klīniskais lēmumu atbalsts, diagnostikas MI, pacientu triāžas rīki un zāļu atklāšanas MI katrs rada specifiskus pienākumus atkarībā no to regulatīvās klasifikācijas.

HR un darbinieku atlase

III pielikuma 4. punkts augsta riska kategorijā iekļauj praktiski visus ar MI atbalstītos HR procesus. CV atlases rīki, psiholoģiskās vērtēšanas platformas, automatizēta interviju video analīze, veiktspējas pārvaldības sistēmas un darbaspēka plānošanas MI ir jāatbilst sniedzēja un izvietotāja pienākumiem. Šis ceļvedis aplūko darba devēju kā izvietotāju pienākumus saskaņā ar Art. 26, datu pārvaldības prasības saskaņā ar Art. 10 un mijiedarbību ar GDPR profilēšanas ierobežojumiem.

Publiskais sektors un tiesvedība

Publiskās iestādes vienlaikus ir augsta riska MI izvietotāji un struktūras, kuras valstu kompetentās iestādes pārbaudīs visvairāk. III pielikuma 5. līdz 8. punkts kopumā aptver lielu daļu publiskā sektora MI: pabalstu tiesībspējas noteikšanu, neatliekamās palīdzības dienestu MI, tiesībaizsardzības rīkus, robežpārvaldības sistēmas un tiesu MI. Šis ceļvedis aplūko publisko izvietotāju specifiskos pienākumus, pārredzamības pilnvaras automatizētiem lēmumiem, kas ietekmē pilsoņus, un mijiedarbību ar GDPR un Tiesībaizsardzības direktīvu.

Transports un kritiskā infrastruktūra

Transporta operatoriem jāorientējas gan III pielikuma 2. punktā (drošības komponenti kritiskajā infrastruktūrā), gan I pielikuma produktu drošības regulējumā. MI autonomo transportlīdzekļu sistēmās, dzelzceļa satiksmes pārvaldībā, gaisa satiksmes vadībā, ostu operācijās un loģistikas maršrutēšanā var aktivizēt augsta riska klasifikāciju pa vairākiem ceļiem. Šis ceļvedis aplūko mijiedarbību ar EASA regulējumu, Dzelzceļa drošības direktīvu un paziņoto struktūru lomu atbilstības novērtēšanā.

MVU

Mazie un vidējie uzņēmumi saskaras ar tādiem pašiem ES MI akta pienākumiem kā lielas organizācijas, ja tie ir augsta riska MI sniedzēji vai izmanto augsta riska MI kā izvietotāji. Tomēr akts paredz samērīguma mehānismus. Šis ceļvedis paskaidro vienkāršotās tehniskās dokumentācijas iespējas, piekļuvi regulatīvajām smilšukastēm saskaņā ar Art. 57 līdz Art. 63 un to, kā strukturēt minimālu, bet juridiski pietiekamu atbilstības programmu. Tas arī aplūko MVU eksponētību kā trešo pušu MI rīku izvietotājiem.

Apdrošināšana

Apdrošināšanas MI ir pakļauts III pielikuma 5.(b) punktam (riska novērtēšana un cenu noteikšana dzīvības un veselības apdrošināšanai fiziskām personām) un krustojas ar Solvency II prasībām modeļu pārvaldībai un iekšējo modeļu izmantošanai. Auto, veselības, īpašuma un dzīvības apdrošināšanas cenu noteikšanas MI, parakstīšanas lēmumu rīki un automatizētas prasījumu nokārtošanas sistēmas — visas prasa novērtējumu. Šis ceļvedis aplūko EIOPA un valstu apdrošināšanas uzraugu lomu līdzās MI akta VKI sistēmai.

Mazumtirdzniecība un zvanu centri

Mazumtirdzniecības un klientu apkalpošanas operācijas galvenokārt ietekmē Art. 50 pārredzamības pienākumi — ar MI ģenerēta satura izpaušana, tērzēšanas robotu identifikācija un deepfake marķēšana — kā arī ar nodarbinātību saistītais MI saskaņā ar III pielikuma 4. punktu. Emociju atpazīšanas sistēmas, ko izmanto klientu apkalpošanas kontekstos, ir skaidri regulētas. Šis ceļvedis aplūko tiešsaistes mazumtirdzniecības MI, ieteikumu dzinējus, automatizētu klientu apkalpošanu un darbaspēka pārvaldību kontaktu centros.

Izglītība un EdTech

III pielikuma 3. punkts izglītības MI iekļauj augsta riska kategorijā gadījumos, kad tas nosaka vai būtiski ietekmē pieeju izglītības ceļiem vai vērtē sasniegumus. Šis ceļvedis aplūko EdTech sniedzēju, universitāšu, profesionālās apmācības struktūru un publisko pārbaudījumu iestāžu pienākumus. Tas aptver adaptīvās mācīšanās platformas, pārbaudījumu uzraudzīšanas programmatūru, automatizētu eseju vērtēšanu un studentu riska prognozēšanas rīkus.

Finanšu sektors (banku darbība)

Banku sektora ceļvedis aplūko III pielikuma 5.(b) punkta kredītu novērtēšanu un kredītspējas vērtēšanu, krāpšanas atklāšanas MI, algoritmiskās tirdzniecības sistēmas, AML/KYC rīkus un robo-konsultāciju platformas. Tas pārbauda ES MI akta pienākumu uzslāņošanu virs DORA, MiFID II, CRR/CRD un EBA pamatnostādnēm. Galvenā uzmanība pievērsta mijiedarbībai starp MI akta modeļu pārvaldības prasībām un esošajiem modeļu riska pārvaldības ietvariem saskaņā ar EBA pamatnostādnēm.

Pārrobežu pienākumi

Vairāki ES MI akta pienākumi attiecas neatkarīgi no nozares. Katrai organizācijai, kas darbojas ES, ir jāizprot šīs pamatprasības.

Aizliegtās prakses — Art. 5

Art. 5 nosaka absolūtus aizliegumus, kas stājās spēkā 2025. gada 2. februārī. Tie attiecas uz katru nozari bez izņēmuma: subliminālās manipulācijas paņēmieni, kas nodara kaitējumu, fizisko personu neaizsargātības izmantošana, sociālā vērtēšana, ko veic publiskās iestādes, reāllaika attālā biometriskā identifikācija, ko veic tiesībaizsardzība publiskās vietās (ar šauriem izņēmumiem), emociju atpazīšana darba vietās un izglītības iestādēs (ārpus noteiktajiem izmantošanas gadījumiem), biometriskā kategorizācija, izmantojot sensitīvas īpašības, un prognozējoša policijas darbība, kas balstīta vienīgi uz profilēšanu. Neviens nozarei specifisks izņēmums neatceļ šos aizliegumus.

Pārredzamības pienākumi — Art. 50

Art. 50 pieprasa MI sistēmu sniedzējiem un izvietotājiem, kas mijiedarbojas ar fiziskām personām, atklāt mijiedarbības MI raksturu. Tas attiecas uz tērzēšanas robotiem, virtuālajiem asistentiem, automatizētajām zvanu centru sistēmām un jebkuru MI sistēmu, kas paredzēta, lai izskatītos cilvēcīga. Ar MI ģenerētajam saturam — sintētiskajiem medijiem, deepfake, tekstam — jābūt mašīnlasāmi marķētam. Šie pienākumi attiecas uz mazumtirdzniecību, finanšu pakalpojumiem, ar pacientiem saskaroties veselības aprūpes rīkiem, publiskā sektora pilsoņu pakalpojumiem un katru citu nozari, kas ievieto sarunu vai ģeneratīvo MI.

GPAI modeļa pienākumi — Art. 51 līdz Art. 55

Organizācijām, kas ievieto GPAI modeļus — lielos valodas modeļus, pamata modeļus, multimodālo MI —, jānovērtē, vai tās ir trešās puses GPAI modeļa izvietotāji vai GPAI integrētas sistēmas sniedzēji. GPAI sniedzējiem ir pienākumi saskaņā ar Art. 53 (pārredzamība lejupējiem sniedzējiem, autortiesību politika, apmācību datu kopsavilkums). GPAI modeļiem ar sistēmisku risku ir papildu pienākumi saskaņā ar Art. 55. Katrai nozarei, kas izmanto komerciālās pamata modeļu API vai pašmitinātos pamata modeļus, ir jānovērtē šie pienākumi.

MVU un samērīgi pienākumi

MVU veido lielāko daļu ES uzņēmumu un arvien lielāku daļu MI sistēmu sniedzēju un izvietotāju. ES MI akts nenosaka vispārēju MVU atbrīvojumu, taču Art. 9(5), Art. 11 un Art. 16 pieprasa, lai sniedzēja pienākumi būtu samērīgi ar organizācijas lielumu un kapacitāti.

Regulatīvo smilšukastu sistēma (Art. 57 līdz Art. 63) ir īpaši paredzēta, lai nodrošinātu MVU un jaunuzņēmumiem uzraudzītas izstrādes vides, samazinātu regulatīvo nenoteiktību un nodrošinātu tiešu piekļuvi valsts kompetentās iestādes norādījumiem. Dalība negarantē atbilstības apstiprinājumu, taču nodrošina strukturētu ceļu uz tirgus ienākšanu inovatīviem MI produktiem.

MVU, kas darbojas kā trešās puses nodrošināta augsta riska MI izvietotāji, Art. 26 pienākumi — lietošanas gadījuma novērtēšana, cilvēku uzraudzības ieviešana, pamattiesību ietekmes novērtēšana — attiecas. Nepieciešamās dokumentācijas un uzraudzības apjoms ir samērīgs, taču juridiskie pienākumi netiek atcelti.

Specializētais MVU ceļvedis nodrošina atbilstības ceļakarti, kas pielāgota mazākām organizācijām, aptverot prioritizēšanu, minimālo nepieciešamo dokumentāciju, piegādātāju pienācīgu rūpību un smilšukastu piekļuves procedūras.

Izpilde

ES MI akts izveido daudzlīmeņu izpildes arhitektūru ar nozīmīgiem nozarei specifiskiem aspektiem.

Valstu kompetentās iestādes

Katra ES dalībvalsts norīko vienu vai vairākas valstu kompetentās iestādes (VKI) saskaņā ar Art. 70. VKI ir atbildīgas par regulatīvo smilšukastu atļaušanu, tirgus uzraudzības veikšanu, sniedzēju pēctirgus uzraudzības datu saņemšanu, iespējamo pārkāpumu izmeklēšanu un administratīvo naudas sodu piemērošanu saskaņā ar Art. 99 līdz Art. 101. Maksimālie naudas sodi sasniedz 35 miljonus eiro vai 7% no globālā gada apgrozījuma par Art. 5 aizliegto prakšu pārkāpumiem.

Nozaru regulatori kā tirgus uzraudzības iestādes

Art. 74(8) un Art. 74(9) paredz, ka nozaru regulatori var darboties kā tirgus uzraudzības iestādes attiecībā uz MI savās jomās. Eiropas Banku iestādei (EBA), Eiropas Apdrošināšanas un aroda pensiju iestādei (EIOPA), Eiropas Vērtspapīru un tirgu iestādei (ESMA), Eiropas Zāļu aģentūrai (EMA) un Eiropas Savienības Aviācijas drošības aģentūrai (EASA) katrai ir loma MI uzraudzībā savas regulatīvās kompetences ietvaros. Tas rada divlīmeņu izpildes eksponētību: bankas kredītu novērtēšanas MI var pārbaudīt gan valsts finanšu regulators, piemērojot III pielikuma pienākumus, gan VKI, veicot MI akta tirgus uzraudzību.

Eiropas MI birojs

Eiropas MI birojs, kas izveidots saskaņā ar Art. 64 līdz Art. 70, tieši izpilda pienākumus attiecībā pret GPAI modeļu sniedzējiem. Organizācijām, kas ievieto GPAI modeļus ar sistēmisku risku, MI birojs ir primārais regulatīvais partneris — nevis valsts VKI. Nozaru regulatoriem nav tiešas jurisdikcijas pār GPAI modeļiem kā tādiem, lai gan lejupējās MI sistēmas, kas integrē GPAI, paliek pakļautas valstu un nozaru uzraudzībai.

Izpildes grafiks

Aizliegums attiecībā uz Art. 5 praksi ir piemērojams kopš 2025. gada 2. februāra. GPAI pienākumi saskaņā ar Art. 51 līdz Art. 55 stājās spēkā 2025. gada 2. augustā. Pilnie pienākumi III pielikuma augsta riska MI sistēmām — aptverot visas astoņas kategorijas un visus sniedzēja un izvietotāja pienākumus — tiek piemēroti no 2027. gada 2. decembra (pagarināts no sākotnējā 2026. gada 2. augusta termiņa ar 2025. gada Digitālā omnibusa grozījumu). Organizācijām visās nozarēs vajadzētu uzskatīt periodu līdz 2027. gada decembrim par aktīvu atbilstības logu, nevis labvēlības periodu.