Izglītība un EdTech — ES MI akta atbilstība

ES MI akta pienākumi izglītības MI sistēmām: uzņemšana, automatizēta vērtēšana, eksāmenu uzraudzība un mācību platformas. Aptver Annex III 3. kategoriju un īpašo aizsardzību studentiem.

Izglītības nozare un ES MI akts — kāpēc studentu tiesības ir centrālās

ES MI akts (Regula (ES) 2024/1689) identificē izglītību un profesionālo apmācību kā paaugstināta riska jomu, klasificējot tajā specifiskas MI lietojumprogrammas kā augsta riska sistēmas saskaņā ar Annex III, 3. kategoriju. Šī klasifikācija atspoguļo Eiropas likumdevēja fundamentālu spriedumu: MI sistēmas, kas ietekmē piekļuvi izglītības iespējām vai nosaka akadēmiskos rezultātus, skar tiesības, kurām ir dziļa individuāla nozīme — tiesības uz izglītību (ES Pamattiesību hartas Art. 14), tiesības uz nediskrimināciju (Art. 21) un, lielajai daļai studentu, kas ir nepilngadīgie, GDPR Art. 8 un starptautisko tiesiskā regulējuma pastiprināto aizsardzību, tostarp ANO Bērna tiesību konvenciju (UNCRC).

Izglītības nozarei ir raksturīgs savdabīgs atbilstības profils. Lielākā daļa izglītības iestāžu — universitātes, skolas un profesionālās apmācības struktūras — saskaņā ar ES MI aktu darbojas izvietotāja lomā: tās iepērk un ekspluatē MI sistēmas, ko būvē EdTech pārdevēji, nevis izstrādā MI pašas. Šī atšķirība nesamazina to pienākumus. Augsta riska MI sistēmu izvietotājiem saskaņā ar Art. 26 ir patstāvīgi juridiskie pienākumi, kurus nevar izpildīt, vienkārši iegādājoties CE marķētu produktu. Tajā pašā laikā EdTech uzņēmumi, kas izstrādā un laiž MI sistēmas ES tirgū, ir piegādātāji, uz kuriem attiecas pilnīgs atbilstības novērtēšanas režīms saskaņā ar III nodaļu, 2. iedaļu.

Nozari raksturo arī ievērojama sensitīvo personas datu koncentrācija. Studentu uzvedības dati, vērtēšanas ieraksti, iesaistīšanās modeļi, mācīšanās grūtības un demogrāfiskie profili tiek apstrādāti apjomīgi, izmantojot adaptīvās mācīšanās platformas un analītikas rīkus. Šī datu koncentrācija nozīmē, ka ES MI akta atbilstību izglītībā nevar plānot nošķirti no GDPR — abi tiesiskā regulējumi ir jārisina kā integrēts atbilstības pienākums.

Augsta riska MI izglītībā — uzņemšana, vērtēšana un eksāmenu uzraudzība

Annex III, 3. kategorija definē divas atšķirīgas augsta riska izglītības MI apakškategorijas. Katras kategorijas tvēruma izpratne ir būtiska klasifikācijas lēmumu pieņemšanai.

Uzņemšanas MI — piekļuves noteikšana izglītības iestādēm

Annex III, 3. kategorijas (a) apakškategorija aptver MI sistēmas, kas paredzētas piekļuves noteikšanai vai iedalīšanai izglītības un profesionālās apmācības iestādēs vai programmās. Šī kategorija ietver MI, kas piešķir punktus, ierindo vai filtrē pretendentus universitāšu uzņemšanas procesos, MI, kas novērtē iepriekšējo kvalifikāciju vai profesionālo kredenciālu atzīšanu, un MI, kas nosaka atbilstību konkrētiem akadēmiskiem virzieniem vai specializētām programmām.

Augsta riska klasifikācija attiecas gadījumos, kad MI sistēmas izvaddati būtiski ietekmē pretendentu piekļuvi izglītības iespējai. Šo slieksni sasniedz lielākā daļa operacionāli izvietoto uzņemšanas MI: punktu piešķiršanas modelis, kura rezultātus uzņemšanas darbinieki pārskata un rīkojas saskaņā ar tiem bez sistemātiskas pamatā esošā novērtējuma atkārtotas pārbaudes, faktiski nosaka rezultātus pat tad, ja cilvēks formāli apstiprina katru lēmumu. Šādu sistēmu piegādātājiem jāatbilst Art. 9–15 (datu pārvaldība, tehniskā dokumentācija, reģistrēšana, pārredzamība, cilvēka uzraudzība, precizitāte un noturīgums). Izvietotājiestādēm jāpārbauda atbilstība un jāievieš Art. 26 izvietotāja pienākumi pirms sistēmas izmantošanas jebkurā uzņemšanas ciklā.

Novirzes risks ir īpaši akūts uzņemšanas MI gadījumā. Sistēmas, kas apmācītas uz vēsturiskiem uzņemšanas un akadēmisko panākumu datiem, var kodēt esošās nevienlīdzības — dzimumu atšķirības noteiktās disciplīnās, sociālekonomisku nevienlīdzību akadēmiskajā sagatavotībā, atšķirīgu sniegumu starp vietējiem un starptautiskajiem pretendentiem. Art. 10 prasa, lai apmācības dati tiktu pakļauti pārvaldības praksēm, kas novērš zināmās novirzes, un Art. 9 nosaka riska pārvaldības pasākumus, kas kalibrēti atbilstoši potenciālā kaitējuma smagumam — šajā kontekstā tas ietver kvalificētu pretendentu no nelabvēlīgām grupām izglītības iespēju liegšanu.

Automatizētas novērtēšanas MI — vērtēšana un akadēmisko ceļu iedalīšana

Annex III, 3. kategorijas (b) apakškategorija aptver MI sistēmas, kas novērtē studentus, tostarp MI automatizētus vērtēšanas rīkus un sistēmas, kas ievieto studentus diferencētos akadēmiskos virzienos, ja šīm sistēmām ir būtiska ietekme uz viņu izglītības ceļiem. Automatizēts eseju vērtēšanas rīks, kas sniedz galīgās atzīmes un nosaka, vai students nokārto vai nenokārto kursu, saņem kvalifikāciju vai pāriet uz nākamo akadēmisko līmeni, ir augsta riska sistēma. Tāpat MI, kas ievieto studentus papildapmācības, standarta vai padziļinātajos virzienos, pamatojoties uz snieguma datiem, būtiski ietekmē izglītības ceļus un ietilpst šajā kategorijā.

Robeža formatīvo novērtēšanas rīku — rīku, ko izmanto tikai studentiem atgriezeniskā sakara sniegšanai un kuros cilvēks pedagogs saglabā pilnīgu un efektīvu kontroli pār visiem vērtētajiem rezultātiem — ir šaurāka. Šādi rīki var neietilpt 3. kategorijas (b) apakškategorijā, taču šī klasifikācija jādokumentē un jāpamato, un iestādēm jānodrošina, ka cilvēka uzraudzība ir patiesi saturīga, nevis formāla MI ģenerētu rezultātu apstiprināšana.

Attālinātās eksāmenu uzraudzības MI

Attālinātās eksāmenu uzraudzības sistēmas, kas uzrauga studentu uzvedību novērtēšanas laikā, izmantojot video analīzi, acu kustību izsekošanu, pārlūka bloķēšanu, taustiņu nospiešanas reģistrēšanu vai uzvedības anomāliju noteikšanu, pārstāv vienu no juridiski sarežģītākajiem MI lietojumiem izglītībā. Ja šādas sistēmas atzīmē vai diskvalificē studentus, pamatojoties uz savu automatizēto analīzi — vai ja to izvaddatus cilvēka pārskatītāji izmanto tādā veidā, kas būtiski nosaka rezultātus — tās veido augsta riska MI saskaņā ar Annex III, 3. kategoriju kā MI, kas novērtē studentus un būtiski ietekmē viņu akadēmiskos ceļus.

Uzraudzības MI arī aktivizē Art. 5(1)(d) aizliegumu attiecībā uz reāllaika attālo biometrisko identifikāciju publiski pieejamās vietās. Ja uzraudzības sistēmas izmanto sejas atpazīšanu, lai nepārtraukti pārbaudītu studenta identitāti eksāmena laikā reāllaikā, tas ir aizliegta biometriskā identifikācija, ja vien nepiemēro ļoti šauru dalībvalsts tiesiskā regulējuma izņēmumu saskaņā ar Art. 5(2)–(6). Iestādēm, kas izvieto uzraudzības MI, rūpīgi jānošķir identitātes pārbaude eksāmena piekļuves brīdī (potenciāli likumīga, ja atbilstoša) no nepārtrauktas reāllaika biometriskās uzraudzības visā eksāmena sesijā (uz ko attiecas Art. 5 aizliegums).

Piegādātājs pret izvietotāju — EdTech uzņēmumi un izglītības iestādes

ES MI akts asimetriski sadala pienākumus starp piegādātājiem un izvietotājiem. Šīs sadalījuma izpratne ir pamats atbilstības plānošanai gan EdTech pārdevējiem, gan iestādēm, kas izmanto viņu produktus.

EdTech piegādātāju pienākumi

EdTech uzņēmumi, kas izstrādā un laiž augsta riska MI sistēmas ES tirgū, ir piegādātāji saskaņā ar Art. 3(3) un tiem jāatbilst pilnīgajām augsta riska MI prasībām III nodaļā, 2. iedaļā:

• Art. 9 — Izveidot un uzturēt riska pārvaldības sistēmu MI sistēmas visā dzīves ciklā
• Art. 10 — Ieviest datu pārvaldību apmācības, validācijas un testēšanas datu kopām, risinot novirzes, reprezentativitāti un statistiskos ierobežojumus
• Art. 11 un Annex IV — Uzturēt visaptverošu tehnisko dokumentāciju, kas apliecina atbilstību
• Art. 12 — Nodrošināt automātisku sistēmas darbības reģistrēšanu, kas ļauj veikt MI lēmumu pēcpārbaudi
• Art. 13 — Nodrošināt pārredzamības informāciju, kas ļauj izvietotājiem izprast sistēmas iespējas un ierobežojumus
• Art. 14 — Izstrādāt sistēmu tā, lai tā nodrošinātu efektīvu cilvēka uzraudzību izvietotāju veicot
• Art. 15 — Sasniegt atbilstošu precizitāti, noturīgumu un kiberdrošību paredzētajam izglītības kontekstam
• Art. 49 — Reģistrēt sistēmu ES MI datu bāzē pirms vai laižot tirgū

Piegādātājiem arī jānodrošina izvietotājiestādēm lietošanas instrukcijas, kas ir pietiekami konkrētas, lai iestādes varētu izpildīt savus izvietotāja pienākumus — tostarp informācija par studentu populācijas apakšgrupām, kurās sistēma ir testēta, zināmajiem darbības ierobežojumiem, novirzu testēšanas rezultātiem un žurnālu pārvaldības procedūrām.

Iestāžu izvietotāju pienākumi

Universitātes, skolas un profesionālās apmācības struktūras, kas izvieto augsta riska EdTech MI saskaņā ar Art. 26, ir pienākums:

• Pārbaudīt, vai MI sistēmai ir CE marķējums un vai ir pieejama ES atbilstības deklarācija
• Pilnībā ieviest piegādātāja lietošanas instrukcijas
• Nodrošināt, ka kvalificēts personāls ir atbildīgs par cilvēka uzraudzību, ar pietiekamām tehniskajām kompetencēm un praktisko pilnvaru iejaukties MI ģenerētos izvaddatos
• Uzturēt darbības žurnālus minimālo periodu un padarīt tos pieejamus valsts uzraudzības iestādēm pēc pieprasījuma
• Ziņot par nopietniem incidentiem vai darbības traucējumiem piegādātājam un, attiecīgos gadījumos, valsts MI uzraudzības iestādēm
• Veikt vai pasūtīt pamattiesību ietekmes novērtējumu (FRIA) saskaņā ar Art. 27 pirms MI novērtēšanas vai uzņemšanas sistēmu izvietošanas
• Nemainīt augsta riska MI sistēmas tādos veidos, kas maina to paredzēto nolūku, neizraisot piegādātāja atkārtotu novērtēšanu

Mijiedarbība ar GDPR, bērnu tiesībām un nacionālajiem izglītības tiesību aktiem

GDPR un studentu datu apstrāde

Izglītības MI darbojas ar datiem, kas pēc būtības ir sensitīvi. Mācīšanās analītikas platformas, adaptīvās apmācības sistēmas un uzvedības uzraudzības rīki apstrādā datus, kas var ietvert akadēmisko sniegumu ierakstus, iesaistīšanās rādītājus, uzvedības signālus un komunikācijas — visi saistīti ar identificējamiem studentiem.

Ja studenti ir nepilngadīgie, GDPR Art. 8 ierobežo personas datu apstrādi, pamatojoties uz piekrišanu: dalībvalstis ir noteikušas vecumu, zem kura nepieciešama vecāku vai aizbildņa piekrišana, no 13 līdz 16 gadiem. EdTech platformas, kas paļaujas uz studenta piekrišanu kā savu juridisko pamatu apstrādei, jāievieš vecuma pārbaudes sistēmas un mehānismi, lai pārbaudītu un reģistrētu vecāku piekrišanu, kur tas nepieciešams. Iestādēm, kas darbojas kā datu pārziņi saskaņā ar GDPR, jānodrošina, ka to līgumi ar EdTech pārdevējiem ietver atbilstošus datu apstrādes līgumus saskaņā ar GDPR Art. 28 un ka studentu dati netiek nosūtīti ārpus EEZ bez atbilstošiem aizsardzības pasākumiem.

Īpašu kategoriju datu apstrāde — kas var rasties, iesaistot mācīšanās grūtību novērtēšanu, garīgās veselības skrīningu vai demogrāfisko profilēšanu — prasa skaidru juridisko pamatu saskaņā ar GDPR Art. 9(2) un parasti datu aizsardzības ietekmes novērtējumu saskaņā ar Art. 35.

Art. 50 — pārredzamība MI mācību tērzēšanas robotiem

ES MI akta Art. 50 uzliek specifisku pārredzamības pienākumu MI sistēmām, kas paredzētas tiešai mijiedarbībai ar fiziskām personām. MI darbināti mācību tērzēšanas roboti, virtuālie mācību palīgi un MI ģenerēti atgriezeniskā sakara rīki, kas izvietoti izglītības vidē, katras mijiedarbības sākumā studentiem skaidri jāatklāj sava MI daba. Ja studentu auditorijā ir nepilngadīgie, atklāšana jāpielāgo, lai tā būtu vecumam atbilstoša un patiesi saprotama. Iestādēm, kas izvieto MI mācību rīkus, jāpārbauda, vai piegādātāja ieviešana atbilst šim pienākumam, un nav atļauts konfigurēt sistēmu tā, lai tā slēptu vai aptumšotu MI atklāšanu.

Nacionālie izglītības tiesību akti

Nacionālie izglītības tiesību akti ES dalībvalstīs var uzlikt papildu pienākumus MI izmantošanai akadēmiskajā vidē — piemēram, prasības attiecībā uz eksāmenu integritāti, datu saglabāšanu akadēmiskajos ierakstos un procesuālo taisnīgumu uzņemšanas pārsūdzībās. Izglītības iestāžu atbilstības programmas jāsaskaņo ES MI akta un GDPR pienākumi ar piemērojamajiem nacionālajiem tiesību aktiem, tostarp nozarei specifiskiem ministeriālajiem norādījumiem, ko izdevušas nacionālās izglītības ministrijas. Ja MI sistēmas sniedz izvaddatus, ko izmanto formāli regulētos procesos (valsts eksāmeni, akreditētas kvalifikācijas), ir nepieciešama specifiska tiesiskā analīze, lai noskaidrotu MI akta pienākumu un nacionālo eksāmenu tiesību aktu saskarsmi.

Izpilde — datu aizsardzības iestādes un izglītības iestādes

Izpilde izglītības nozarē ietver daudzslāņainu kompetento iestāžu struktūru. Nacionālās MI uzraudzības iestādes (kas norīkotas saskaņā ar Art. 70) ir primārā jurisdikcija attiecībā uz ES MI akta atbilstību, tostarp atbilstības novērtēšanu, tirgus uzraudzību un sankcijām. Izglītības iestādēm šī iestāde var būt vispārēja MI uzraudzības iestāde vai, dažās dalībvalstīs, norīkota nozares struktūra.

Datu aizsardzības iestādes (DVI) spēlē nozīmīgu patstāvīgu izpildes lomu. Ņemot vērā studentu datu apjomu un jutīgumu, ko apstrādā izglītības MI, DVI aktīvi uzrauga MI izvietojumus skolās un universitātēs. GDPR pārkāpumi, kas saistīti ar izglītības MI — bērnu datu nelikumīga apstrāde, neatbilstoši datu apstrādes līgumi ar EdTech pārdevējiem, nepieciešamo DPIA neveikšana — piesaista DVI naudas sodus līdz €20 miljoniem vai 4% no globālā gada apgrozījuma saskaņā ar GDPR Art. 83. DVI izpildes darbības vēsturiski ir bijušas pirms formālas MI akta izpildes regulētajās nozarēs, un izglītības nozares MI jāplāno, uzskatot DVI pārbaudi par tuva termiņa risku.

Universitāšu pārvaldības struktūras un nacionālās akreditācijas iestādes var piemērot institucionālas sekas — tostarp reputācijas sankcijas, automatizētu procesu apturēšanu un prasības neatkarīgiem auditiem — ja MI izmantošana uzņemšanā vai novērtēšanā ir konstatēta kā netaisna vai diskriminējoša. Institucionālajai akadēmiskajai pārvaldībai, tostarp studentu pārsūdzību procesiem, jābūt izstrādātai tā, lai tā varētu uzņemties izaicinājumus pret MI ietekmētajiem lēmumiem.

Atbilstības ceļvedis izglītības iestādēm un EdTech piegādātājiem

EdTech piegādātājiem

1. Klasificēt katru produktu saskaņā ar Annex III, 3. kategoriju — dokumentēt klasifikācijas pamatojumu ar konkrētu atsauci uz sistēmas paredzēto nolūku un tās ietekmes nozīmīgumu uz izglītības rezultātiem.
2. Ieviest pilnīgu augsta riska atbilstības novērtēšanas režīmu saskaņā ar Art. 9–15 visiem produktiem, kas klasificēti kā augsta riska, tostarp novirzu testēšanu demogrāfiskajās apakšgrupās, kas reprezentē ES studentu populāciju.
3. Reģistrēt augsta riska sistēmas ES MI datu bāzē (Art. 49) pirms laišanas tirgū.
4. Sagatavot pilnīgu izvietotājiem paredzētu dokumentāciju: lietošanas instrukcijas, atbilstības dokumentāciju, novirzu un precizitātes testēšanas rezultātus, žurnālu pārvaldības norādījumus.
5. Ieviest Art. 50 pārredzamību visās MI sistēmās, kas tieši mijiedarbojas ar studentiem.
6. Pārskatīt datu apstrādes līgumus, lai nodrošinātu GDPR Art. 28 atbilstību, tostarp vecāku piekrišanas mehānismus, kur tas nepieciešams saskaņā ar Art. 8.

Izglītības iestādēm

1. Auditēt visas izmantojamās MI sistēmas — uzņemšanu, vērtēšanu, uzraudzību, analītiku, apmācību — un klasificēt saskaņā ar Annex III, 3. kategoriju.
2. Pieprasīt un pārskatīt atbilstības dokumentāciju no visiem EdTech pārdevējiem attiecībā uz jebkuru sistēmu, kas klasificēta vai potenciāli klasificējama kā augsta riska.
3. Veikt pamattiesību ietekmes novērtējumus saskaņā ar Art. 27 pirms MI uzņemšanas vai novērtēšanas sistēmu izvietošanas vai turpināšanas.
4. Piešķirt nosaukto uzraudzības atbildību par katru augsta riska MI sistēmu kvalificētam personālam ar patiesu tehnisko kompetenci un institucionālo pilnvaru.
5. Pārskatīt uzņemšanas un novērtēšanas pārsūdzību procesus, lai nodrošinātu, ka tie uzņemas izaicinājumus pret MI ietekmētajiem lēmumiem un nodrošina jēgpilnu cilvēka pārskatu.
6. Auditēt GDPR atbilstību visiem studentu datiem, ko apstrādā EdTech platformas — apstiprināt, ka datu apstrādes līgumi, juridiskie pamati un vecāku piekrišanas mehānismi ir ieviesti.
7. Pārbaudīt uzraudzības MI konfigurācijas atbilstībai Art. 5 aizliegumam attiecībā uz reāllaika biometrisko identifikāciju — ja jebkura konfigurācija ietver nepārtrauktu sejas atpazīšanu eksāmena sesiju laikā, pirms nākamā eksāmenu perioda steidzami jāvēršas pēc juridiskās konsultācijas.