Obbligi tal-EU AI Act għall-AI fl-edukazzjoni: ammissjonijiet, gradjar awtomatizzat, sorveljanza fl-eżamijiet, u pjattaformi ta' tagħlim. Ikopri l-kategorija 3 ta' Annex III u l-protezzjonijiet speċjali għall-istudenti.

Is-Settur tal-Edukazzjoni u l-EU AI Act — Għaliex id-Drittijiet tal-Istudenti Huma Ċentrali

L-EU AI Act (Regolament (UE) 2024/1689) jidentifika l-edukazzjoni u t-taħriġ vokazzjonali bħala dominju ta' riskju elevat, u jiklassifika applikazzjonijiet speċifiċi ta' AI fih bħala ta' riskju għoli taħt Annex III, kategorija 3. Din il-klassifikazzjoni tirrifletti ġudizzju fundamentali mil-leġislatur Ewropew: is-sistemi ta' AI li jifformaw l-aċċess għall-opportunitajiet edukattivi jew jiddeterminaw ir-riżultati akkademiċi jinvolvu drittijiet ta' sinifikanza individwali profonda — id-dritt għall-edukazzjoni (Art. 14, Karta tal-Unjoni Ewropea dwar id-Drittijiet Fundamentali), id-dritt għan-nuqqas ta' diskriminazzjoni (Art. 21), u, għall-proporzjon kbir tal-istudenti li huma minorenni, il-protezzjonijiet msaħħa ta' GDPR Art. 8 u l-oqfsa internazzjonali inklużi l-Konvenzjoni tan-NU dwar id-Drittijiet tat-Tfal (UNCRC).

Is-settur tal-edukazzjoni jippreżenta profil ta' konformità distintiv. Il-biċċa l-kbira tal-istituzzjonijiet edukattivi — universitajiet, skejjel, u korpi ta' taħriġ vokazzjonali — jokkupaw ir-rwol ta' deployer taħt l-EU AI Act: jixtru u joperaw sistemi ta' AI mibnija minn bejjiegħa EdTech minflok ma jiżviluppaw l-AI internament. Din id-distinzjoni ma tnaqqasx l-obbligi tagħhom. Id-deployers ta' AI ta' riskju għoli taħt Art. 26 għandhom dmirijiet legali indipendenti li ma jistgħux jiġu sodisfatti sempliċement billi jixtru prodott bil-marka CE. Fl-istess ħin, il-kumpaniji EdTech li jiżviluppaw u jqiegħdu sistemi ta' AI fis-suq tal-UE huma fornituri soġġetti għar-reġim sħiħ tal-valutazzjoni tal-konformità taħt Kapitolu III, Taqsima 2.

Is-settur huwa wkoll ikkaratterizzat minn konċentrazzjoni sinifikanti ta' data personali sensittiva. Id-data tal-imġieba tal-istudenti, ir-rekords ta' valutazzjoni, il-mudelli ta' involviment, id-diffikultajiet ta' tagħlim, u l-profili demografiċi jiġu pproċessati fuq skala kbira minn pjattaformi ta' tagħlim adattiv u għodod ta' analitiċi. Din il-konċentrazzjoni tad-data tfisser li l-konformità mal-EU AI Act fl-edukazzjoni ma tistax tiġi mfassla b'mod iżolat mill-GDPR — iż-żewġ oqfsa jridu jiġu indirizzati bħala obbligu ta' konformità integrat.


AI ta' Riskju Għoli fl-Edukazzjoni — Ammissjonijiet, Gradjar, u Sorveljanza tal-Eżamijiet

Annex III, kategorija 3 tiddefinixxi żewġ kategoriji distinti ta' AI edukattiv ta' riskju għoli. L-fehim tal-ambitu ta' kull kategorija huwa essenzjali għad-deċiżjonijiet ta' klassifikazzjoni.

AI tal-Ammissjonijiet — Determinazzjoni tal-Aċċess għall-Istituzzjonijiet Edukattivi

Annex III, kategorija 3(a) tkopri s-sistemi ta' AI maħsuba biex jintużaw għad-determinazzjoni tal-aċċess jew l-assenjament għall-istituzzjonijiet edukattivi u ta' taħriġ vokazzjonali jew programmi. Din il-kategorija taqbad l-AI li jivvaluta, jirranġa, jew jiffiltra l-applikanti fil-proċessi ta' ammissjoni fl-universitajiet, l-AI li jevalwa kwalifiki preċedenti jew ir-rikonoxximent tal-kredenzjali professjonali, u l-AI li jiddetermina l-eliġibbiltà għal rotot akkademiċi speċifiċi jew programmi speċjalizzati.

Il-klassifikazzjoni ta' riskju għoli tapplika fejn l-output tas-sistema ta' AI jkollu effett sinifikanti fuq l-aċċess ta' applikant għal opportunità edukattiva. Dan il-livell huwa milħuq minn ħafna AI tal-ammissjonijiet iddeployati operazzjonalment: mudell ta' punteġġ li l-outputs tiegħu jiġu riveduti u aġiti fuqhom minn uffiċjali tal-ammissjonijiet mingħajr rivalutazzjoni sistematika tal-valutazzjoni sottostanti effettivament jiddetermina r-riżultati anke jekk bniedem formalment japprova kull deċiżjoni. Il-fornituri ta' sistemi bħal dawn iridu jikkonformaw ma' Arts. 9–15 (governanza tad-data, dokumentazzjoni teknika, logging, trasparenza, sorveljanza umana, preċiżjoni u robustezza). L-istituzzjonijiet li jiddeployaw iridu jivverifikaw il-konformità u jimplimentaw l-obbligi tad-deployer ta' Art. 26 qabel ma s-sistema tintuża f'xi ċiklu ta' ammissjonijiet.

Ir-riskju tal-bias huwa partikolarment akut fl-AI tal-ammissjonijiet. Is-sistemi mħarrġa fuq data storika tal-ammissjonijiet u tas-suċċess akkademiku jistgħu jinkodaw inugwaljanzi eżistenti — differenzi fil-ġeneru f'ċerti dixxiplini, disparitajiet soċjoekonomiċi fit-tħejjija akkademika, prestazzjoni differenzjata bejn applikanti domestiċi u internazzjonali. Art. 10 jeħtieġ li d-data tat-taħriġ tkun soġġetta għal prattiki ta' governanza li jindirizzaw il-biases magħrufa, u Art. 9 jimponi miżuri ta' ġestjoni tar-riskju kalibrati għall-gravità tal-ħsara potenzjali, li f'dan il-kuntest tinkludi ċ-ċaħda ta' opportunità edukattiva lil applikanti kwalifikati minn gruppi żvantaġġati.

AI ta' Valutazzjoni Awtomatizzata — Gradjar u Assenjament ta' Mogħdija Akkademika

Annex III, kategorija 3(b) tkopri s-sistemi ta' AI li jevalwaw u jivvalutaw lill-istudenti, inklużi għodod ta' gradjar awtomatizzat bl-AI u sistemi li jassenjaw lill-istudenti f'rotot akkademiċi differenzjati, fejn dawk is-sistemi jkollhom effett sinifikanti fuq il-mogħdijiet edukattivi tagħhom. Għodda awtomatizzata ta' gradjar ta' esej li tipproduċi gradi finali li jiddeterminaw jekk student jgħaddix jew jonqos minn kors, jirċevix kwalifika, jew jiksbilha l-progressjoni għall-livell akkademiku li jmiss hija ta' riskju għoli. Bl-istess mod, l-AI li jpoġġi lill-istudenti f'rotot rimedjaturi, standard, jew avvanzati abbażi tad-data tal-prestazzjoni jkollu effett sinifikanti fuq il-mogħdijiet edukattivi u jaqa' f'din il-kategorija.

Il-konfini għall-għodod ta' valutazzjoni formattiva — għodod użati esklussivament biex jipprovdu feedback lill-istudenti fejn l-edukat uman iżomm kontroll sħiħ u effettiv fuq ir-riżultati gradata kollha — huwa aktar dejjaq. Tali għodod jistgħu jaqgħu barra l-kategorija 3(b), iżda din il-klassifikazzjoni trid tiġi ddokumentata u ġġustifikata, u l-istituzzjonijiet iridu jiżguraw li s-sorveljanza umana hija genuwinament sostantiva minflok approvazzjoni formali ta' riżultati ġġenerati mill-AI.

AI ta' Sorveljanza tal-Eżamijiet mill-Bogħod

Is-sistemi ta' sorveljanza tal-eżamijiet mill-bogħod li jimmonitorjaw l-imġieba tal-istudenti matul il-valutazzjonijiet permezz ta' analiżi tal-vidjow, traċċar tal-għajnejn, lockdown tal-browser, logging tal-keystroke, jew detezzjoni ta' anomaliji fl-imġieba jirrappreżentaw waħda mill-applikazzjonijiet ta' AI legalment l-aktar kumplessi fl-edukazzjoni. Fejn tali sistemi jiflaġġjaw jew jiskwalifikaw lill-istudenti abbażi tal-analiżi awtomatizzata tagħhom — jew fejn l-outputs tagħhom jintużaw minn reviżuri umani b'modi li jiddeterminaw sostanzjalment ir-riżultati — dawn jikkostitwixxu AI ta' riskju għoli taħt Annex III, kategorija 3 bħala AI li jevalwa lill-istudenti u jkollu effetti sinifikanti fuq il-mogħdijiet akkademiċi tagħhom.

L-AI ta' sorveljanza tal-eżamijiet jinvolvi wkoll il-projbizzjoni ta' Art. 5(1)(d) fuq l-identifikazzjoni bijometrika mill-bogħod f'ħin reali f'postijiet aċċessibbli għall-pubbliku. Fejn is-sistemi ta' sorveljanza jużaw rikonoxximent tal-wiċċ biex jivverifikaw kontinwament l-identità tal-istudenti matul eżami f'ħin reali, dan jikkostitwixxi identifikazzjoni bijometrika projbita sakemm ma tapplikax eċċezzjoni leġislattiva ta' Stat Membru strettament limitata taħt Art. 5(2)–(6). L-istituzzjonijiet li jiddeployaw AI ta' sorveljanza tal-eżamijiet iridu jagħmlu distinzjoni bir-reqqa bejn il-verifika tal-identità fil-punt ta' aċċess għall-eżami (potenzjalment legali fejn konformi) u s-sorveljanza bijometrika kontinwa f'ħin reali matul is-sessjoni tal-eżami (soġġetta għall-projbizzjoni ta' Art. 5).


Fornitur kontra Deployer — Kumpaniji EdTech u Istituzzjonijiet Edukattivi

L-EU AI Act jalloka l-obbligi b'mod asimmetriku bejn il-fornituri u d-deployers. L-fehim ta' din l-allokazzjoni huwa fundamentali għall-ippjanar tal-konformità kemm għall-bejjiegħa EdTech kif ukoll għall-istituzzjonijiet li jużaw il-prodotti tagħhom.

Obbligi tal-Fornitur EdTech

Il-kumpaniji EdTech li jiżviluppaw u jqiegħdu sistemi ta' AI ta' riskju għoli fis-suq tal-UE huma fornituri taħt Art. 3(3) u jridu jikkonformaw mal-ħtiġiet kollha ta' AI ta' riskju għoli f'Kapitolu III, Taqsima 2:

Il-fornituri iridu wkoll jfornu lill-istituzzjonijiet li jiddeployaw b'struzzjonijiet għall-użu li huma speċifiċi biżżejjed biex jippermettu lill-istituzzjonijiet jissodisfaw l-obbligi tagħhom stess bħala deployer — inklużi informazzjoni dwar is-sottogruppi tal-popolazzjoni tal-istudenti li għalihom is-sistema ġiet ittestjata, il-limitazzjonijiet tal-prestazzjoni magħrufa, ir-riżultati tal-ittestjar tal-bias, u l-proċeduri ta' ġestjoni tal-log.

Obbligi tal-Istituzzjoni bħala Deployer

L-universitajiet, l-iskejjel, u l-korpi ta' taħriġ vokazzjonali li jiddeployaw AI EdTech ta' riskju għoli taħt Art. 26 iridu:


Interazzjoni mal-GDPR, id-Drittijiet tat-Tfal, u l-Liġi Nazzjonali tal-Edukazzjoni

GDPR u l-Ipproċessar tad-Data tal-Istudenti

L-AI edukattiv jopera fuq data li hija intrinsikament sensittiva. Il-pjattaformi ta' analitiċi tal-edukazzjoni, is-sistemi ta' tutorjar adattiv, u l-għodod ta' sorveljanza tal-imġieba jipproċessaw data li tista' tinkludi rekords tal-prestazzjoni akkademika, metriċi ta' involviment, sinjali tal-imġieba, u komunikazzjonijiet — kollha marbuta ma' studenti identifikabbli.

Fejn l-istudenti huma minorenni, GDPR Art. 8 jirrestrinġi l-ipproċessar tad-data personali bbażat fuq il-kunsens: l-Istati Membri stabbilew l-età li taħtha l-kunsens tal-ġenitur jew tal-kustodju huwa meħtieġ bejn 13 u 16-il sena. Il-pjattaformi EdTech li jiddependu fuq il-kunsens tal-istudent bħala l-bażi legali tagħhom għall-ipproċessar iridu jistabbilixxu gate tal-età fis-sistemi tagħhom u jimplimentaw mekkaniżmi biex jivverifikaw u jirrekordjaw il-kunsens tal-ġenitur fejn meħtieġ. L-istituzzjonijiet li jaġixxu bħala kontrolluri tad-data taħt il-GDPR iridu jiżguraw li l-kuntratti tagħhom mal-bejjiegħa EdTech jinkludu ftehimiet tal-ipproċessar tad-data adattati taħt GDPR Art. 28 u li d-data tal-istudenti ma tiġix trasferita barra ż-ŻEE mingħajr salvagwardji adegwati.

L-ipproċessar ta' kategoriji speċjali ta' data — li jistgħu jinqalgħu fejn ikunu involuti valutazzjonijiet tad-diffikultajiet ta' tagħlim, screening tas-saħħa mentali, jew profiling demografiku — jeħtieġ bażi legali espliċita taħt GDPR Art. 9(2) u tipikament Valutazzjoni tal-Impatt fuq il-Protezzjoni tad-Data taħt Art. 35.

Art. 50 — Trasparenza għall-Chatbots ta' Tutorjar bl-AI

Art. 50 tal-EU AI Act jimponi obbligu speċifiku ta' trasparenza fuq sistemi ta' AI mfassla biex jinteraġixxu direttament ma' persuni naturali. Il-chatbots ta' tutorjar bil-qawwa tal-AI, l-assistenti virtwali ta' tagħlim, u l-għodod ta' feedback ġġenerati mill-AI iddeployati f'ambjenti edukattivi iridu jiżvelaw b'mod ċar in-natura tal-AI tagħhom lill-istudenti fil-bidu ta' kull interazzjoni. Fejn l-udjenza tal-istudenti tinkludi minorenni, l-iżvelar irid jiġi adattat biex ikun adattat għall-età u genuwinament komprensibbli. L-istituzzjonijiet li jiddeployaw għodod ta' tutorjar bl-AI iridu jivverifikaw li l-implimentazzjoni tal-bejjiegħ tissodisfa dan l-obbligu u m'għandhomx jikkonfiguraw is-sistema b'modi li jopprimu jew joskorraw l-iżvelar tal-AI.

Liġi Nazzjonali tal-Edukazzjoni

Il-leġislazzjoni nazzjonali tal-edukazzjoni fl-Istati Membri tal-UE tista' timponi obbligi addizzjonali fuq l-użu tal-AI f'ambjenti akkademiċi — pereżempju, ħtiġiet relatati mal-integrità tal-eżamijiet, iż-żamma tad-data għar-rekords akkademiċi, u l-ġustizzja proċedurali fl-appelli tal-ammissjonijiet. Il-programmi ta' konformità għall-istituzzjonijiet edukattivi jridu jmappjaw l-obbligi tal-EU AI Act u tal-GDPR kontra l-liġi nazzjonali applikabbli, inklużi gwida ministerjali settorjali speċifika maħruġa mill-ministeri nazzjonali tal-edukazzjoni. Fejn is-sistemi ta' AI jipproduċu outputs li jintużaw fi proċessi regolati formalment (eżamijiet tal-istat, kwalifiki akkreditati), l-interfaċċja bejn l-obbligi tal-AI Act u l-liġi nazzjonali tal-eżamijiet teħtieġ analiżi legali speċifika.


Infurzar — DPAs u Awtoritajiet tal-Edukazzjoni

L-infurzar fis-settur tal-edukazzjoni jinvolvi struttura stratifikata ta' awtoritajiet kompetenti. L-awtoritajiet nazzjonali ta' superviżjoni tal-AI (nominati taħt Art. 70) għandhom ġurisdizzjoni primarja fuq il-konformità mal-EU AI Act, inklużi l-valutazzjoni tal-konformità, is-sorveljanza tas-suq, u l-penali. Għall-istituzzjonijiet edukattivi, din l-awtorità tista' tkun awtorità ġenerali ta' superviżjoni tal-AI jew, f'xi Stati Membri, korp settorjali nominat.

L-Awtoritajiet tal-Protezzjoni tad-Data (DPAs) jaqdu rwol ta' infurzar indipendenti ewlieni. Minħabba l-volum u s-sensittività tad-data tal-istudenti pproċessata mill-AI edukattiv, id-DPAs jissorveljaw attivament id-deployments tal-AI fl-iskejjel u fl-universitajiet. Il-ksur tal-GDPR relatat mal-AI edukattiv — ipproċessar illegali tad-data tat-tfal, ftehimiet inadegwati tal-ipproċessar tad-data mal-bejjiegħa EdTech, nuqqas li jsiru DPIAs meħtieġa — jattira multi tad-DPA sa €20 miljun jew 4% tad-dħul annwali globali taħt GDPR Art. 83. L-azzjonijiet ta' infurzar tad-DPA storjikament preċedew l-infurzar formali tal-AI Act f'dominji regolati, u l-AI fis-settur tal-edukazzjoni għandu jiġi ppjanat bil-iskrutinju tad-DPA bħala riskju fuq terminu qasir.

Il-korpi governattivi tal-universitajiet u l-awtoritajiet nazzjonali ta' akkreditazzjoni jistgħu jimponu konsegwenzi istituzzjonali — inklużi sanzjonijiet ta' reputazzjoni, sospensjoni ta' proċessi awtomatizzati, u ħtiġiet ta' awditi indipendenti — fejn l-użu tal-AI fl-ammissjonijiet jew il-valutazzjonijiet jinħara li produca riżultati inġusti jew diskriminatorji. Il-governanza akkademika istituzzjonali, inklużi l-proċessi ta' appell tal-istudenti, iridu jiġu mfassla biex jakkommodaw sfidi għad-deċiżjonijiet influwenzati mill-AI.


Pjan ta' Konformità għall-Istituzzjonijiet Edukattivi u l-Fornituri EdTech

Għall-Fornituri EdTech

  1. Iklassifika kull prodott kontra Annex III, kategorija 3 — iddomenta r-raġunament tal-klassifikazzjoni b'referenza speċifika għall-iskop maħsub tas-sistema u s-sinifikanza tal-effett tagħha fuq ir-riżultati edukattivi.
  2. Implimenta r-reġim sħiħ tal-valutazzjoni tal-konformità ta' riskju għoli taħt Arts. 9–15 għall-prodotti kollha klassifikati bħala ta' riskju għoli, inklużi ttestjar tal-bias madwar is-sottogruppi demografiċi rappreżentattivi tal-popolazzjoni tal-istudenti tal-UE.
  3. Irreġistra s-sistemi ta' riskju għoli fil-bażi tad-data tal-EU AI (Art. 49) qabel l-introduzzjoni fis-suq.
  4. Ipprepara dokumentazzjoni kompleta li tiffaċċja lid-deployer: struzzjonijiet għall-użu, dokumentazzjoni tal-konformità, riżultati tal-ittestjar tal-bias u tal-preċiżjoni, gwida tal-ġestjoni tal-log.
  5. Implimenta t-trasparenza ta' Art. 50 fis-sistemi ta' AI kollha li jinteraġixxu direttament mal-istudenti.
  6. Irrevedi l-ftehimiet tal-ipproċessar tad-data biex tiżgura konformità ma' GDPR Art. 28, inklużi mekkaniżmi ta' kunsens tal-ġenitur fejn meħtieġ taħt Art. 8.

Għall-Istituzzjonijiet Edukattivi

  1. Awdita s-sistemi ta' AI kollha f'użu — ammissjonijiet, gradjar, sorveljanza tal-eżamijiet, analitiċi, tutorjar — u iklassifikahom kontra Annex III, kategorija 3.
  2. Itlob u irrevedi d-dokumentazzjoni tal-konformità mill-bejjiegħa EdTech kollha għal kull sistema klassifikata jew li potenzjalment tista' tiġi klassifikata bħala ta' riskju għoli.
  3. Iwettaq valutazzjonijiet tal-impatt fuq id-drittijiet fundamentali taħt Art. 27 qabel ma jiddeployaw jew ikomplu jiddeployaw sistemi ta' AI tal-ammissjonijiet jew il-valutazzjonijiet.
  4. Assenja responsabbiltà ta' sorveljanza nominata għal kull sistema ta' AI ta' riskju għoli lill-persunal kwalifikat bi kompetenza teknika ġenwina u awtorità istituzzjonali.
  5. Irrevedi l-proċessi ta' appell tal-ammissjonijiet u l-valutazzjonijiet biex tiżgura li jakkommodaw sfidi għad-deċiżjonijiet influwenzati mill-AI u jipprovdu reviżjoni umana sinifikanti.
  6. Awdita l-konformità mal-GDPR għad-data tal-istudenti kollha pproċessata mill-pjattaformi EdTech — ikkonferma li l-ftehimiet tal-ipproċessar tad-data, il-bażijiet legali, u l-mekkaniżmi ta' kunsens tal-ġenitur huma fis-seħħ.
  7. Ivverifika l-konfigurazzjonijiet tal-AI ta' sorveljanza tal-eżamijiet għall-konformità mal-projbizzjoni ta' Art. 5 fuq l-identifikazzjoni bijometrika f'ħin reali — jekk xi konfigurazzjoni tinvolvi rikonoxximent kontinwu tal-wiċċ matul is-sessjonijiet tal-eżami, ikseb parir legali urġenti qabel il-perjodu li jmiss tal-eżaminazzjonijiet.

Official AI Act Compliance Deadline Calendar

Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.

Obligation Applies to Original date New date Status Countdown Legal basis
Prohibited Practices (Art. 5) All providers and deployers active AI Act Art. 5
GPAI Rules (Chapter 5) GPAI model providers active AI Act Art. 51-56
High-risk AI — Annex III (standalone) Providers of standalone Annex III systems deferred AI Omnibus 2026 Art. 6(2)
High-risk AI — Annex I (embedded) AI embedded in Annex I regulated products deferred AI Omnibus 2026 Art. 6(1)
AI-Generated Content Marking Providers of generative GPAI systems active AI Act Art. 50(2)
Regulatory Sandboxes National competent authorities active AI Act Art. 57

Download JSON · CC BY 4.0

Frequently Asked Questions

Iva, f'kważi l-konfigurazzjonijiet operazzjonali rilevanti kollha. Is-sistemi ta' AI li jivvalutaw, jirranġaw, jew jiffiltrajar applikanti biex jiddeterminaw l-aċċess għall-istituzzjonijiet edukattivi jew ta' taħriġ vokazzjonali jaqgħu direttament fi ħdan Annex III, kategorija 3(a). Din il-klassifikazzjoni tapplika irrispettivament minn jekk l-AI jipproduċix deċiżjoni finali ta' ammissjoni jew sempliċement jiġġenera punteġġ li l-uffiċjali tal-ammissjonijiet jużaw bħala input — jekk l-output tas-sistema jkollu effett sinifikanti fuq jekk applikant jiġix ammess, il-klassifikazzjoni ta' riskju għoli tapplika. L-universitajiet għandhom jiżguraw li s-sistema tġorr marka CE, hija rreġistrata fil-bażi tad-data tal-EU AI, u li l-obbligi tal-deployer taħt Art. 26 jiġu implimentati bis-sħiħ qabel ma s-sistema tintuża f'xi ċiklu ta' ammissjonijiet.

Jiddependi minn jekk is-softwer jevalwax ir-riżultati tat-tagħlim b'effett sinifikanti fuq il-mogħdijiet tal-istudenti. Taħt Annex III, kategorija 3(b), is-sistemi ta' AI li jivvalutaw jew jevalwaw lill-istudenti u li għandhom konsegwenzi sinifikanti għall-progress akkademiku tagħhom — bħal dik li tiddetermina jekk student jgħaddix kors, jirċevix kwalifika, jew javvanza għall-livell akkademiku li jmiss — huma ta' riskju għoli u jridu jiġu rreġistrati. L-għodod ta' gradjar awtomatizzat li jintużaw bħala pass finali jew sostanzjalment determinanti fl-assenjament ta' gradi huma ta' riskju għoli. L-għodod li jintużaw esklussivament għal feedback formattiv, fejn l-edukat uman iżomm kontroll sħiħ fuq il-grad finali, jippreżentaw profil ta' riskju aktar baxx u jistgħu ma jikkwalifikawx, iżda dan irid jiġi ddokumentat u ġġustifikat.

Le — mhux taħt id-dispożizzjonijiet ġenerali tal-EU AI Act. Art. 5(1)(d) jipprojbixxi l-identifikazzjoni bijometrika mill-bogħod f'ħin reali f'postijiet aċċessibbli għall-pubbliku, u l-istituzzjonijiet edukattivi bħall-iskejjel u l-universitajiet jikkwalifikaw bħala postijiet aċċessibbli għall-pubbliku għal dan il-għan. Il-projbizzjoni tkopri r-rikonoxximent tal-wiċċ użat biex jidentifika individwi f'ħin reali. Eċċezzjonijiet limitati jistgħu jiġu permessi biss fejn Stat Membru jkun adotta leġislazzjoni li tesplicitament tawtorizza tali użu u strettament fil-kundizzjonijiet stabbiliti f'Art. 5(2) sa (6). Fil-prattika, il-bar għal dawk l-eċċezzjonijiet huwa għoli, u l-biċċa l-kbira tad-deployments edukattivi tar-rikonoxximent tal-wiċċ għall-attendenza jew il-monitoraġġ tal-eżamijiet ikunu projbiti taħt Art. 5. Il-kategorizzazzjoni bijometrika differita użata fis-sorveljanza tal-eżamijiet tista' taqa' taħt id-dispożizzjonijiet ta' riskju għoli minflok il-projbizzjoni ta' Art. 5, iżda xorta tattira r-reġim sħiħ tal-valutazzjoni tal-konformità.

Il-fornituri EdTech li jqiegħdu sistemi ta' AI ta' riskju għoli fis-suq iridu jfornu lill-istituzzjonijiet li jiddeployaw b'dan li ġej: Dikjarazzjoni ta' Konformità tal-UE kompluta u dokumentazzjoni tal-marka CE; struzzjonijiet dettaljati għall-użu li jkopru l-iskop maħsub tas-sistema, il-limitazzjonijiet tal-prestazzjoni, u l-kundizzjonijiet li taħthom is-sorveljanza umana tkun meħtieġa; informazzjoni dwar il-karatteristiċi tad-data tat-taħriġ u l-biases magħrufa, b'mod partikolari f'gruppi demografiċi relevanti għall-popolazzjoni tal-istudenti; dokumentazzjoni teknika li turi konformità ma' Arts. 9–15; u l-kapaċità tas-sistema li tiġġenera, iżżomm, u tesporta logs tal-operazzjoni kif meħtieġ minn Art. 12. L-universitajiet, bħala deployers taħt Art. 26, iridu jivverifikaw li din id-dokumentazzjoni hija disponibbli u adegwata qabel ma jiddeployaw xi sistema ta' AI klassifikata bħala ta' riskju għoli.

Art. 27 tal-EU AI Act jirrakkomanda li l-entitajiet pubbliċi u d-deployers ta' sistemi ta' AI ta' riskju għoli f'dominji sensittivi jwettqu valutazzjoni tal-impatt fuq id-drittijiet fundamentali (FRIA) qabel id-deployment. Għall-universitajiet, il-FRIA għandha tidentifika: liema drittijiet fundamentali jistgħu jiġu affettwati (nuqqas ta' diskriminazzjoni taħt Art. 21 tal-Karta tal-UE, id-dritt għall-edukazzjoni taħt Art. 14, il-protezzjoni tad-data taħt Art. 8); il-popolazzjonijiet tal-istudenti f'riskju ta' impatt negattiv, inklużi gruppi minoritarji, studenti b'diżabilitajiet, u studenti internazzjonali; il-mekkaniżmi algoirtmiċi speċifiċi li jistgħu jintroduċu jew jamplifikaw l-inugwaljanza; miżuri ta' mitigazzjoni bħal awditi tal-bias, rekwiżiti ta' data ta' taħriġ diversi imposti fuq il-bejjiegħ, u proċeduri ta' sostituzzjoni umana; u pjan ta' monitoraġġ li jkopri reviżjonijiet regolari tal-preċiżjoni disaggregati skont id-demografiku tal-istudenti. Il-FRIA għandha tiġi ddokumentata u aġġornata kull meta s-sistema ta' AI tinbidel b'mod sinifikanti jew meta l-monitoraġġ jiżvela riżultati mhux mistennija.

Iva. Art. 50 tal-EU AI Act jeħtieġ li s-sistemi ta' AI mfassla biex jinteraġixxu ma' persuni naturali — inklużi chatbots ta' tutorjar bl-AI u assistenti virtwali ta' tagħlim — jinformaw lill-utenti b'mod ċar, f'waqtu, u effettiv li qegħdin jinteraġixxu ma' sistema ta' AI. Dan l-obbligu japplika kemm għall-fornitur EdTech li jfassal il-chatbot kif ukoll għall-istituzzjoni edukattiva li tiddeplovah. Fejn l-istudenti huma minorenni, dan l-obbligu ta' trasparenza jaqsam mal-ħtiġiet ta' GDPR Art. 8 dwar komunikazzjoni adattata għall-età. L-iżvelar għandu jsir qabel jew fil-bidu tal-interazzjoni u għandu jkun faċilment komprensibbli għall-udjenza maħsuba, inklużi studenti li jistgħu jkollhom familjarità limitata mas-sistemi ta' AI.

Stay ahead of AI Act changes

Get compliance alerts when deadlines or obligations change.

No spam. One-click unsubscribe.