Obbligi tal-EU AI Act għall-AI fl-edukazzjoni: ammissjonijiet, gradjar awtomatizzat, sorveljanza fl-eżamijiet, u pjattaformi ta' tagħlim. Ikopri l-kategorija 3 ta' Annex III u l-protezzjonijiet speċjali għall-istudenti.

Is-Settur tal-Edukazzjoni u l-EU AI Act — Għaliex id-Drittijiet tal-Istudenti Huma Ċentrali

L-EU AI Act (Regolament (UE) 2024/1689) jidentifika l-edukazzjoni u t-taħriġ vokazzjonali bħala dominju ta' riskju elevat, u jiklassifika applikazzjonijiet speċifiċi ta' AI fih bħala ta' riskju għoli taħt Annex III, kategorija 3. Din il-klassifikazzjoni tirrifletti ġudizzju fundamentali mil-leġislatur Ewropew: is-sistemi ta' AI li jifformaw l-aċċess għall-opportunitajiet edukattivi jew jiddeterminaw ir-riżultati akkademiċi jinvolvu drittijiet ta' sinifikanza individwali profonda — id-dritt għall-edukazzjoni (Art. 14, Karta tal-Unjoni Ewropea dwar id-Drittijiet Fundamentali), id-dritt għan-nuqqas ta' diskriminazzjoni (Art. 21), u, għall-proporzjon kbir tal-istudenti li huma minorenni, il-protezzjonijiet msaħħa ta' GDPR Art. 8 u l-oqfsa internazzjonali inklużi l-Konvenzjoni tan-NU dwar id-Drittijiet tat-Tfal (UNCRC).

Is-settur tal-edukazzjoni jippreżenta profil ta' konformità distintiv. Il-biċċa l-kbira tal-istituzzjonijiet edukattivi — universitajiet, skejjel, u korpi ta' taħriġ vokazzjonali — jokkupaw ir-rwol ta' deployer taħt l-EU AI Act: jixtru u joperaw sistemi ta' AI mibnija minn bejjiegħa EdTech minflok ma jiżviluppaw l-AI internament. Din id-distinzjoni ma tnaqqasx l-obbligi tagħhom. Id-deployers ta' AI ta' riskju għoli taħt Art. 26 għandhom dmirijiet legali indipendenti li ma jistgħux jiġu sodisfatti sempliċement billi jixtru prodott bil-marka CE. Fl-istess ħin, il-kumpaniji EdTech li jiżviluppaw u jqiegħdu sistemi ta' AI fis-suq tal-UE huma fornituri soġġetti għar-reġim sħiħ tal-valutazzjoni tal-konformità taħt Kapitolu III, Taqsima 2.

Is-settur huwa wkoll ikkaratterizzat minn konċentrazzjoni sinifikanti ta' data personali sensittiva. Id-data tal-imġieba tal-istudenti, ir-rekords ta' valutazzjoni, il-mudelli ta' involviment, id-diffikultajiet ta' tagħlim, u l-profili demografiċi jiġu pproċessati fuq skala kbira minn pjattaformi ta' tagħlim adattiv u għodod ta' analitiċi. Din il-konċentrazzjoni tad-data tfisser li l-konformità mal-EU AI Act fl-edukazzjoni ma tistax tiġi mfassla b'mod iżolat mill-GDPR — iż-żewġ oqfsa jridu jiġu indirizzati bħala obbligu ta' konformità integrat.


AI ta' Riskju Għoli fl-Edukazzjoni — Ammissjonijiet, Gradjar, u Sorveljanza tal-Eżamijiet

Annex III, kategorija 3 tiddefinixxi żewġ kategoriji distinti ta' AI edukattiv ta' riskju għoli. L-fehim tal-ambitu ta' kull kategorija huwa essenzjali għad-deċiżjonijiet ta' klassifikazzjoni.

AI tal-Ammissjonijiet — Determinazzjoni tal-Aċċess għall-Istituzzjonijiet Edukattivi

Annex III, kategorija 3(a) tkopri s-sistemi ta' AI maħsuba biex jintużaw għad-determinazzjoni tal-aċċess jew l-assenjament għall-istituzzjonijiet edukattivi u ta' taħriġ vokazzjonali jew programmi. Din il-kategorija taqbad l-AI li jivvaluta, jirranġa, jew jiffiltra l-applikanti fil-proċessi ta' ammissjoni fl-universitajiet, l-AI li jevalwa kwalifiki preċedenti jew ir-rikonoxximent tal-kredenzjali professjonali, u l-AI li jiddetermina l-eliġibbiltà għal rotot akkademiċi speċifiċi jew programmi speċjalizzati.

Il-klassifikazzjoni ta' riskju għoli tapplika fejn l-output tas-sistema ta' AI jkollu effett sinifikanti fuq l-aċċess ta' applikant għal opportunità edukattiva. Dan il-livell huwa milħuq minn ħafna AI tal-ammissjonijiet iddeployati operazzjonalment: mudell ta' punteġġ li l-outputs tiegħu jiġu riveduti u aġiti fuqhom minn uffiċjali tal-ammissjonijiet mingħajr rivalutazzjoni sistematika tal-valutazzjoni sottostanti effettivament jiddetermina r-riżultati anke jekk bniedem formalment japprova kull deċiżjoni. Il-fornituri ta' sistemi bħal dawn iridu jikkonformaw ma' Arts. 9–15 (governanza tad-data, dokumentazzjoni teknika, logging, trasparenza, sorveljanza umana, preċiżjoni u robustezza). L-istituzzjonijiet li jiddeployaw iridu jivverifikaw il-konformità u jimplimentaw l-obbligi tad-deployer ta' Art. 26 qabel ma s-sistema tintuża f'xi ċiklu ta' ammissjonijiet.

Ir-riskju tal-bias huwa partikolarment akut fl-AI tal-ammissjonijiet. Is-sistemi mħarrġa fuq data storika tal-ammissjonijiet u tas-suċċess akkademiku jistgħu jinkodaw inugwaljanzi eżistenti — differenzi fil-ġeneru f'ċerti dixxiplini, disparitajiet soċjoekonomiċi fit-tħejjija akkademika, prestazzjoni differenzjata bejn applikanti domestiċi u internazzjonali. Art. 10 jeħtieġ li d-data tat-taħriġ tkun soġġetta għal prattiki ta' governanza li jindirizzaw il-biases magħrufa, u Art. 9 jimponi miżuri ta' ġestjoni tar-riskju kalibrati għall-gravità tal-ħsara potenzjali, li f'dan il-kuntest tinkludi ċ-ċaħda ta' opportunità edukattiva lil applikanti kwalifikati minn gruppi żvantaġġati.

AI ta' Valutazzjoni Awtomatizzata — Gradjar u Assenjament ta' Mogħdija Akkademika

Annex III, kategorija 3(b) tkopri s-sistemi ta' AI li jevalwaw u jivvalutaw lill-istudenti, inklużi għodod ta' gradjar awtomatizzat bl-AI u sistemi li jassenjaw lill-istudenti f'rotot akkademiċi differenzjati, fejn dawk is-sistemi jkollhom effett sinifikanti fuq il-mogħdijiet edukattivi tagħhom. Għodda awtomatizzata ta' gradjar ta' esej li tipproduċi gradi finali li jiddeterminaw jekk student jgħaddix jew jonqos minn kors, jirċevix kwalifika, jew jiksbilha l-progressjoni għall-livell akkademiku li jmiss hija ta' riskju għoli. Bl-istess mod, l-AI li jpoġġi lill-istudenti f'rotot rimedjaturi, standard, jew avvanzati abbażi tad-data tal-prestazzjoni jkollu effett sinifikanti fuq il-mogħdijiet edukattivi u jaqa' f'din il-kategorija.

Il-konfini għall-għodod ta' valutazzjoni formattiva — għodod użati esklussivament biex jipprovdu feedback lill-istudenti fejn l-edukat uman iżomm kontroll sħiħ u effettiv fuq ir-riżultati gradata kollha — huwa aktar dejjaq. Tali għodod jistgħu jaqgħu barra l-kategorija 3(b), iżda din il-klassifikazzjoni trid tiġi ddokumentata u ġġustifikata, u l-istituzzjonijiet iridu jiżguraw li s-sorveljanza umana hija genuwinament sostantiva minflok approvazzjoni formali ta' riżultati ġġenerati mill-AI.

AI ta' Sorveljanza tal-Eżamijiet mill-Bogħod

Is-sistemi ta' sorveljanza tal-eżamijiet mill-bogħod li jimmonitorjaw l-imġieba tal-istudenti matul il-valutazzjonijiet permezz ta' analiżi tal-vidjow, traċċar tal-għajnejn, lockdown tal-browser, logging tal-keystroke, jew detezzjoni ta' anomaliji fl-imġieba jirrappreżentaw waħda mill-applikazzjonijiet ta' AI legalment l-aktar kumplessi fl-edukazzjoni. Fejn tali sistemi jiflaġġjaw jew jiskwalifikaw lill-istudenti abbażi tal-analiżi awtomatizzata tagħhom — jew fejn l-outputs tagħhom jintużaw minn reviżuri umani b'modi li jiddeterminaw sostanzjalment ir-riżultati — dawn jikkostitwixxu AI ta' riskju għoli taħt Annex III, kategorija 3 bħala AI li jevalwa lill-istudenti u jkollu effetti sinifikanti fuq il-mogħdijiet akkademiċi tagħhom.

L-AI ta' sorveljanza tal-eżamijiet jinvolvi wkoll il-projbizzjoni ta' Art. 5(1)(d) fuq l-identifikazzjoni bijometrika mill-bogħod f'ħin reali f'postijiet aċċessibbli għall-pubbliku. Fejn is-sistemi ta' sorveljanza jużaw rikonoxximent tal-wiċċ biex jivverifikaw kontinwament l-identità tal-istudenti matul eżami f'ħin reali, dan jikkostitwixxi identifikazzjoni bijometrika projbita sakemm ma tapplikax eċċezzjoni leġislattiva ta' Stat Membru strettament limitata taħt Art. 5(2)–(6). L-istituzzjonijiet li jiddeployaw AI ta' sorveljanza tal-eżamijiet iridu jagħmlu distinzjoni bir-reqqa bejn il-verifika tal-identità fil-punt ta' aċċess għall-eżami (potenzjalment legali fejn konformi) u s-sorveljanza bijometrika kontinwa f'ħin reali matul is-sessjoni tal-eżami (soġġetta għall-projbizzjoni ta' Art. 5).


Fornitur kontra Deployer — Kumpaniji EdTech u Istituzzjonijiet Edukattivi

L-EU AI Act jalloka l-obbligi b'mod asimmetriku bejn il-fornituri u d-deployers. L-fehim ta' din l-allokazzjoni huwa fundamentali għall-ippjanar tal-konformità kemm għall-bejjiegħa EdTech kif ukoll għall-istituzzjonijiet li jużaw il-prodotti tagħhom.

Obbligi tal-Fornitur EdTech

Il-kumpaniji EdTech li jiżviluppaw u jqiegħdu sistemi ta' AI ta' riskju għoli fis-suq tal-UE huma fornituri taħt Art. 3(3) u jridu jikkonformaw mal-ħtiġiet kollha ta' AI ta' riskju għoli f'Kapitolu III, Taqsima 2:

Il-fornituri iridu wkoll jfornu lill-istituzzjonijiet li jiddeployaw b'struzzjonijiet għall-użu li huma speċifiċi biżżejjed biex jippermettu lill-istituzzjonijiet jissodisfaw l-obbligi tagħhom stess bħala deployer — inklużi informazzjoni dwar is-sottogruppi tal-popolazzjoni tal-istudenti li għalihom is-sistema ġiet ittestjata, il-limitazzjonijiet tal-prestazzjoni magħrufa, ir-riżultati tal-ittestjar tal-bias, u l-proċeduri ta' ġestjoni tal-log.

Obbligi tal-Istituzzjoni bħala Deployer

L-universitajiet, l-iskejjel, u l-korpi ta' taħriġ vokazzjonali li jiddeployaw AI EdTech ta' riskju għoli taħt Art. 26 iridu:


Interazzjoni mal-GDPR, id-Drittijiet tat-Tfal, u l-Liġi Nazzjonali tal-Edukazzjoni

GDPR u l-Ipproċessar tad-Data tal-Istudenti

L-AI edukattiv jopera fuq data li hija intrinsikament sensittiva. Il-pjattaformi ta' analitiċi tal-edukazzjoni, is-sistemi ta' tutorjar adattiv, u l-għodod ta' sorveljanza tal-imġieba jipproċessaw data li tista' tinkludi rekords tal-prestazzjoni akkademika, metriċi ta' involviment, sinjali tal-imġieba, u komunikazzjonijiet — kollha marbuta ma' studenti identifikabbli.

Fejn l-istudenti huma minorenni, GDPR Art. 8 jirrestrinġi l-ipproċessar tad-data personali bbażat fuq il-kunsens: l-Istati Membri stabbilew l-età li taħtha l-kunsens tal-ġenitur jew tal-kustodju huwa meħtieġ bejn 13 u 16-il sena. Il-pjattaformi EdTech li jiddependu fuq il-kunsens tal-istudent bħala l-bażi legali tagħhom għall-ipproċessar iridu jistabbilixxu gate tal-età fis-sistemi tagħhom u jimplimentaw mekkaniżmi biex jivverifikaw u jirrekordjaw il-kunsens tal-ġenitur fejn meħtieġ. L-istituzzjonijiet li jaġixxu bħala kontrolluri tad-data taħt il-GDPR iridu jiżguraw li l-kuntratti tagħhom mal-bejjiegħa EdTech jinkludu ftehimiet tal-ipproċessar tad-data adattati taħt GDPR Art. 28 u li d-data tal-istudenti ma tiġix trasferita barra ż-ŻEE mingħajr salvagwardji adegwati.

L-ipproċessar ta' kategoriji speċjali ta' data — li jistgħu jinqalgħu fejn ikunu involuti valutazzjonijiet tad-diffikultajiet ta' tagħlim, screening tas-saħħa mentali, jew profiling demografiku — jeħtieġ bażi legali espliċita taħt GDPR Art. 9(2) u tipikament Valutazzjoni tal-Impatt fuq il-Protezzjoni tad-Data taħt Art. 35.

Art. 50 — Trasparenza għall-Chatbots ta' Tutorjar bl-AI

Art. 50 tal-EU AI Act jimponi obbligu speċifiku ta' trasparenza fuq sistemi ta' AI mfassla biex jinteraġixxu direttament ma' persuni naturali. Il-chatbots ta' tutorjar bil-qawwa tal-AI, l-assistenti virtwali ta' tagħlim, u l-għodod ta' feedback ġġenerati mill-AI iddeployati f'ambjenti edukattivi iridu jiżvelaw b'mod ċar in-natura tal-AI tagħhom lill-istudenti fil-bidu ta' kull interazzjoni. Fejn l-udjenza tal-istudenti tinkludi minorenni, l-iżvelar irid jiġi adattat biex ikun adattat għall-età u genuwinament komprensibbli. L-istituzzjonijiet li jiddeployaw għodod ta' tutorjar bl-AI iridu jivverifikaw li l-implimentazzjoni tal-bejjiegħ tissodisfa dan l-obbligu u m'għandhomx jikkonfiguraw is-sistema b'modi li jopprimu jew joskorraw l-iżvelar tal-AI.

Liġi Nazzjonali tal-Edukazzjoni

Il-leġislazzjoni nazzjonali tal-edukazzjoni fl-Istati Membri tal-UE tista' timponi obbligi addizzjonali fuq l-użu tal-AI f'ambjenti akkademiċi — pereżempju, ħtiġiet relatati mal-integrità tal-eżamijiet, iż-żamma tad-data għar-rekords akkademiċi, u l-ġustizzja proċedurali fl-appelli tal-ammissjonijiet. Il-programmi ta' konformità għall-istituzzjonijiet edukattivi jridu jmappjaw l-obbligi tal-EU AI Act u tal-GDPR kontra l-liġi nazzjonali applikabbli, inklużi gwida ministerjali settorjali speċifika maħruġa mill-ministeri nazzjonali tal-edukazzjoni. Fejn is-sistemi ta' AI jipproduċu outputs li jintużaw fi proċessi regolati formalment (eżamijiet tal-istat, kwalifiki akkreditati), l-interfaċċja bejn l-obbligi tal-AI Act u l-liġi nazzjonali tal-eżamijiet teħtieġ analiżi legali speċifika.


Infurzar — DPAs u Awtoritajiet tal-Edukazzjoni

L-infurzar fis-settur tal-edukazzjoni jinvolvi struttura stratifikata ta' awtoritajiet kompetenti. L-awtoritajiet nazzjonali ta' superviżjoni tal-AI (nominati taħt Art. 70) għandhom ġurisdizzjoni primarja fuq il-konformità mal-EU AI Act, inklużi l-valutazzjoni tal-konformità, is-sorveljanza tas-suq, u l-penali. Għall-istituzzjonijiet edukattivi, din l-awtorità tista' tkun awtorità ġenerali ta' superviżjoni tal-AI jew, f'xi Stati Membri, korp settorjali nominat.

L-Awtoritajiet tal-Protezzjoni tad-Data (DPAs) jaqdu rwol ta' infurzar indipendenti ewlieni. Minħabba l-volum u s-sensittività tad-data tal-istudenti pproċessata mill-AI edukattiv, id-DPAs jissorveljaw attivament id-deployments tal-AI fl-iskejjel u fl-universitajiet. Il-ksur tal-GDPR relatat mal-AI edukattiv — ipproċessar illegali tad-data tat-tfal, ftehimiet inadegwati tal-ipproċessar tad-data mal-bejjiegħa EdTech, nuqqas li jsiru DPIAs meħtieġa — jattira multi tad-DPA sa €20 miljun jew 4% tad-dħul annwali globali taħt GDPR Art. 83. L-azzjonijiet ta' infurzar tad-DPA storjikament preċedew l-infurzar formali tal-AI Act f'dominji regolati, u l-AI fis-settur tal-edukazzjoni għandu jiġi ppjanat bil-iskrutinju tad-DPA bħala riskju fuq terminu qasir.

Il-korpi governattivi tal-universitajiet u l-awtoritajiet nazzjonali ta' akkreditazzjoni jistgħu jimponu konsegwenzi istituzzjonali — inklużi sanzjonijiet ta' reputazzjoni, sospensjoni ta' proċessi awtomatizzati, u ħtiġiet ta' awditi indipendenti — fejn l-użu tal-AI fl-ammissjonijiet jew il-valutazzjonijiet jinħara li produca riżultati inġusti jew diskriminatorji. Il-governanza akkademika istituzzjonali, inklużi l-proċessi ta' appell tal-istudenti, iridu jiġu mfassla biex jakkommodaw sfidi għad-deċiżjonijiet influwenzati mill-AI.


Pjan ta' Konformità għall-Istituzzjonijiet Edukattivi u l-Fornituri EdTech

Għall-Fornituri EdTech

  1. Iklassifika kull prodott kontra Annex III, kategorija 3 — iddomenta r-raġunament tal-klassifikazzjoni b'referenza speċifika għall-iskop maħsub tas-sistema u s-sinifikanza tal-effett tagħha fuq ir-riżultati edukattivi.
  2. Implimenta r-reġim sħiħ tal-valutazzjoni tal-konformità ta' riskju għoli taħt Arts. 9–15 għall-prodotti kollha klassifikati bħala ta' riskju għoli, inklużi ttestjar tal-bias madwar is-sottogruppi demografiċi rappreżentattivi tal-popolazzjoni tal-istudenti tal-UE.
  3. Irreġistra s-sistemi ta' riskju għoli fil-bażi tad-data tal-EU AI (Art. 49) qabel l-introduzzjoni fis-suq.
  4. Ipprepara dokumentazzjoni kompleta li tiffaċċja lid-deployer: struzzjonijiet għall-użu, dokumentazzjoni tal-konformità, riżultati tal-ittestjar tal-bias u tal-preċiżjoni, gwida tal-ġestjoni tal-log.
  5. Implimenta t-trasparenza ta' Art. 50 fis-sistemi ta' AI kollha li jinteraġixxu direttament mal-istudenti.
  6. Irrevedi l-ftehimiet tal-ipproċessar tad-data biex tiżgura konformità ma' GDPR Art. 28, inklużi mekkaniżmi ta' kunsens tal-ġenitur fejn meħtieġ taħt Art. 8.

Għall-Istituzzjonijiet Edukattivi

  1. Awdita s-sistemi ta' AI kollha f'użu — ammissjonijiet, gradjar, sorveljanza tal-eżamijiet, analitiċi, tutorjar — u iklassifikahom kontra Annex III, kategorija 3.
  2. Itlob u irrevedi d-dokumentazzjoni tal-konformità mill-bejjiegħa EdTech kollha għal kull sistema klassifikata jew li potenzjalment tista' tiġi klassifikata bħala ta' riskju għoli.
  3. Iwettaq valutazzjonijiet tal-impatt fuq id-drittijiet fundamentali taħt Art. 27 qabel ma jiddeployaw jew ikomplu jiddeployaw sistemi ta' AI tal-ammissjonijiet jew il-valutazzjonijiet.
  4. Assenja responsabbiltà ta' sorveljanza nominata għal kull sistema ta' AI ta' riskju għoli lill-persunal kwalifikat bi kompetenza teknika ġenwina u awtorità istituzzjonali.
  5. Irrevedi l-proċessi ta' appell tal-ammissjonijiet u l-valutazzjonijiet biex tiżgura li jakkommodaw sfidi għad-deċiżjonijiet influwenzati mill-AI u jipprovdu reviżjoni umana sinifikanti.
  6. Awdita l-konformità mal-GDPR għad-data tal-istudenti kollha pproċessata mill-pjattaformi EdTech — ikkonferma li l-ftehimiet tal-ipproċessar tad-data, il-bażijiet legali, u l-mekkaniżmi ta' kunsens tal-ġenitur huma fis-seħħ.
  7. Ivverifika l-konfigurazzjonijiet tal-AI ta' sorveljanza tal-eżamijiet għall-konformità mal-projbizzjoni ta' Art. 5 fuq l-identifikazzjoni bijometrika f'ħin reali — jekk xi konfigurazzjoni tinvolvi rikonoxximent kontinwu tal-wiċċ matul is-sessjonijiet tal-eżami, ikseb parir legali urġenti qabel il-perjodu li jmiss tal-eżaminazzjonijiet.

Official AI Act Compliance Deadline Calendar

Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.

Obligation Applies to Original date New date Status Countdown Legal basis
Prohibited Practices (Art. 5) All providers and deployers active — AI Act Art. 5
GPAI Rules (Chapter 5) GPAI model providers active — AI Act Art. 51-56
AI-Generated Content Marking Providers of generative GPAI systems active — AI Act Art. 50(2)
Regulatory Sandboxes National competent authorities active — AI Act Art. 57
High-risk AI — Annex III (standalone) Providers of standalone Annex III systems deferred — AI Omnibus 2026 Art. 6(2)
High-risk AI — Annex I (embedded) AI embedded in Annex I regulated products deferred — AI Omnibus 2026 Art. 6(1)

⬇ Download JSON · CC BY 4.0

Frequently Asked Questions

Iva, f'kważi l-konfigurazzjonijiet operazzjonali rilevanti kollha. Is-sistemi ta' AI li jivvalutaw, jirranġaw, jew jiffiltrajar applikanti biex jiddeterminaw l-aċċess għall-istituzzjonijiet edukattivi jew ta' taħriġ vokazzjonali jaqgħu direttament fi ħdan Annex III, kategorija 3(a). Din il-klassifikazzjoni tapplika irrispettivament minn jekk l-AI jipproduċix deċiżjoni finali ta' ammissjoni jew sempliċement jiġġenera punteġġ li l-uffiċjali tal-ammissjonijiet jużaw bħala input — jekk l-output tas-sistema jkollu effett sinifikanti fuq jekk applikant jiġix ammess, il-klassifikazzjoni ta' riskju għoli tapplika. L-universitajiet għandhom jiżguraw li s-sistema tġorr marka CE, hija rreġistrata fil-bażi tad-data tal-EU AI, u li l-obbligi tal-deployer taħt Art. 26 jiġu implimentati bis-sħiħ qabel ma s-sistema tintuża f'xi ċiklu ta' ammissjonijiet.

Jiddependi minn jekk is-softwer jevalwax ir-riżultati tat-tagħlim b'effett sinifikanti fuq il-mogħdijiet tal-istudenti. Taħt Annex III, kategorija 3(b), is-sistemi ta' AI li jivvalutaw jew jevalwaw lill-istudenti u li għandhom konsegwenzi sinifikanti għall-progress akkademiku tagħhom — bħal dik li tiddetermina jekk student jgħaddix kors, jirċevix kwalifika, jew javvanza għall-livell akkademiku li jmiss — huma ta' riskju għoli u jridu jiġu rreġistrati. L-għodod ta' gradjar awtomatizzat li jintużaw bħala pass finali jew sostanzjalment determinanti fl-assenjament ta' gradi huma ta' riskju għoli. L-għodod li jintużaw esklussivament għal feedback formattiv, fejn l-edukat uman iżomm kontroll sħiħ fuq il-grad finali, jippreżentaw profil ta' riskju aktar baxx u jistgħu ma jikkwalifikawx, iżda dan irid jiġi ddokumentat u ġġustifikat.

Le — mhux taħt id-dispożizzjonijiet ġenerali tal-EU AI Act. Art. 5(1)(d) jipprojbixxi l-identifikazzjoni bijometrika mill-bogħod f'ħin reali f'postijiet aċċessibbli għall-pubbliku, u l-istituzzjonijiet edukattivi bħall-iskejjel u l-universitajiet jikkwalifikaw bħala postijiet aċċessibbli għall-pubbliku għal dan il-għan. Il-projbizzjoni tkopri r-rikonoxximent tal-wiċċ użat biex jidentifika individwi f'ħin reali. Eċċezzjonijiet limitati jistgħu jiġu permessi biss fejn Stat Membru jkun adotta leġislazzjoni li tesplicitament tawtorizza tali użu u strettament fil-kundizzjonijiet stabbiliti f'Art. 5(2) sa (6). Fil-prattika, il-bar għal dawk l-eċċezzjonijiet huwa għoli, u l-biċċa l-kbira tad-deployments edukattivi tar-rikonoxximent tal-wiċċ għall-attendenza jew il-monitoraġġ tal-eżamijiet ikunu projbiti taħt Art. 5. Il-kategorizzazzjoni bijometrika differita użata fis-sorveljanza tal-eżamijiet tista' taqa' taħt id-dispożizzjonijiet ta' riskju għoli minflok il-projbizzjoni ta' Art. 5, iżda xorta tattira r-reġim sħiħ tal-valutazzjoni tal-konformità.

Il-fornituri EdTech li jqiegħdu sistemi ta' AI ta' riskju għoli fis-suq iridu jfornu lill-istituzzjonijiet li jiddeployaw b'dan li ġej: Dikjarazzjoni ta' Konformità tal-UE kompluta u dokumentazzjoni tal-marka CE; struzzjonijiet dettaljati għall-użu li jkopru l-iskop maħsub tas-sistema, il-limitazzjonijiet tal-prestazzjoni, u l-kundizzjonijiet li taħthom is-sorveljanza umana tkun meħtieġa; informazzjoni dwar il-karatteristiċi tad-data tat-taħriġ u l-biases magħrufa, b'mod partikolari f'gruppi demografiċi relevanti għall-popolazzjoni tal-istudenti; dokumentazzjoni teknika li turi konformità ma' Arts. 9–15; u l-kapaċità tas-sistema li tiġġenera, iżżomm, u tesporta logs tal-operazzjoni kif meħtieġ minn Art. 12. L-universitajiet, bħala deployers taħt Art. 26, iridu jivverifikaw li din id-dokumentazzjoni hija disponibbli u adegwata qabel ma jiddeployaw xi sistema ta' AI klassifikata bħala ta' riskju għoli.

Art. 27 tal-EU AI Act jirrakkomanda li l-entitajiet pubbliċi u d-deployers ta' sistemi ta' AI ta' riskju għoli f'dominji sensittivi jwettqu valutazzjoni tal-impatt fuq id-drittijiet fundamentali (FRIA) qabel id-deployment. Għall-universitajiet, il-FRIA għandha tidentifika: liema drittijiet fundamentali jistgħu jiġu affettwati (nuqqas ta' diskriminazzjoni taħt Art. 21 tal-Karta tal-UE, id-dritt għall-edukazzjoni taħt Art. 14, il-protezzjoni tad-data taħt Art. 8); il-popolazzjonijiet tal-istudenti f'riskju ta' impatt negattiv, inklużi gruppi minoritarji, studenti b'diżabilitajiet, u studenti internazzjonali; il-mekkaniżmi algoirtmiċi speċifiċi li jistgħu jintroduċu jew jamplifikaw l-inugwaljanza; miżuri ta' mitigazzjoni bħal awditi tal-bias, rekwiżiti ta' data ta' taħriġ diversi imposti fuq il-bejjiegħ, u proċeduri ta' sostituzzjoni umana; u pjan ta' monitoraġġ li jkopri reviżjonijiet regolari tal-preċiżjoni disaggregati skont id-demografiku tal-istudenti. Il-FRIA għandha tiġi ddokumentata u aġġornata kull meta s-sistema ta' AI tinbidel b'mod sinifikanti jew meta l-monitoraġġ jiżvela riżultati mhux mistennija.

Iva. Art. 50 tal-EU AI Act jeħtieġ li s-sistemi ta' AI mfassla biex jinteraġixxu ma' persuni naturali — inklużi chatbots ta' tutorjar bl-AI u assistenti virtwali ta' tagħlim — jinformaw lill-utenti b'mod ċar, f'waqtu, u effettiv li qegħdin jinteraġixxu ma' sistema ta' AI. Dan l-obbligu japplika kemm għall-fornitur EdTech li jfassal il-chatbot kif ukoll għall-istituzzjoni edukattiva li tiddeplovah. Fejn l-istudenti huma minorenni, dan l-obbligu ta' trasparenza jaqsam mal-ħtiġiet ta' GDPR Art. 8 dwar komunikazzjoni adattata għall-età. L-iżvelar għandu jsir qabel jew fil-bidu tal-interazzjoni u għandu jkun faċilment komprensibbli għall-udjenza maħsuba, inklużi studenti li jistgħu jkollhom familjarità limitata mas-sistemi ta' AI.

Stay ahead of AI Act changes

Get compliance alerts when deadlines or obligations change.

No spam. One-click unsubscribe.

Take compliance further with the AI Act Academy

A free course, a server-graded exam, a verifiable certificate — and the working templates.