Εκπαίδευση & EdTech — Συμμόρφωση με τον Κανονισμό ΕΕ για την ΤΝ

Υποχρεώσεις εκπαιδευτικής ΤΝ βάσει του EU AI Act: εισαγωγές, αυτοματοποιημένη βαθμολόγηση, επιτήρηση εξετάσεων και πλατφόρμες μάθησης. Καλύπτει την κατηγορία 3 του Annex III και τις ειδικές προστασίες για μαθητές και φοιτητές.

Ο Εκπαιδευτικός Τομέας και ο EU AI Act — Γιατί τα Δικαιώματα των Φοιτητών είναι Κεντρικά

Ο EU AI Act (Κανονισμός (ΕΕ) 2024/1689) κατατάσσει την εκπαίδευση και την επαγγελματική κατάρτιση ως τομέα αυξημένου κινδύνου, χαρακτηρίζοντας συγκεκριμένες εφαρμογές ΤΝ σε αυτόν ως υψηλής επικινδυνότητας βάσει της κατηγορίας 3 του Annex III. Η ταξινόμηση αυτή αντικατοπτρίζει θεμελιώδη εκτίμηση του ευρωπαίου νομοθέτη: τα συστήματα ΤΝ που διαμορφώνουν την πρόσβαση σε εκπαιδευτικές ευκαιρίες ή καθορίζουν ακαδημαϊκά αποτελέσματα θίγουν δικαιώματα βαθιάς ατομικής σημασίας — το δικαίωμα στην εκπαίδευση (Art. 14, Χάρτης Θεμελιωδών Δικαιωμάτων της ΕΕ), το δικαίωμα στη μη διάκριση (Art. 21), και, για το μεγάλο ποσοστό φοιτητών που είναι ανήλικοι, τις ενισχυμένες προστασίες του GDPR Art. 8 και διεθνών πλαισίων, συμπεριλαμβανομένης της Σύμβασης των Ηνωμένων Εθνών για τα Δικαιώματα του Παιδιού (UNCRC).

Ο εκπαιδευτικός τομέας παρουσιάζει ιδιαίτερο προφίλ συμμόρφωσης. Τα περισσότερα εκπαιδευτικά ιδρύματα — πανεπιστήμια, σχολεία και φορείς επαγγελματικής κατάρτισης — ανήκουν στην κατηγορία του εκτελούντος ανάπτυξη βάσει του EU AI Act: προμηθεύονται και λειτουργούν συστήματα ΤΝ που κατασκευάζουν πάροχοι EdTech αντί να αναπτύσσουν ΤΝ εσωτερικά. Η διάκριση αυτή δεν μειώνει τις υποχρεώσεις τους. Οι εκτελούντες ανάπτυξη υψηλής επικινδυνότητας ΤΝ βάσει του Art. 26 φέρουν αυτόνομες νομικές υποχρεώσεις που δεν μπορούν να εκπληρωθούν απλώς με την αγορά ενός προϊόντος με σήμανση CE. Ταυτόχρονα, οι εταιρείες EdTech που αναπτύσσουν και διαθέτουν συστήματα ΤΝ στην αγορά της ΕΕ είναι πάροχοι υποκείμενοι στο πλήρες καθεστώς αξιολόγησης συμμόρφωσης βάσει του Κεφαλαίου III, Τμήμα 2.

Ο τομέας χαρακτηρίζεται επίσης από σημαντική συγκέντρωση ευαίσθητων προσωπικών δεδομένων. Δεδομένα συμπεριφοράς φοιτητών, αξιολογητικά αρχεία, μοτίβα συμμετοχής, μαθησιακές δυσκολίες και δημογραφικά προφίλ υποβάλλονται σε επεξεργασία σε μεγάλη κλίμακα από πλατφόρμες προσαρμοστικής μάθησης και εργαλεία ανάλυσης. Αυτή η συγκέντρωση δεδομένων σημαίνει ότι η συμμόρφωση με τον EU AI Act στην εκπαίδευση δεν μπορεί να σχεδιαστεί απομονωμένα από τον GDPR — τα δύο πλαίσια πρέπει να αντιμετωπίζονται ως ενιαία υποχρέωση συμμόρφωσης.

ΤΝ Υψηλής Επικινδυνότητας στην Εκπαίδευση — Εισαγωγές, Βαθμολόγηση και Επιτήρηση Εξετάσεων

Το Annex III, κατηγορία 3 ορίζει δύο διακριτές κατηγορίες εκπαιδευτικής ΤΝ υψηλής επικινδυνότητας. Η κατανόηση του πεδίου εφαρμογής κάθε κατηγορίας είναι απαραίτητη για τις αποφάσεις ταξινόμησης.

ΤΝ Εισαγωγών — Προσδιορισμός Πρόσβασης σε Εκπαιδευτικά Ιδρύματα

Το Annex III, κατηγορία 3(α) καλύπτει συστήματα ΤΝ που προορίζονται για τον προσδιορισμό πρόσβασης ή κατανομής σε εκπαιδευτικά ιδρύματα και ιδρύματα επαγγελματικής κατάρτισης ή προγράμματα. Η κατηγορία αυτή περιλαμβάνει την ΤΝ που βαθμολογεί, κατατάσσει ή φιλτράρει υποψηφίους σε διαδικασίες εισαγωγής στα πανεπιστήμια, την ΤΝ που αξιολογεί προηγούμενα προσόντα ή αναγνώριση επαγγελματικών πιστοποιητικών, και την ΤΝ που καθορίζει την καταλληλότητα για συγκεκριμένα ακαδημαϊκά κατευθύνσεις ή εξειδικευμένα προγράμματα.

Η ταξινόμηση υψηλής επικινδυνότητας εφαρμόζεται όταν η έξοδος του συστήματος ΤΝ έχει σημαντική επίπτωση στην πρόσβαση υποψηφίου σε εκπαιδευτική ευκαιρία. Αυτό το κατώφλι πληρούται από τα περισσότερα επιχειρησιακώς αναπτυγμένα συστήματα ΤΝ εισαγωγών: ένα μοντέλο βαθμολόγησης του οποίου τα αποτελέσματα εξετάζονται και αξιοποιούνται από τους αρμόδιους εισαγωγής χωρίς συστηματική επανεκτίμηση της υποκείμενης αξιολόγησης καθορίζει ουσιαστικά τα αποτελέσματα, έστω και αν κάποιος άνθρωπος τυπικά εγκρίνει κάθε απόφαση. Οι πάροχοι τέτοιων συστημάτων πρέπει να συμμορφώνονται με τα Art. 9–15 (διακυβέρνηση δεδομένων, τεχνική τεκμηρίωση, καταγραφή, διαφάνεια, ανθρώπινη εποπτεία, ακρίβεια και στιβαρότητα). Τα εκτελούντα ανάπτυξη ιδρύματα πρέπει να επαληθεύουν τη συμμόρφωση και να εφαρμόζουν τις υποχρεώσεις εκτελούντος ανάπτυξη βάσει του Art. 26 πριν από τη χρήση του συστήματος σε οποιονδήποτε κύκλο εισαγωγών.

Ο κίνδυνος προκατάληψης είναι ιδιαίτερα έντονος στην ΤΝ εισαγωγών. Συστήματα εκπαιδευμένα σε ιστορικά δεδομένα εισαγωγής και ακαδημαϊκής επιτυχίας ενδέχεται να ενσωματώνουν υφιστάμενες ανισότητες — χάσματα φύλου σε ορισμένους κλάδους, κοινωνικοοικονομικές ανισορροπίες στην ακαδημαϊκή προετοιμασία, διαφορετική απόδοση μεταξύ ημεδαπών και διεθνών υποψηφίων. Το Art. 10 απαιτεί τα δεδομένα εκπαίδευσης να υπόκεινται σε πρακτικές διακυβέρνησης που αντιμετωπίζουν γνωστές προκαταλήψεις, ενώ το Art. 9 επιβάλλει μέτρα διαχείρισης κινδύνου βαθμονομημένα ανάλογα με τη σοβαρότητα της πιθανής βλάβης, που στο παρόν πλαίσιο περιλαμβάνει την άρνηση εκπαιδευτικής ευκαιρίας σε ικανούς υποψηφίους από μειονεκτούσες ομάδες.

ΤΝ Αυτοματοποιημένης Αξιολόγησης — Βαθμολόγηση και Ακαδημαϊκή Κατευθυνσιοδότηση

Το Annex III, κατηγορία 3(β) καλύπτει συστήματα ΤΝ που αξιολογούν φοιτητές, συμπεριλαμβανομένων αυτοματοποιημένων εργαλείων βαθμολόγησης και συστημάτων που κατατάσσουν φοιτητές σε διαφοροποιημένες ακαδημαϊκές κατευθύνσεις, όπου αυτά τα συστήματα έχουν σημαντική επίπτωση στις ακαδημαϊκές τους πορείες. Ένα αυτοματοποιημένο εργαλείο βαθμολόγησης δοκιμίων που παράγει τελικούς βαθμούς καθορίζοντας αν ένας φοιτητής περνά ή αποτυγχάνει σε μάθημα, λαμβάνει τίτλο σπουδών ή προάγεται στο επόμενο ακαδημαϊκό επίπεδο είναι υψηλής επικινδυνότητας. Ομοίως, η ΤΝ που κατατάσσει φοιτητές σε ενισχυτικές, κανονικές ή προχωρημένες κατευθύνσεις βάσει δεδομένων απόδοσης έχει σημαντική επίπτωση στις ακαδημαϊκές πορείες και εμπίπτει στην κατηγορία αυτή.

Το όριο για τα εργαλεία διαμορφωτικής αξιολόγησης — εργαλεία που χρησιμοποιούνται αποκλειστικά για παροχή ανατροφοδότησης στους φοιτητές, όπου ο εκπαιδευτικός διατηρεί πλήρη και ουσιαστικό έλεγχο σε όλα τα αποτελέσματα βαθμολόγησης — είναι στενότερο. Τέτοια εργαλεία ενδέχεται να εξαιρούνται από την κατηγορία 3(β), αλλά η ταξινόμηση αυτή πρέπει να τεκμηριώνεται και να αιτιολογείται, και τα ιδρύματα πρέπει να διασφαλίζουν ότι η ανθρώπινη εποπτεία είναι ουσιαστικά πραγματική και όχι τυπική επικύρωση αποτελεσμάτων παραγόμενων από ΤΝ.

ΤΝ Εξ Αποστάσεως Επιτήρησης Εξετάσεων

Τα συστήματα εξ αποστάσεως επιτήρησης εξετάσεων που παρακολουθούν τη συμπεριφορά φοιτητών κατά τη διάρκεια αξιολογήσεων μέσω ανάλυσης βίντεο, παρακολούθησης ματιών, κλειδώματος προγράμματος περιήγησης, καταγραφής πληκτρολόγησης ή ανίχνευσης ανωμαλίας συμπεριφοράς αντιπροσωπεύουν μία από τις πιο νομικά σύνθετες εφαρμογές ΤΝ στην εκπαίδευση. Όταν τέτοια συστήματα επισημαίνουν ή αποκλείουν φοιτητές βάσει της αυτοματοποιημένης ανάλυσής τους — ή όταν τα αποτελέσματά τους χρησιμοποιούνται από ανθρώπινους ελεγκτές κατά τρόπο που καθορίζει ουσιαστικά αποτελέσματα — συνιστούν ΤΝ υψηλής επικινδυνότητας βάσει Annex III, κατηγορία 3 ως ΤΝ που αξιολογεί φοιτητές και έχει σημαντικές επιπτώσεις στις ακαδημαϊκές τους πορείες.

Η ΤΝ επιτήρησης εξετάσεων ενεργοποιεί επίσης την απαγόρευση του Art. 5(1)(δ) για εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε χώρους δημόσιας πρόσβασης. Όπου συστήματα επιτήρησης εξετάσεων χρησιμοποιούν αναγνώριση προσώπου για συνεχή επαλήθευση ταυτότητας φοιτητή κατά τη διάρκεια εξέτασης σε πραγματικό χρόνο, αυτό συνιστά απαγορευμένη βιομετρική ταυτοποίηση, εκτός αν εφαρμόζεται πολύ στενή νομοθετική εξαίρεση κράτους μέλους βάσει Art. 5(2)–(6). Τα ιδρύματα που αναπτύσσουν ΤΝ επιτήρησης εξετάσεων πρέπει να διακρίνουν προσεκτικά μεταξύ επαλήθευσης ταυτότητας κατά την πρόσβαση στην εξέταση (ενδεχομένως νόμιμη εφόσον συμμορφούται) και συνεχούς βιομετρικής επιτήρησης σε πραγματικό χρόνο καθ' όλη τη διάρκεια της εξεταστικής περιόδου (υποκείμενη στην απαγόρευση του Art. 5).

Πάροχος έναντι Εκτελούντος Ανάπτυξη — Εταιρείες EdTech και Εκπαιδευτικά Ιδρύματα

Ο EU AI Act κατανέμει ασύμμετρα τις υποχρεώσεις μεταξύ παρόχων και εκτελούντων ανάπτυξη. Η κατανόηση αυτής της κατανομής είναι θεμελιώδης για τον σχεδιασμό συμμόρφωσης τόσο για τους παρόχους EdTech όσο και για τα ιδρύματα που χρησιμοποιούν τα προϊόντα τους.

Υποχρεώσεις Παρόχων EdTech

Οι εταιρείες EdTech που αναπτύσσουν και διαθέτουν συστήματα ΤΝ υψηλής επικινδυνότητας στην αγορά της ΕΕ είναι πάροχοι βάσει του Art. 3(3) και πρέπει να συμμορφώνονται με τις πλήρεις απαιτήσεις υψηλής επικινδυνότητας ΤΝ του Κεφαλαίου III, Τμήμα 2:

• Art. 9 — Δημιουργία και διατήρηση συστήματος διαχείρισης κινδύνου για ολόκληρο τον κύκλο ζωής του συστήματος ΤΝ
• Art. 10 — Εφαρμογή διακυβέρνησης δεδομένων για σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής, αντιμετωπίζοντας την προκατάληψη, την αντιπροσωπευτικότητα και τους στατιστικούς περιορισμούς
• Art. 11 και Annex IV — Διατήρηση πλήρους τεχνικής τεκμηρίωσης που αποδεικνύει τη συμμόρφωση
• Art. 12 — Διασφάλιση αυτόματης καταγραφής λειτουργίας συστήματος που επιτρέπει εκ των υστέρων ανασκόπηση αποφάσεων ΤΝ
• Art. 13 — Παροχή πληροφοριών διαφάνειας που επιτρέπουν στους εκτελούντες ανάπτυξη να κατανοήσουν τις δυνατότητες και τους περιορισμούς του συστήματος
• Art. 14 — Σχεδιασμός του συστήματος ώστε να επιτρέπει αποτελεσματική ανθρώπινη εποπτεία από τους εκτελούντες ανάπτυξη
• Art. 15 — Επίτευξη κατάλληλης ακρίβειας, στιβαρότητας και κυβερνοασφάλειας για το σκοπούμενο εκπαιδευτικό πλαίσιο
• Art. 49 — Καταχώριση του συστήματος στη βάση δεδομένων ΤΝ της ΕΕ πριν ή κατά τη διάθεση στην αγορά

Οι πάροχοι πρέπει επίσης να χορηγούν στα εκτελούντα ανάπτυξη ιδρύματα οδηγίες χρήσης αρκετά συγκεκριμένες ώστε να δύνανται τα ιδρύματα να εκπληρώσουν τις ίδιες τους υποχρεώσεις εκτελούντος ανάπτυξη — συμπεριλαμβανομένων πληροφοριών για τις υποομάδες του μαθητικού/φοιτητικού πληθυσμού στις οποίες δοκιμάστηκε το σύστημα, γνωστούς περιορισμούς επιδόσεων, αποτελέσματα ελέγχου προκατάληψης και διαδικασίες διαχείρισης αρχείων καταγραφής.

Υποχρεώσεις Ιδρυμάτων ως Εκτελούντων Ανάπτυξη

Τα πανεπιστήμια, τα σχολεία και οι φορείς επαγγελματικής κατάρτισης που αναπτύσσουν ΤΝ EdTech υψηλής επικινδυνότητας βάσει του Art. 26 πρέπει:

• Να επαληθεύουν ότι το σύστημα ΤΝ φέρει σήμανση CE και ότι υπάρχει διαθέσιμη Δήλωση Συμμόρφωσης ΕΕ
• Να εφαρμόζουν πλήρως τις οδηγίες χρήσης του παρόχου
• Να διασφαλίζουν ότι στο προσωπικό με επαρκή τεχνική ικανότητα και πρακτική εξουσία παρέμβασης στα αποτελέσματα της ΤΝ ανατίθεται αρμοδιότητα ανθρώπινης εποπτείας
• Να διατηρούν αρχεία καταγραφής λειτουργίας για ελάχιστο χρονικό διάστημα και να τα καθιστούν διαθέσιμα στις εθνικές εποπτικές αρχές κατόπιν αιτήματος
• Να αναφέρουν σοβαρά περιστατικά ή δυσλειτουργίες στον πάροχο και, εφόσον συντρέχει λόγος, στις εθνικές εποπτικές αρχές ΤΝ
• Να διενεργούν ή να αναθέτουν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα (FRIA) βάσει Art. 27 πριν από την ανάπτυξη συστημάτων ΤΝ αξιολόγησης ή εισαγωγών
• Να μην τροποποιούν συστήματα ΤΝ υψηλής επικινδυνότητας κατά τρόπο που μεταβάλλει τον σκοπούμενο σκοπό τους χωρίς να ενεργοποιείται εκ νέου αξιολόγηση από τον πάροχο

Αλληλεπίδραση με GDPR, Δικαιώματα Παιδιών και Εθνική Εκπαιδευτική Νομοθεσία

GDPR και Επεξεργασία Δεδομένων Φοιτητών

Η εκπαιδευτική ΤΝ λειτουργεί βάσει δεδομένων που είναι εκ φύσεως ευαίσθητα. Πλατφόρμες ανάλυσης μαθησιακής συμπεριφοράς, συστήματα προσαρμοστικής καθοδήγησης και εργαλεία επιτήρησης βάσει συμπεριφοράς επεξεργάζονται δεδομένα που μπορεί να περιλαμβάνουν αρχεία ακαδημαϊκής απόδοσης, μετρήσεις συμμετοχής, σήματα συμπεριφοράς και επικοινωνίες — όλα συνδεδεμένα με ταυτοποιήσιμους φοιτητές.

Όταν οι φοιτητές είναι ανήλικοι, το GDPR Art. 8 περιορίζει την επεξεργασία προσωπικών δεδομένων βάσει συγκατάθεσης: τα κράτη μέλη έχουν ορίσει την ηλικία κάτω από την οποία απαιτείται συγκατάθεση γονέα ή κηδεμόνα μεταξύ 13 και 16 ετών. Οι πλατφόρμες EdTech που βασίζονται στη συγκατάθεση φοιτητή ως νομική βάση για την επεξεργασία πρέπει να εφαρμόζουν ηλικιακές πύλες στα συστήματά τους και να υλοποιούν μηχανισμούς επαλήθευσης και καταγραφής γονικής συγκατάθεσης όπου απαιτείται. Τα ιδρύματα που ενεργούν ως υπεύθυνοι επεξεργασίας βάσει GDPR πρέπει να διασφαλίζουν ότι οι συμβάσεις τους με παρόχους EdTech περιλαμβάνουν κατάλληλες συμφωνίες επεξεργασίας δεδομένων βάσει GDPR Art. 28 και ότι τα δεδομένα φοιτητών δεν διαβιβάζονται εκτός ΕΟΧ χωρίς επαρκείς εγγυήσεις.

Η επεξεργασία ειδικών κατηγοριών δεδομένων — που μπορεί να προκύπτει όπου εμπλέκονται αξιολογήσεις μαθησιακών δυσκολιών, έλεγχος ψυχικής υγείας ή δημογραφική κατάρτιση προφίλ — απαιτεί ρητή νομική βάση βάσει GDPR Art. 9(2) και κατά κανόνα Εκτίμηση Αντίκτυπου σχετικά με την Προστασία Δεδομένων βάσει Art. 35.

Art. 50 — Διαφάνεια για Chatbot Εκπαιδευτικής Καθοδήγησης

Το Art. 50 του EU AI Act επιβάλλει ειδική υποχρέωση διαφάνειας στα συστήματα ΤΝ που σχεδιάζονται για άμεση αλληλεπίδραση με φυσικά πρόσωπα. Τα chatbot εκπαιδευτικής καθοδήγησης με τεχνητή νοημοσύνη, οι εικονικοί βοηθοί μάθησης και τα εργαλεία ανατροφοδότησης που παράγονται από ΤΝ και αναπτύσσονται σε εκπαιδευτικά πλαίσια πρέπει να γνωστοποιούν σαφώς τη φύση τους ως ΤΝ στους φοιτητές κατά την έναρξη κάθε αλληλεπίδρασης. Όταν το κοινό φοιτητών περιλαμβάνει ανηλίκους, η γνωστοποίηση πρέπει να προσαρμόζεται ώστε να είναι κατάλληλη για την ηλικία και πραγματικά κατανοητή. Τα ιδρύματα που αναπτύσσουν εργαλεία καθοδήγησης ΤΝ πρέπει να επαληθεύουν ότι η υλοποίηση του παρόχου πληροί αυτή την υποχρέωση και να μην διαμορφώνουν το σύστημα κατά τρόπο που καταστέλλει ή αποκρύπτει τη γνωστοποίηση ΤΝ.

Εθνική Εκπαιδευτική Νομοθεσία

Η εθνική εκπαιδευτική νομοθεσία στα κράτη μέλη της ΕΕ μπορεί να επιβάλλει πρόσθετες υποχρεώσεις για τη χρήση ΤΝ σε ακαδημαϊκά πλαίσια — για παράδειγμα, απαιτήσεις σχετικά με την ακεραιότητα των εξετάσεων, τη διατήρηση δεδομένων ακαδημαϊκών αρχείων και τη δικονομική δικαιοσύνη στις προσφυγές κατά αποφάσεων εισαγωγής. Τα προγράμματα συμμόρφωσης εκπαιδευτικών ιδρυμάτων πρέπει να χαρτογραφούν τις υποχρεώσεις βάσει EU AI Act και GDPR σε σχέση με την εφαρμοστέα εθνική νομοθεσία, συμπεριλαμβανομένων τομεακών υπουργικών κατευθύνσεων που εκδίδονται από τα εθνικά υπουργεία παιδείας. Όπου συστήματα ΤΝ παράγουν αποτελέσματα που χρησιμοποιούνται σε τυπικά ρυθμιζόμενες διαδικασίες (κρατικές εξετάσεις, διαπιστευμένοι τίτλοι σπουδών), η διεπαφή μεταξύ υποχρεώσεων του EU AI Act και της εθνικής νομοθεσίας για τις εξετάσεις απαιτεί ειδική νομική ανάλυση.

Εφαρμογή — Αρχές Προστασίας Δεδομένων και Εκπαιδευτικές Αρχές

Η εφαρμογή στον εκπαιδευτικό τομέα περιλαμβάνει διαβαθμισμένη δομή αρμόδιων αρχών. Οι εθνικές εποπτικές αρχές ΤΝ (που ορίζονται βάσει Art. 70) έχουν πρωταρχική δικαιοδοσία για τη συμμόρφωση με τον EU AI Act, συμπεριλαμβανομένης της αξιολόγησης συμμόρφωσης, της εποπτείας της αγοράς και των κυρώσεων. Για τα εκπαιδευτικά ιδρύματα, η αρχή αυτή μπορεί να είναι γενική εποπτική αρχή ΤΝ ή, σε ορισμένα κράτη μέλη, ορισμένος τομεακός φορέας.

Οι Αρχές Προστασίας Δεδομένων (ΑΠΔ) διαδραματίζουν σημαντικό ανεξάρτητο ρόλο επιβολής. Δεδομένου του όγκου και της ευαισθησίας των δεδομένων φοιτητών που επεξεργάζεται η εκπαιδευτική ΤΝ, οι ΑΠΔ εποπτεύουν ενεργά τις αναπτύξεις ΤΝ σε σχολεία και πανεπιστήμια. Παραβάσεις του GDPR σχετικές με εκπαιδευτική ΤΝ — παράνομη επεξεργασία δεδομένων παιδιών, ανεπαρκείς συμφωνίες επεξεργασίας δεδομένων με παρόχους EdTech, αποτυχία διενέργειας απαιτούμενων DPIA — επισύρουν πρόστιμα ΑΠΔ έως 20 εκατομμύρια ευρώ ή 4% του συνολικού ετήσιου κύκλου εργασιών βάσει GDPR Art. 83. Ιστορικά, οι ενέργειες επιβολής των ΑΠΔ έχουν προηγηθεί της τυπικής επιβολής του EU AI Act σε ρυθμιζόμενους τομείς, και η εκπαιδευτική ΤΝ πρέπει να σχεδιάζεται με την εποπτεία ΑΠΔ ως βραχυπρόθεσμο κίνδυνο.

Τα διοικητικά όργανα πανεπιστημίων και εθνικές αρχές διαπίστευσης μπορούν να επιβάλλουν θεσμικές συνέπειες — συμπεριλαμβανομένων κυρώσεων φήμης, αναστολής αυτοματοποιημένων διαδικασιών και απαιτήσεων για ανεξάρτητους ελέγχους — όταν η χρήση ΤΝ σε εισαγωγές ή αξιολόγηση διαπιστωθεί ότι παρήγαγε άδικα ή διακριτικά αποτελέσματα. Η θεσμική ακαδημαϊκή διακυβέρνηση, συμπεριλαμβανομένων των διαδικασιών προσφυγής φοιτητών, πρέπει να σχεδιαστεί ώστε να δύναται να δεχθεί αμφισβητήσεις αποφάσεων που επηρεάζονται από ΤΝ.

Οδικός Χάρτης Συμμόρφωσης για Εκπαιδευτικά Ιδρύματα και Παρόχους EdTech

Για Παρόχους EdTech

1. Ταξινομήστε κάθε προϊόν σε σχέση με το Annex III, κατηγορία 3 — τεκμηριώστε το σκεπτικό ταξινόμησης με ειδική αναφορά στον σκοπούμενο σκοπό του συστήματος και τη σημασία των επιπτώσεών του στα εκπαιδευτικά αποτελέσματα.
2. Εφαρμόστε το πλήρες καθεστώς αξιολόγησης συμμόρφωσης υψηλής επικινδυνότητας βάσει Art. 9–15 για όλα τα προϊόντα που ταξινομούνται ως υψηλής επικινδυνότητας, συμπεριλαμβανομένου ελέγχου προκατάληψης ανά δημογραφικές υποομάδες αντιπροσωπευτικές του μαθητικού/φοιτητικού πληθυσμού της ΕΕ.
3. Καταχωρίστε τα συστήματα υψηλής επικινδυνότητας στη βάση δεδομένων ΤΝ της ΕΕ (Art. 49) πριν από τη διάθεση στην αγορά.
4. Προετοιμάστε πλήρη τεκμηρίωση για τους εκτελούντες ανάπτυξη: οδηγίες χρήσης, τεκμηρίωση συμμόρφωσης, αποτελέσματα ελέγχου προκατάληψης και ακρίβειας, οδηγίες διαχείρισης αρχείων καταγραφής.
5. Εφαρμόστε τη διαφάνεια του Art. 50 σε όλα τα συστήματα ΤΝ που αλληλεπιδρούν άμεσα με φοιτητές.
6. Επανεξετάστε τις συμφωνίες επεξεργασίας δεδομένων ώστε να διασφαλίζεται η συμμόρφωση με το GDPR Art. 28, συμπεριλαμβανομένων μηχανισμών γονικής συγκατάθεσης όπου απαιτείται βάσει Art. 8.

Για Εκπαιδευτικά Ιδρύματα

1. Ελέγξτε όλα τα συστήματα ΤΝ που χρησιμοποιούνται — εισαγωγές, βαθμολόγηση, επιτήρηση εξετάσεων, ανάλυση, καθοδήγηση — και ταξινομήστε τα σε σχέση με το Annex III, κατηγορία 3.
2. Ζητήστε και ελέγξτε τεκμηρίωση συμμόρφωσης από όλους τους παρόχους EdTech για κάθε σύστημα που ταξινομείται ή ενδέχεται να ταξινομηθεί ως υψηλής επικινδυνότητας.
3. Διενεργήστε εκτιμήσεις επιπτώσεων στα θεμελιώδη δικαιώματα βάσει Art. 27 πριν από την ανάπτυξη ή τη συνέχιση ανάπτυξης συστημάτων ΤΝ εισαγωγών ή αξιολόγησης.
4. Αναθέστε ονομαστική αρμοδιότητα εποπτείας για κάθε σύστημα ΤΝ υψηλής επικινδυνότητας σε εξειδικευμένο προσωπικό με πραγματική τεχνική ικανότητα και θεσμική εξουσία.
5. Επανεξετάστε τις διαδικασίες προσφυγής κατά αποφάσεων εισαγωγής και αξιολόγησης ώστε να διασφαλίζεται ότι δέχονται αμφισβητήσεις αποφάσεων που επηρεάζονται από ΤΝ και παρέχουν ουσιαστική ανθρώπινη επανεξέταση.
6. Ελέγξτε τη συμμόρφωση με GDPR για όλα τα δεδομένα φοιτητών που επεξεργάζονται από πλατφόρμες EdTech — επιβεβαιώστε ότι οι συμφωνίες επεξεργασίας δεδομένων, οι νομικές βάσεις και οι μηχανισμοί γονικής συγκατάθεσης είναι σε εφαρμογή.
7. Επαληθεύστε τις διαμορφώσεις ΤΝ επιτήρησης εξετάσεων για συμμόρφωση με την απαγόρευση του Art. 5 για βιομετρική ταυτοποίηση σε πραγματικό χρόνο — αν οποιαδήποτε διαμόρφωση περιλαμβάνει συνεχή αναγνώριση προσώπου κατά τη διάρκεια εξεταστικής περιόδου, ζητήστε επειγόντως νομική γνώμη πριν από την επόμενη εξεταστική περίοδο.