Δημόσιος Τομέας & Δικαιοσύνη — Συμμόρφωση με τον EU AI Act

Υποχρεώσεις του EU AI Act για την τεχνητή νοημοσύνη στη δημόσια διοίκηση, την επιβολή του νόμου, τον έλεγχο συνόρων και το σύστημα δικαιοσύνης. Καλύπτει τις κατηγορίες 5-8 του Annex III και τις υποχρεωτικές εκτιμήσεις επιπτώσεων στα θεμελιώδη δικαιώματα.

Δημόσιος Τομέας και EU AI Act — Γιατί η Κυβέρνηση Αποτελεί τον Αναπτύσσοντα Υψηλότερου Κινδύνου

Ο EU AI Act (Κανονισμός (ΕΕ) 2024/1689) εφαρμόζεται οριζόντια σε όλους τους τομείς, αλλά η πλέον συγκεντρωμένη δέσμη υποχρεωτικών υποχρεώσεων βαρύνει τους δημόσιους φορείς. Οι κυβερνητικές υπηρεσίες, οι αρχές επιβολής του νόμου, τα δικαστικά ιδρύματα και οι φορείς διαχείρισης συνόρων είναι τόσο οι βαρύτεροι αναπτύσσοντες ΤΝ με συνέπειες για τους πολίτες, όσο και οι οντότητες των οποίων η χρήση ΤΝ δημιουργεί τον μεγαλύτερο δομικό κίνδυνο για τα θεμελιώδη δικαιώματα. Ο Κανονισμός αντικατοπτρίζει αυτή την ασυμμετρία με δύο δομικούς τρόπους.

Πρώτον, τέσσερις από τις οκτώ κατηγορίες υψηλού κινδύνου του Annex III αφορούν άμεσα την ΤΝ στον δημόσιο τομέα — κατηγορίες 5 έως 8 καλύπτουν τις βασικές δημόσιες υπηρεσίες, την επιβολή του νόμου, τη μετανάστευση και τον έλεγχο συνόρων και τη διοίκηση της δικαιοσύνης. Αυτές οι κατηγορίες δεν αποτελούν υπολειπόμενες γενικές κατηγορίες: απαριθμούν συγκεκριμένες εφαρμογές ΤΝ που χρησιμοποιούνται συνήθως σε κυβερνητικές λειτουργίες και φέρουν εκ ορισμού κίνδυνο σε επίπεδο ταξινόμησης.

Δεύτερον, το Art. 27 επιβάλλει υποχρεωτική εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα (FRIA) στους δημόσιους φορείς πριν αναπτύξουν συστήματα ΤΝ υψηλού κινδύνου. Για τους αναπτύσσοντες του ιδιωτικού τομέα, η FRIA συνιστάται έντονα· για τους δημόσιους φορείς, αποτελεί νομική υποχρέωση. Η εκτίμηση πρέπει να εξετάζει τον αντίκτυπο του συστήματος ΤΝ στα δικαιώματα των ατόμων βάσει του Χάρτη Θεμελιωδών Δικαιωμάτων της ΕΕ, συμπεριλαμβανομένου του δικαιώματος αξιοπρέπειας (Art. 1), της προστασίας δεδομένων προσωπικού χαρακτήρα (Art. 8), του δικαιώματος αποτελεσματικής προσφυγής (Art. 47) και του τεκμηρίου αθωότητας (Art. 48).

Το τοπίο συμμόρφωσης για τους δημόσιους φορείς περιπλέκεται περαιτέρω από τη στρωματοποίηση των υποχρεώσεων του EU AI Act πάνω στα υπάρχοντα τομεακά καθεστώτα: την Οδηγία για την Επιβολή του Νόμου 2016/680, τον Κανονισμό του Συστήματος Πληροφοριών Σένγκεν, τον Κανονισμό Frontex 2019/1896, τον Γενικό Κανονισμό για την Προστασία Δεδομένων και τις συνταγματικές απαιτήσεις της Ευρωπαϊκής Σύμβασης Ανθρωπίνων Δικαιωμάτων όπως ερμηνεύεται από το Ευρωπαϊκό Δικαστήριο Ανθρωπίνων Δικαιωμάτων. Κάθε ένα από αυτά τα πλαίσια δημιουργεί ανεξάρτητες υποχρεώσεις που πρέπει να εκπληρώνονται παράλληλα με τις απαιτήσεις του EU AI Act.

Συστήματα ΤΝ Υψηλού Κινδύνου — Κατηγορίες 5 έως 8

Annex III, Κατηγορία 5 — Βασικές Δημόσιες Υπηρεσίες και Αξιολόγηση Παροχών

Το Annex III, σημείο 5(β) κατατάσσει ως υψηλού κινδύνου κάθε σύστημα ΤΝ που χρησιμοποιείται για την αξιολόγηση επιλεξιμότητας φυσικών προσώπων για βασικές υπηρεσίες δημόσιας παροχής και τη λήψη αποφάσεων στο πλαίσιο αυτό. Η κατηγορία αυτή περιλαμβάνει το πλήρες φάσμα ΤΝ του κοινωνικού κράτους:

• Αυτοματοποιημένη αξιολόγηση επιδόματος ανεργίας: Συστήματα ΤΝ που προσδιορίζουν εάν ο αιτών πληροί τα κριτήρια επιλεξιμότητας βάσει αρχείων απασχόλησης, δραστηριότητας αναζήτησης εργασίας ή αξιολογήσεων εισοδήματος.
• Αποφάσεις στεγαστικής βοήθειας και επιδόματος αναπηρίας: Αλγοριθμικά εργαλεία που βαθμολογούν αιτήσεις για προτεραιότητα κοινωνικής στέγασης, δικαίωμα επιδόματος αναπηρίας ή πληρωμές προσωπικής ανεξαρτησίας.
• Ανίχνευση απάτης κοινωνικής συνδρομής: Συστήματα κατάρτισης προφίλ ΤΝ που παράγουν βαθμολογίες κινδύνου για ύποπτες απάτες παροχών, ενδεχομένως ενεργοποιώντας έρευνες ή αναστολή πληρωμών.

Το σημείο 5(β) καλύπτει επίσης ΤΝ πιστοληπτικής ικανότητας και ασφαλίσεων σε σχέση με φυσικά πρόσωπα, αν και η κύρια έκθεση του δημόσιου τομέα αφορά την επιλεξιμότητα παροχών και υπηρεσιών. Σε όλες τις περιπτώσεις, η κατάταξη ισχύει όταν το σύστημα ΤΝ ασκεί ουσιαστική επιρροή στην πρόσβαση σε δημόσια υπηρεσία — ανεξαρτήτως αν η τελική απόφαση λαμβάνεται από ανθρώπινο υπάλληλο.

Annex III, Κατηγορία 6 — Επιβολή του Νόμου

Η κατηγορία 6 καλύπτει την ΤΝ που χρησιμοποιείται από αρχές επιβολής του νόμου σε τρεις τομείς:

Αξιολόγηση κινδύνου και κατάρτιση προφίλ: Συστήματα ΤΝ που αξιολογούν την πιθανότητα ενός ατόμου να διαπράξει ποινικό αδίκημα, να υποτροπιάσει ή να αποτελεί κίνδυνο ασφαλείας — συμπεριλαμβανομένων εργαλείων βαθμολόγησης υποτροπής που χρησιμοποιούνται σε ακροάσεις προδικαστικής κράτησης, αποφάσεις αποφυλάκισης υπό όρους και συστάσεις ποινών. Αυτά τα συστήματα είναι υψηλού κινδύνου βάσει του Annex III, σημείο 6(α).

Ανίχνευση και ανάλυση κατά τις έρευνες: ΤΝ για ανίχνευση συναισθηματικών καταστάσεων, χαρακτηριστικών προσωπικότητας ή παραπλανητικής συμπεριφοράς από εκφράσεις του προσώπου, φωνή ή φυσιολογικές ενδείξεις που χρησιμοποιούνται σε ποινικές έρευνες. Το Art. 5(1)(στ) απαγορεύει χωριστά συστήματα ΤΝ που συνάγουν συναισθήματα ατόμων στο πλαίσιο επιβολής του νόμου και διαχείρισης συνόρων, εκτός από συγκεκριμένους σκοπούς ασφαλείας, θέτοντας σαφές εξωτερικό όριο γύρω από αυτή τη χρήση.

Ανίχνευση deepfake και εγγράφων: ΤΝ που χρησιμοποιείται για ανίχνευση παραποιημένου ψηφιακού περιεχομένου ή αξιολόγηση της αυθεντικότητας εγγράφων σε ποινικές διαδικασίες — κατατάσσεται ως υψηλού κινδύνου βάσει του Annex III, σημείο 6(γ).

Annex III, Κατηγορία 7 — Μετανάστευση, Άσυλο και Έλεγχος Συνόρων

Η κατηγορία 7 εφαρμόζεται στην ΤΝ που αναπτύσσεται στο πλαίσιο μετανάστευσης και διαχείρισης συνόρων:

Αξιολόγηση κινδύνου στα σύνορα: Συστήματα ΤΝ που αξιολογούν τον κίνδυνο παράτυπης μετανάστευσης ή παράγουν βαθμολογίες απειλής για άτομα που διασχίζουν σύνορα — συμπεριλαμβανομένων εργαλείων κατάρτισης προφίλ ενσωματωμένων στο SIS και συστημάτων ανάλυσης κινδύνου Frontex που λειτουργούν βάσει του Κανονισμού 2019/1896.

Επαλήθευση εγγράφων και ταυτότητας: Συστήματα ΤΝ που αξιολογούν την αυθεντικότητα ταξιδιωτικών εγγράφων, θεωρήσεων, αδειών διαμονής ή εγγράφων ταυτότητας για σκοπούς διέλευσης συνόρων ή μετανάστευσης.

Επεξεργασία αιτήσεων ασύλου: ΤΝ που εξετάζει αιτήσεις ασύλου, αξιολογεί την αξιοπιστία μεμονωμένων ισχυρισμών ή καταρτίζει προφίλ αιτούντων για ταχείες ή επιταχυνόμενες διαδικασίες.

Όλα τα συστήματα κατηγορίας 7 πρέπει να αξιολογούνται για συμμόρφωση όχι μόνο με τον EU AI Act, αλλά και με τη Σύμβαση για τους Πρόσφυγες (1951), το Art. 18 του Χάρτη ΕΕ (δικαίωμα ασύλου) και την αρχή της μη επαναπροώθησης όπως ερμηνεύεται στη νομολογία ΕΣΑΔ — έναν συνταγματικό περιορισμό που η FRIA βάσει του Art. 27 πρέπει να αντιμετωπίζει ρητά.

Annex III, Κατηγορία 8 — Διοίκηση Δικαιοσύνης και Δημοκρατικές Διαδικασίες

Η κατηγορία 8 αφορά την ΤΝ που αναπτύσσεται εντός του ίδιου του δικαστικού συστήματος:

ΤΝ δικαστικής υποστήριξης: Συστήματα που βοηθούν στην έρευνα νομολογίας, εντοπισμό εφαρμοστέων νομικών διατάξεων ή δόμηση νομικής συλλογιστικής για δικαστές, εισαγγελείς ή δικαστικούς υπαλλήλους — υψηλού κινδύνου βάσει του Annex III, σημείο 8(α).

Εργαλεία προγνωστικής δικαιοσύνης: Συστήματα ΤΝ που προβλέπουν το πιθανό αποτέλεσμα δικαστικών διαδικασιών, εύρη ποινών ή δικαστικές αποφάσεις βάσει ιστορικών δεδομένων υποθέσεων. Αυτά τα συστήματα εγείρουν οξείες ανησυχίες βάσει του Art. 47 του Χάρτη ΕΕ αναφορικά με το δικαίωμα δίκαιης δίκης, καθώς η χρήση τους στη δικαστική λήψη αποφάσεων μπορεί να θέτει σε δομικό μειονέκτημα τα μέρη των οποίων τα προφίλ διαφέρουν από ιστορικούς κανόνες.

Η κατηγορία 8 δεν απαγορεύει το δικαστικό έργο με τη βοήθεια ΤΝ· το υποβάλλει στο καθεστώς συμμόρφωσης υψηλού κινδύνου και απαιτεί από τα δικαστήρια και τα υπουργεία δικαιοσύνης να διασφαλίζουν ότι τα αποτελέσματα ΤΝ υπόκεινται πάντα σε ουσιαστική ανθρώπινη επανεξέταση — ο δικαστής ή ο αρμόδιος για τη λήψη απόφασης πρέπει να μπορεί, και στην πράξη να αγνοεί, το αποτέλεσμα της ΤΝ όταν αυτό δεν είναι κατάλληλο.

Υποχρεωτικές Υποχρεώσεις για Δημόσιους Φορείς ως Αναπτύσσοντες

Οι δημόσιοι φορείς που λειτουργούν ως αναπτύσσοντες συστημάτων ΤΝ υψηλού κινδύνου βάσει του EU AI Act φέρουν ορισμένο, μη εκχωρήσιμο σύνολο υποχρεώσεων βάσει των Art. 26 και Art. 27.

Εκτίμηση Επιπτώσεων στα Θεμελιώδη Δικαιώματα (Art. 27)

Η FRIA αποτελεί την πλέον χαρακτηριστική υποχρέωση για δημόσιους αναπτύσσοντες. Πρέπει να διεξάγεται πριν από την ανάπτυξη και να αντιμετωπίζει: τους ειδικούς σκοπούς του συστήματος που επηρεάζουν δικαιώματα· τις κατηγορίες ατόμων των οποίων τα δικαιώματα ενδέχεται να επηρεαστούν· τους προβλέψιμους κινδύνους βλάβης και την πιθανότητα και σοβαρότητά τους· πώς οι υπάρχουσες νομικές διασφαλίσεις μετριάζουν αυτούς τους κινδύνους· και τα μέτρα που λαμβάνονται για παρακολούθηση του συστήματος μετά την ανάπτυξη. Η ολοκληρωμένη FRIA πρέπει να τίθεται στη διάθεση της εθνικής εποπτικής αρχής ΤΝ κατόπιν αιτήματος και να ενημερώνεται όταν το σύστημα τροποποιείται ή αναπτύσσεται σε νέο πλαίσιο.

Ανθρώπινη Εποπτεία και Ορισμένη Ευθύνη

Το Art. 26(1) απαιτεί από τους αναπτύσσοντες να αναθέτουν την ανθρώπινη εποπτεία συστημάτων ΤΝ υψηλού κινδύνου σε φυσικά πρόσωπα με την απαραίτητη ικανότητα, εξουσία και πόρους για παρέμβαση. Στη δημόσια διοίκηση, αυτό σημαίνει ότι κάθε αυτοματοποιημένη διαδικασία που επηρεάζει άτομα — είτε επιλεξιμότητα παροχών, βαθμολόγηση κινδύνου συνόρων ή αποτέλεσμα δικαστικής υποστήριξης — πρέπει να έχει έναν εντοπισμένο υπάλληλο που μπορεί να παρακάμψει το αποτέλεσμα του συστήματος και ο οποίος δεν έχει δομικό κίνητρο να το αποδεχθεί αδιαμαρτύρητα.

Διαφάνεια προς Θιγόμενα Άτομα

Το Art. 13 απαιτεί από τους αναπτύσσοντες να διασφαλίζουν ότι τα άτομα που υπόκεινται σε αποφάσεις με τη βοήθεια ΤΝ ενημερώνονται σαφώς ότι χρησιμοποιείται σύστημα ΤΝ. Στη δημόσια διοίκηση, αυτή η υποχρέωση συνήθως απαιτεί την ενσωμάτωση γνωστοποιήσεων χρήσης ΤΝ σε επιστολές αποφάσεων, διοικητικές επικοινωνίες και διαδικασίες ακρόασης. Το Art. 86 προστατεύει την εμπιστευτικότητα δεδομένων που υποβάλλονται σε εποπτικές αρχές στο πλαίσιο παρακολούθησης συμμόρφωσης, παρέχοντας οδό για αποκάλυψη ευαίσθητης εσωτερικής τεκμηρίωσης χωρίς δημόσια έκθεση.

Καταγραφή, Τήρηση Αρχείων και Αναφορά Περιστατικών

Οι αναπτύσσοντες πρέπει να τηρούν αρχεία καταγραφής λειτουργίας της δραστηριότητας του συστήματος ΤΝ για ελάχιστη περίοδο — τουλάχιστον έξι μήνες για τα περισσότερα συστήματα υψηλού κινδύνου, με εκτεταμένη διατήρηση όπου το νομικό πλαίσιο που διέπει την υποκείμενη διοικητική διαδικασία το απαιτεί. Σοβαρά περιστατικά — περιστατικά που οδηγούν σε θάνατο, σοβαρό τραυματισμό, σημαντική υλική ζημία ή παραβιάσεις θεμελιωδών δικαιωμάτων — πρέπει να αναφέρονται στην αρμόδια εθνική εποπτική αρχή ΤΝ χωρίς αδικαιολόγητη καθυστέρηση.

Απαγορευμένες Πρακτικές στη Δημόσια Διοίκηση

Ορισμένες πρακτικές ΤΝ είναι απολύτως απαγορευμένες βάσει του Art. 5 του EU AI Act. Για τις δημόσιες αρχές, τρεις απαγορεύσεις έχουν άμεση επιχειρησιακή συνάφεια.

Art. 5(1)(γ) — Κοινωνική βαθμολόγηση από δημόσιες αρχές: Απαγορεύονται τα συστήματα ΤΝ που αξιολογούν ή ταξινομούν άτομα βάσει της κοινωνικής τους συμπεριφοράς ή χαρακτηριστικών προσωπικότητας για παραγωγή βαθμολογίας που χρησιμοποιείται για τον προσδιορισμό πρόσβασης σε δημόσιες υπηρεσίες, παροχές ή νομική μεταχείριση. Αυτή η απαγόρευση απευθύνεται ειδικά στις δημόσιες αρχές και στοχεύει τους λεγόμενους μηχανισμούς κοινωνικής πίστωσης ανεξαρτήτως της ονομασίας ή δόμησής τους.

Art. 5(1)(δ) — Αναγνώριση βιομετρικών δεδομένων σε πραγματικό χρόνο εξ αποστάσεως σε δημόσιους χώρους: Απαγορεύεται η χρήση συστημάτων αναγνώρισης βιομετρικών δεδομένων σε πραγματικό χρόνο εξ αποστάσεως με τεχνολογία ΤΝ (αναγνώριση προσώπου, ανάλυση βαδίσματος ή άλλα βιομετρικά εργαλεία) σε δημόσια προσβάσιμους χώρους από αρχές επιβολής του νόμου, με τρεις στενές εξαιρέσεις: στοχευμένες έρευνες για αγνοούμενα παιδιά· πρόληψη συγκεκριμένων, επικείμενων τρομοκρατικών απειλών· και αναγνώριση υπόπτων σε σοβαρά εγκλήματα όπου έχει ληφθεί προηγούμενη δικαστική ή ανεξάρτητη διοικητική εξουσιοδότηση. Αυτές οι εξαιρέσεις είναι εξαντλητικές· κανένα γενικό πρόγραμμα παρακολούθησης δεν πληροί τις προϋποθέσεις.

Art. 5(1)(ε) — Υποσυνείδητες και χειραγωγικές τεχνικές: Απαγορεύονται για όλους τους αναπτύσσοντες, συμπεριλαμβανομένων των δημόσιων αρχών, τα συστήματα ΤΝ που χρησιμοποιούν τεχνικές που λειτουργούν κάτω από το κατώφλι της συνειδητής αντίληψης για χειραγώγηση ατομικής συμπεριφοράς, ή που εκμεταλλεύονται ευπάθειες συγκεκριμένων ομάδων.

Επιβολή — Εποπτικές Αρχές και Μηχανισμοί Εποπτείας

Η αρχιτεκτονική επιβολής του EU AI Act στον δημόσιο τομέα περιλαμβάνει πολλαπλά επίπεδα αρμόδιων αρχών.

Εθνικές εποπτικές αρχές ΤΝ που ορίζονται βάσει του Art. 70 αποτελούν τα κύρια εκτελεστικά όργανα του Κανονισμού σε κάθε κράτος μέλος. Στις περισσότερες δικαιοδοσίες, αυτές είναι ή θα είναι ενσωματωμένες ή στενά συνδεδεμένες με τις υπάρχουσες αρχές προστασίας δεδομένων. Διαθέτουν εξουσίες διεξαγωγής ελέγχων, αίτησης τεχνικής τεκμηρίωσης και αποτελεσμάτων FRIA, έκδοσης διορθωτικών εντολών και επιβολής διοικητικών προστίμων.

Τα πρόστιμα για δημόσιους φορείς υπόκεινται στη διακριτική ευχέρεια των κρατών μελών βάσει του Art. 99(6): τα κράτη μέλη μπορούν να προβλέψουν ότι οι δημόσιες αρχές δεν υπόκεινται σε χρηματικές κυρώσεις, αλλά πρέπει να διασφαλίζουν ότι εναλλακτικοί εποπτικοί και διορθωτικοί μηχανισμοί — συμπεριλαμβανομένων υποχρεωτικών ελέγχων, δημοσίευσης διαπιστώσεων μη συμμόρφωσης και αναστολής χρήσης συστήματος ΤΝ — είναι διαθέσιμοι. Αυτή η διακριτική ευχέρεια δεν επεκτείνεται στην επιτρεπόμενη μη συμμόρφωση· αφορά μόνο τον μηχανισμό χρηματικής ποινής.

Αρχές προστασίας δεδομένων (ΑΠΔ) και το ΕΣΠΔ διατηρούν παράλληλη αρμοδιότητα για τις διαστάσεις επεξεργασίας δεδομένων προσωπικού χαρακτήρα της ΤΝ του δημόσιου τομέα βάσει του GDPR και της LED. Η μη συμμόρφωση με υποχρεώσεις GDPR ή LED στο πλαίσιο λειτουργίας συστήματος ΤΝ υπόκειται σε επιβολή ΑΠΔ ανεξαρτήτως από την εποπτική αρχή του EU AI Act.

Το Ευρωπαϊκό Δικαστήριο Ανθρωπίνων Δικαιωμάτων αποτελεί εξωτερικό συνταγματικό περιορισμό: αποφάσεις που λαμβάνονται βάσει αλγοριθμικών διαδικασιών — ιδίως στην ποινική δικαιοσύνη και τη μετανάστευση — πρέπει να ικανοποιούν τα πρότυπα της Σύμβασης για το Art. 6 (δίκαιη δίκη) και το Art. 8 (ιδιωτική ζωή) όπως ερμηνεύονται στην εξελισσόμενη νομολογία ΕΣΑΔ για αυτοματοποιημένη λήψη αποφάσεων.

Χάρτης Πορείας Υλοποίησης για Κυβερνητικές Υπηρεσίες

Φάση 1 — Απογραφή και Ταξινόμηση Συστημάτων ΤΝ (Μήνες 1-3)

Οι δημόσιοι φορείς πρέπει πρώτα να καταρτίσουν μια συνολική απογραφή όλων των συστημάτων ΤΝ που χρησιμοποιούνται ή βρίσκονται υπό προμήθεια. Κάθε σύστημα πρέπει να αξιολογείται έναντι των κατηγοριών 5-8 του Annex III και των διατάξεων απαγόρευσης του Art. 5. Τα συστήματα που περιλαμβάνουν επεξεργασία δεδομένων προσωπικού χαρακτήρα πρέπει να αξιολογούνται ταυτόχρονα έναντι απαιτήσεων GDPR και LED. Το αποτέλεσμα αυτής της φάσης είναι μια ταξινομημένη απογραφή — απαγορευμένα, υψηλού κινδύνου, περιορισμένου κινδύνου ή ελάχιστου κινδύνου — που καθοδηγεί το πρόγραμμα συμμόρφωσης.

Φάση 2 — Εκτιμήσεις Επιπτώσεων στα Θεμελιώδη Δικαιώματα (Μήνες 3-6)

Για κάθε εντοπισμένο σύστημα υψηλού κινδύνου, οι δημόσιοι φορείς πρέπει να αναθέτουν και να ολοκληρώνουν FRIA βάσει του Art. 27. Αυτό απαιτεί νομικές, τεχνικές και πολιτικές εισροές: νομική ανάλυση των διακυβευόμενων δικαιωμάτων· τεχνική τεκμηρίωση της λειτουργίας του συστήματος, δεδομένων εκπαίδευσης και γνωστών τρόπων αποτυχίας· και πολιτική αξιολόγηση των διαθέσιμων μετριαστικών μέτρων. Οι FRIA πρέπει να τεκμηριώνονται και να είναι έτοιμες για υποβολή στις εποπτικές αρχές.

Φάση 3 — Επαλήθευση Παρόχων και Μεταρρύθμιση Προμηθειών (Μήνες 3-9)

Οι διαδικασίες δημόσιων προμηθειών πρέπει να ενημερώνονται ώστε να απαιτούν από τους παρόχους ΤΝ να αποδεικνύουν συμμόρφωση με τον EU AI Act ως προϋπόθεση ανάθεσης σύμβασης. Οι αναπτύσσοντες πρέπει να επαληθεύουν σήμανση CE, Δήλωση Συμμόρφωσης, τεχνική τεκμηρίωση και δεσμεύσεις παρακολούθησης μετά τη διάθεση στην αγορά πριν από την ανάπτυξη. Οι δημόσιοι φορείς που ενεργούν ως από κοινού φορείς εκμετάλλευσης ή συν-αναπτύσσοντες με τεχνολογικούς προμηθευτές πρέπει να αποσαφηνίζουν συμβατικά την κατανομή ευθύνης για υποχρεώσεις αξιολόγησης συμμόρφωσης.

Φάση 4 — Επιχειρησιακές Διασφαλίσεις και Κατάρτιση Προσωπικού (Μήνες 6-12)

Οι ορισμένοι υπεύθυνοι ανθρώπινης εποπτείας πρέπει να εντοπίζονται για κάθε σύστημα ΤΝ υψηλού κινδύνου, να εκπαιδεύονται στις δυνατότητες και τους περιορισμούς του συστήματος και να εξοπλίζονται με διαδικασίες παράκαμψης. Ανακοινώσεις διαφάνειας για θιγόμενα άτομα πρέπει να συντάσσονται και να ενσωματώνονται στις υπάρχουσες διοικητικές διαδικασίες. Η υποδομή καταγραφής πρέπει να επαληθεύεται ή να εγκαθίσταται. Τα πρωτόκολλα αναφοράς περιστατικών πρέπει να ενσωματώνονται με τις υπάρχουσες διαδικασίες διαχείρισης διοικητικών περιστατικών και περιστατικών προστασίας δεδομένων.

Φάση 5 — Συνεχής Παρακολούθηση και Ετήσια Επανεξέταση

Η συμμόρφωση των συστημάτων ΤΝ υψηλού κινδύνου δεν αποτελεί εφάπαξ άσκηση πιστοποίησης. Οι υποχρεώσεις παρακολούθησης μετά τη διάθεση στην αγορά απαιτούν από τους δημόσιους φορείς να παρακολουθούν ενεργά την απόδοση του συστήματος, να τεκμηριώνουν τυχόν αλλαγές στην ακρίβεια, τις προκαταλήψεις ή τη συμπεριφορά και να ενημερώνουν τις FRIA όταν επέρχονται ουσιαστικές αλλαγές. Η ετήσια υποβολή εκθέσεων στην εποπτική αρχή, όπου απαιτείται βάσει εθνικού δικαίου, πρέπει να υποστηρίζεται από την τεκμηρίωση που παράγεται μέσω του προγράμματος παρακολούθησης.