Άρθρο 26 — Υποχρεώσεις φορέων ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου (Πράξη ΕΕ για την ΤΝ)

Άρθρο 26 του Κανονισμού (ΕΕ) 2024/1689 — Υποχρεώσεις φορέων ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου. Επίσημο κείμενο, πρακτική ερμηνεία, βασικές υποχρεώσεις και συνέπειες συμμόρφωσης.

Σύνοψη Επίσημου Κειμένου

Το Άρθρο 26 του Κανονισμού (ΕΕ) 2024/1689 καθορίζει τις υποχρεώσεις που βαρύνουν τους φορείς ανάπτυξης — όσους θέτουν σε χρήση συστήματα ΤΝ υψηλού κινδύνου — και εντάσσεται στον Τίτλο III, Κεφάλαιο 3 της Πράξης. Το άρθρο ορίζει ότι οι φορείς ανάπτυξης πρέπει να λαμβάνουν κατάλληλα τεχνικά και οργανωτικά μέτρα για να διασφαλίζουν ότι χρησιμοποιούν τέτοια συστήματα σύμφωνα με τις οδηγίες χρήσης που παρέχει ο πάροχος (Άρθρο 26(1)). Οι φορείς ανάπτυξης υποχρεούνται να αναθέτουν το καθήκον ανθρώπινης εποπτείας σε πρόσωπα που διαθέτουν την αναγκαία αρμοδιότητα, εκπαίδευση και εξουσία για να την ασκούν αποτελεσματικά (Άρθρο 26(2)).

Όπου οι φορείς ανάπτυξης καθορίζουν τον σκοπό χρήσης ή ασκούν σημαντική επιρροή στη λειτουργία του συστήματος ΤΝ, φέρουν ενισχυμένες ευθύνες ανάλογες με τον ρόλο ενός παρόχου. Οι φορείς ανάπτυξης πρέπει να παρακολουθούν τη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου βάσει των οδηγιών χρήσης και, όπου κρίνεται σκόπιμο, να ενημερώνουν τον πάροχο για τυχόν κινδύνους που εντοπίζονται (Άρθρο 26(5)). Δεν πρέπει να χρησιμοποιούν το σύστημα με τρόπους που αντιβαίνουν στις εν λόγω οδηγίες ή να ασκούν πίεση στο προσωπικό που ενδέχεται να υπονομεύει τη δέουσα εποπτεία.

Το Άρθρο 26(7) απαιτεί από τους φορείς ανάπτυξης να διατηρούν αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου στον βαθμό που τα αρχεία αυτά βρίσκονται υπό τον έλεγχό τους, διατηρώντας τα για διάστημα κατάλληλο για τον επιδιωκόμενο σκοπό και τους εφαρμοστέους τομεακούς κανόνες, και όχι λιγότερο από έξι μήνες. Το Άρθρο 26(9) επιβάλλει υποχρέωση στους φορείς ανάπτυξης δημόσιων φορέων και ορισμένους ιδιώτες φορείς εκμετάλλευσης να διεξάγουν και να τεκμηριώνουν εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα πριν από την ανάπτυξη, και να την εγγράφουν στη βάση δεδομένων της ΕΕ που δημιουργήθηκε βάσει του Άρθρου 71.

Τι Σημαίνει Αυτό στην Πράξη

Το Άρθρο 26 επηρεάζει άμεσα κάθε οργανισμό που ενσωματώνει ένα σύστημα ΤΝ υψηλού κινδύνου στις λειτουργίες του χωρίς να είναι ο προγραμματιστής ή ο αρχικός πάροχος αυτού του συστήματος. Τυπικοί φορείς ανάπτυξης περιλαμβάνουν νοσοκομεία που χρησιμοποιούν εργαλεία διαγνωστικής υποστήριξης βάσει ΤΝ, εργοδότες που χρησιμοποιούν ΤΝ για εξέταση υποψηφίων, τράπεζες που χρησιμοποιούν μηχανές βαθμολόγησης πιστοληπτικής ικανότητας βάσει ΤΝ, και δημόσιες αρχές που χρησιμοποιούν ΤΝ για αποφάσεις επιλεξιμότητας παροχών.

Συγκεκριμένα, ένας φορέας ανάπτυξης πρέπει να ξεκινά με την πλήρη ανάγνωση και εφαρμογή των οδηγιών χρήσης του παρόχου — αυτές αποτελούν τη βάση συμμόρφωσης. Πριν τεθεί σε λειτουργία το σύστημα, ο φορέας ανάπτυξης πρέπει να προσδιορίσει ποιο μέλος του προσωπικού ή ποια ομάδα φέρει την ευθύνη εποπτείας και να διασφαλίσει ότι διαθέτουν την εκπαίδευση και την εξουσία να παρεμβαίνουν, να αναστέλλουν ή να παρακάμπτουν τις εκροές του συστήματος. Απαγορεύεται ρητώς η άσκηση πίεσης για αγνόηση ή παράκαμψη μηχανισμών εποπτείας.

Κατά τη λειτουργία, ο φορέας ανάπτυξης πρέπει να διατηρεί αρχεία καταγραφής που δημιουργεί το σύστημα. Για μια τράπεζα που αναπτύσσει ένα μοντέλο πιστωτικού κινδύνου τρίτου μέρους, αυτό σημαίνει διατήρηση αυτόματων αρχείων αποφάσεων για τουλάχιστον έξι μήνες και διασφάλιση ότι είναι προσβάσιμα για ελέγχους ή επιθεωρήσεις από ρυθμιστικές αρχές. Εάν το σύστημα αρχίσει να παράγει απροσδόκητες εκροές ή εμπλακεί σε περιστατικό που προκαλεί ή ενδέχεται να προκαλέσει βλάβη, ο φορέας ανάπτυξης πρέπει να κλιμακώσει αμέσως στον πάροχο και, αν χρειάζεται, στην εθνική εποπτική αρχή.

Φορείς ανάπτυξης του δημόσιου τομέα και ιδιωτικές εταιρείες που παρέχουν υπηρεσίες προς το κοινό αντιμετωπίζουν ένα επιπλέον βήμα: πρέπει να ολοκληρωθεί και να εγγραφεί στη βάση δεδομένων της ΕΕ μια επίσημη εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα πριν από την ενεργοποίηση του συστήματος. Η εκτίμηση αυτή πρέπει να προσδιορίζει προβλέψιμους αντίκτυπους σε δικαιώματα όπως η μη διάκριση, η ιδιωτικότητα και η δέουσα διαδικασία, και να τεκμηριώνει μέτρα μετριασμού.

Φορείς ανάπτυξης που υπερβαίνουν τις οδηγίες τους — επαναχρησιμοποιώντας ένα σύστημα για διαφορετική περίπτωση χρήσης ή τροποποιώντας ουσιωδώς τη διαμόρφωσή του — κινδυνεύουν να επαναταξινομηθούν ως πάροχοι βάσει του Άρθρου 25, εφαρμόζοντας σε αυτούς το πλήρες βάρος των υποχρεώσεων παρόχου συμπεριλαμβανομένης της εκτίμησης συμμόρφωσης.

Βασικές Υποχρεώσεις

• Τήρηση των οδηγιών χρήσης: Ανάπτυξη και λειτουργία του συστήματος ΤΝ υψηλού κινδύνου αυστηρά σύμφωνα με τις οδηγίες του παρόχου· κάθε χρήση εκτός του επιδιωκόμενου σκοπού ενεργοποιεί πιθανή επαναταξινόμηση ως παρόχου.
• Εξασφάλιση αρμόδιας ανθρώπινης εποπτείας: Ορισμός ατόμων με την αναγκαία αρμοδιότητα, εκπαίδευση και εξουσία για την άσκηση αποτελεσματικής ανθρώπινης εποπτείας· απαγορεύεται η οδήγηση ή η κίνητρο προσωπικού να παρακάμπτει λειτουργίες εποπτείας.
• Παρακολούθηση και αναφορά κινδύνων και περιστατικών: Συνεχής παρακολούθηση της απόδοσης του συστήματος· άμεση ειδοποίηση του παρόχου και, κατά περίπτωση, της αρμόδιας αρχής εποπτείας της αγοράς για κάθε σοβαρό κίνδυνο ή περιστατικό που εντοπίζεται κατά τη χρήση.
• Διατήρηση αυτόματα δημιουργούμενων αρχείων καταγραφής: Διατήρηση αρχείων καταγραφής που παράγονται από το σύστημα ΤΝ για τουλάχιστον έξι μήνες ή περισσότερο όπου απαιτείται από εφαρμοστέο δίκαιο ή τομεακούς κανόνες, στον βαθμό που τα αρχεία αυτά βρίσκονται υπό τον έλεγχο του φορέα ανάπτυξης.
• Διεξαγωγή και εγγραφή εκτίμησης αντικτύπου στα θεμελιώδη δικαιώματα: Φορείς ανάπτυξης δημόσιων φορέων και ιδιώτες φορείς εκμετάλλευσης που παρέχουν δημόσιες υπηρεσίες πρέπει να ολοκληρώνουν τεκμηριωμένη εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα και να την εγγράφουν στη βάση δεδομένων της ΕΕ πριν από την ανάπτυξη.
• Ενημέρωση και προστασία εργαζομένων που επηρεάζονται: Όπου το σύστημα χρησιμοποιείται σε πλαίσια απασχόλησης, οι φορείς ανάπτυξης πρέπει να ενημερώνουν τους εκπροσώπους των εργαζομένων και τα επηρεαζόμενα άτομα σύμφωνα με το εφαρμοστέο δίκαιο της Ένωσης και εθνικό δίκαιο πριν από την ανάπτυξη.

Σχέση με Άλλα Άρθρα

Το Άρθρο 26 πρέπει να διαβαστεί σε συνδυασμό με πολλές αλληλοσυνδεόμενες διατάξεις. Το Άρθρο 25 ορίζει πότε ένας φορέας ανάπτυξης επαναταξινομείται ως πάροχος — ένα κατώφλι που οι φορείς ανάπτυξης πρέπει να παρακολουθούν ενεργά κάθε φορά που τροποποιούν ή επαναχρησιμοποιούν ένα σύστημα. Το Άρθρο 13 (Διαφάνεια και παροχή πληροφοριών στους φορείς ανάπτυξης) διέπει τι πρέπει να κοινοποιεί ο πάροχος μέσω οδηγιών χρήσης, διαμορφώνοντας άμεσα την εμφάνιση της συμμόρφωσης με το Άρθρο 26(1). Το Άρθρο 14 (Ανθρώπινη εποπτεία) αναπτύσσει τις τεχνικές απαιτήσεις που πρέπει να ενσωματώνουν οι πάροχοι στα συστήματα για να επιτρέψουν στους φορείς ανάπτυξης να εκπληρώνουν τα καθήκοντα εποπτείας τους βάσει του Άρθρου 26(2).

Το Άρθρο 71 (Βάση δεδομένων ΕΕ) υπόκειται στην απαίτηση εγγραφής που επιβάλλεται στους δημόσιους φορείς ανάπτυξης από το Άρθρο 26(9). Το Άρθρο 73 (Αναφορά σοβαρών περιστατικών) συμπληρώνει το Άρθρο 26(5) με την παροχή λεπτομερούς πλαισίου διαδικασίας για κοινοποιήσεις περιστατικών. Σε πλαίσια απασχόλησης, το Άρθρο 26(6) διασταυρώνεται με την Οδηγία 2002/14/ΕΚ για την ενημέρωση και διαβούλευση των εργαζομένων. Για φορείς ανάπτυξης σε ρυθμιζόμενους τομείς — χρηματοδότηση, υγεία, μεταφορές — το τομεακό δίκαιο της Ένωσης ενδέχεται να επιβάλλει πρόσθετες ή επικαλυπτόμενες υποχρεώσεις που αλληλεπιδρούν με τη βάση του Άρθρου 26.

Χρονοδιάγραμμα Συμμόρφωσης

Η Πράξη ΕΕ για την ΤΝ τέθηκε σε ισχύ την 1η Αυγούστου 2024, με υποχρεώσεις που εφαρμόζονται σύμφωνα με σταδιακό χρονοδιάγραμμα. Οι διατάξεις για απαγορευμένες πρακτικές ΤΝ έγιναν εφαρμοστέες στις 2 Φεβρουαρίου 2025. Οι υποχρεώσεις που σχετίζονται με μοντέλα τεχνητής νοημοσύνης γενικού σκοπού έγιναν εφαρμοστέες στις 2 Αυγούστου 2025.

Το Άρθρο 26, ως υποχρέωση εφαρμοστέα στα συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο Παράρτημα III, καθίσταται εφαρμοστέο στις 2 Αυγούστου 2026 για τα περισσότερα συστήματα υψηλού κινδύνου, με εκτεταμένη προθεσμία στις 2 Αυγούστου 2027 για συστήματα ΤΝ υψηλού κινδύνου στους τομείς απασχόλησης, εκπαίδευσης και πρόσβασης σε βασικές υπηρεσίες όπου εφαρμόζεται υφιστάμενη νομοθεσία εναρμόνισης της Ένωσης (τα συστήματα αυτά απαριθμούνται στο Παράρτημα I). Οι φορείς ανάπτυξης θα πρέπει ως εκ τούτου να αντιμετωπίζουν την 2η Αυγούστου 2026 ως την κύρια προθεσμία συμμόρφωσης για επιχειρησιακή ετοιμότητα, ορισμό ανθρώπινης εποπτείας, υποδομή διατήρησης αρχείων καταγραφής και διαδικασίες εκτίμησης αντικτύπου στα θεμελιώδη δικαιώματα, ξεκινώντας ταυτόχρονα αμέσως προπαρασκευαστικές εργασίες για να υπάρχει επαρκής χρόνος για διακυβέρνηση, αναθεώρηση προμηθειών και εκπαίδευση προσωπικού.