Άρθρο 4 — Εγγραμματισμός στην ΤΝ (Πράξη ΕΕ για την ΤΝ)

Άρθρο 4 του Κανονισμού (ΕΕ) 2024/1689 — Εγγραμματισμός στην ΤΝ. Επίσημο κείμενο, πρακτική ερμηνεία, βασικές υποχρεώσεις και επιπτώσεις συμμόρφωσης.

Περίληψη Επίσημου Κειμένου

Το Άρθρο 4 του Κανονισμού (ΕΕ) 2024/1689 θεσπίζει γενική υποχρέωση εγγραμματισμού στην ΤΝ για παρόχους και αναπτύσσοντες συστημάτων ΤΝ που λειτουργούν εντός του πεδίου εφαρμογής του Κανονισμού. Το άρθρο απαιτεί από παρόχους και αναπτύσσοντες να λαμβάνουν μέτρα για να διασφαλίζουν, στο μέτρο του δυνατού, ότι το προσωπικό τους και τυχόν άλλα πρόσωπα που ενεργούν εκ μέρους τους και εμπλέκονται στη λειτουργία και χρήση συστημάτων ΤΝ κατέχουν επαρκή βαθμό εγγραμματισμού στην ΤΝ.

Το άρθρο ορίζει τον εγγραμματισμό στην ΤΝ ως τις δεξιότητες, γνώσεις και κατανόηση που επιτρέπουν στα πρόσωπα να λαμβάνουν ενημερωμένες αποφάσεις σχετικά με συστήματα ΤΝ, να τα αναπτύσσουν και να τα χρησιμοποιούν σωστά και να γνωρίζουν τις επιπτώσεις που μπορεί να έχουν αυτά τα συστήματα. Κρίσιμα, η υποχρέωση βαθμονομείται: το απαιτούμενο επίπεδο εγγραμματισμού πρέπει να είναι ανάλογο με τις τεχνικές γνώσεις, την εμπειρία, την εκπαίδευση, την κατάρτιση και το πλαίσιο των εμπλεκομένων ατόμων, καθώς και με τα συστήματα ΤΝ που χειρίζονται.

Το Άρθρο 4 επομένως δεν επιβάλλει ενιαίο πρότυπο. Αντίθετα, δημιουργεί πλαίσιο δέουσας επιμέλειας υπό το οποίο οι οργανισμοί πρέπει να αξιολογούν τις ανάγκες ικανότητας του σχετικού προσωπικού σε σχέση με τα εμπλεκόμενα συστήματα ΤΝ και να λαμβάνουν κατάλληλη διορθωτική ή αναπτυξιακή δράση όπου υπάρχουν κενά. Η διάταξη αντικατοπτρίζει την πρόθεση του νομοθέτη — που διατυπώνεται στην Αιτιολογική Σκέψη 20 — ότι η ανθρώπινη εποπτεία συστημάτων ΤΝ είναι ουσιαστική μόνο εφόσον τα πρόσωπα που ασκούν αυτή την εποπτεία κατέχουν τη θεμελιώδη κατανόηση που απαιτείται για να το πράξουν αποτελεσματικά. Η υποχρέωση έχει οριζόντιο πεδίο εφαρμογής: εφαρμόζεται ανεξάρτητα από την κατηγορία κινδύνου του εμπλεκόμενου συστήματος ΤΝ, καθιστώντας την μία από τις λίγες διατάξεις στον Τίτλο I που δημιουργεί άμεσες, εφαρμόσιμες υποχρεώσεις για όλους τους φορείς εντός της εμβέλειας του Κανονισμού.

Τι Σημαίνει Αυτό στην Πράξη

Το Άρθρο 4 δημιουργεί συνεχή υποχρέωση εσωτερικής διακυβέρνησης. Κάθε οργανισμός που χαρακτηρίζεται ως πάροχος (που διαθέτει σύστημα ΤΝ στην αγορά ΕΕ ή το θέτει σε λειτουργία) ή αναπτύσσων (που χρησιμοποιεί σύστημα ΤΝ υπό την αρχή του σε επαγγελματικό πλαίσιο) πρέπει ενεργά να αξιολογεί και να αντιμετωπίζει τον εγγραμματισμό στην ΤΝ του σχετικού προσωπικού.

Στην πράξη, αυτό σημαίνει ότι οι οργανισμοί θα πρέπει να ξεκινούν χαρτογραφώντας ποιοι ρόλοι αλληλεπιδρούν με συστήματα ΤΝ — είτε κατασκευάζοντας, ενσωματώνοντας, λειτουργώντας, εποπτεύοντας ή αναθεωρώντας εξόδους ΤΝ. Μια νομική ομάδα που χρησιμοποιεί εργαλείο ανάλυσης συμβολαίων, ένα τμήμα HR που αναπτύσσει σύστημα ελέγχου βιογραφικών σημειωμάτων ή μια ομάδα μηχανικών που συντηρεί ένα μοντέλο προβλεπτικής συντήρησης εμπίπτουν όλα στο πεδίο εφαρμογής. Κάθε κάτοχος ρόλου πρέπει να διαθέτει επίπεδο εγγραμματισμού στην ΤΝ ανάλογο με τις αρμοδιότητές του.

Συγκεκριμένα, οι ενέργειες συμμόρφωσης μπορεί να περιλαμβάνουν:

• Διεξαγωγή αξιολόγησης κενών δεξιοτήτων σε ρόλους που συνδέονται με την ΤΝ
• Σχεδιασμό ή προμήθεια κατάρτισης ειδικής ανά ρόλο (το τεχνικό προσωπικό απαιτεί βαθύτερη γνώση συμπεριφοράς μοντέλου, μεροληψίας και αβεβαιότητας· οι επαγγελματικοί χρήστες απαιτούν επίγνωση περιορισμών και οδών κλιμάκωσης)
• Τεκμηρίωση ληφθέντων μέτρων εγγραμματισμού ως μέρος ευρύτερων αρχείων διακυβέρνησης ΤΝ
• Επανεξέταση και ανανέωση προγραμμάτων εγγραμματισμού καθώς τα συστήματα ΤΝ εξελίσσονται ή εισάγονται νέα συστήματα

Μια εταιρεία logistics που αναπτύσσει μοντέλο βελτιστοποίησης διαδρομής, για παράδειγμα, θα πρέπει να διασφαλίζει ότι οι χειριστές που ενεργούν βάσει των συστάσεων του μοντέλου κατανοούν τα εύρη εμπιστοσύνης του συστήματος, τις γνωστές αδυναμίες και πότε να υπερισχύσουν. Ομοίως, ένας πάροχος υγειονομικής περίθαλψης που αναπτύσσει εργαλείο υποστήριξης διάγνωσης πρέπει να διασφαλίζει ότι οι κλινικοί γιατροί κατανοούν τι κάνει και τι δεν κάνει το εργαλείο πριν βασιστούν στα αποτελέσματά του. Η αρχή αναλογικότητας σημαίνει ότι ένας μεμονωμένος επαγγελματίας που αναπτύσσει ένα απλό εργαλείο ΤΝ θα αντιμετωπίζει ελαφρύτερες υποχρεώσεις από μια πολυεθνική που αναπτύσσει συστήματα υψηλού κινδύνου σε κλίμακα.

Βασικές Υποχρεώσεις

• Αξιολόγηση αναγκών εγγραμματισμού στην ΤΝ: Πάροχοι και αναπτύσσοντες πρέπει να εντοπίζουν ποιο προσωπικό και διορισμένα πρόσωπα αλληλεπιδρούν με συστήματα ΤΝ και να αξιολογούν το υπάρχον επίπεδο εγγραμματισμού στην ΤΝ τους έναντι των απαιτήσεων αυτών των ρόλων.
• Λήψη κατάλληλων μέτρων εγγραμματισμού: Οι οργανισμοί πρέπει να εφαρμόζουν ενεργά μέτρα — κατάρτιση, τεκμηρίωση, καθοδήγηση ή δομημένη αναβάθμιση δεξιοτήτων — ανάλογα με τον ρόλο κάθε προσώπου, την υπάρχουσα ικανότητά του και τα εμπλεκόμενα συστήματα.
• Εφαρμογή αναλογικότητας: Το επίπεδο εγγραμματισμού στην ΤΝ που απαιτείται δεν είναι ενιαίο· πρέπει να αντικατοπτρίζει την τεχνική πολυπλοκότητα του συστήματος ΤΝ, τον βαθμό αυτονομίας που ασκεί και την πιθανή επίπτωση των αποφάσεων του κατόχου ρόλου.
• Διατήρηση συνεχούς κάλυψης: Η υποχρέωση είναι συνεχής. Καθώς τα συστήματα ΤΝ αλλάζουν, καθώς αναπτύσσονται νέα συστήματα ή καθώς το προσωπικό μετακινείται σε ρόλους που συνδέονται με την ΤΝ, τα μέτρα εγγραμματισμού πρέπει να επανεξετάζονται και να ενημερώνονται αναλόγως.
• Επέκταση υποχρέωσης σε τρίτους που ενεργούν εκ μέρους του οργανισμού: Το άρθρο ρητά καλύπτει πρόσωπα που ενεργούν εκ μέρους παρόχων ή αναπτυσσόντων, πράγμα που σημαίνει ότι συμβασιακό προσωπικό, πάροχοι υπηρεσιών και αντιπρόσωποι που εμπλέκονται στη λειτουργία συστήματος ΤΝ εμπίπτουν στο πεδίο εφαρμογής.
• Τεκμηρίωση προσπαθειών: Ενώ το Άρθρο 4 δεν καθορίζει απαίτηση τεκμηρίωσης, η ευθυγράμμιση με τις ευρύτερες προσδοκίες διακυβέρνησης του Κανονισμού (ιδίως για συστήματα υψηλού κινδύνου) σημαίνει ότι τα αρχεία αξιολογήσεων εγγραμματισμού και δραστηριοτήτων κατάρτισης αποτελούν βέλτιστη πρακτική και υποστηρίζουν αποδεδειγμένη συμμόρφωση.

Σχέση με Άλλα Άρθρα

Το Άρθρο 4 εντάσσεται στον Τίτλο I (Γενικές Διατάξεις) και λειτουργεί ως οριζόντιος ενεργοποιητής για τις πιο συγκεκριμένες υποχρεώσεις του Κανονισμού. Συνδέεται άμεσα με το Άρθρο 9 (σύστημα διαχείρισης κινδύνων για ΤΝ υψηλού κινδύνου), που απαιτεί τα πρόσωπα υπεύθυνα για τη διαχείριση κινδύνων ΤΝ να κατέχουν την απαραίτητη ικανότητα — ένα πρότυπο που προϋποθέτει βασικό εγγραμματισμό στην ΤΝ. Ενισχύει το Άρθρο 14 (ανθρώπινη εποπτεία), όπου ουσιαστική εποπτεία από φυσικά πρόσωπα εξαρτάται από το αν αυτά τα πρόσωπα κατανοούν τα αποτελέσματα, τους περιορισμούς και τις αδυναμίες του συστήματος ΤΝ.

Το Άρθρο 4 συνδέεται επίσης με το Άρθρο 16(ζ), που απαιτεί από παρόχους συστημάτων ΤΝ υψηλού κινδύνου να λαμβάνουν μέτρα ώστε οι αναπτύσσοντες να μπορούν να ερμηνεύουν και να χρησιμοποιούν το σύστημα κατάλληλα, και με το Άρθρο 26(2), που υποχρεώνει τους αναπτύσσοντες να αναθέτουν ανθρώπινη εποπτεία σε πρόσωπα με την απαραίτητη ικανότητα. Στο πλαίσιο μοντέλων ΤΝ γενικού σκοπού (Τίτλος VIII), το Άρθρο 4 υποστηρίζει την προσδοκία ότι οι αναπτύσσοντες που βασίζονται σε εξόδους μοντέλου GPAI κατανοούν τη φύση και τους περιορισμούς αυτών των μοντέλων. Η ανάγνωση του Άρθρου 4 παράλληλα με την Αιτιολογική Σκέψη 20 διευκρινίζει την πρόθεση του νομοθέτη ότι ο εγγραμματισμός στην ΤΝ αποτελεί προϋπόθεση για την αποτελεσματική άσκηση όλων των άλλων υποχρεώσεων βάσει του Κανονισμού.

Χρονοδιάγραμμα Συμμόρφωσης

Η Πράξη ΕΕ για την ΤΝ τέθηκε σε ισχύ την 1η Αυγούστου 2024, είκοσι ημέρες μετά τη δημοσίευση στην Επίσημη Εφημερίδα. Ο Κανονισμός εφαρμόζεται σε φάσεις:

• 2 Φεβρουαρίου 2025 — Κατέστησαν εφαρμοστέες οι απαγορεύσεις πρακτικών ΤΝ μη αποδεκτού κινδύνου (Άρθρο 5).
• 2 Αυγούστου 2025 — Κατέστη εφαρμοστέο το Άρθρο 4, παράλληλα με διατάξεις για μοντέλα ΤΝ γενικού σκοπού (Τίτλος VIII) και τις υποχρεώσεις που διέπουν κοινοποιημένους οργανισμούς και αρχές εποπτείας αγοράς. Οι οργανισμοί θα έπρεπε να έχουν εφαρμόσει μέτρα εγγραμματισμού στην ΤΝ έως αυτή την ημερομηνία.
• 2 Αυγούστου 2026 — Εφαρμόζονται υποχρεώσεις για συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο Annex I (συστήματα στοιχείων ασφαλείας σε ρυθμιζόμενα προϊόντα).
• 2 Αυγούστου 2027 — Εφαρμόζονται πλήρως υποχρεώσεις για συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο Annex III (αυτόνομα συστήματα υψηλού κινδύνου), συμπεριλαμβανομένων των Άρθρων 9–14 και 26, για τα οποία ο εγγραμματισμός βάσει του Άρθρου 4 αποτελεί προϋπόθεση.

Οργανισμοί που δεν έχουν ακόμη διεξαγάγει αξιολόγηση κενών εγγραμματισμού ή εφαρμόσει οποιαδήποτε μέτρα κατάρτισης είναι ήδη μη συμμορφούμενοι με το Άρθρο 4 από τον Αύγουστο του 2025 και θα πρέπει να αντιμετωπίζουν την αποκατάσταση ως άμεση προτεραιότητα.