Άρθρο 13 — Διαφάνεια και παροχή πληροφοριών στους φορείς εκμετάλλευσης (EU AI Act)

Άρθρο 13 του Κανονισμού (ΕΕ) 2024/1689 — Διαφάνεια και παροχή πληροφοριών στους φορείς εκμετάλλευσης. Επίσημο κείμενο, πρακτική ερμηνεία, βασικές υποχρεώσεις και επιπτώσεις συμμόρφωσης.

Σύνοψη Επίσημου Κειμένου

Το Άρθρο 13 του Κανονισμού (ΕΕ) 2024/1689 (EU AI Act) θεσπίζει υποχρεώσεις διαφάνειας που εφαρμόζονται στα συστήματα ΤΝ υψηλού κινδύνου όπως ορίζονται στον Τίτλο III. Απαιτεί από τους παρόχους να σχεδιάζουν και να αναπτύσσουν συστήματα ΤΝ υψηλού κινδύνου κατά τρόπο που επιτρέπει στους φορείς εκμετάλλευσης να κατανοούν και να ερμηνεύουν ορθά τα αποτελέσματα αυτών των συστημάτων και να τα χρησιμοποιούν κατάλληλα.

Ο κεντρικός μηχανισμός του άρθρου είναι η υποχρεωτική παροχή οδηγιών χρήσης — ένα δομημένο έγγραφο που πρέπει να συνοδεύει κάθε σύστημα ΤΝ υψηλού κινδύνου που διατίθεται στην αγορά ή τίθεται σε λειτουργία. Το Άρθρο 13(3) ορίζει αναλυτικά το ελάχιστο περιεχόμενο αυτού του εγγράφου. Πρέπει να περιλαμβάνει: την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου· τα χαρακτηριστικά, τις δυνατότητες και τους περιορισμούς του συστήματος, συμπεριλαμβανομένου του σκοπού του και των συγκεκριμένων πλαισίων για τα οποία έχει επικυρωθεί· το επίπεδο ακρίβειας, ανθεκτικότητας και κυβερνοασφάλειας έναντι του οποίου έχει δοκιμαστεί το σύστημα, μαζί με τυχόν γνωστές και προβλέψιμες συνθήκες που μπορεί να επηρεάσουν αυτή την απόδοση· κατά περίπτωση, τεχνικές δυνατότητες σχετικά με την ανθρώπινη εποπτεία, συμπεριλαμβανομένων μέτρων για τη διευκόλυνση της ερμηνείας των αποτελεσμάτων· και καθοδήγηση σχετικά με τα δεδομένα εισόδου και το περιβάλλον υλικού και λογισμικού στο οποίο προορίζεται να λειτουργεί το σύστημα.

Η διαφάνεια που απαιτείται από το Άρθρο 13 δεν είναι απλώς ενημερωτική: αποτελεί προϋπόθεση για την ουσιαστική ανθρώπινη εποπτεία που επιβάλλεται από το Άρθρο 14. Οι πάροχοι δεν μπορούν να εκπληρώσουν τις υποχρεώσεις του Άρθρου 14 εάν οι φορείς εκμετάλλευσης στερούνται της κατανόησης που αποσκοπεί να μεταδώσει το Άρθρο 13.

Τι Σημαίνει Αυτό στην Πράξη

Για οργανισμούς που αναπτύσσουν ή εμπορεύονται συστήματα ΤΝ υψηλού κινδύνου, το Άρθρο 13 μεταφράζεται σε συγκεκριμένη υποχρέωση τεκμηρίωσης που πρέπει να ενσωματωθεί στον κύκλο ζωής ανάπτυξης του προϊόντος και όχι να αντιμετωπίζεται ως παρεμπίπτον ζήτημα.

Για τους παρόχους, αυτό σημαίνει παραγωγή οδηγιών χρήσης που υπερβαίνουν κατά πολύ ένα τυπικό τεχνικό εγχειρίδιο. Το έγγραφο πρέπει να είναι προσαρμοσμένο στο κοινό των φορέων εκμετάλλευσης — συνήθως έναν οργανισμό που προμηθεύεται το σύστημα ΤΝ για ένα συγκεκριμένο επιχειρησιακό πλαίσιο, και όχι απαραίτητα έναν μηχανικό ΤΝ. Συγκεκριμένα παραδείγματα αυτών που πρέπει να καλύπτονται περιλαμβάνουν: τα ποσοστά ακρίβειας που επιτεύχθηκαν κατά την επικύρωση, αναλυμένα ανά σχετικές υποομάδες πληθυσμού κατά περίπτωση (σημαντικό για συστήματα που χρησιμοποιούνται σε προσλήψεις ή αξιολογήσεις πιστοληπτικής ικανότητας)· τους τύπους δεδομένων εισόδου με τους οποίους έχει εκπαιδευτεί το σύστημα και ποιες αποκλίσεις από αυτή την κατανομή ενδέχεται να προκαλέσουν μειωμένη απόδοση· και συγκεκριμένες οδηγίες για το πώς ένας ανθρώπινος αναθεωρητής πρέπει να ερμηνεύει έναν δείκτη εμπιστοσύνης ή μια ένδειξη κινδύνου που παράγει το σύστημα.

Για τους φορείς εκμετάλλευσης, το Άρθρο 13 αποτελεί τη βάση της διαδικασίας δέουσας επιμέλειας πριν από την ανάπτυξη. Ένας φορέας εκμετάλλευσης που προμηθεύεται ένα σύστημα ΤΝ υψηλού κινδύνου πρέπει να επαληθεύει ότι οι οδηγίες χρήσης είναι παρούσες και ουσιαστικές. Η απουσία επαρκών οδηγιών αποτελεί από μόνη της σήμα συμμόρφωσης για τον πάροχο. Οι φορείς εκμετάλλευσης σε ρυθμιζόμενους τομείς — πιστωτικά ιδρύματα, πάροχοι υγειονομικής περίθαλψης, δημόσιες αρχές — θα πρέπει να ενσωματώνουν την επανεξέταση της τεκμηρίωσης του Άρθρου 13 στις διαδικασίες αξιολόγησης προμηθευτών και προμηθειών τους.

Πρακτικά παραδείγματα: Ένας πάροχος εργαλείου βιογραφικών αξιολόγησης που βασίζεται σε ΤΝ (υψηλού κινδύνου βάσει του Παραρτήματος III, σημείο 4) πρέπει να τεκμηριώνει την ακρίβειά του σε δημογραφικές ομάδες και τις συνθήκες υπό τις οποίες τα αποτελέσματα του συστήματος δεν πρέπει να αξιολογούνται χωρίς ανθρώπινη επανεξέταση. Ένας πάροχος συστήματος ΤΝ που χρησιμοποιείται για πιστολη πτική βαθμολόγηση πρέπει να προσδιορίζει τα απαιτούμενα δεδομένα εισόδου και τη στατιστική εμπιστοσύνη των ταξινομήσεων κινδύνου.

Βασικές Υποχρεώσεις

• Σχεδιασμός για ερμηνευσιμότητα: Τα συστήματα ΤΝ υψηλού κινδύνου πρέπει να σχεδιάζονται και να αναπτύσσονται έτσι ώστε η λειτουργία τους να είναι επαρκώς διαφανής για τους φορείς εκμετάλλευσης ώστε να ερμηνεύουν τα αποτελέσματα και να χρησιμοποιούν το σύστημα κατάλληλα (Άρθρο 13(1)).
• Παροχή οδηγιών χρήσης: Οι πάροχοι πρέπει να παρέχουν οδηγίες χρήσης σε ψηφιακή ή φυσική μορφή με κάθε σύστημα ΤΝ υψηλού κινδύνου που διατίθεται στην αγορά ή τίθεται σε λειτουργία (Άρθρο 13(2)).
• Γνωστοποίηση ταυτότητας και στοιχείων επικοινωνίας: Οι οδηγίες πρέπει να αναγνωρίζουν τον πάροχο και να παρέχουν στοιχεία επικοινωνίας που επιτρέπουν στον φορέα εκμετάλλευσης να υποβάλλει ερωτήματα που αφορούν τη συμμόρφωση (Άρθρο 13(3)(α)).
• Τεκμηρίωση δυνατοτήτων και περιορισμών: Οι οδηγίες πρέπει να περιγράφουν τον σκοπό του συστήματος, τα επίπεδα απόδοσής του όπως επικυρώθηκαν, γνωστές ή προβλέψιμες συνθήκες υπό τις οποίες η απόδοση μπορεί να υποχωρήσει κάτω από τα τεκμηριωμένα επίπεδα, και τυχόν γνωστές προκαταλήψεις (Άρθρο 13(3)(β)).
• Προσδιορισμός απαιτήσεων δεδομένων εισόδου: Κατά περίπτωση για την απόδοση, οι οδηγίες πρέπει να περιγράφουν τη φύση, τη μορφή και την προέλευση των δεδομένων που απαιτεί το σύστημα ως είσοδο (Άρθρο 13(3)(γ)).
• Ενεργοποίηση ανθρώπινης εποπτείας: Οι οδηγίες πρέπει να περιλαμβάνουν πληροφορίες για τα μέτρα που έχουν ενσωματωθεί στο σύστημα για την υποστήριξη των υποχρεώσεων ανθρώπινης εποπτείας του Άρθρου 14, συμπεριλαμβανομένης καθοδήγησης για το πώς να ερμηνεύονται και να αντιμετωπίζονται τα αποτελέσματα του συστήματος (Άρθρο 13(3)(δ) και (ε)).

Σχέση με Άλλα Άρθρα

Το Άρθρο 13 βρίσκεται στη διασταύρωση αρκετών αλληλένδετων υποχρεώσεων στον Τίτλο III, Κεφάλαιο 2. Είναι επιχειρησιακά αδιαχώριστο από το Άρθρο 14 (Ανθρώπινη εποπτεία): τα μέτρα που επιτρέπουν την ανθρώπινη εποπτεία που περιγράφονται στο Άρθρο 13(3)(δ) αποτελούν την άμεση πληροφοριακή προϋπόθεση για τους φορείς εκμετάλλευσης ώστε να μπορούν να ασκούν τα καθήκοντα εποπτείας που τους επιβάλλει το Άρθρο 14. Χωρίς επαρκείς οδηγίες κατά το Άρθρο 13, η συμμόρφωση με το Άρθρο 14 είναι δομικά αδύνατη.

Το Άρθρο 13 βασίζεται στην τεχνική τεκμηρίωση που παράγεται βάσει του Άρθρου 11, το οποίο απαιτεί από τους παρόχους να διατηρούν πλήρη τεκμηρίωση των συστημάτων ΤΝ υψηλού κινδύνου. Οι οδηγίες χρήσης αποτελούν ένα απόσπασμα που απευθύνεται στους φορείς εκμετάλλευσης από το ευρύτερο σύνολο τεκμηρίωσης.

Οι υποχρεώσεις αλληλεπιδρούν με το Άρθρο 16 (υποχρεώσεις παρόχων) και το Άρθρο 26 (υποχρεώσεις φορέων εκμετάλλευσης), που καθορίζουν πώς κάθε μέρος πρέπει να εκπληρώνει τον αντίστοιχο ρόλο του μόλις το σύστημα βρίσκεται στην αγορά. Για συστήματα που υποβάλλονται σε αξιολόγηση συμμόρφωσης βάσει του Άρθρου 43, οι οδηγίες χρήσης αποτελούν απαιτούμενο στοιχείο του φακέλου αξιολόγησης συμμόρφωσης που εξετάζεται από κοινοποιημένους οργανισμούς.

Τέλος, το Άρθρο 13 συνδέεται με το Άρθρο 50 (υποχρεώσεις διαφάνειας για ορισμένα συστήματα ΤΝ) καθώς και τα δύο αφορούν τη διαφάνεια, αλλά το Άρθρο 50 αποσκοπεί σε διαφορετικό πλαίσιο — συστήματα ΤΝ που αλληλεπιδρούν με φυσικά πρόσωπα και όχι με επαγγελματίες φορείς εκμετάλλευσης.

Χρονοδιάγραμμα Συμμόρφωσης

Ο EU AI Act τέθηκε σε ισχύ την 1η Αυγούστου 2024, είκοσι ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης. Η εφαρμογή είναι σταδιακή:

• 2 Φεβρουαρίου 2025: Κατέστησαν εφαρμοστέες οι απαγορεύσεις επί πρακτικών ΤΝ απαράδεκτου κινδύνου (Άρθρο 5).
• 2 Αυγούστου 2025: Κατέστησαν εφαρμοστέοι οι κανόνες που διέπουν τα μοντέλα ΤΝ γενικού σκοπού (Τίτλος VIII, Άρθρα 51–56) και οι υποχρεώσεις διακυβέρνησης.
• 2 Αυγούστου 2026: Το Άρθρο 13 καθίσταται εφαρμοστέο στα συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο Παράρτημα III (αυτόνομα συστήματα υψηλού κινδύνου, συμπεριλαμβανομένων αυτών που χρησιμοποιούνται σε βιομετρική αναγνώριση, κρίσιμες υποδομές, εκπαίδευση, απασχόληση, βασικές υπηρεσίες, επιβολή νόμου, μετανάστευση και απονομή δικαιοσύνης).
• 2 Αυγούστου 2027: Το Άρθρο 13 καθίσταται εφαρμοστέο στα συστήματα ΤΝ υψηλού κινδύνου που καλύπτονται από το Παράρτημα I (συστήματα ΤΝ που αποτελούν στοιχεία ασφάλειας προϊόντων υποκείμενων στην υφιστάμενη νομοθεσία ασφάλειας προϊόντων ΕΕ, όπως μηχανήματα, ιατροτεχνολογικά προϊόντα και εξοπλισμός πολιτικής αεροπορίας).

Οι πάροχοι που στοχεύουν στην προθεσμία Αυγούστου 2026 θα πρέπει να αντιμετωπίζουν την τρέχουσα περίοδο ως ενεργό χρόνο προετοιμασίας. Οι οδηγίες χρήσης πρέπει να οριστικοποιηθούν και να επικυρωθούν έναντι των απαιτήσεων του Άρθρου 13(3) πριν το σύστημα διατεθεί στην αγορά, και όχι μετά. Οι οργανισμοί που προμηθεύονται συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να αρχίσουν τώρα να ενσωματώνουν την επαλήθευση κατά το Άρθρο 13 στις διαδικασίες δέουσας επιμέλειας προμηθευτών, πριν από τις εφαρμοστέες ημερομηνίες.