Άρθρο 5 — Απαγορευμένες πρακτικές ΤΝ (Πράξη ΕΕ για την ΤΝ)

Άρθρο 5 του Κανονισμού (ΕΕ) 2024/1689 — Απαγορευμένες πρακτικές ΤΝ. Επίσημο κείμενο, πρακτική ερμηνεία, βασικές υποχρεώσεις και επιπτώσεις συμμόρφωσης.

Περίληψη Επίσημου Κειμένου

Το Άρθρο 5 του Κανονισμού (ΕΕ) 2024/1689 (Πράξη ΕΕ για την ΤΝ) αποτελεί το σύνολο του Τίτλου II και θεσπίζει απόλυτο κατάλογο πρακτικών ΤΝ που απαγορεύονται σε ολόκληρη την Ευρωπαϊκή Ένωση. Οι απαγορεύσεις στοχεύουν συστήματα ΤΝ των οποίων η δυνατότητα βλάβης κρίνεται τόσο σοβαρή ώστε κανένα μέτρο διαχείρισης κινδύνων ή αξιολόγησης συμμόρφωσης δεν μπορεί να τα καταστήσει αποδεκτά.

Το άρθρο απαγορεύει: (1) συστήματα ΤΝ που χρησιμοποιούν υποσυνείδητες τεχνικές πέραν της συνείδησης ενός προσώπου ή εκ προθέσεως εκμεταλλεύονται ψυχολογικές αδυναμίες ή ευπάθειες για να παραμορφώσουν ουσιαστικά τη συμπεριφορά με τρόπο που προκαλεί ή ενδέχεται να προκαλέσει σημαντική βλάβη· (2) συστήματα ΤΝ που εκμεταλλεύονται ηλικία, αναπηρία ή κοινωνικοοικονομικές συνθήκες για να παραμορφώσουν βλαπτικά τη συμπεριφορά· (3) συστήματα ΤΝ που χρησιμοποιούνται από δημόσιες αρχές ή εκ μέρους τους για κοινωνική βαθμολόγηση — αξιολόγηση ή ταξινόμηση φυσικών προσώπων βάσει κοινωνικής συμπεριφοράς ή συναγόμενων προσωπικών χαρακτηριστικών — όταν αυτό οδηγεί σε επιζήμια ή δυσμενή μεταχείριση· (4) συστήματα ΤΝ που αξιολογούν τον κίνδυνο τέλεσης ποινικού αδικήματος από άτομο αποκλειστικά βάσει κατάρτισης προφίλ ή χαρακτηριστικών προσωπικότητας· (5) βιομετρική αναγνώριση φυσικών προσώπων εξ αποστάσεως σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής νόμου, με τήρηση περιορισμένων και αυστηρά ελεγχόμενων εξαιρέσεων· (6) συστήματα βιομετρικής αναγνώρισης σε πραγματικό χρόνο ή εκ των υστέρων εξ αποστάσεως που χρησιμοποιούνται για τον εντοπισμό ευαίσθητων χαρακτηριστικών όπως φυλή, πολιτική γνώμη, συμμετοχή σε συνδικαλιστική οργάνωση, θρησκευτικές πεποιθήσεις ή σεξουαλικό προσανατολισμό· (7) συστήματα ΤΝ που δημιουργούν ή επεκτείνουν βάσεις δεδομένων αναγνώρισης προσώπων μέσω μη στοχευμένης περισυλλογής από το διαδίκτυο ή πλάνα CCTV· και (8) συστήματα ΤΝ που συνάγουν συναισθήματα φυσικών προσώπων σε εργασιακά και εκπαιδευτικά πλαίσια, εκτός για λόγους ασφάλειας.

Τι Σημαίνει Αυτό στην Πράξη

Το Άρθρο 5 χαράσσει ένα σκληρό όριο συμμόρφωσης που επηρεάζει κάθε οργανισμό που αναπτύσσει, εκμεταλλεύεται ή εισάγει συστήματα ΤΝ στην αγορά της ΕΕ, ανεξάρτητα από μέγεθος ή τομέα.

Για παρόχους τεχνολογίας και προγραμματιστές ΤΝ, οι απαγορεύσεις σημαίνουν ότι ορισμένες κατηγορίες προϊόντων απλώς δεν μπορούν να διατεθούν νόμιμα στην αγορά της ΕΕ. Ένας προμηθευτής που διαθέτει στην αγορά εργαλείο παραγωγικότητας εργατικού δυναμικού που περιλαμβάνει αναγνώριση συναισθημάτων για παρακολούθηση της δέσμευσης εργαζομένων — σηματοδοτώντας σε διευθυντές εκνευρισμένους ή αποδεσμευμένους εργαζομένους — πρέπει να αφαιρέσει ή να επανασχεδιάσει αυτό το χαρακτηριστικό πριν την 2α Φεβρουαρίου 2025. Ομοίως, μια νεοφυής επιχείρηση λιανικής αναλυτικής της οποίας το σύστημα συνάγει τη διάθεση πελατών από εκφράσεις του προσώπου στο κατάστημα εμπίπτει στην απαγόρευση εξαγωγής συμπερασμάτων συναισθημάτων σε μη σχετικά με την ασφάλεια πλαίσια.

Για οργανισμούς που χρησιμοποιούν εργαλεία ΤΝ τρίτων, η δέουσα επιμέλεια είναι εξίσου υποχρεωτική. Ένα τμήμα ανθρώπινου δυναμικού που αναπτύσσει πλατφόρμα πρόσληψης που πραγματοποιεί κρυφή ψυχογραφική κατάρτιση προφίλ για αξιολόγηση υποψηφίων κινδυνεύει από κοινή ευθύνη ως αναπτύσσων.

Για δημόσιες αρχές, η απαγόρευση κοινωνικής βαθμολόγησης είναι ιδιαίτερα σημαντική. Οποιοδήποτε σύστημα ΤΝ που συγκεντρώνει συμπεριφορικά δεδομένα — ιστορικό πληρωμών, πρότυπα κινητικότητας, διαδικτυακή δραστηριότητα — για την παραγωγή βαθμολογίας πολίτη που στη συνέχεια περιορίζει την πρόσβαση σε δημόσιες υπηρεσίες ή παροχές είναι παράνομο, ανεξάρτητα από το εάν το σύστημα είναι τεχνικά εξελιγμένο.

Για φορείς επιβολής νόμου, η στενή εξαίρεση στην απαγόρευση βιομετρικής αναγνώρισης σε πραγματικό χρόνο απαιτεί ισχυρές διαδικασίες προηγούμενης έγκρισης, γεωγραφικά και χρονικά όρια, υποχρεωτική καταγραφή και εκ των υστέρων αναφορά στις εθνικές εποπτικές αρχές. Η έκτακτη ή συνεχής ανάπτυξη χωρίς προηγούμενη δικαστική ή διοικητική έγκριση είναι παράνομη ακόμη και εντός του πεδίου εφαρμογής της εξαίρεσης.

Οι οργανισμοί θα πρέπει να διεξαγάγουν καταγραφή όλων των συστημάτων ΤΝ σε χρήση ή υπό ανάπτυξη, να χαρτογραφήσουν καθένα έναντι των κριτηρίων του Άρθρου 5 και να τερματίσουν αμέσως απαγορευμένες λειτουργίες.

Βασικές Υποχρεώσεις

• Παύση ή μη ανάπτυξη οποιουδήποτε συστήματος ΤΝ που χρησιμοποιεί υποσυνείδητες, χειραγωγικές ή τεχνικές εκμετάλλευσης ευπαθειών για παραμόρφωση ανθρώπινης συμπεριφοράς με τρόπους που ενδέχεται να προκαλέσουν σημαντική βλάβη, χωρίς καμία εξαίρεση ή εξισορρόπηση αναλογικότητας.
• Απαγόρευση κοινωνικής βαθμολόγησης από δημόσιες αρχές ή οντότητες που ενεργούν εκ μέρους τους: μη χρήση ΤΝ για αξιολόγηση ή ταξινόμηση φυσικών προσώπων για κοινωνική συμπεριφορά ή συναγόμενα χαρακτηριστικά προσωπικότητας όταν το αποτέλεσμα οδηγεί σε επιζήμια ή διακριτική μεταχείριση.
• Διακοπή εργαλείων προγνωστικής αστυνόμευσης που αξιολογούν τον ατομικό ποινικό κίνδυνο αποκλειστικά βάσει κατάρτισης προφίλ, χαρακτηριστικών προσωπικότητας ή παρελθούσας συσχέτισης χωρίς συγκεκριμένα συμπεριφορικά στοιχεία.
• Αποχή από περισυλλογή βιομετρικών δεδομένων από το διαδίκτυο, κάμερες CCTV ή άλλες πηγές για δημιουργία ή επέκταση βάσεων δεδομένων αναγνώρισης προσώπων· υπάρχουσες βάσεις δεδομένων που δημιουργήθηκαν με τέτοια μέσα δεν πρέπει να χρησιμοποιούνται.
• Μη ανάπτυξη συστημάτων ΤΝ που συνάγουν ευαίσθητα προσωπικά χαρακτηριστικά — φυλετική ή εθνοτική καταγωγή, πολιτικές απόψεις, συμμετοχή σε συνδικαλιστική οργάνωση, θρησκευτικές ή φιλοσοφικές πεποιθήσεις, σεξουαλικό προσανατολισμό — από βιομετρικά ή συμπεριφορικά δεδομένα.
• Εφαρμογή αυστηρών ελέγχων προηγούμενης έγκρισης και καταγραφής εάν λειτουργείτε ως αρχή επιβολής νόμου και βασίζεστε στη στενή εξαίρεση των Άρθρων 5(2)–(5) για βιομετρική αναγνώριση εξ αποστάσεως σε πραγματικό χρόνο· κάθε ανάπτυξη πρέπει να είναι χρονικά περιορισμένη, γεωγραφικά οριοθετημένη και υπόκειται σε εκ των υστέρων αναφορά.

Σχέση με Άλλα Άρθρα

Το Άρθρο 5 πρέπει να διαβαστεί ως κορυφή της ιεραρχίας βάσει κινδύνου της Πράξης ΕΕ για την ΤΝ. Λειτουργεί σε συνδυασμό με τους ορισμούς του Άρθρου 3, που καθορίζει τι αποτελεί «σύστημα ΤΝ», «πάροχο» και «αναπτύσσοντα» — τους φορείς που υπόκεινται στις απαγορεύσεις. Η διάκριση μεταξύ απαγορευμένων πρακτικών βάσει του Άρθρου 5 και συστημάτων ΤΝ υψηλού κινδύνου βάσει του Άρθρου 6 και Annex III είναι θεμελιώδης: τα απαγορευμένα συστήματα δεν μπορούν να χρησιμοποιηθούν νόμιμα καθόλου, ενώ τα συστήματα υψηλού κινδύνου μπορεί να αναπτύσσονται υπόκεινα σε αξιολογήσεις συμμόρφωσης, εγγραφή και συνεχείς υποχρεώσεις παρακολούθησης.

Το Άρθρο 9 (συστήματα διαχείρισης κινδύνων) και τα Άρθρα 10–15 (διακυβέρνηση δεδομένων, διαφάνεια, ανθρώπινη εποπτεία) εφαρμόζονται κατάντη σε επιτρεπόμενα συστήματα υψηλού κινδύνου αλλά δεν έχουν θεραπευτικό ρόλο για απαγορεύσεις του Άρθρου 5. Το Άρθρο 99 θεσπίζει τη δομή κυρώσεων, συμπεριλαμβανομένου του κορυφαίου προστίμου που ισχύει για παραβιάσεις του Άρθρου 5. Το Άρθρο 85 και οι διατάξεις για εποπτεία αγοράς (Άρθρα 74–78) διέπουν την επιβολή. Εθνικές αρμόδιες αρχές που ορίζονται βάσει του Άρθρου 70 είναι υπεύθυνες για την παρακολούθηση συμμόρφωσης με τις απαγορεύσεις σε επίπεδο κράτους μέλους.

Χρονοδιάγραμμα Συμμόρφωσης

• 1η Αυγούστου 2024 — Τέθηκε σε ισχύ ο Κανονισμός (ΕΕ) 2024/1689, είκοσι ημέρες μετά τη δημοσίευση στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης.
• 2 Φεβρουαρίου 2025 — Οι απαγορεύσεις του Άρθρου 5 κατέστησαν άμεσα εφαρμοστέες σε όλα τα κράτη μέλη της ΕΕ. Αυτή ήταν η πρώτη ουσιαστική ημερομηνία εφαρμογής βάσει του σταδιακού προγράμματος που ορίζεται στο Άρθρο 113. Από αυτή την ημερομηνία, οποιαδήποτε ανάπτυξη, διάθεση στην αγορά ή θέση σε λειτουργία απαγορευμένου συστήματος ΤΝ αποτελεί ρυθμιστική παραβίαση που υπόκειται σε κυρώσεις βάσει του Άρθρου 99.
• 2 Αυγούστου 2025 — Κατέστησαν εφαρμοστέοι οι κανόνες για μοντέλα ΤΝ γενικού σκοπού (Τίτλος VIII, Άρθρα 51–56).
• 2 Αυγούστου 2026 — Υποχρεώσεις για τα περισσότερα συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο Annex III ισχύουν, παράλληλα με διατάξεις διακυβέρνησης και εποπτείας αγοράς.
• 2 Αυγούστου 2027 — Εκτεταμένη μεταβατική προθεσμία για συστήματα ΤΝ υψηλού κινδύνου που ήδη βρίσκονταν στην αγορά πριν τον Αύγουστο 2024 και εμπίπτουν στο Annex I (στοιχείο ασφαλείας σε ρυθμιζόμενα προϊόντα).

Για το Άρθρο 5 ειδικότερα, δεν υπάρχει περίοδος χάριτος ή μεταβατική ρύθμιση: η προθεσμία ήταν η 2α Φεβρουαρίου 2025 και η συμμόρφωση έχει ήδη εκπνεύσει για οποιονδήποτε οργανισμό δεν έχει ακόμη ενεργήσει.