Άρθρο 60 — Δοκιμή συστημάτων ΑΙ υψηλού κινδύνου σε πραγματικές συνθήκες εκτός ρυθμιστικών περιβαλλόντων δοκιμών ΑΙ (Νόμος ΕΕ για την ΑΙ)

Άρθρο 60 του Κανονισμού (ΕΕ) 2024/1689 — Δοκιμή συστημάτων ΑΙ υψηλού κινδύνου σε πραγματικές συνθήκες εκτός ρυθμιστικών περιβαλλόντων δοκιμών ΑΙ. Επίσημο κείμενο, πρακτική ερμηνεία, βασικές υποχρεώσεις και επιπτώσεις συμμόρφωσης.

Περίληψη Επίσημου Κειμένου

Το Άρθρο 60 του Κανονισμού (ΕΕ) 2024/1689 θεσπίζει τις προϋποθέσεις υπό τις οποίες πάροχοι και υποψήφιοι πάροχοι συστημάτων ΑΙ υψηλού κινδύνου μπορούν να διεξάγουν δοκιμές σε πραγματικές συνθήκες εκτός του δομημένου πλαισίου των ρυθμιστικών περιβαλλόντων δοκιμών ΑΙ που θεσπίζονται βάσει των Άρθρων 57 έως 59. Η διάταξη αυτή αναγνωρίζει ότι η ουσιαστική αξιολόγηση συστημάτων ΑΙ υψηλού κινδύνου συχνά απαιτεί έκθεση σε γνήσια λειτουργικά περιβάλλοντα, διατηρώντας παράλληλα διασφαλίσεις ανάλογες των κινδύνων.

Το άρθρο απαιτεί να διεξάγονται δοκιμές εκτός περιβαλλόντων δοκιμών μόνο εφόσον πληρούνται ένα σύνολο σωρευτικών προϋποθέσεων. Ο πάροχος ή υποψήφιος πάροχος πρέπει να υποβάλει κοινοποίηση στην αρμόδια εθνική αρχή τουλάχιστον 30 ημέρες πριν από την έναρξη των δοκιμών. Η κοινοποίηση πρέπει να περιλαμβάνει σχέδιο δοκιμής που περιγράφει το πεδίο εφαρμογής, τη διάρκεια, τη γεωγραφική περιοχή, τις κατηγορίες ατόμων που εμπλέκονται και τα μέτρα μετριασμού κινδύνου που ισχύουν.

Η συνειδητή συγκατάθεση των υποκειμένων αποτελεί κεντρική απαίτηση. Όπου το σύστημα ΑΙ αλληλεπιδρά με ή λαμβάνει αποφάσεις που επηρεάζουν αναγνωρίσιμα φυσικά πρόσωπα, τα πρόσωπα αυτά πρέπει να ενημερώνονται για τη συμμετοχή τους και να συναινούν ρητά, εκτός εάν η εφαρμοστέα τομεακή νομοθεσία ορίζει άλλως. Οι δοκιμές δεν πρέπει να υπερβαίνουν ό,τι είναι απολύτως αναγκαίο για την επίτευξη των δηλωθέντων στόχων, και δεν πρέπει να εκθέτουν τα υποκείμενα σε μη αποδεκτό κίνδυνο ή βλάβη.

Το άρθρο απαιτεί επιπλέον να διεξάγεται η δοκιμή υπό την εποπτεία του παρόχου, να καταγράφονται τα αποτελέσματα και να αναφέρονται στην αρμόδια αρχή τυχόν σοβαρά περιστατικά που εμφανίζονται κατά τη διάρκεια των δοκιμών. Τα κράτη μέλη διατηρούν τη δυνατότητα να εξουσιοδοτούν ή να αρνούνται δραστηριότητες δοκιμών στο έδαφός τους και μπορούν να επιβάλλουν πρόσθετες προϋποθέσεις.

Τι Σημαίνει Αυτό στην Πράξη

Το Άρθρο 60 αφορά κυρίως οργανισμούς που αναπτύσσουν ή αναπτύσσουν συστήματα ΑΙ υψηλού κινδύνου — όπως ορίζονται βάσει του Άρθρου 6 και του Annex III του Κανονισμού — που χρειάζεται να επικυρώσουν τις επιδόσεις ή τις ιδιότητες ασφάλειας του συστήματος σε γνήσια λειτουργικά περιβάλλοντα πριν ή παράλληλα με επίσημη αξιολόγηση συμμόρφωσης. Αυτό περιλαμβάνει, για παράδειγμα, νοσοκομείο που πιλοτάρει εργαλείο ΑΙ-βοηθούμενης διάγνωσης σε ζωντανό κλινικό περιβάλλον, ή χρηματοπιστωτικό ίδρυμα που δοκιμάζει μοντέλο αξιολόγησης πιστοληπτικής ικανότητας με πραγματικούς αιτούντες εκτός ελεγχόμενου περιβάλλοντος δοκιμών.

Στην πράξη, η συμμόρφωση σημαίνει τη δημιουργία εσωτερικής διαδικασίας για τη διαχείριση δοκιμών σε πραγματικές συνθήκες που αντικατοπτρίζει τις υποχρεώσεις του άρθρου. Πριν ξεκινήσει οποιαδήποτε δοκιμή, ο οργανισμός πρέπει να προετοιμάσει δομημένο σχέδιο δοκιμής, να επαληθεύσει ότι όλοι οι μηχανισμοί συγκατάθεσης είναι σε ισχύ και να υποβάλει την απαιτούμενη κοινοποίηση στην αρμόδια αρχή τουλάχιστον 30 ημέρες νωρίτερα — αφήνοντας επαρκή χρόνο στην αρχή να εγείρει αντιρρήσεις ή να επιβάλει προϋποθέσεις.

Κατά τη διάρκεια της δοκιμής, ο οργανισμός πρέπει να διατηρεί ενεργή ανθρώπινη εποπτεία, να τεκμηριώνει όλα τα σημαντικά περιστατικά και να είναι έτοιμος να αναστείλει αμέσως τις δοκιμές εάν οι κίνδυνοι υπερβούν τα αναμενόμενα επίπεδα. Τα δεδομένα που συλλέγονται κατά τις δοκιμές παραμένουν υποκείμενα στις εφαρμοστέες υποχρεώσεις GDPR, και η επεξεργασία ειδικών κατηγοριών δεδομένων απαιτεί συγκεκριμένη νομική βάση.

Οι οργανισμοί θα πρέπει επίσης να διασφαλίζουν ότι οι συμβάσεις τους με αναπτύσσοντες ή τρίτους φορείς εκτέλεσης δοκιμών κατανέμουν σαφώς την ευθύνη για συμμόρφωση με τις προϋποθέσεις του Άρθρου 60, καθώς η υποχρέωση βαρύνει κυρίως τον πάροχο ή υποψήφιο πάροχο ανεξαρτήτως του ποιος φυσικά διεξάγει τη δοκιμή. Τα εσωτερικά πλαίσια διακυβέρνησης — συμπεριλαμβανομένου ορισμένου υπεύθυνου προσώπου και τεκμηριωμένου μητρώου κινδύνων για τη δοκιμή — συνιστώνται ανεπιφύλακτα.

Βασικές Υποχρεώσεις

• Προηγούμενη κοινοποίηση: Υποβολή σχεδίου δοκιμής στην αρμόδια εθνική αρχή τουλάχιστον 30 ημέρες πριν από την έναρξη δοκιμών σε πραγματικές συνθήκες, καλύπτοντας πεδίο εφαρμογής, διάρκεια, τοποθεσία, κατηγορίες υποκειμένων και μέτρα μετριασμού κινδύνου.
• Συνειδητή συγκατάθεση: Λήψη ρητής συνειδητής συγκατάθεσης από όλα τα φυσικά πρόσωπα που συμμετέχουν ή επηρεάζονται από τις δοκιμές, και ενημέρωσή τους για το αδέσμευτο δικαίωμά τους να αποσυρθούν οποτεδήποτε χωρίς βλάβη.
• Αναλογικότητα κινδύνου: Διασφάλιση ότι οι δραστηριότητες δοκιμών δεν υπερβαίνουν ό,τι είναι απολύτως αναγκαίο για τον δηλωθέντα στόχο και δεν εκθέτουν υποκείμενα ή τρίτους σε κινδύνους που υπερτερούν των αναμενόμενων οφελών.
• Εποπτεία και τεκμηρίωση: Διατήρηση ενεργής εποπτείας της δοκιμής, τήρηση αρχείων του σχεδίου δοκιμής, αποτελεσμάτων και τυχόν αποκλίσεων ή περιστατικών που εμφανίζονται καθ' όλη τη διάρκεια της δοκιμαστικής περιόδου.
• Αναφορά περιστατικών: Αναφορά χωρίς αδικαιολόγητη καθυστέρηση κάθε σοβαρού περιστατικού που εμφανίζεται κατά τη διάρκεια δοκιμών σε πραγματικές συνθήκες στην αρμόδια αρχή, και λήψη άμεσης διορθωτικής δράσης για τον μετριασμό της βλάβης.
• Καταχώριση στη βάση δεδομένων ΕΕ: Καταχώριση της δραστηριότητας δοκιμών σε πραγματικές συνθήκες στη βάση δεδομένων ΕΕ για συστήματα ΑΙ υψηλού κινδύνου που θεσπίζεται βάσει του Άρθρου 71, πριν από την έναρξη των δοκιμών.

Σχέση με Άλλα Άρθρα

Το Άρθρο 60 αποτελεί μέρος του Τίτλου VI (Μέτρα Υποστήριξης της Καινοτομίας) και πρέπει να διαβάζεται παράλληλα με τα Άρθρα 57 έως 59, τα οποία θεσπίζουν το κύριο πλαίσιο για ρυθμιστικά περιβάλλοντα δοκιμών ΑΙ. Το Άρθρο 60 λειτουργεί ως συμπληρωματική οδός για δοκιμές που δεν πραγματοποιούνται εντός επίσημου περιβάλλοντος δοκιμών, αλλά δεν αντικαθιστά ούτε μειώνει τις ουσιαστικές υποχρεώσεις ασφάλειας και διαφάνειας που ισχύουν για συστήματα ΑΙ υψηλού κινδύνου βάσει του Τίτλου III (ιδίως Άρθρα 8 έως 15 για υποχρεώσεις παρόχων, διαχείριση κινδύνων και τεχνική τεκμηρίωση).

Οι απαιτήσεις συγκατάθεσης και προστασίας δεδομένων του Άρθρου 60 τέμνονται άμεσα με τον Κανονισμό (ΕΕ) 2016/679 (GDPR), ιδίως τα Άρθρα 6, 9 και 22 για νόμιμη επεξεργασία και αυτοματοποιημένη λήψη αποφάσεων. Το Άρθρο 60 συνδέεται επίσης με το Άρθρο 71 για τη βάση δεδομένων ΕΕ, που διέπει τις υποχρεώσεις καταχώρισης, και με το Άρθρο 73 για εποπτεία αγοράς, καθώς οι αρμόδιες αρχές μπορούν να επιθεωρούν δοκιμές σε πραγματικές συνθήκες. Οι πάροχοι θα πρέπει επίσης να λαμβάνουν υπόψη το Άρθρο 26 σχετικά με τις υποχρεώσεις των αναπτυσσόντων, καθώς οι δοκιμές σε πραγματικές συνθήκες συχνά εμπλέκουν υποδομή και δεδομένα της πλευράς του αναπτύσσοντος.

Χρονοδιάγραμμα Συμμόρφωσης

Ο Νόμος ΕΕ για την ΑΙ τέθηκε σε ισχύ την 1η Αυγούστου 2024, είκοσι ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης. Οι διατάξεις του εφαρμόζονται σε φάσεις:

• 2 Φεβρουαρίου 2025 — Οι απαγορεύσεις σε πρακτικές ΑΙ μη αποδεκτού κινδύνου (Άρθρο 5) κατέστησαν εφαρμόσιμες.
• 2 Αυγούστου 2025 — Οι διατάξεις για μοντέλα ΑΙ γενικής χρήσης (Τίτλος III, Κεφάλαιο 3, Άρθρα 51 έως 56) και οι υποχρεώσεις διακυβέρνησης (εν μέρει Τίτλοι VI και VIII) κατέστησαν εφαρμόσιμες. Το πλαίσιο ρυθμιστικών περιβαλλόντων δοκιμών βάσει των Άρθρων 57 έως 59 κατέστη επίσης εφαρμόσιμο από αυτή την ημερομηνία.
• 2 Αυγούστου 2026 — Η γενική ημερομηνία εφαρμογής για τις περισσότερες εναπομένουσες διατάξεις, συμπεριλαμβανομένου του Άρθρου 60. Από αυτή την ημερομηνία, πάροχοι και υποψήφιοι πάροχοι συστημάτων ΑΙ υψηλού κινδύνου που επιθυμούν να διεξάγουν δοκιμές σε πραγματικές συνθήκες εκτός περιβαλλόντων δοκιμών πρέπει να συμμορφώνονται πλήρως με τις υποχρεώσεις κοινοποίησης, συγκατάθεσης, τεκμηρίωσης και αναφοράς περιστατικών που θεσπίζει το παρόν άρθρο.
• 2 Αυγούστου 2027 — Παρατεταμένη προθεσμία για συστήματα ΑΙ υψηλού κινδύνου που εμπίπτουν στο Annex III, σημείο 2 (συστήματα ΑΙ σε υφιστάμενα προϊόντα που ήδη υπόκεινται σε νομοθεσία εναρμόνισης της Ένωσης που απαριθμείται στο Annex I), παρέχοντας στους επηρεαζόμενους τομείς πρόσθετο χρόνο για ευθυγράμμιση με τις απαιτήσεις αξιολόγησης συμμόρφωσης και λειτουργικές απαιτήσεις.

Οι οργανισμοί που σχεδιάζουν προγράμματα δοκιμών σε πραγματικές συνθήκες θα πρέπει να αρχίσουν να σχεδιάζουν πλαίσια διακυβέρνησης δοκιμών που πληρούν τις νόμιμες απαιτήσεις και διαδικασίες κοινοποίησης πολύ πριν από την ημερομηνία της 2ας Αυγούστου 2026 για να αποφευχθούν καθυστερήσεις όταν η υποχρέωση καταστεί εφαρμόσιμη.