Artykuł 76 — Nadzór nad testowaniem w warunkach rzeczywistych przez organy nadzoru rynku (Rozporządzenie UE w sprawie AI)

Artykuł 76 Rozporządzenia (UE) 2024/1689 — Nadzór nad testowaniem w warunkach rzeczywistych przez organy nadzoru rynku. Oficjalny tekst, praktyczna interpretacja, kluczowe obowiązki i implikacje dla zgodności.

Podsumowanie tekstu oficjalnego

Artykuł 76 Rozporządzenia (UE) 2024/1689 przyznaje organom nadzoru rynku szczególne uprawnienia nadzorcze w zakresie testowania systemów AI wysokiego ryzyka w warunkach rzeczywistych, przewidzianego w Artykule 60. Artykuł stanowi, że w przypadku gdy takie testowanie odbywa się na terytorium państwa członkowskiego, właściwy organ nadzoru rynku dla tego terytorium ma jurysdykcję do nadzorowania przebiegu testu i weryfikacji, że wszystkie warunki określone przez Artykuł 60 są spełniane przez cały okres testowania.

Organy są uprawnione do żądania dostępu do całej dokumentacji stanowiącej podstawę testu w warunkach rzeczywistych, w tym planu testowania, procedur świadomej zgody stosowanych wobec uczestników oraz wszelkich rejestrów generowanych przez system AI podczas działania. W przypadku gdy organ stwierdzi okoliczności sugerujące, że testowanie stwarza ryzyko — w szczególności dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych — może nakazać zawieszenie lub definitywne zakończenie działalności testowej. Takie decyzje muszą być niezwłocznie przekazane Komisji Europejskiej oraz organom nadzoru rynku innych państw członkowskich za pośrednictwem istniejącej unijnej infrastruktury informacji i komunikacji w zakresie bezpieczeństwa produktów.

Artykuł reguluje również koordynację między organami, gdy testowanie obejmuje kilka państw członkowskich, wyznaczając organ państwa członkowskiego, w którym dostawca ma siedzibę, jako wiodącego nadzorcę, przy jednoczesnym zachowaniu prawa każdego zainteresowanego organu do podejmowania środków ochronnych na własnym terytorium. Odzwierciedla to skoordynowany model egzekwowania stosowany w ramach innych unijnych aktów harmonizacyjnych i zapewnia, że transgraniczne testy w warunkach rzeczywistych nie wpadają w próżnię nadzorczą.

Co to oznacza w praktyce

Dla dostawców i podmiotów stosujących prowadzących testowanie systemów AI wysokiego ryzyka w warunkach rzeczywistych, Artykuł 76 oznacza, że testowanie nie jest działalnością samoregulowaną: wyznaczony organ nadzoru rynku zachowuje ciągłe uprawnienia nadzorcze od momentu rozpoczęcia testowania aż do jego zakończenia.

W praktyce dostawca AI prowadzący na przykład pilotaż systemu wspomagającego diagnostykę medyczną u pacjentów w dwóch państwach członkowskich musi zidentyfikować wiodący organ nadzorczy — zazwyczaj organ w państwie członkowskim, w którym dostawca ma siedzibę — i zapewnić, że cała dokumentacja testowa wymagana na mocy Artykułu 60 jest dostępna do kontroli w krótkim czasie. Jeżeli organ zażąda dostępu do dzienników systemowych, rejestru świadomej zgody lub rejestrów zarządzania incydentami, muszą one zostać udostępnione w terminie określonym przez organ, który w pilnych sytuacjach może wynosić zaledwie kilka dni.

Podmioty stosujące (szpitale, agencje rekrutacyjne, instytucje kredytowe lub inne organizacje integrujące system dostawcy) współdzielą obowiązek zapewnienia zgodności. Muszą współpracować z inspekcjami nadzorczymi i nie mogą utrudniać dostępu organów do miejsc testowania ani interfejsów systemowych.

W przypadku gdy podczas testowania dochodzi do poważnego incydentu — szkody, zdarzenia prawie wypadkowego lub nieoczekiwanego niekorzystnego wyniku z udziałem uczestnika — obowiązki zgłoszenia z Artykułu 73 są uruchamiane równolegle, a organ nadzoru rynku sprawujący nadzór na mocy Artykułu 76 staje się bezpośrednim odbiorcą tego zgłoszenia. Organizacje powinny zatem zintegrować swoje procedury reagowania na incydenty z ramami zarządzania testowaniem przed rozpoczęciem testowania, a nie po wystąpieniu incydentu.

Wielonarodowe programy testowania powinny wyznaczyć jednego wewnętrznego właściciela ds. zgodności odpowiedzialnego za koordynację z organami państw członkowskich oraz z wyprzedzeniem określić, który organ sprawuje wiodącą jurysdykcję, a które posiadają równoległe uprawnienia terytorialne.

Kluczowe obowiązki

• Dostawcy i podmioty stosujące muszą prowadzić całą dokumentację testowania w warunkach rzeczywistych — w tym plan testowania, rejestry zgody uczestników, rejestry zarządzania ryzykiem i dzienniki działania systemu — w formie niezwłocznie dostępnej dla właściwego organu nadzoru rynku przez cały czas trwania testu.
• Na żądanie organu nadzoru rynku dostawcy i podmioty stosujące muszą dostarczyć wszelkie informacje, dane lub dostęp niezbędne organowi do oceny zgodności z warunkami określonymi w Artykule 60, w terminie określonym przez organ.
• W przypadku gdy testowanie obejmuje kilka państw członkowskich, dostawca musi współpracować z wiodącym organem nadzorczym (organem państwa członkowskiego siedziby) i zapewnić, że wszystkie zainteresowane organy terytorialne są poinformowane i mogą podejmować środki ochronne w ramach swojej jurysdykcji.
• W przypadku gdy organ nadzoru rynku nakaże zawieszenie lub zakończenie testowania w warunkach rzeczywistych, dostawca i podmiot stosujący muszą natychmiast zastosować się do nakazu i zaprzestać wszelkich działań testowych na terytorium Unii do czasu zniesienia środka przez organ lub rozwiązania sprawy w drodze właściwej procedury odwoławczej.
• Wszelkie poważne incydenty zaistniałe podczas testowania w warunkach rzeczywistych muszą zostać zgłoszone nadzorującemu organowi nadzoru rynku zgodnie z harmonogramami i procedurami określonymi na mocy Artykułu 73, bez oczekiwania na zakończenie wewnętrznego dochodzenia.
• Dostawcy i podmioty stosujące muszą w dobrej wierze współpracować z inspekcjami nadzoru rynku, w tym zapewniać na żądanie dostęp na miejscu do obiektów, personelu i interfejsów systemu AI.

Związek z innymi artykułami

Artykuł 76 leży na styku kilku wzajemnie powiązanych przepisów Rozporządzenia (UE) 2024/1689. Jego podstawowy związek dotyczy Artykułu 60, który definiuje merytoryczne warunki, na których testowanie systemów AI wysokiego ryzyka w warunkach rzeczywistych jest dozwolone; Artykuł 76 jest odpowiednikiem egzekwowania, który nadaje tym warunkom moc wiążącą poprzez nadzór.

Opiera się na ogólnych ramach nadzoru rynku ustanowionych przez Artykuły 74 i 75, które określają uprawnienia i procedury dostępne dla organów nadzoru rynku we wszystkich kategoriach systemów AI, i powinien być czytany łącznie z tymi artykułami, aby zrozumieć pełny zakres dostępnych uprawnień dochodzeniowych i naprawczych.

Artykuł łączy się z Artykułem 73 dotyczącym zgłaszania poważnych incydentów, ponieważ incydenty zaistniałe podczas nadzorowanego testowania natychmiast uruchamiają łańcuch zgłoszeń tego artykułu. Artykuł 57 dotyczący regulacyjnych piaskownic AI stanowi powiązany, ale odrębny przepis: piaskownice działają pod nadzorem krajowych właściwych organów ze specjalnymi derogacjami, podczas gdy Artykuł 76 reguluje testowanie w warunkach rzeczywistych w ramach standardowego reżimu nadzoru rynku.

Artykuły 85 i 86 dotyczące kar i dostępu do wymiaru sprawiedliwości są istotne w dalszej perspektywie: brak współpracy z nadzorem na mocy Artykułu 76 może stanowić naruszenie zgodności podlegające administracyjnym karom pieniężnym w ramach systemu sankcji przewidzianego w ustawie.

Harmonogram zgodności

Rozporządzenie (UE) 2024/1689 weszło w życie 1 sierpnia 2024 r., co oznacza początek harmonogramu stopniowego stosowania. Artykuł 76, jako część Tytułu IX dotyczącego monitorowania po wprowadzeniu do obrotu i nadzoru rynku, należy do przepisów, które w pełni stosuje się do systemów AI wysokiego ryzyka w drugiej i trzeciej fazie stosowania.

W odniesieniu do systemów AI wysokiego ryzyka wymienionych w Załączniku III (samodzielne aplikacje wysokiego ryzyka), pełne obowiązki w zakresie nadzoru rynku — w tym nadzór z Artykułu 76 nad testowaniem w warunkach rzeczywistych — stosuje się od 2 sierpnia 2026 r. W odniesieniu do systemów AI wysokiego ryzyka będących elementami bezpieczeństwa produktów regulowanych przez istniejące unijne przepisy harmonizacyjne wymienione w Załączniku I (takich jak wyroby medyczne i maszyny), właściwą datą jest 2 sierpnia 2027 r.

Dostawcy planujący testowanie systemów wysokiego ryzyka w warunkach rzeczywistych powinni traktować sierpień 2026 r. jako ostateczny termin posiadania zgodnych ram zarządzania testowaniem, w tym udokumentowanych procedur dostępu organów, eskalacji incydentów i koordynacji transgranicznej. Biorąc pod uwagę, że programy testowania często trwają od sześciu do dwunastu miesięcy przed wprowadzeniem systemu na rynek, ramy zarządzania powinny być realistycznie zaprojektowane i przetestowane nie później niż na początku 2026 r., aby uniknąć opóźnień w wejściu na rynek.