Artykuł 55 — Obowiązki dostawców modeli AI ogólnego przeznaczenia o ryzyku systemowym (Akt o sztucznej inteligencji UE)

Artykuł 55 Rozporządzenia (UE) 2024/1689 — Obowiązki dostawców modeli AI ogólnego przeznaczenia o ryzyku systemowym. Oficjalny tekst, praktyczna interpretacja, kluczowe obowiązki i implikacje dla zgodności.

Streszczenie oficjalnego tekstu

Artykuł 55 Rozporządzenia (UE) 2024/1689 ustanawia obowiązki mające zastosowanie wyłącznie do dostawców modeli AI ogólnego przeznaczenia (GPAI) sklasyfikowanych jako stwarzające ryzyko systemowe zgodnie z Artykułem 51. Są to modele wytrenowane przy użyciu mocy obliczeniowej przekraczającej 10^25 operacji zmiennoprzecinkowych (FLOP), lub modele wyznaczone przez Biuro ds. AI na podstawie oceny zdolności lub wpływu.

Oprócz podstawowych obowiązków mających zastosowanie do wszystkich dostawców modeli GPAI na podstawie Artykułu 53, dostawcy objęci Artykułem 55 muszą: przeprowadzać oceny modeli, w tym testowanie adversarialne prowadzone zgodnie ze standaryzowanymi protokołami lub zatwierdzonymi metodologiami; oceniać i łagodzić ryzyko systemowe na poziomie Unii; zgłaszać poważne incydenty i awarie Biuru ds. AI bez zbędnej zwłoki; zapewniać odpowiedni poziom ochrony cyberbezpieczeństwa dla modelu, jego infrastruktury i otoczenia fizycznego; oraz dokumentować wyniki ocen modeli i udostępniać te wyniki Biuru ds. AI na żądanie.

Artykuł 55(2) stanowi, że dostawcy mogą opierać się na kodeksach postępowania przyjętych na podstawie Artykułu 56 w celu wykazania zgodności. Komisja Europejska jest uprawniona do wydawania aktów delegowanych określających treść i procedury ocen oraz do dostosowywania progów w miarę rozwoju wiedzy naukowej. Biuro ds. AI monitoruje zgodność i może wymagać dalszych informacji lub działań naprawczych.

Co to oznacza w praktyce

Artykuł 55 tworzy odrębny poziom zgodności dla najbardziej zaawansowanych i potencjalnie najbardziej wpływowych modeli GPAI na rynku UE. Każda organizacja — niezależnie od miejsca siedziby — która udostępnia taki model podmiotom wdrażającym lub użytkownikom końcowym w UE, musi ocenić, czy przekracza próg ryzyka systemowego.

Dla dostawców powyżej progu obliczeniowego 10^25 FLOP obowiązki są automatyczne. Dla dostawców poniżej tego progu Biuro ds. AI może nadal uruchomić obowiązki wynikające z Artykułu 55 po przeprowadzeniu indywidualnej oceny opartej na wskaźnikach takich jak liczba użytkowników, szerokość zdolności lub integracja z sektorami krytycznymi.

W praktyce zgodność wymaga ustanowienia solidnych procesów wewnętrznych: programu oceny modelu zdolnego do przeprowadzania red-teamingu i testów adversarialnych przed i po wdrożeniu; rejestru ryzyka systemowego i powiązanego planu łagodzenia; ram cyberbezpieczeństwa obejmujących wagi modelu, interfejsy API i infrastrukturę treningową; oraz procedury reagowania na incydenty powiązanej z obowiązkiem sprawozdawczości wobec Biura ds. AI.

Konkretnie, dostawca granicznego dużego modelu językowego udostępnionego za pośrednictwem API podmiotom wdrażającym z siedzibą w UE musi przeprowadzać testy adversarialne — takie jak próby jailbreak i ujawnianie zdolności do niebezpiecznych treści — dokumentować wyniki, przechowywać je i być w stanie udostępniać je Biuru ds. AI. Jeżeli model wytwarza dane wyjściowe, które powodują lub niemal powodują poważną szkodę dla osoby lub infrastruktury krytycznej, ten incydent musi być niezwłocznie zgłoszony. Uczestnictwo w kodeksie postępowania zatwierdzonym przez Biuro ds. AI na podstawie Artykułu 56 zapewnia ustrukturyzowaną ścieżkę wykazania zgodności bez oczekiwania na zharmonizowane normy.

Kluczowe obowiązki

• Oceny modeli i testowanie adversarialne: Przeprowadzanie dokładnych ocen, w tym red-teamingu i testów adversarialnych, przy użyciu standaryzowanych protokołów lub zatwierdzonych przez Biuro ds. AI, przed i po znaczących aktualizacjach modelu.
• Ocena i łagodzenie ryzyka systemowego: Identyfikacja, analiza i łagodzenie potencjalnych ryzyk systemowych na poziomie Unii, które mogą wynikać z opracowania, wprowadzania na rynek lub używania modelu.
• Zgłaszanie poważnych incydentów: Zgłaszanie Biuru ds. AI bez zbędnej zwłoki każdego poważnego incydentu lub awarii związanej z modelem GPAI o ryzyku systemowym, w tym informacji o incydencie i podjętych środkach naprawczych.
• Ochrona cyberbezpieczeństwa: Wdrożenie i utrzymanie odpowiednich środków cyberbezpieczeństwa chroniących model, jego infrastrukturę fizyczną i łańcuch dostaw — w tym wagi modelu, interfejsy API i potoki treningowe — współmiernych do zidentyfikowanych ryzyk.
• Dokumentacja i przejrzystość wobec Biura ds. AI: Prowadzenie dokumentacji wyników ocen, metodologii testowania i środków łagodzenia ryzyka; udostępnianie ich Biuru ds. AI na żądanie.
• Ścieżka zgodności poprzez kodeksy postępowania: Wykazanie zgodności z obowiązkami Artykułu 55 poprzez przestrzeganie kodeksów postępowania opracowanych na podstawie Artykułu 56, do czasu dostępności zharmonizowanych norm.

Relacja z innymi artykułami

Artykułu 55 nie można czytać w oderwaniu od kontekstu. Opiera się bezpośrednio na Artykule 51, który definiuje kryteria i procedury klasyfikacji modelu GPAI jako stwarzającego ryzyko systemowe — w tym próg obliczeniowy 10^25 FLOP i dyskrecjonalne uprawnienie Biura ds. AI do wyznaczania. Podstawowe obowiązki Artykułu 53 pozostają w pełni stosowane obok Artykułu 55; ten ostatni dodaje dalszą warstwę, a nie zastępuje poprzedniego.

Artykuł 55 reguluje kwalifikowane domniemania zgodności, podczas gdy Artykuł 56 ustanawia mechanizm kodeksów postępowania, do którego Artykuł 55(2) wyraźnie odwołuje się jako ścieżkę zgodności. Rola nadzorcza Biura ds. AI w zakresie obowiązków wynikających z Artykułu 55 jest zakorzeniona w Artykułach 101–90, które określają uprawnienia i procedury egzekwowania. W przypadku dostawców, którzy są również podmiotami wdrażającymi wysokiego ryzyka systemy AI, wymogi Rozdziału III (Artykuły 9–16) dotyczące zarządzania ryzykiem i dokumentacji technicznej mogą pokrywać się z pracami w zakresie łagodzenia ryzyka systemowego wymaganymi przez Artykuł 55, i zalecana jest koordynacja między zespołami ds. zgodności w celu uniknięcia powielania.

Harmonogram zgodności

Akt o AI UE wszedł w życie 1 sierpnia 2024 r. (dwadzieścia dni po publikacji w Dzienniku Urzędowym 12 lipca 2024 r.). Artykuł 55, jako część Tytułu V regulującego modele AI ogólnego przeznaczenia, stał się stosowany 2 sierpnia 2025 r. — dwanaście miesięcy po wejściu w życie, zgodnie z Artykułem 113(3).

Oznacza to, że dostawcy modeli GPAI o ryzyku systemowym byli zobowiązani do uruchomienia swoich programów oceny, procedur zgłaszania incydentów i ram cyberbezpieczeństwa do tej daty. Harmonogram fazowego stosowania dla odniesienia: zakazane praktyki AI na podstawie Artykułu 5 były stosowane od 2 lutego 2025 r. (sześć miesięcy); obowiązki dotyczące modeli GPAI, w tym Artykuł 55, od 2 sierpnia 2025 r. (dwanaście miesięcy); obowiązki dotyczące systemów AI wysokiego ryzyka na podstawie Załącznika I od 2 sierpnia 2026 r. (dwadzieścia cztery miesiące); oraz pozostałe obowiązki dotyczące systemów AI wysokiego ryzyka od 2 sierpnia 2027 r. (trzydzieści sześć miesięcy). Dostawcy powinni również monitorować akty delegowane Komisji Europejskiej, które mogą doprecyzować wymagania oceny Artykułu 55 lub dostosować próg obliczeniowy w miarę rozwoju wiedzy naukowej o możliwościach modeli granicznych.