Artykuł 51 — Klasyfikacja modeli AI ogólnego przeznaczenia jako modeli stwarzających ryzyko systemowe (Akt w sprawie AI UE)

Artykuł 51 Rozporządzenia (UE) 2024/1689 — Klasyfikacja modeli AI ogólnego przeznaczenia jako modeli stwarzających ryzyko systemowe. Oficjalny tekst, praktyczna interpretacja, kluczowe obowiązki i implikacje dla zgodności.

Podsumowanie oficjalnego tekstu

Artykuł 51 Rozporządzenia (UE) 2024/1689 (Akt w sprawie AI UE) ustanawia mechanizm klasyfikacji modeli AI ogólnego przeznaczenia (GPAI) jako modeli stwarzających ryzyko systemowe. Znajduje się on w Tytule V, który tworzy dedykowaną warstwę regulacyjną dla modeli GPAI, odrębną od ram systemów AI wysokiego ryzyka z Tytułu III.

Na podstawie Artykułu 51(1) model GPAI jest klasyfikowany jako stwarzający ryzyko systemowe, gdy spełnia jeden z dwóch warunków. Po pierwsze, ma możliwości o dużym wpływie, oceniane na podstawie odpowiednich narzędzi technicznych i metodologii, w tym wskaźników i benchmarków — z wzruszalnym domniemaniem, że każdy model szkolony przy użyciu skumulowanych obliczeń przekraczających 10^25 FLOPs należy do tej kategorii. Po drugie, jest wyznaczony przez Komisję zgodnie z Artykułem 51(2) na podstawie innych kryteriów, niezależnie od tego, czy próg obliczeniowy został osiągnięty.

Artykuł 51(2) przyznaje Komisji uprawnienia do aktualizacji progu obliczeniowego za pomocą aktów delegowanych w miarę rozwoju technologicznego, zapewniając, że ramy pozostają skalibrowane do rzeczywistości rynkowej. Dostawcy, którzy uważają, że pomimo osiągnięcia progu ich model nie stwarza ryzyka systemowego, mogą powiadomić Komisję i dostarczyć uzasadniające dowody. Komisja następnie podejmuje ostateczną decyzję. Klasyfikacja na podstawie Artykułu 51 uruchamia dodatkowy zestaw obowiązków zawartych w Artykule 55, który stanowi najbardziej wymagający poziom obowiązków w ramach GPAI.

Co to oznacza w praktyce

Artykuł 51 bezpośrednio dotyczy dostawców przełomowych modeli GPAI — przede wszystkim dużych laboratoriów AI i firm technologicznych, które opracowują i wydają modele podstawowe lub duże modele językowe szkolone na dużą skalę. Każdy dostawca, którego model osiąga lub przekracza próg obliczeniowy szkolenia wynoszący 10^25 FLOPs, musi traktować ten model jako domniemanie niosące ryzyko systemowe i zacząć przygotowywać się do przestrzegania reżimu obowiązków z Artykułu 55, chyba że z powodzeniem obali domniemanie przed Komisją.

W konkretnych warunkach dostawca powinien skontrolować swoją infrastrukturę szkoleniową i dokumentację, aby ustalić, czy próg obliczeniowy został przekroczony. Wymaga to prowadzenia dokładnych rejestrów przebiegów szkoleniowych, w tym skumulowanych FLOPs. W przypadku gdy nowy model jest w trakcie opracowywania i oczekuje się, że zbliży się do progu, dostawcy powinni rozpocząć planowanie zgodności przed wydaniem, a nie po nim, ponieważ obowiązki powstają w momencie wprowadzenia modelu na rynek lub oddania go do użytku.

Dla dostawców, których modele są wyznaczane przez Komisję na podstawie kryteriów jakościowych — na przykład ze względu na bardzo szerokie wdrożenie na rynku UE, możliwości autonomicznego podejmowania decyzji lub multimodalny zasięg — wyzwalacz nie działa automatycznie w ten sam sposób, ale wyznaczenie wywołuje identyczne skutki prawne. Dostawcy powinni zatem monitorować publiczny rejestr modeli stwarzających ryzyko systemowe prowadzony przez Biuro ds. AI oraz wytyczne Komisji dotyczące kryteriów stosowanych na podstawie Artykułu 51(2).

Podmioty wdrażające modele i firmy korzystające z modeli GPAI za pośrednictwem dostępu API powinny być również świadome: jeśli używany przez nie model bazowy jest sklasyfikowany na podstawie Artykułu 51, mogą one napotkać dodatkowe wymagania dotyczące ujawniania informacji wynikające z umowy z dostawcą i powinny uwzględnić status ryzyka systemowego w swoich własnych procesach należytej staranności.

Kluczowe obowiązki

• Monitorowanie progu obliczeniowego: Dostawcy muszą śledzić i dokumentować skumulowane obliczenia szkoleniowe swoich modeli GPAI, aby określić, czy próg 10^25 FLOPs został osiągnięty, co wyzwala wzruszalne domniemanie ryzyka systemowego na podstawie Artykułu 51(1)(a).
• Proaktywne powiadomienie: Dostawcy, którzy uważają, że ich model nie stwarza ryzyka systemowego pomimo osiągnięcia progu, muszą proaktywnie powiadomić Komisję z uzasadniającymi dowodami, zamiast czekać na działania egzekucyjne.
• Zgodność z wyznaczeniem przez Komisję: W przypadku gdy Komisja wyznacza model jako stwarzający ryzyko systemowe na podstawie Artykułu 51(2) — czy to na podstawie obliczeń, czy innych kryteriów — dostawca musi przestrzegać tego wyznaczenia i obowiązków, które ono uruchamia.
• Monitorowanie aktualizacji progu: Dostawcy muszą śledzić zmiany progu obliczeniowego wprowadzane przez Komisję za pośrednictwem aktów delegowanych na podstawie Artykułu 51(2), ponieważ modele, które obecnie nie są objęte zakresem, mogą znaleźć się w nim w miarę dostosowywania progu.
• Gotowość do prowadzenia dokumentacji: Dostawcy muszą utrzymywać dokumentację techniczną wystarczającą do wykazania, czy progi klasyfikacji zostały lub nie zostały osiągnięte, wspierając zarówno samoocenę, jak i każdą kontrolę ze strony Komisji.
• Komunikacja z podmiotami downstream: Dostawcy sklasyfikowanych modeli GPAI stwarzających ryzyko systemowe muszą zapewnić, że dostawcy i podmioty wdrażające modele korzystające z modelu za pośrednictwem interfejsów API lub innych interfejsów są informowane o statusie klasyfikacji modelu, zgodnie z wymogami obowiązków dotyczących przejrzystości na podstawie Artykułu 53.

Związek z innymi artykułami

Artykuł 51 pełni funkcję przepisu wejściowego dla najbardziej wymagającego poziomu ram GPAI. Należy go czytać łącznie z Artykułem 52, który szczegółowo określa procedurę klasyfikacji i uprawnienia Komisji do wyznaczania, oraz Artykułem 55, który wymienia obowiązki merytoryczne — testowanie w warunkach adversarialnych, zgłaszanie incydentów do Biura ds. AI, środki cyberbezpieczeństwa i raportowanie efektywności energetycznej — które mają zastosowanie po dokonaniu klasyfikacji.

Artykuł 53 ustanawia podstawowe obowiązki mające zastosowanie do wszystkich dostawców modeli GPAI niezależnie od klasyfikacji ryzyka systemowego, w tym dokumentację techniczną, zgodność z prawem autorskim i publikację streszczeń danych szkoleniowych. Artykuł 51 buduje na tej podstawie, identyfikując, którzy dostawcy podlegają podwyższonemu reżimowi Artykułu 55.

Artykuł 4 przyznaje Komisji uprawnienia do wydawania aktów delegowanych w celu dostosowania szczegółów technicznych, w tym progu obliczeniowego w Artykule 51. Motywy 110 do 114 Rozporządzenia zawierają wskazówki interpretacyjne dotyczące tego, dlaczego klasyfikacja ryzyka systemowego jest uzasadniona dla modeli o wysokich obliczeniach i jak Komisja zamierza stosować kryteria kwalifikacyjne o charakterze jakościowym. Biuro ds. AI ustanowione na podstawie Artykułu 64 odgrywa centralną rolę w monitorowaniu zgodności z ramami klasyfikacji z Artykułu 51.

Harmonogram zgodności

Akt w sprawie AI UE wszedł w życie 1 sierpnia 2024 r., dwadzieścia dni po jego publikacji w Dzienniku Urzędowym Unii Europejskiej. Akt ma zastosowanie etapami:

• Luty 2025: Zakazy dotyczące praktyk AI z niedopuszczalnym ryzykiem (Artykuł 5) stały się stosowalne.
• Sierpień 2025: Ramy GPAI w ramach Tytułu V, w tym Artykuł 51, stały się stosowalne. Dostawcy modeli GPAI stwarzających ryzyko systemowe byli zobowiązani do przestrzegania procedur klasyfikacji i obowiązków z Artykułu 55 od tej daty. Jest to najistotniejszy termin bezpośrednio dla Artykułu 51.
• Grudzień 2026: Mają zastosowanie obowiązki dotyczące systemów AI wysokiego ryzyka wymienionych w Załączniku I (systemy komponentów bezpieczeństwa regulowane na podstawie istniejącego prawa Unii).
• Sierpień 2027: Pełne zastosowanie obowiązków dotyczących systemów AI wysokiego ryzyka wymienionych w Załączniku III.

W odniesieniu do Artykułu 51, dostawcy wielkoskalowych modeli GPAI musieli ocenić swoje obliczenia szkoleniowe i ustalić, czy próg ryzyka systemowego został osiągnięty od sierpnia 2025 r. Biuro ds. AI zaczęło wydawać wytyczne i kodeksy praktyk w przededniu tej daty, aby wspierać dostawców w podejmowaniu tej decyzji.