Artykuł 68 — Naukowy panel niezależnych ekspertów (ustawa UE o AI)

Artykuł 68 rozporządzenia (UE) 2024/1689 — Naukowy panel niezależnych ekspertów. Oficjalny tekst, praktyczna interpretacja, kluczowe obowiązki i implikacje dla zgodności.

Streszczenie tekstu oficjalnego

Artykuł 68 rozporządzenia (UE) 2024/1689 ustanawia naukowy panel niezależnych ekspertów wspierający egzekwowanie i zarządzanie unijną ustawą o AI, w szczególności w odniesieniu do modeli AI ogólnego przeznaczenia (GPAI). Komisja jest zobowiązana do ustanowienia panelu w drodze aktu wykonawczego, określającego jego skład, zasady działania i procedurę selekcji członków.

Członkowie panelu są mianowani na podstawie ich aktualnej, wysokopoziomowej wiedzy naukowej lub technicznej w dziedzinie sztucznej inteligencji i pełnią swoje funkcje w charakterze osobistym i niezależnym. Zabrania im się działania w imieniu jakiegokolwiek państwa członkowskiego, instytucji UE lub interesu prywatnego, i muszą ujawnić wszelkie potencjalne konflikty interesów przed uczestnictwem w odpowiednich obradach.

Podstawowy mandat panelu obejmuje: wydawanie niezależnych opinii naukowych, analiz i porad technicznych dla Biura ds. AI oraz, w stosownych przypadkach, dla krajowych organów właściwych; przyczynianie się do oceny modeli GPAI, które mogą stwarzać ryzyka systemowe; alarmowanie Biura ds. AI o konkretnych obawach; oraz wspieranie spójnego stosowania rozporządzenia w całej Unii. Panel może również żądać dostępu do informacji i dokumentacji od dostawców modeli GPAI, z zastrzeżeniem zobowiązań do zachowania poufności. Jego praca uzupełnia strukturę instytucjonalną Europejskiej Rady ds. AI i Biura ds. AI, zapewniając niezależną warstwę naukową w ogólnej architekturze zarządzania ustanowionej przez Tytuł VII.

Co to oznacza w praktyce

Dla większości organizacji wdrażających lub rozwijających systemy AI artykuł 68 działa w tle: panel naukowy jest organem instytucjonalnym, a nie bezpośrednim obowiązkiem zgodności dla podmiotów prywatnych. Jednak jego praktyczne implikacje są znaczące, w szczególności dla dostawców modeli AI ogólnego przeznaczenia o szerokim zasięgu lub potencjale ryzyka systemowego.

Dla dostawców modeli GPAI: Panel ma uprawnienia do żądania dokumentacji technicznej, ocen modeli i wyników testów. Dostawcy modeli sklasyfikowanych jako stwarzające ryzyko systemowe — lub poddawanych dochodzeniu w sprawie tej klasyfikacji — powinni przewidywać wnioski o informacje ze strony panelu i być przygotowani do odpowiedzi w terminach określonych przez Biuro ds. AI. Utrzymywanie ustrukturyzowanej, audytowalnej dokumentacji technicznej jest zatem wskazane jako proaktywny środek zgodności.

Dla krajowych organów właściwych i jednostek notyfikowanych: Panel służy jako centralne odniesienie naukowe. Jego opinie na temat progów ryzyka, metodologii testowania i możliwości modeli mają na celu wspieranie zharmonizowanego egzekwowania w państwach członkowskich, zmniejszając ryzyko rozbieżnych interpretacji krajowych.

Dla zespołów ds. zgodności i doradców prawnych: Zrozumienie procedur operacyjnych panelu — w tym sposobu wydawania przez niego alertów i zaleceń — jest ważne dla przewidywania regulacyjnej trajektorii zarządzania GPAI. Wyniki panelu mogą wpływać na późniejsze akty delegowane lub dokumenty wytycznych wydawane przez Komisję, kształtując oczekiwania dotyczące zgodności wykraczające poza to, co jest obecnie skodyfikowane.

Panel nie wydaje wiążących decyzji, ale jego oceny mają autorytatywną wagę w łańcuchu egzekwowania.

Kluczowe obowiązki

• Obowiązek Komisji: Komisja Europejska musi ustanowić panel naukowy w drodze aktu wykonawczego, określając skład, kryteria członkostwa, zasady operacyjne i procedury dotyczące konfliktów interesów.
• Niezależność ekspertów: Członkowie panelu muszą działać wyłącznie w interesie publicznym i w charakterze osobistym, ujawniając wszelkie konflikty interesów, które mogą wpłynąć na bezstronność ich pracy.
• Wsparcie techniczne dla Biura ds. AI: Panel jest zobowiązany do wydawania opinii naukowych, alertów i zaleceń dotyczących modeli GPAI, ocen ryzyka systemowego oraz kwestii technicznych przekazanych mu przez Biuro ds. AI lub organy krajowe.
• Dostęp do informacji: Panel może żądać odpowiednich informacji technicznych i dokumentacji od dostawców modeli GPAI, którzy są zobowiązani do współpracy z zastrzeżeniem obowiązujących zabezpieczeń poufności.
• Mechanizm alertowania: Panel ma wyraźną funkcję alarmowania Biura ds. AI o pojawiających się ryzykach, obawach dotyczących bezpieczeństwa lub wzorcach niezgodności zidentyfikowanych w toku jego działalności naukowej.
• Wsparcie harmonizacji: Panel przyczynia się do spójnego i jednolitego stosowania rozporządzenia w całej UE, w szczególności przez dostarczanie referencyjnych ocen naukowych, na których mogą polegać krajowe organy właściwe.

Relacja z innymi artykułami

Artykuł 68 mieści się w Tytule VII (Zarządzanie) i jest ściśle powiązany z szerszą architekturą zarządzania unijną ustawą o AI. Należy go czytać wraz z artykułem 64 (uprawnienie Komisji do dostępu do informacji i prowadzenia dochodzeń w sprawie modeli GPAI) i artykułem 65 (uprawnienia egzekucyjne i dochodzeniowe na poziomie Unii), ponieważ techniczne ustalenia panelu bezpośrednio zasilają te procesy.

Praca panelu dotycząca ryzyka systemowego jest bezpośrednio powiązana z artykułem 51 (klasyfikacja modeli GPAI z ryzykiem systemowym) i artykułami 55–55 (obowiązki mające zastosowanie do dostawców modeli GPAI, w tym dokumentacja, ocena i zgłaszanie incidentów). Kryteria stosowane przez panel do oceny ryzyka systemowego łączą się z progami i wskaźnikami zdefiniowanymi w Załączniku XIII.

Na poziomie instytucjonalnym artykuł 68 uzupełnia artykuł 65 (Biuro ds. AI) i artykuł 66 (Europejska Rada ds. Sztucznej Inteligencji), tworząc trójstronną strukturę zarządzania, w której panel zapewnia niezależną wiedzę naukową, Biuro ds. AI wykonuje uprawnienia egzekucyjne, a Rada koordynuje stanowiska krajowe. Artykuł 70 (uprawnienia krajowych organów właściwych) należy również czytać obok artykułu 68 przy rozważaniu, jak zalecenia panelu przekładają się na działania na poziomie państw członkowskich.

Harmonogram zgodności

Unijna ustawa o AI weszła w życie 2 sierpnia 2024 r., dwadzieścia dni po publikacji w Dzienniku Urzędowym. Jej przepisy stosuje się etapowo:

• Luty 2025 r.: Zakazy dotyczące praktyk AI niedopuszczalnego ryzyka (Tytuł II) stały się stosowane.
• Sierpień 2025 r.: Przepisy dotyczące zarządzania z Tytułu VII, w tym artykuł 68, stały się stosowane. Jest to data, od której ramy panelu naukowego — obejmujące nadzór nad GPAI, ustanowienie panelu i procedury oceny ryzyka systemowego — stały się operacyjne. Biuro ds. AI było zobowiązane do ukonstytuowania panelu i jego infrastruktury wsparcia w tym oknie.
• Grudzień 2026 r.: Obowiązują wymagania dla systemów AI wysokiego ryzyka na podstawie Załącznika I (prawodawstwo dotyczące bezpieczeństwa produktów).
• Sierpień 2027 r.: W pełni obowiązują wymagania dla systemów AI wysokiego ryzyka na podstawie Załącznika III (samodzielne systemy wysokiego ryzyka).

Dla dostawców modeli GPAI sierpień 2025 r. jest krytyczną datą kotwicy zgodności: od tego momentu panel jest uprawniony do żądania dokumentacji i wydawania alertów, co sprawia, że gotowość techniczna i kompletność dokumentacji stają się aktywnym wymogiem zgodności, a nie przyszłym obowiązkiem.