Artykuł 15 — Dokładność, solidność i cyberbezpieczeństwo (Rozporządzenie UE o AI)

Artykuł 15 Rozporządzenia (UE) 2024/1689 — Dokładność, solidność i cyberbezpieczeństwo. Tekst oficjalny, interpretacja praktyczna, kluczowe obowiązki i implikacje dla zgodności.

Podsumowanie tekstu oficjalnego

Artykuł 15 Rozporządzenia (UE) 2024/1689 ustanawia wymagania techniczne dotyczące dokładności, solidności i cyberbezpieczeństwa, które muszą być spełniane przez systemy AI wysokiego ryzyka przez cały ich cykl życia. Artykuł jest zbudowany wokół trzech wzajemnie powiązanych obowiązków.

Po pierwsze, systemy AI wysokiego ryzyka muszą być projektowane i rozwijane w celu osiągnięcia odpowiedniego poziomu dokładności dla ich zamierzonego celu. Dostawcy są zobowiązani do zadeklarowania odpowiednich mierników dokładności w towarzyszącej dokumentacji technicznej, co umożliwia weryfikację przez podmioty dalszego łańcucha i kontrolę regulacyjną.

Po drugie, systemy muszą wykazywać solidność — zdolność do obsługi błędów, usterek i niespójności wynikających z samego systemu, jego środowiska operacyjnego lub celowej złośliwej manipulacji. Rozporządzenie wyraźnie wskazuje na konieczność zaradzenia ryzyku niezamierzonych pętli sprzężenia zwrotnego, w szczególności gdy system AI wysokiego ryzyka wpływa na własne dane treningowe lub dane wyjściowe.

Po trzecie, systemy muszą zawierać środki cyberbezpieczeństwa proporcjonalne do stwarzanych przez nie ryzyk. Środki te muszą chronić przed próbami osób trzecich zmierzającymi do wykorzystania luk systemowych, które mogłyby spowodować, że system zachowuje się w sposób szkodliwy, stronniczy lub w inny sposób niezgodny z przepisami. Rozporządzenie uznaje, że odporność cyberbezpieczeństwa nie jest warunkiem statycznym, ale musi być utrzymywana w miarę ewolucji krajobrazu zagrożeń.

Łącznie Artykuł 15 operacjonalizuje szerszą zasadę — wyrażoną w Motywach 51 i 52 — że techniczna wiarygodność jest warunkiem wstępnym wdrożenia AI w dziedzinach o istotnych konsekwencjach.

Co to oznacza w praktyce

Artykuł 15 tworzy konkretne obowiązki inżynieryjne i zarządcze dla każdej organizacji, która wprowadza system AI wysokiego ryzyka na rynek UE lub oddaje go do użytku.

Dla dostawców bezpośrednią implikacją jest to, że dokładność nie jest jedynie twierdzeniem komercyjnym, ale zobowiązaniem regulacyjnym, które musi być udokumentowane, zmierzone i utrzymywane. Producent wyrobów medycznych integrujący narzędzie diagnostyczne AI musi określić, czy dokładność jest mierzona jako czułość, swoistość, AUC lub inny miernik — a wybór ten musi być zgodny z zamierzonym celem systemu i profilem ryzyka. Niejasne lub aspiracyjne oświadczenia dotyczące dokładności nie spełnią wymogów.

Testowanie solidności musi wykraczać poza standardowe zapewnienie jakości. Dostawcy powinni przeprowadzać testy warunków skrajnych, testy poza rozkładem oraz — w przypadku gdy system jest narażony na dane wejściowe kontrolowane przez użytkownika — złośliwe testy penetracyjne (red-teaming). W przypadku gdy system zawiera pętle sprzężenia zwrotnego (na przykład algorytm rekrutacyjny uczący się na decyzjach rekruterów), dostawcy muszą mapować i ograniczać ryzyko, że stronnicze dane wyjściowe korumpują przyszłe cykle treningowe.

Obowiązki w zakresie cyberbezpieczeństwa wynikające z Artykułu 15 należy odczytywać w połączeniu z szerszą postawą bezpieczeństwa informacji dostawcy. Systemy AI wysokiego ryzyka przetwarzające dane osobowe lub łączące się z infrastrukturą krytyczną podlegają złożonym obowiązkom zarówno na podstawie niniejszego Rozporządzenia, jak i Dyrektywy NIS 2. Praktyczne kroki obejmują kontrole dostępu do modelu, sanityzację danych wejściowych, wykrywanie anomalii w żądaniach inferencji oraz procedury ujawniania luk.

Dla podmiotów wdrażających zgodność z Artykułem 15 zależy w znacznym stopniu od zachowania zwalidowanych warunków operacyjnych opisanych przez dostawcę. Wdrożenie systemu na rozkładach danych zasadniczo różniących się od tych użytych podczas walidacji — na przykład zastosowanie modelu oceny zdolności kredytowej wytrenowanego na jednym rynku krajowym do innej jurysdykcji — może podważyć właściwości dokładności i solidności, na podstawie których przyznano oznakowanie CE.

Kluczowe obowiązki

• Deklarowanie mierników dokładności: Dostawcy muszą określić odpowiednie mierniki dokładności dla systemu AI wysokiego ryzyka i uwzględnić je w dokumentacji technicznej wymaganej na podstawie Artykułu 11 i Załącznika IV. Mierniki muszą być odpowiednie do zamierzonego celu systemu.
• Osiąganie i utrzymywanie odpowiedniej dokładności: System musi być zaprojektowany i rozwinięty w celu osiągnięcia zadeklarowanego poziomu dokładności; dokładność nie może być traktowana jako jednorazowy wynik walidacji, ale musi być monitorowana po wdrożeniu za pomocą systemu monitorowania powarynkowego wymaganego na podstawie Artykułu 72.
• Zapewnienie solidności wobec błędów i niespójności: Muszą być wdrożone środki techniczne i organizacyjne, aby system mógł obsługiwać błędy, usterki i niespójności — niezależnie od tego, czy wynikają one z wewnętrznych awarii, zmienności środowiskowej czy celowych złośliwych danych wejściowych — bez powodowania niebezpiecznych lub niezgodnych danych wyjściowych.
• Ochrona przed atakami złośliwymi: W przypadku gdy system jest narażony na dane wejściowe od osób trzecich, dostawcy muszą wdrożyć środki wykrywania i odparcia złośliwej manipulacji, w tym wstrzykiwanie monitów, inwersję modelu lub ataki zatruwania danych, gdzie ma to zastosowanie.
• Zarządzanie ryzykiem pętli sprzężenia zwrotnego: W przypadku gdy dane wyjściowe systemu mogą wpływać na przyszłe dane treningowe lub zachowanie modelu, dostawcy muszą zidentyfikować to ryzyko w dokumentacji technicznej i wdrożyć zabezpieczenia zapobiegające degradacji wydajności lub amplifikacji stronniczości w czasie.
• Wdrożenie proporcjonalnych środków cyberbezpieczeństwa: Rozwiązania techniczne — w tym kontrole dostępu, monitoring i procedury reagowania na incydenty — muszą być proporcjonalne do ryzyk cyberbezpieczeństwa stwarzanych przez system, biorąc pod uwagę jego zamierzony cel, kontekst wdrożenia i narażenie na sieci zewnętrzne lub dane wejściowe kontrolowane przez użytkownika.

Relacja z innymi artykułami

Artykułu 15 nie można odczytywać w izolacji. Stanowi on serce wymagań technicznych dla systemów AI wysokiego ryzyka i przecina się z kilkoma innymi przepisami Rozporządzenia.

Artykuł 9 (system zarządzania ryzykiem) zapewnia nadrzędne ramy, w których muszą być identyfikowane, oceniane i ograniczane ryzyka dotyczące dokładności, solidności i cyberbezpieczeństwa. System zarządzania ryzykiem jest proceduralnym narzędziem do spełniania wielu merytorycznych wymagań nakładanych przez Artykuł 15.

Artykuł 10 (dane i zarządzanie danymi) ma fundamentalne znaczenie dla dokładności: system wytrenowany na danych niskiej jakości, niereprezentatywnych lub stronniczych nie może zapewnić znaczących gwarancji dokładności. Obowiązki dotyczące jakości danych bezpośrednio umożliwiają zgodność z Artykułem 15.

Artykuł 11 i Załącznik IV określają, co musi pojawić się w dokumentacji technicznej, w tym mierniki dokładności wymagane przez Artykuł 15(1).

Artykuł 17 (system zarządzania jakością) wymaga od dostawców wbudowania zgodności z Artykułem 15 w procesy organizacyjne, w tym kontrole projektowe, protokoły testowe i procedury zarządzania zmianami.

Artykuł 72 (monitorowanie powarynkowe) tworzy ciągły obowiązek weryfikacji, że poziomy dokładności i solidności są utrzymywane po wdrożeniu, zamykając pętlę cyklu życia, którą Artykuł 15 otwiera na etapie projektowania.

W przypadku systemów będących również wyrobami medycznymi lub elementami bezpieczeństwa, Artykuł 15 musi być odczytywany obok obowiązującego unijnego prawodawstwa harmonizacyjnego wymienionego w Załączniku I.

Harmonogram zgodności

Artykuł 15 podlega fazowemu harmonogramowi stosowania ustanowionemu przez Artykuł 113 Rozporządzenia (UE) 2024/1689, które weszło w życie 1 sierpnia 2024 r.

Dostawcy opracowujący lub wprowadzający na rynek systemy AI wysokiego ryzyka przed obowiązującą datą muszą mimo to z wyprzedzeniem przygotować dokumentację, protokoły testowe i architektury cyberbezpieczeństwa — oceny gotowości regulacyjnej i oceny zgodności na podstawie Artykułów 43–47 wymagają znacznego czasu przygotowania. Zaległości jednostek notyfikowanych i złożoność testów złośliwych oznaczają, że organizacje planujące uruchomienie w 2026 r. powinny rozpocząć oceny luk dla Artykułu 15 najpóźniej w połowie 2025 r.