Artykuł 9 Rozporządzenia (UE) 2024/1689 — System zarządzania ryzykiem. Oficjalny tekst, interpretacja praktyczna, kluczowe obowiązki i implikacje dla zgodności.
Streszczenie oficjalnego tekstu
Artykuł 9 Rozporządzenia (UE) 2024/1689 nakłada obowiązkowy, ciągły system zarządzania ryzykiem na dostawców systemów AI wysokiego ryzyka przez cały cykl życia systemu. Przepis wymaga, aby system zarządzania ryzykiem składał się z iteracyjnego procesu zintegrowanego z rozwojem i działaniem systemu AI wysokiego ryzyka, regularnie aktualizowanego w świetle nowych informacji zebranych podczas monitorowania po wprowadzeniu do obrotu.
Konkretnie, Artykuł 9 wymaga od dostawców: (a) identyfikacji i analizy wszystkich znanych i racjonalnie przewidywalnych ryzyk związanych z systemem AI wysokiego ryzyka; (b) szacowania i oceny ryzyk, które mogą się zmaterializować podczas używania systemu zgodnie z jego zamierzonym przeznaczeniem i w warunkach racjonalnie przewidywalnego niewłaściwego użycia; (c) oceny ryzyk wynikających z dostępnych danych i zachowania osób wchodzących w interakcję z systemem; oraz (d) przyjęcia odpowiednich środków zarządzania ryzykiem na podstawie tej analizy.
Środki zarządzania ryzykiem muszą być takie, aby każde ryzyko szczątkowe związane z każdym zagrożeniem, jak również ogólne ryzyko szczątkowe systemu AI wysokiego ryzyka, było uznawane za akceptowalne. Artykuł 9 określa również, że należy przeprowadzać testy w celu identyfikacji odpowiednich środków, a testy te muszą być przeprowadzane zgodnie z określonymi wskaźnikami i progami probabilistycznymi. Szczególna uwaga jest wymagana w przypadkach, gdy system prawdopodobnie będzie wchodzić w interakcję z dziećmi lub innymi grupami wrażliwymi. Informacje wynikające z doświadczenia podmiotów stosujących systemy muszą być przekazywane z powrotem do procesu zarządzania ryzykiem dostawcy.
Co to oznacza w praktyce
Artykuł 9 jest jednym z najbardziej operacyjnie wymagających wymogów w Tytule III Rozporządzenia UE w sprawie AI. Odnosi się do każdej osoby prawnej kwalifikującej się jako dostawca systemu AI wysokiego ryzyka — czyli podmiotu, który opracowuje system lub zleca jego opracowanie i wprowadza go na rynek lub oddaje do użytku pod własną nazwą lub znakiem towarowym.
W praktyce zgodność wymaga ustanowienia udokumentowanych ram zarządzania ryzykiem przed wprowadzeniem systemu na rynek. Nie jest to formalne ćwiczenie: rozporządzenie wymaga iteracyjnego procesu, który trwa przez cały czas życia produktu, co oznacza, że dokumentacja zarządzania ryzykiem musi ewoluować w miarę aktualizacji, ponownego szkolenia lub wdrażania systemu w nowych kontekstach.
Zgodny system zarządzania ryzykiem będzie zazwyczaj obejmować: ustrukturyzowaną procedurę identyfikacji ryzyka obejmującą zarówno zamierzone użycie, jak i wiarygodne scenariusze niewłaściwego użycia; macierz szacowania ryzyka oceniającą prawdopodobieństwo i dotkliwość szkody; katalog środków łagodzących z udokumentowanym uzasadnieniem ich wyboru; formalne testy przed wprowadzeniem na rynek zgodnie z określonymi wskaźnikami; oraz mechanizm wchłaniania informacji zwrotnych po wprowadzeniu do obrotu — w tym danych o incydentach dostarczanych przez podmioty stosujące systemy — z powrotem do bieżącej analizy ryzyka.
Na przykład dostawca narzędzia do oceny zdolności kredytowej opartego na AI, sklasyfikowanego jako wysokie ryzyko na podstawie Załącznika III, musi dokumentować, w jaki sposób model może generować dyskryminacyjne wyniki, jakie środki techniczne i organizacyjne zmniejszają to ryzyko oraz w jaki sposób dane dotyczące wyników w rzeczywistym świecie spowodują ponowną ocenę. System AI stosowany w kontekście medycznym musi dodatkowo uwzględniać podwyższony obowiązek staranności wobec wrażliwych użytkowników. Wyniki zarządzania ryzykiem są bezpośrednio powiązane z dokumentacją techniczną wymaganą przez Art. 11 i oceną zgodności na podstawie Art. 43-44.
Kluczowe obowiązki
- Ustanowienie i utrzymywanie ciągłego systemu zarządzania ryzykiem obejmującego cały cykl życia systemu AI wysokiego ryzyka, od projektowania do wycofania z eksploatacji, aktualizowanego w świetle danych z monitorowania po wprowadzeniu do obrotu.
- Identyfikacja wszystkich znanych i racjonalnie przewidywalnych ryzyk, w tym ryzyk wynikających z racjonalnie przewidywalnego niewłaściwego użycia, z interakcji z innymi systemami i z społeczno-technicznego kontekstu wdrożenia.
- Szacowanie i ocena ryzyk pod względem prawdopodobieństwa ich wystąpienia i dotkliwości potencjalnej szkody, z uwzględnieniem zamierzonego celu i kategorii osób, których prawdopodobnie dotknięte, w tym grup wrażliwych i dzieci.
- Przyjęcie środków zarządzania ryzykiem ograniczających zidentyfikowane ryzyka do akceptowalnego poziomu szczątkowego; tam, gdzie środki techniczne są niewystarczające, muszą je uzupełniać środki organizacyjne lub informacyjne.
- Przeprowadzanie testów przed wprowadzeniem na rynek przy użyciu zdefiniowanych wskaźników i progów probabilistycznych odpowiednich do zamierzonego celu, w celu potwierdzenia, że wybrane środki są skuteczne i że ryzyko szczątkowe jest akceptowalne.
- Integracja informacji zwrotnych z monitorowania po wprowadzeniu do obrotu od podmiotów stosujących i użytkowników końcowych w bieżący proces zarządzania ryzykiem, zapewniając, że system pozostaje responsywny na dowody ze świata rzeczywistego dotyczące szkód lub zdarzeń poprzedzających wypadki.
Związek z innymi artykułami
Artykuł 9 stoi w centrum ram wymagań Rozdziału 2 i jest strukturalnie powiązany z kilkoma innymi przepisami. Zależy od Art. 6 i Załącznika III w zakresie swojego zakresu stosowania: tylko systemy kwalifikujące się jako wysokie ryzyko podlegają jego obowiązkom. Wyniki procesu z Artykułu 9 bezpośrednio zasilają Art. 11 (dokumentacja techniczna), który wymaga od dostawców wykazania, że istnieje i został zastosowany zgodny system zarządzania ryzykiem.
Artykuł 9 jest również ściśle powiązany z Art. 10 (dane i zarządzanie danymi), ponieważ jakość danych szkoleniowych, walidacyjnych i testowych istotnie wpływa na profil ryzyka, którym należy zarządzać. Art. 13 (przejrzystość i dostarczanie informacji) wymaga, aby określone informacje związane z ryzykiem były przekazywane podmiotom stosującym, a Art. 14 (nadzór człowieka) określa środki, które często służą jako narzędzia pierwszej linii ograniczania ryzyka na podstawie Artykułu 9. Art. 26 nakłada dalsze obowiązki na podmioty stosujące w zakresie monitorowania rzeczywistego użycia i raportowania stosownych informacji z powrotem do dostawców, zamykając pętlę informacji zwrotnych, której wymaga Artykuł 9. Wreszcie Art. 72 (monitorowanie po wprowadzeniu do obrotu) formalizuje mechanizmy gromadzenia danych, które podtrzymują iteracyjny proces zarządzania ryzykiem w czasie.
Harmonogram zgodności
Rozporządzenie UE w sprawie AI weszło w życie 1 sierpnia 2024 r. Artykuł 9, jako podstawowy wymóg Rozdziału 2 mający zastosowanie do systemów AI wysokiego ryzyka, podąża za ogólnym harmonogramem zgodności dla obowiązków z Tytułu III:
- 1 sierpnia 2024 r. — Rozporządzenie wchodzi w życie; 24-miesięczny zegar przejściowy zaczyna biec dla większości obowiązków dotyczących wysokiego ryzyka.
- 2 lutego 2025 r. — Zakazy dotyczące praktyk AI niedopuszczalnego ryzyka (Art. 5) stają się stosowane. Artykuł 9 jeszcze nie obowiązuje.
- 2 sierpnia 2025 r. — Zasady dotyczące modeli AI ogólnego przeznaczenia (Tytuł VIII) stają się stosowane. Artykuł 9 nadal nie jest obowiązkowy dla większości systemów wysokiego ryzyka.
- 2 grudnia 2027 r. — Artykuł 9 staje się w pełni stosowany do systemów AI wysokiego ryzyka wymienionych w Załączniku III (systemy AI w obszarach takich jak edukacja, zatrudnienie, usługi podstawowe, egzekwowanie prawa, migracja i wymiar sprawiedliwości). Dostawcy muszą mieć do tej daty wdrożony zgodny system zarządzania ryzykiem.
- 2 sierpnia 2028 r. — Przedłużony termin dla systemów AI wysokiego ryzyka będących elementami bezpieczeństwa produktów już objętych istniejącym unijnym ustawodawstwem harmonizacyjnym wymienionym w Załączniku I (np. maszyny, wyroby medyczne, lotnictwo cywilne).
Dostawcy opracowujący lub nabywający systemy AI wysokiego ryzyka powinni traktować 2 grudnia 2027 r. jako ostateczny termin gotowości do zgodności z Artykułem 9, wbudowując ramy zarządzania ryzykiem w swoje procesy rozwojowe z odpowiednim wyprzedzeniem, aby umożliwić czas na testowanie, dokumentację i ocenę zgodności.
Official AI Act Compliance Deadline Calendar
Deadline data last changed · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act, DORA i NIS2 razem
Czy Państwa organizacja podlega zarówno AI Act, jak i DORA? Oba rozporządzenia spotykają się na odporności operacyjnej finansowych systemów AI. Nasza siostrzana strona regulation-dora.eu omawia DORA szczegółowo — w tym to, co AI Act dodaje do istniejącego programu DORA.
AI Act dla instytucji finansowych ↗ Poznaj regulation-dora.eu ↗Często zadawane pytania
Dostawcy systemów AI wysokiego ryzyka zgodnie z definicją w Art. 6 i Załączniku III Rozporządzenia (UE) 2024/1689 są zobowiązani do ustanowienia i utrzymywania systemu zarządzania ryzykiem przed wprowadzeniem swojego systemu na rynek lub oddaniem go do użytku.
System musi identyfikować i analizować znane i racjonalnie przewidywalne ryzyka, szacować i oceniać ryzyka mogące pojawić się podczas użytkowania, przyjmować odpowiednie środki zarządzania ryzykiem i zapewniać, że ryzyka szczątkowe są uznawane za akceptowalne zgodnie z rozporządzeniem.
Nie. Artykuł 9 wymaga ciągłego, iteracyjnego procesu prowadzonego przez cały cykl życia systemu AI wysokiego ryzyka, w tym monitorowania po wprowadzeniu do obrotu. System musi być aktualizowany w miarę pojawiania się nowych informacji o ryzykach.
Artykuł 9 wyraźnie wymaga, aby dostawcy uwzględniali ryzyka wynikające z racjonalnie przewidywalnego niewłaściwego użycia — nie tylko zamierzonego użycia. Oznacza to, że dostawcy muszą analizować wiarygodne sposoby, w jakie system mógłby być używany nieprawidłowo lub w złej wierze, i odpowiednio ograniczać te ryzyka.
Artykuł 9(7) wymaga, aby procedury testowania były określone i przeprowadzane w celu identyfikacji najbardziej odpowiednich środków zarządzania ryzykiem. Testowanie musi być przeprowadzane zgodnie z wcześniej zdefiniowanymi wskaźnikami i progami probabilistycznymi odpowiednimi do zamierzonego celu i musi odbywać się przed wprowadzeniem na rynek.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Przejdź do praktyki w Akademii AI Act
Bezpłatny kurs, egzamin oceniany na serwerze, weryfikowalny certyfikat — i szablony robocze.