Artykuł 4 — Umiejętność korzystania z AI (Ustawa o AI UE)

Artykuł 4 Rozporządzenia (UE) 2024/1689 — umiejętność korzystania z AI. Tekst oficjalny, interpretacja praktyczna, kluczowe obowiązki i implikacje dla zgodności.

Podsumowanie tekstu oficjalnego

Artykuł 4 Rozporządzenia (UE) 2024/1689 ustanawia ogólny obowiązek w zakresie umiejętności korzystania z AI dla dostawców i podmiotów stosujących systemy AI działających w zakresie objętym Rozporządzeniem. Artykuł wymaga, aby dostawcy i podmioty stosujące podejmowały środki w celu zapewnienia, w jak największym stopniu, że ich personel i inne osoby działające w ich imieniu, zaangażowane w obsługę i użytkowanie systemów AI, posiadają wystarczający stopień umiejętności korzystania z AI.

Artykuł definiuje umiejętność korzystania z AI jako umiejętności, wiedzę i rozumienie pozwalające osobom podejmować świadome decyzje dotyczące systemów AI, właściwie je wdrażać i użytkować oraz być świadomymi wpływu, jaki te systemy mogą mieć. Kluczowe jest, że obowiązek jest skalibrowany: wymagany poziom umiejętności musi być proporcjonalny do wiedzy technicznej, doświadczenia, wykształcenia, szkolenia i kontekstu zainteresowanych osób, a także do obsługiwanych przez nie systemów AI.

Artykuł 4 nie narzuca zatem jednolitego standardu. Zamiast tego tworzy ramy należytej staranności, w ramach których organizacje muszą oceniać potrzeby kompetencyjne odpowiedniego personelu w odniesieniu do danych systemów AI i podejmować odpowiednie działania naprawcze lub rozwojowe tam, gdzie istnieją luki. Przepis odzwierciedla zamiar ustawodawcy — wyrażony w Motywie 20 — że ludzki nadzór nad systemami AI ma sens jedynie wtedy, gdy osoby sprawujące ten nadzór posiadają podstawową wiedzę niezbędną do jego skutecznego wykonywania. Obowiązek ma zakres horyzontalny: obowiązuje niezależnie od kategorii ryzyka danego systemu AI, co czyni go jednym z niewielu przepisów w Tytule I, który generuje bezpośrednie, wykonalne obowiązki dla wszystkich podmiotów w zakresie stosowania Rozporządzenia.

Co to oznacza w praktyce

Artykuł 4 tworzy bieżący wewnętrzny obowiązek w zakresie zarządzania. Każda organizacja kwalifikująca się jako dostawca (wprowadzająca system AI na rynek UE lub oddająca go do użytku) lub podmiot stosujący (używający systemu AI pod swoją kontrolą w kontekście zawodowym) musi aktywnie oceniać i uwzględniać umiejętności korzystania z AI przez odpowiedni personel.

W praktyce oznacza to, że organizacje powinny zacząć od mapowania, które role mają kontakt z systemami AI — niezależnie od tego, czy chodzi o budowanie, integrowanie, obsługę, nadzorowanie czy przeglądanie wyników AI. Zespół prawny korzystający z narzędzia do analizy umów, dział HR wdrażający system przesiewania CV lub zespół inżynierów utrzymujący model konserwacji predykcyjnej — wszystkie te osoby wchodzą w zakres stosowania. Każdy posiadacz roli musi posiadać poziom umiejętności korzystania z AI odpowiedni do jego obowiązków.

Konkretnie działania w zakresie zgodności mogą obejmować:

• Przeprowadzenie oceny luk w umiejętnościach w rolach związanych z AI
• Projektowanie lub pozyskiwanie szkoleń specyficznych dla roli (pracownicy techniczni wymagają głębszej wiedzy o zachowaniu modelu, błędach i niepewności; użytkownicy biznesowi wymagają świadomości ograniczeń i ścieżek eskalacji)
• Dokumentowanie środków dotyczących umiejętności korzystania z AI jako część szerszych rejestrów zarządzania AI
• Przegląd i odświeżanie programów w zakresie umiejętności korzystania z AI w miarę ewolucji systemów AI lub wprowadzania nowych systemów

Na przykład firma logistyczna wdrażająca model optymalizacji tras powinna zapewnić, że operatorzy działający na podstawie zaleceń modelu rozumieją zakresy ufności systemu, znane tryby awarii i kiedy je zastąpić. Podobnie podmiot świadczący opiekę zdrowotną wdrażający narzędzie wspomagające diagnozowanie musi zapewnić, że klinicyści rozumieją, co narzędzie robi, a czego nie robi, zanim oparą się na jego wynikach. Zasada proporcjonalności oznacza, że jednoosobowy praktyk wdrażający proste narzędzie AI będzie miał lżejsze obowiązki niż wielonarodowa korporacja wdrażająca systemy wysokiego ryzyka na dużą skalę.

Kluczowe obowiązki

• Ocena potrzeb w zakresie umiejętności korzystania z AI: Dostawcy i podmioty stosujące muszą zidentyfikować, który personel i wyznaczone osoby wchodzą w interakcję z systemami AI, i ocenić ich istniejący poziom umiejętności korzystania z AI w stosunku do wymagań tych ról.
• Podejmowanie odpowiednich środków w zakresie umiejętności: Organizacje muszą aktywnie wdrażać środki — szkolenia, dokumentację, wskazówki lub ustrukturyzowane podnoszenie kwalifikacji — proporcjonalne do roli każdej osoby, jej istniejących kompetencji i zaangażowanych systemów.
• Stosowanie proporcjonalności: Wymagany poziom umiejętności korzystania z AI nie jest jednolity; musi odzwierciedlać złożoność techniczną systemu AI, stopień autonomii, jaką sprawuje, oraz potencjalny wpływ decyzji posiadacza roli.
• Utrzymywanie ciągłego zasięgu: Obowiązek jest ciągły. W miarę zmian systemów AI, wdrażania nowych systemów lub rotacji personelu na stanowiska związane z AI, środki dotyczące umiejętności korzystania z AI muszą być przeglądane i aktualizowane.
• Rozszerzenie obowiązku na osoby trzecie działające w imieniu organizacji: Artykuł wyraźnie obejmuje osoby działające w imieniu dostawców lub podmiotów stosujących, co oznacza, że pracownicy kontraktowi, usługodawcy i agenci zaangażowani w obsługę systemów AI wchodzą w zakres stosowania.
• Dokumentowanie wysiłków: Chociaż Artykuł 4 nie określa wymagania dokumentacyjnego, dostosowanie do szerszych oczekiwań Rozporządzenia w zakresie zarządzania (w szczególności w przypadku systemów wysokiego ryzyka) oznacza, że rejestry ocen umiejętności i działań szkoleniowych stanowią najlepszą praktykę i wspierają wykazalną zgodność.

Związek z innymi artykułami

Artykuł 4 znajduje się w Tytule I (Przepisy ogólne) i funkcjonuje jako poziomy czynnik umożliwiający bardziej szczegółowe obowiązki Rozporządzenia. Jest bezpośrednio powiązany z Artykułem 9 (system zarządzania ryzykiem dla systemów AI wysokiego ryzyka), który wymaga, aby osoby odpowiedzialne za zarządzanie ryzykiem AI posiadały niezbędne kompetencje — standard, który zakłada bazową umiejętność korzystania z AI. Wzmacnia Artykuł 14 (nadzór ludzki), w którym znaczący nadzór przez osoby fizyczne zależy od rozumienia przez te osoby wyników systemów AI, ograniczeń i trybów awarii.

Artykuł 4 łączy się również z Artykułem 16(g), który wymaga od dostawców systemów AI wysokiego ryzyka podejmowania kroków w celu zapewnienia, że podmioty stosujące mogą odpowiednio interpretować system i z niego korzystać, oraz z Artykułem 26(2), który zobowiązuje podmioty stosujące do przypisania nadzoru ludzkiego osobom z niezbędnymi kompetencjami. W kontekście modeli AI ogólnego przeznaczenia (Tytuł VIII), Artykuł 4 wspiera oczekiwanie, że podmioty stosujące budujące na wynikach modelu GPAI rozumieją charakter i ograniczenia tych modeli. Czytanie Artykułu 4 obok Motywu 20 wyjaśnia zamiar ustawodawcy, że umiejętność korzystania z AI jest warunkiem wstępnym skutecznego wykonywania wszystkich innych obowiązków wynikających z Rozporządzenia.

Harmonogram zgodności

Ustawa o AI UE weszła w życie 1 sierpnia 2024 r., dwadzieścia dni po opublikowaniu w Dzienniku Urzędowym. Rozporządzenie stosuje się etapami:

• 2 lutego 2025 r. — Zakazy dotyczące praktyk AI o niedopuszczalnym ryzyku (Artykuł 5) stały się obowiązujące.
• 2 sierpnia 2025 r. — Artykuł 4 stał się obowiązujący, wraz z przepisami dotyczącymi modeli AI ogólnego przeznaczenia (Tytuł VIII) i obowiązkami regulującymi jednostki notyfikowane i organy nadzoru rynku. Organizacje powinny były mieć wdrożone środki dotyczące umiejętności korzystania z AI do tej daty.
• 2 sierpnia 2026 r. — Obowiązki dla systemów AI wysokiego ryzyka wymienionych w Załączniku I (systemy stanowiące element bezpieczeństwa w regulowanych produktach) stosują się.
• 2 sierpnia 2027 r. — Obowiązki dla systemów AI wysokiego ryzyka wymienionych w Załączniku III (samodzielne systemy wysokiego ryzyka) stosują się w pełni, w tym Artykuły 9–14 i 26, dla których umiejętność korzystania z AI na podstawie Artykułu 4 jest warunkiem wstępnym.

Organizacje, które jeszcze nie przeprowadziły oceny luk w umiejętnościach ani nie wdrożyły żadnych środków szkoleniowych, już nie przestrzegają Artykułu 4 od sierpnia 2025 r. i powinny traktować działania naprawcze jako natychmiastowy priorytet.