Artykuł 5 — Zakazane praktyki AI (Rozporządzenie o AI UE)

Artykuł 5 Rozporządzenia (UE) 2024/1689 — Zakazane praktyki AI. Oficjalny tekst, interpretacja praktyczna, kluczowe obowiązki i implikacje dla zgodności.

Podsumowanie oficjalnego tekstu

Artykuł 5 Rozporządzenia (UE) 2024/1689 (unijne Rozporządzenie o AI) stanowi całość Tytułu II i ustanawia bezwzględną listę praktyk AI, które są zakazane w całej Unii Europejskiej. Zakazy dotyczą systemów AI, których potencjał szkodliwy uznawany jest za tak poważny, że żaden środek zarządzania ryzykiem ani ocena zgodności nie mogą uczynić ich dopuszczalnymi.

Artykuł zakazuje: (1) systemów AI stosujących techniki subliminalne wykraczające poza świadomość osoby lub celowo wykorzystujących psychologiczne słabości lub podatności na zagrożenia, aby w sposób materialny zniekształcić zachowanie w sposób powodujący lub mogący spowodować znaczną szkodę; (2) systemów AI wykorzystujących wiek, niepełnosprawność lub okoliczności społeczno-ekonomiczne w celu szkodliwego zniekształcenia zachowania; (3) systemów AI stosowanych przez organy publiczne lub w ich imieniu do oceniania społecznego — oceniania lub klasyfikowania osób fizycznych na podstawie zachowania społecznego lub wywnioskowanych cech osobistych — gdy prowadzi to do niekorzystnego lub nieprzychylnego traktowania; (4) systemów AI oceniających ryzyko popełnienia przestępstwa przez daną osobę wyłącznie na podstawie profilowania lub cech osobowości; (5) zdalnej biometrycznej identyfikacji osób fizycznych w czasie rzeczywistym w miejscach publicznie dostępnych do celów organów ścigania, z zastrzeżeniem ograniczonych i ściśle kontrolowanych wyjątków; (6) zdalnych systemów biometrycznych stosowanych w czasie rzeczywistym lub po fakcie w celu wnioskowania o wrażliwych atrybutach, takich jak rasa, poglądy polityczne, przynależność do związków zawodowych, przekonania religijne lub orientacja seksualna; (7) systemów AI tworzących lub rozszerzających bazy danych rozpoznawania twarzy poprzez nieukierunkowany scraping internetu lub nagrań z kamer CCTV; oraz (8) systemów AI wnioskujących o emocjach osób fizycznych w miejscu pracy i placówkach edukacyjnych, z wyjątkiem celów bezpieczeństwa.

Co to oznacza w praktyce

Artykuł 5 wyznacza twardą linię zgodności, która dotyczy każdej organizacji opracowującej, stosującej lub importującej systemy AI na rynek UE, niezależnie od jej wielkości czy sektora.

Dla dostawców technologii i twórców AI zakazy oznaczają, że pewne kategorie produktów po prostu nie mogą być zgodnie z prawem wprowadzane na rynek UE. Dostawca oferujący narzędzie zwiększające produktywność pracowników, które zawiera funkcję rozpoznawania emocji w celu monitorowania zaangażowania pracowników — sygnalizujące menedżerom zestresowanych lub niezaangażowanych pracowników — musi usunąć lub przeprojektować tę funkcję przed 2 lutego 2025 r. Podobnie, startup analityki detalicznej, którego system wnioskuje o nastroju klientów na podstawie wyrazów twarzy w sklepie, podlega zakazowi wnioskowania o emocjach w kontekstach niezwiązanych z bezpieczeństwem.

Dla organizacji korzystających z narzędzi AI podmiotów trzecich, należyta staranność jest równie obowiązkowa. Dział zasobów ludzkich, który stosuje platformę rekrutacyjną wykonującą ukryte profilowanie psychograficzne w celu selekcji kandydatów, ryzykuje wspólną odpowiedzialność jako podmiot stosujący.

Dla organów publicznych zakaz oceniania społecznego jest szczególnie istotny. Każdy system AI agregujący dane behawioralne — historię płatności, wzorce mobilności, aktywność online — w celu wytworzenia oceny obywatelskiej, która następnie ogranicza dostęp do usług publicznych lub świadczeń, jest niezgodny z prawem, niezależnie od tego, czy system jest technicznie zaawansowany.

Dla organów ścigania wąski wyjątek od zakazu biometrycznej identyfikacji w czasie rzeczywistym wymaga solidnych procedur uprzedniego zezwolenia, ograniczeń geograficznych i czasowych, obowiązkowego rejestrowania oraz późniejszego raportowania do krajowych organów nadzorczych. Doraźne lub ciągłe stosowanie bez uprzedniej zgody sądowej lub administracyjnej jest niezgodne z prawem nawet w zakresie wyjątku.

Organizacje powinny przeprowadzić inwentaryzację wszystkich stosowanych lub rozwijanych systemów AI, odwzorować każdy z nich względem kryteriów Artykułu 5 i niezwłocznie zaprzestać zakazanych działań.

Kluczowe obowiązki

• Zaprzestać lub nigdy nie stosować żadnego systemu AI, który używa technik subliminalnych, manipulacyjnych lub wykorzystujących podatności na zagrożenia w celu zniekształcenia zachowania ludzkiego w sposób mogący spowodować znaczną szkodę, bez żadnych wyjątków ani możliwości proporcjonalnego wyważenia.
• Zakazać oceniania społecznego przez organy publiczne lub podmioty działające w ich imieniu: nie używać AI do oceniania lub klasyfikowania osób fizycznych na podstawie zachowania społecznego lub wywnioskowanych cech osobowości, gdy wynik prowadzi do niekorzystnego lub dyskryminacyjnego traktowania.
• Wycofać narzędzia do przewidywalnego ścigania przestępstw, które oceniają indywidualne ryzyko kryminalne wyłącznie na podstawie profilowania, cech osobowości lub wcześniejszych skojarzeń bez konkretnych dowodów behawioralnych.
• Powstrzymać się od scrapingu danych biometrycznych z internetu, kamer CCTV lub innych źródeł w celu tworzenia lub rozszerzania baz danych rozpoznawania twarzy; istniejące bazy danych zbudowane w ten sposób nie mogą być używane.
• Nie stosować systemów AI wnioskujących o wrażliwych atrybutach osobistych — rasowym lub etnicznym pochodzeniu, poglądach politycznych, przynależności do związków zawodowych, przekonaniach religijnych lub filozoficznych, orientacji seksualnej — z danych biometrycznych lub behawioralnych.
• Stosować ścisłe kontrole uprzedniego zezwolenia i rejestrowania w przypadku działania jako organ ścigania i korzystania z wąskiego wyjątku z Artykułu 5(2)–(5) dla zdalnej biometrycznej identyfikacji w czasie rzeczywistym; każde zastosowanie musi być ograniczone czasowo, geograficznie i podlegać raportowaniu ex-post.

Związek z innymi artykułami

Artykuł 5 należy odczytywać jako szczyt hierarchii opartej na ryzyku unijnego Rozporządzenia o AI. Funkcjonuje on w połączeniu z definicjami z Artykułu 3, który ustanawia, co stanowi „system AI", „dostawcę" i „podmiot stosujący" — podmioty podlegające zakazom. Rozróżnienie między zakazanymi praktykami na mocy Artykułu 5 a wysokiego ryzyka systemami AI na mocy Artykułu 6 i Załącznika III jest fundamentalne: zakazanych systemów nie można w ogóle zgodnie z prawem używać, natomiast systemy wysokiego ryzyka mogą być stosowane z zastrzeżeniem ocen zgodności, rejestracji i bieżących obowiązków monitorowania.

Artykuł 9 (systemy zarządzania ryzykiem) i Artykuły 10–15 (zarządzanie danymi, przejrzystość, nadzór ludzki) mają zastosowanie do dozwolonych systemów wysokiego ryzyka, ale nie odgrywają żadnej roli naprawczej w przypadku zakazów z Artykułu 5. Artykuł 99 ustanawia strukturę kar, w tym karę najwyższego poziomu mającą zastosowanie do naruszeń Artykułu 5. Artykuł 85 i przepisy dotyczące nadzoru rynkowego (Artykuły 74–78) regulują egzekwowanie. Krajowe właściwe organy wyznaczone na mocy Artykułu 70 są odpowiedzialne za monitorowanie przestrzegania zakazów na poziomie państw członkowskich.

Harmonogram zgodności

• 1 sierpnia 2024 r. — Rozporządzenie (UE) 2024/1689 weszło w życie, dwadzieścia dni po opublikowaniu w Dzienniku Urzędowym Unii Europejskiej.
• 2 lutego 2025 r. — Zakazy z Artykułu 5 stały się bezpośrednio stosowane we wszystkich państwach członkowskich UE. Była to pierwsza merytoryczna data stosowania w ramach etapowego harmonogramu określonego w Artykule 113. Od tej daty jakiekolwiek stosowanie, wprowadzanie na rynek lub oddanie do użytku zakazanego systemu AI stanowi naruszenie przepisów podlegające karom na mocy Artykułu 99.
• 2 sierpnia 2025 r. — Zasady dotyczące modeli AI ogólnego przeznaczenia (Tytuł VIII, Artykuły 51–56) stały się obowiązujące.
• 2 sierpnia 2026 r. — Obowiązki dotyczące większości systemów AI wysokiego ryzyka wymienionych w Załączniku III mają zastosowanie, wraz z przepisami dotyczącymi zarządzania i nadzoru rynkowego.
• 2 sierpnia 2027 r. — Przedłużony termin dla systemów AI wysokiego ryzyka będących już na rynku przed sierpniem 2024 r., które podlegają Załącznikowi I (komponent bezpieczeństwa w regulowanych produktach).

W odniesieniu do Artykułu 5 nie istnieje żaden okres przejściowy ani przepisy przejściowe: termin wynosił 2 lutego 2025 r. i każda organizacja, która jeszcze nie podjęła działań, jest już w zwłoce w zakresie zgodności.