Obowiązki przejrzystości EU AI Act (Art. 50) — Chatboty, Deepfakes i Treści Syntetyczne

Większość systemów AI nie jest wysokiego ryzyka — podlegają obowiązkom przejrzystości Art. 50. Jeżeli wdrażasz chatbota, generujesz syntetyczne obrazy lub stosujesz rozpoznawanie emocji, oto dokładnie co musisz ujawniać i oznaczać.

Kto podlega Art. 50 (Nie Wysokie Ryzyko)

EU AI Act ustanawia wielopoziomowe ramy ryzyka. Większość systemów AI wdrożonych dzisiaj nie kwalifikuje się jako wysokiego ryzyka na podstawie Annex III lub Annex I — należy do jednej z dwóch lżejszych kategorii:

• Wyłącznie obowiązki przejrzystości (Art. 50): chatboty, generatory deepfake, systemy treści syntetycznych, systemy rozpoznawania emocji i narzędzia do kategoryzacji biometrycznej
• Minimalne ryzyko: filtry spamu, AI w grach, systemy rekomendacji — podlegające wyłącznie dobrowolnym kodeksom postępowania

Kluczowa różnica od systemów Annex III wysokiego ryzyka polega na tym, że systemy wyłącznie z obowiązkiem przejrzystości wymagają ujawnienia, a nie oceny zgodności, dokumentacji technicznej lub oznakowania CE. Obciążenie jest znacznie mniejsze, ale niezgodność jest nadal sankcjonowanym wykroczeniem z karami do 7,5 mln EUR.

Zrozumienie, do którego poziomu należy Twój system, jest pierwszym krokiem w zakresie zgodności. Narzędzie klasyfikatora ryzyka AI może pomóc Ci ustalić, które obowiązki mają zastosowanie.

Art. 50 ust. 1 — Konwersacyjna AI i Chatboty

Każdy system AI zaprojektowany do bezpośredniej interakcji z osobami fizycznymi musi powiadamiać użytkownika, że wchodzi w interakcję z systemem AI. Ujawnienie musi być:

• Terminowe — dokonane na początku interakcji, przed znaczącą wymianą
• Wyraźne i odróżnialne — nie ukryte w regulaminach ani stopkach drobnym drukiem
• Zrozumiałe — dostosowane do kontekstu, tak aby osoba rzeczywiście to rozumiała

Zakres: Boty obsługi klienta, wirtualni asystenci, agenci telefoniczni AI, konwersacyjne AI wbudowane w media społecznościowe i chat wsparcia oparty na AI na stronach internetowych. Jeżeli interfejs skierowany do człowieka używa modelu językowego do prowadzenia dialogu, Art. 50 ust. 1 ma zastosowanie.

Wyjątek 1: Gdy charakter AI jest oczywisty z kontekstu — na przykład wyraźnie oznaczony asystent AI z awatarem robota w interfejsie produktu — obowiązek ujawnienia może być uznany za spełniony. Ale „oczywisty" to wysoka poprzeczka; same pośrednie wskazówki interfejsu raczej nie wystarczą tam, gdzie użytkownicy mogliby zasadnie wierzyć, że rozmawiają z człowiekiem.

Wyjątek 2: Systemy autoryzowane przez prawo krajowe do celów egzekwowania prawa (np. ukryte narzędzia dochodzeniowe używane przez właściwe organy).

Termin zgodności: 2 sierpnia 2026 r. (przedłużony przez Digital Omnibus 2026 z pierwotnej daty 2 sierpnia 2025 r.). Systemy wdrożone przed tym terminem muszą być dostosowane — nie są objęte grandfatheringiem.

Art. 50 ust. 2 — Ujawnianie Rozpoznawania Emocji

Dostawcy i podmioty wdrażające systemów rozpoznawania emocji muszą informować osoby fizyczne, których stan emocjonalny lub psychologiczny jest wywnioskowany. Obejmuje to systemy, które wykrywają, klasyfikują lub oceniają emocje takie jak radość, gniew, niepokój, zaangażowanie lub zwodnicze z wyrazy twarzy, tonu głosu, sygnałów fizjologicznych lub wskazówek behawioralnych.

Zakres: Narzędzia HR do analizy rozmów kwalifikacyjnych oceniające zaangażowanie lub stres kandydatów; systemy nastrojów klientów monitorujące interakcje w call center; narzędzia kontroli bezpieczeństwa twierdzące o wykrywaniu zamiaru zwodniczego; systemy detaliczne śledzące reakcje emocjonalne na produkty.

Nie objęte: Systemy AI, które wykrywają stany fizjologiczne wyłącznie do celów bezpieczeństwa — na przykład systemy wykrywania senności kierowcy monitorujące ruch oczu i uruchamiające alert, ale nienawiązujące ani nierejestry stanów emocjonalnych do innych celów. Wyłączenie do celów bezpieczeństwa jest wąskie; systemy przeznaczone do profilowania tracą wyłączenie.

Gdzie system rozpoznawania emocji jest również systemem wysokiego ryzyka na podstawie Annex III (np. przesiewanie zatrudnienia), pełne obowiązki wysokiego ryzyka mają zastosowanie oprócz ujawnienia Art. 50 ust. 2.

Art. 50 ust. 3 — Ujawnianie Kategoryzacji Biometrycznej

Systemy AI, które wnioskują cechy wrażliwe — w tym pochodzenie rasowe lub etniczne, poglądy polityczne, przynależność do związków zawodowych, przekonania religijne lub filozoficzne lub orientację seksualną — z danych biometrycznych muszą informować osoby narażone na system.

Ten obowiązek ma zastosowanie do systemów, które kategoryzują jednostki na podstawie danych biometrycznych, niezależnie od tego, czy kategoryzacja jest głównym celem czy wnioskowaniem niższego szczebla. System używający rozpoznawania twarzy do wnioskowania prawdopodobnych atrybutów demograficznych uruchamia Art. 50 ust. 3 nawet jeżeli jego deklarowany cel jest czymś innym.

Ważna granica z Art. 5: Zdalna identyfikacja biometryczna w czasie rzeczywistym w miejscach publicznie dostępnych przez organy ścigania jest całkowicie zakazana na podstawie Art. 5, a nie tylko podlega ujawnieniu. Gdzie system jest zakazany, obowiązki przejrzystości są nieistotne — nie można go zgodnie z prawem w ogóle wdrożyć. Pełną listę zakazanych systemów znajdziesz w zakazanych praktykach na podstawie Art. 5.

Art. 50 ust. 4 — Oznaczanie Treści Generowanych przez AI i Syntetycznych

Dostawcy systemów AI, które generują lub manipulują syntetycznymi treściami audio, obrazu, wideo lub tekstu na dużą skalę, muszą technicznie oznaczać wyniki w czytelnym maszynowo formacie. Oznaczenie musi:

• Być wykrywalne i interoperacyjne na platformach i narzędziach weryfikacyjnych
• Utrzymywać się, gdy treść jest udostępniana, ponownie kodowana lub rozprowadzana
• Spełniać standard techniczny opracowywany przez Europejskie Biuro AI (standard proweniencji treści generowanych przez AI, czasami określany jako ATMF)

Zakres: Generatory tekst-do-obrazu (odpowiedniki Midjourney, Stable Diffusion, DALL-E); narzędzia do syntezy wideo i deepfake wideo; systemy klonowania głosu; narzędzia do pisania AI produkujące wyjście na dużą skalę (np. automatyczne generowanie wiadomości, teksty marketingowe na dużą skalę bez redakcji).

Wyjątek: Systemy AI generujące treści, które przeszły redakcję człowieka, za którą człowiek bierze odpowiedzialność redakcyjną. Dziennikarz używający narzędzia do szkicowania AI, przeglądający i istotnie edytujący wynik przed publikacją, wykracza poza obowiązek oznaczania dla tego konkretnego użycia. Ten sam system wdrożony bez nadzoru redakcyjnego — nie.

Dostawcy powinni wdrożyć oznaczanie techniczne na poziomie infrastruktury — watermarking, kryptograficzne metadane proweniencji lub dane uwierzytelniające treści zgodne ze standardami — nie jako opcjonalna funkcja, ale jako domyślne zachowanie wyjściowe.

Art. 50 ust. 5 — Obowiązek Podmiotu Wdrażającego dotyczący Ujawniania Deepfake

Gdy podmiot wdrażający używa systemu AI do produkowania treści deepfake — syntetycznych lub zmanipulowanych obrazów, dźwięku lub wideo rzeczywistych osób — podmiot wdrażający musi wyraźnie oznaczać treści jako generowane lub manipulowane przez AI. Etykieta musi być:

• Widoczna w przypadku treści obrazu lub wideo
• Słyszalna w przypadku treści audio
• Umieszczona w sposób oczywisty dla odbiorców, nie tylko osadzona w metadanych

Wyjątki: Treści produkowane do satyry, parodii lub ekspresji artystycznej, gdzie charakter generowany przez AI jest oczywisty dla odbiorców. Twórcy pracujący w wyraźnie parodyjnych lub satyrycznych formatach powinni mimo to dokumentować swój zamiar, ponieważ organy egzekwowania będą oceniać, czy charakter AI był rzeczywiście oczywisty w kontekście.

Ten obowiązek spada na podmiot wdrażający — organizację lub osobę, która wprowadza treść do użytku — a nie tylko na dostawcę systemu. Agencja marketingowa używająca zewnętrznego narzędzia do deepfake wideo jest podmiotem wdrażającym i ponosi obowiązek oznaczania.

Praktyczne Kroki Zgodności według Typu Systemu

Podmioty wdrażające używające systemów AI stron trzecich ponoszą obowiązki przejrzystości niezależnie od tego, czy dostawca je spełnił. Podmiot wdrażający nie może polegać na ujawnieniu dostawcy jako zastępniku własnego.

Związek z RODO

Obowiązki przejrzystości Art. 50 są prawnie niezależne od Art. 22 RODO (zautomatyzowane podejmowanie decyzji dotyczących poszczególnych osób). Ten sam system może jednocześnie uruchamiać oba.

Przykład: Chatbot używany jako pierwszy etap procesu ubiegania się o pożyczkę musi:

1. Ujawnić, że jest systemem AI na początku rozmowy (Art. 50 ust. 1)
2. Jeżeli chatbot podejmuje lub znacznie przyczynia się do wyłącznie zautomatyzowanej decyzji o skutkach prawnych lub podobnie znaczących, podmiot wdrażający musi również zapewnić prawa z Art. 22 RODO — prawo do niepodlegania zautomatyzowanej decyzji, prawo do przeglądu człowieka i prawo do wyjaśnienia

Organizacje wdrażające AI w regulowanych sektorach (usługi finansowe, ubezpieczenia, HR) powinny mapować zarówno obowiązki Art. 50, jak i zastosowanie Art. 22 RODO jako część tego samego przeglądu zgodności. Ramy te są komplementarne, a nie wzajemnie wykluczające.

Kary za Niezgodność

Naruszenia obowiązków przejrzystości Art. 50 niosą kary do 7,5 mln EUR lub 1,5% całkowitego ogólnoświatowego rocznego obrotu za poprzedni rok finansowy, w zależności od tego, która kwota jest wyższa. Dla MŚP i startupów procentowy pułap zazwyczaj daje niższą kwotę; dla dużych przedsiębiorstw bardziej prawdopodobne jest zastosowanie pułapu bezwzględnego.

Uprawnienia do egzekwowania spoczywają na krajowych organach nadzoru rynku wyznaczonych na podstawie Art. 74 i na Biurze AI UE dla dostawców modeli GPAI. Działania nadzorcze mogą obejmować formalne dochodzenia, środki tymczasowe, nakazy zawieszenia wdrożenia i publiczne ujawnienie ustaleń.

Niezgodność z obowiązkami etykietowania i oznaczania ma być wśród pierwszych priorytetów egzekwowania, biorąc pod uwagę wysoką publiczną widoczność mediów syntetycznych i deepfakes — regulatorzy w kilku państwach członkowskich już sygnalizowali zamiar działania na niezaetykietowanych treściach generowanych przez AI przed wdrożeniem szerszego egzekwowania wysokiego ryzyka.

Następne Kroki

• Użyj klasyfikatora ryzyka AI, aby ustalić, czy Twój system jest wyłącznie przejrzystości czy wysokiego ryzyka
• Przejrzyj zakazane praktyki na podstawie Art. 5, aby potwierdzić, że Twój system nie należy do zakazanej kategorii przed oceną obowiązków przejrzystości
• Monitoruj publikację przez Europejskie Biuro AI standardu proweniencji treści generowanych przez AI dla technicznych wymagań oznaczania Art. 50 ust. 4