Artykuł 50 — Obowiązki przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI (Akt w sprawie AI UE)

Artykuł 50 rozporządzenia (UE) 2024/1689 — Obowiązki przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI. Oficjalny tekst, praktyczna interpretacja, kluczowe obowiązki i implikacje dla zgodności.

Streszczenie oficjalnego tekstu

Artykuł 50 rozporządzenia (UE) 2024/1689 (Akt w sprawie AI UE) ustanawia obowiązki przejrzystości dla dostawców i podmiotów stosujących określone kategorie systemu AI. Jest to kluczowy przepis Tytułu IV i odnosi się do ryzyka, że osoby fizyczne mogą zostać wprowadzone w błąd co do tego, czy wchodzą w interakcję z człowiekiem czy systemem AI, lub czy treści, które konsumują, zostały sztucznie wygenerowane.

Na mocy Artykułu 50(1) dostawcy systemów AI zaprojektowanych do bezpośredniej interakcji z osobami fizycznymi muszą zapewnić, że systemy te są zaprojektowane w sposób umożliwiający informowanie użytkowników, w sposób jasny i jednoznaczny, że wchodzą w interakcję z systemem AI. Ten obowiązek spoczywa na dostawcy na etapie projektowania.

Artykuł 50(2) rozszerza obowiązki na podmioty stosujące: każdy podmiot stosujący system rozpoznawania emocji lub biometrycznej kategoryzacji musi informować osoby fizyczne narażone na jego działanie o jego funkcjonowaniu.

Artykuł 50(3) wymaga, aby podmioty stosujące systemy AI do generowania lub manipulowania treściami obrazowymi, audio lub wideo stanowiącymi deepfake, ujawniały, że treść została sztucznie wygenerowana lub zmanipulowana. Wąski wyjątek ma zastosowanie, gdy takie użycie jest ewidentnie uzasadnione lub twórczo konieczne.

Artykuł 50(4) dotyczy tekstów generowanych przez AI publikowanych w celu informowania opinii publicznej o sprawach leżących w interesie publicznym — podmioty stosujące muszą ujawniać, że tekst został wyprodukowany przez system AI, chyba że przeprowadzono redakcyjny przegląd ludzki i dane wyjściowe zostały zasadniczo zmodyfikowane.

Artykuł 50(5) nakłada obowiązki na dostawców modeli AI ogólnego przeznaczenia (GPAI), aby zapewnić, że dane wyjściowe są odczytywalne maszynowo i można je zidentyfikować jako wygenerowane przez AI, w szczególności w odniesieniu do syntetycznych treści audio, obrazowych, wideo lub tekstowych.

Co to oznacza w praktyce

Artykuł 50 bezpośrednio dotyczy każdej organizacji, która buduje lub wdraża systemy AI wchodzące w interakcję z ludźmi lub generujące treści prezentowane ludziom.

Dla dostawców technologii kluczowy obowiązek powstaje na etapie projektowania i rozwoju. Firma budująca chatbota obsługi klienta musi zaprojektować mechanizm ujawnienia — jasne, natychmiastowe powiadomienie informujące użytkownika, że wchodzi w interakcję z systemem AI — zanim produkt zostanie wprowadzony do obrotu lub oddany do użytku. Nie może to być kwestia drugorzędna ani przypis w warunkach korzystania z usługi.

Dla podmiotów stosujących — firm integrujących narzędzia AI stron trzecich w swojej działalności — obowiązek ma charakter operacyjny. Bank wdrażający wirtualnego asystenta opartego na AI musi zapewnić, że klienci są informowani na początku każdej interakcji, że rozmawiają z AI. Organizacja medialna używająca AI do redagowania artykułów musi oznaczać tę treść jako wygenerowaną przez AI, chyba że wykwalifikowany ludzki redaktor materialnie ją przejrzał i przepracował.

W przypadku treści syntetycznych i deepfakes obowiązek jest szczególnie rygorystyczny. Zespoły marketingowe używające generowanych przez AI obrazów osób lub producenci mediów tworzący audio z głosem AI muszą dołączyć ujawnienie — najlepiej odczytywalne maszynowo — do tej treści. Platformy dystrybuujące takie treści są zachęcane, a w niektórych interpretacjach zobowiązane, do wyświetlania tych etykiet użytkownikom końcowym.

W praktyce organizacje powinny przeprowadzić inwentaryzację swoich systemów AI, aby zidentyfikować, które wchodzą w zakres Artykułu 50, zdefiniować szablon ujawnienia zgodny z wymogami Artykułu oraz wdrożyć kontrole techniczne — znakowanie wodnym znakiem, osadzanie metadanych lub banery na poziomie interfejsu użytkownika — aby zapewnić, że zgodność jest systematyczna, a nie manualna. Zalecane jest wewnętrzne szkolenie zespołów wdrażających narzędzia AI, aby obowiązki ujawnienia były traktowane jako wymóg przepływu pracy, a nie abstrakcja prawna.

Kluczowe obowiązki

• Obowiązek projektowy dostawcy: Dostawcy muszą projektować systemy AI przeznaczone do interakcji z osobami fizycznymi w taki sposób, aby systemy te mogły ujawniać swój charakter AI w sposób jasny i jednoznaczny przed lub na początku interakcji.
• Ujawnienie przez podmiot stosujący — konwersacyjna AI: Podmioty stosujące systemy AI do bezpośredniej interakcji z użytkownikami końcowymi muszą informować tych użytkowników w sposób terminowy i zrozumiały, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste z kontekstu.
• Ujawnienie przez podmiot stosujący — rozpoznawanie emocji i biometryczna kategoryzacja: Podmioty stosujące systemy rozpoznawania emocji lub biometrycznej kategoryzacji muszą powiadamiać osoby podlegające tym systemom o ich stosowaniu i funkcjonowaniu.
• Etykietowanie deepfakes: Podmioty stosujące AI do generowania lub manipulowania treściami deepfake (obraz, audio, wideo przypominające rzeczywiste osoby, miejsca lub zdarzenia) muszą wyraźnie ujawniać syntetyczny lub zmanipulowany charakter tej treści.
• Tekst generowany przez AI do informowania publicznego: Podmioty stosujące publikujące teksty generowane przez AI mające na celu informowanie opinii publicznej o sprawach leżących w interesie publicznym muszą je oznaczać jako wygenerowane przez AI, z wyjątkiem przypadków, gdy ludzki przegląd redakcyjny doprowadził do istotnej modyfikacji.
• Maszynowo odczytywalny znak wodny dla GPAI: Dostawcy modeli AI ogólnego przeznaczenia generujących treści syntetyczne muszą wdrożyć rozwiązania techniczne — takie jak znakowanie wodnym znakiem lub tagowanie metadanych — aby zapewnić, że dane wyjściowe można zidentyfikować jako wygenerowane przez AI i wykryć maszynowo przez systemy niższego szczebla.

Relacja do innych artykułów

Artykuł 50 funkcjonuje w ramach szerszej architektury przejrzystości Aktu w sprawie AI UE i musi być czytany w połączeniu z kilkoma innymi przepisami.

Artykuł 13 (Przejrzystość i dostarczanie informacji dla systemów AI wysokiego ryzyka) ustanawia równoległe wymogi przejrzystości dla systemów wysokiego ryzyka, koncentrując się na dokumentacji i wyjaśnialności skierowanej do podmiotów stosujących, a nie użytkowników końcowych. Tam gdzie system wysokiego ryzyka wchodzi również w interakcję z osobami fizycznymi, Artykuły 13 i 50 mają zastosowanie jednocześnie.

Artykuł 26 (Obowiązki podmiotów stosujących systemy AI wysokiego ryzyka) uzupełnia Artykuł 50, określając szersze obowiązki operacyjne podmiotów stosujących, w tym monitorowanie i nadzór ludzki, w ramach których mieści się obowiązek ujawnienia wynikający z Artykułu 50.

Artykuły 53 i 54 (Obowiązki dla dostawców modeli GPAI) są bezpośrednio powiązane z Artykułem 50(5), który nakłada na dostawców GPAI wymogi dotyczące znakowania wodnym znakiem i odczytywalności maszynowej — wymogi, które muszą być odzwierciedlone w dokumentacji technicznej i środkach zgodności modeli na podstawie Artykułów 53–54.

Motywy 132–134 zapewniają wskazówki interpretacyjne dotyczące intencji stojących za Tytułem IV, wyjaśniając zakres przepisów dotyczących deepfakes i rozpoznawania emocji oraz znaczenie wyrażenia „oczywiste z kontekstu" w przepisach dotyczących wyjątków.

Harmonogram zgodności

Akt w sprawie AI UE wszedł w życie 1 sierpnia 2024 r. (20 dni po publikacji w Dzienniku Urzędowym 12 lipca 2024 r.). Rozporządzenie jest stosowane etapami:

• 2 lutego 2025 r. — Zakazane praktyki AI na podstawie Artykułu 5 stały się obowiązujące.
• 2 sierpnia 2025 r. — Obowiązki dotyczące modeli AI ogólnego przeznaczenia (Tytuł VIII, Artykuły 51–56) i struktur zarządzania stały się obowiązujące.
• 2 sierpnia 2026 r. — Tytuł IV, w tym Artykuł 50, stał się w pełni obowiązujący. Dostawcy i podmioty stosujące konwersacyjną AI, systemy treści syntetycznych, systemy rozpoznawania emocji i systemy biometrycznej kategoryzacji były zobowiązane do posiadania zgodnych mechanizmów ujawnienia do tej daty.
• 2 grudnia 2026 r. — Systemy AI wysokiego ryzyka wymienione w Załączniku I (przepisy dotyczące bezpieczeństwa produktów) muszą spełniać pełne obowiązki dotyczące wysokiego ryzyka.
• 2 sierpnia 2027 r. — Systemy AI wysokiego ryzyka wymienione w Załączniku III, które są już w użyciu (istniejące systemy wprowadzone do obrotu przed sierpniem 2024 r.), muszą spełniać wymogi.

Organizacje, które do 2 sierpnia 2026 r. nie wdrożyły mechanizmów ujawnienia zgodnych z Artykułem 50, już naruszają rozporządzenie i powinny traktować usunięcie naruszeń jako natychmiastowy priorytet.