Artikel 50 — Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (EU-KI-Gesetz)

Artikel 50 der Verordnung (EU) 2024/1689 — Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Compliance-Implikationen.

Zusammenfassung des offiziellen Textes

Artikel 50 der Verordnung (EU) 2024/1689 (EU-KI-Gesetz) legt Transparenzpflichten für Anbieter und Betreiber bestimmter Kategorien von KI-Systemen fest. Er ist die Kernbestimmung des Titels IV und befasst sich mit dem Risiko, dass Personen darüber getäuscht werden könnten, ob sie mit einem Menschen oder einem KI-System interagieren, oder ob Inhalte, die sie konsumieren, künstlich erzeugt wurden.

Gemäß Artikel 50 Absatz 1 müssen Anbieter von KI-Systemen, die dazu bestimmt sind, direkt mit natürlichen Personen zu interagieren, sicherstellen, dass diese Systeme so konzipiert sind, dass Nutzer klar und eindeutig darüber informiert werden können, dass sie mit einem KI-System interagieren. Diese Pflicht liegt auf Seiten des Anbieters bereits in der Entwurfsphase.

Artikel 50 Absatz 2 erstreckt Pflichten auf Betreiber: Jeder Betreiber, der ein Emotionserkennungssystem oder ein biometrisches Kategorisierungssystem einsetzt, muss die natürlichen Personen, die damit konfrontiert werden, über den Betrieb informieren.

Artikel 50 Absatz 3 verpflichtet Betreiber, die KI-Systeme zur Erzeugung oder Manipulation von Bild-, Audio- oder Videoinhalten verwenden, die einen Deepfake darstellen, offenzulegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Eine enge Ausnahme gilt, wenn eine solche Nutzung offensichtlich legitim oder kreativ notwendig ist.

Artikel 50 Absatz 4 befasst sich mit KI-generierten Texten, die zum Zwecke der Information der Öffentlichkeit zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden — Betreiber müssen offenlegen, dass der Text von einem KI-System produziert wurde, es sei denn, eine redaktionelle menschliche Überprüfung hat stattgefunden und die Ausgabe wurde wesentlich verändert.

Artikel 50 Absatz 5 legt Anbietern von KI-Modellen für allgemeine Zwecke (GPAI) Pflichten auf, sicherzustellen, dass Ausgaben maschinenlesbar sind und als KI-generiert identifiziert werden können, insbesondere bei synthetischen Audio-, Bild-, Video- oder Textinhalten.

Was dies in der Praxis bedeutet

Artikel 50 betrifft unmittelbar jede Organisation, die KI-Systeme entwickelt oder einsetzt, die mit Menschen interagieren oder Inhalte erzeugen, die Menschen präsentiert werden.

Für Technologieanbieter ergibt sich die wesentliche Pflicht in der Entwurfs- und Entwicklungsphase. Ein Unternehmen, das einen Kundenservice-Chatbot entwickelt, muss einen Offenlegungsmechanismus einbauen — eine klare, frühzeitige Benachrichtigung, die den Nutzer darüber informiert, dass er mit einem KI-System interagiert —, bevor das Produkt auf den Markt gebracht oder in Betrieb genommen wird. Dies kann kein nachträglicher Gedanke oder eine Fußnote in den Nutzungsbedingungen sein.

Für Betreiber — Unternehmen, die KI-Tools von Drittanbietern in ihre Abläufe integrieren — ist die Pflicht operativer Natur. Eine Bank, die einen KI-gesteuerten virtuellen Assistenten einsetzt, muss sicherstellen, dass Kunden zu Beginn jeder Interaktion darüber informiert werden, dass sie mit einem KI-System sprechen. Eine Medienorganisation, die KI zur Erstellung von Artikeln nutzt, muss diese Inhalte als KI-generiert kennzeichnen, es sei denn, ein qualifizierter menschlicher Redakteur hat sie wesentlich überprüft und überarbeitet.

Für synthetische Inhalte und Deepfakes ist die Pflicht besonders streng. Marketingteams, die KI-generierte Bilder von Personen verwenden, oder Medienproduzenten, die KI-vertonte Audiodateien erstellen, müssen einen Hinweis — idealerweise maschinenlesbar — an diesen Inhalten anbringen. Plattformen, die solche Inhalte verbreiten, sind aufgefordert und in manchen Auslegungen verpflichtet, diese Kennzeichnungen für Endnutzer sichtbar zu machen.

Praktisch gesehen sollten Organisationen eine Bestandsaufnahme ihrer KI-Systeme durchführen, um festzustellen, welche in den Anwendungsbereich des Artikels 50 fallen, eine Offenlegungsvorlage definieren, die den Anforderungen des Artikels entspricht, und technische Kontrollen implementieren — Wasserzeichen, Einbettung von Metadaten oder UI-Benachrichtigungen —, um sicherzustellen, dass die Compliance systematisch und nicht manuell erfolgt. Interne Schulungen für Teams, die KI-Tools einsetzen, sind ratsam, damit Offenlegungspflichten als Workflow-Anforderung und nicht als rechtliche Abstraktion behandelt werden.

Wesentliche Pflichten

• Entwurfspflicht des Anbieters: Anbieter müssen KI-Systeme, die dazu bestimmt sind, mit natürlichen Personen zu interagieren, so konzipieren, dass diese Systeme ihre KI-Natur klar und eindeutig vor oder zu Beginn der Interaktion offenlegen können.
• Offenlegungspflicht des Betreibers — konversationelle KI: Betreiber, die KI-Systeme zur direkten Interaktion mit Endnutzern einsetzen, müssen diese Nutzer rechtzeitig und verständlich darüber informieren, dass sie mit einem KI-System interagieren, sofern dies nicht aus dem Kontext ersichtlich ist.
• Offenlegungspflicht des Betreibers — Emotionserkennung und biometrische Kategorisierung: Betreiber, die Emotionserkennungs- oder biometrische Kategorisierungssysteme betreiben, müssen die Personen, die diesen Systemen ausgesetzt sind, über deren Einsatz und Betrieb informieren.
• Deepfake-Kennzeichnung: Betreiber, die KI zur Erzeugung oder Manipulation von Deepfake-Inhalten (Bilder, Audio, Video, die echte Personen, Orte oder Ereignisse darstellen) verwenden, müssen den synthetischen oder manipulierten Charakter dieser Inhalte klar offenlegen.
• KI-generierte Texte für öffentliche Information: Betreiber, die KI-generierte Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlichen, müssen diese als KI-generiert kennzeichnen, außer wenn eine menschliche redaktionelle Überprüfung zu einer wesentlichen Änderung geführt hat.
• Maschinenlesbare Wasserzeichen für GPAI: Anbieter von KI-Modellen für allgemeine Zwecke, die synthetische Inhalte erzeugen, müssen technische Lösungen — wie Wasserzeichen oder Metadaten-Tagging — implementieren, um sicherzustellen, dass Ausgaben als KI-generiert erkennbar und für nachgelagerte Systeme maschinell detektierbar sind.

Bezug zu anderen Artikeln

Artikel 50 ist in die breitere Transparenzarchitektur des EU-KI-Gesetzes eingebettet und muss im Zusammenhang mit mehreren anderen Bestimmungen gelesen werden.

Artikel 13 (Transparenz und Bereitstellung von Informationen für Hochrisiko-KI-Systeme) legt parallele Transparenzanforderungen für Hochrisikosysteme fest, die sich auf Dokumentation und Erklärbarkeit gegenüber Betreibern anstatt gegenüber Endnutzern konzentrieren. Wenn ein Hochrisikosystem auch mit natürlichen Personen interagiert, gelten die Artikel 13 und 50 gleichzeitig.

Artikel 26 (Pflichten der Betreiber von Hochrisiko-KI-Systemen) ergänzt Artikel 50, indem er die umfassenderen operativen Verantwortlichkeiten der Betreiber — einschließlich Überwachung und menschlicher Aufsicht — festlegt, in die die Offenlegungspflicht gemäß Artikel 50 eingebettet ist.

Artikel 53 und 54 (Pflichten für Anbieter von GPAI-Modellen) sind direkt mit Artikel 50 Absatz 5 verknüpft, der Wasserzeichen- und Maschinenlesbarkeitsanforderungen an GPAI-Anbieter stellt — Anforderungen, die in der technischen Dokumentation und den Modell-Compliance-Maßnahmen gemäß den Artikeln 53–54 widergespiegelt werden müssen.

Erwägungsgründe 132–134 bieten Auslegungshinweise zur Absicht hinter Titel IV, klären den Anwendungsbereich der Deepfake- und Emotionserkennungsbestimmungen sowie die Bedeutung von „aus dem Kontext offensichtlich" in den Ausnahmebestimmungen.

Zeitplan für die Compliance

Das EU-KI-Gesetz ist am 1. August 2024 (20 Tage nach der Veröffentlichung im Amtsblatt am 12. Juli 2024) in Kraft getreten. Die Verordnung gilt stufenweise:

• 2. Februar 2025 — Verbotene KI-Praktiken gemäß Artikel 5 wurden anwendbar.
• 2. August 2025 — Pflichten in Bezug auf KI-Modelle für allgemeine Zwecke (Titel VIII, Artikel 51–56) und Governance-Strukturen wurden anwendbar.
• 2. August 2026 — Titel IV, einschließlich Artikel 50, wurde vollständig anwendbar. Anbieter und Betreiber von konversationellen KI-Systemen, synthetischen Inhaltssystemen, Emotionserkennungssystemen und biometrischen Kategorisierungssystemen waren verpflichtet, bis zu diesem Datum konforme Offenlegungsmechanismen eingerichtet zu haben.
• 2. Dezember 2026 — Hochrisiko-KI-Systeme gemäß Annex I (Produktsicherheitsgesetzgebung) müssen die vollständigen Hochrisiko-Pflichten einhalten.
• 2. August 2027 — Hochrisiko-KI-Systeme gemäß Annex III, die bereits in Betrieb sind (Systeme, die vor August 2024 auf dem Markt gebracht wurden), müssen die Anforderungen erfüllen.

Organisationen, die bis zum 2. August 2026 noch keine Artikel-50-konformen Offenlegungsmechanismen implementiert hatten, verstoßen bereits gegen die Verordnung und sollten die Behebung als unmittelbare Priorität behandeln.