EU-AI-Act-Glossar: Wichtige Definitionen und Begriffe erklärt

Offizielle Definitionen aus dem EU AI Act (Art. 3) und häufig verwendete Begriffe in der EU-KI-Regulierung. Zu verstehen, was das Gesetz unter 'KI-System', 'Anbieter', 'hochriskant', 'wesentliche Änderung' und 'GPAI-Modell' versteht, ist für die Compliance unerlässlich. Dieses Glossar deckt alle Kernbegriffe mit allgemeinverständlichen Erklärungen ab.

Kerndefinitionen (Art. 3)

Der EU AI Act enthält 65 definierte Begriffe in Art. 3. Die wichtigsten für Compliance-Zwecke sind nachstehend zusammengefasst.

KI-System (Art. 3(1))

Ein maschinenbasiertes System, das:

• Mit unterschiedlichem Grad an Autonomie betrieben werden kann
• Nach der Inbetriebnahme Anpassungsfähigkeit aufweisen kann
• Aus Eingaben ableitet, wie Ausgaben zu generieren sind (Vorhersagen, Inhalte, Empfehlungen, Entscheidungen), die physische oder virtuelle Umgebungen beeinflussen können

Wesentliche Konsequenz: Die Definition ist technologieneutral. Sie erfordert kein Deep Learning oder neuronale Netze — ein regelbasiertes System mit adaptiven Komponenten kann qualifizieren. Umgekehrt qualifiziert ein einfaches If-Then-Logikbaum ohne Lernfähigkeit wahrscheinlich nicht.

Anbieter (Art. 3(3))

Jede natürliche oder juristische Person, Behörde, Agentur oder Einrichtung, die ein KI-System entwickelt oder entwickeln lässt und es auf dem Markt in Verkehr bringt oder in Betrieb nimmt unter eigenem Namen oder Markenzeichen — ob gegen Entgelt oder kostenlos.

Wesentliche Konsequenz: Entwicklungsverantwortung + Marktplatzierung = Anbieterstatus. Ein Unternehmen, das einen maßgeschneiderten KI-Aufbau von einem externen Entwickler in Auftrag gibt, ist der Anbieter, wenn das System unter dem Markennamen des Unternehmens auf den Markt gebracht wird.

Betreiber (Art. 3(4))

Jede natürliche oder juristische Person, Behörde, Agentur oder Einrichtung, die ein KI-System unter ihrer Autorität für einen professionellen Zweck verwendet — außer wenn die Nutzung in einer persönlichen, nicht-professionellen Aktivität erfolgt.

Wesentliche Konsequenz: Die überwiegende Mehrheit der Unternehmen, die von Dritten gekaufte KI verwenden, sind Betreiber. Betreiberpflichten sind weniger belastend als Anbieterpflichten, sind aber für hochriskante Systeme weiterhin erheblich.

Bevollmächtigter Vertreter (Art. 3(5))

Jede natürliche oder juristische Person, die in der Union ansässig ist und ein schriftliches Mandat von einem außerhalb der Union ansässigen Anbieter eines KI-Systems erhalten hat, um Pflichten in dessen Namen zu erfüllen.

Wesentliche Konsequenz: Nicht-EU-Anbieter von KI-Systemen, die auf dem EU-Markt in Verkehr gebracht werden, müssen einen in der EU ansässigen Bevollmächtigten Vertreter benennen. Dieser Vertreter kann für die EU-AI-Act-Pflichten des Anbieters rechtlich verantwortlich gemacht werden.

Einführer (Art. 3(6))

Jede natürliche oder juristische Person, die in der Union ansässig ist und ein KI-System auf dem EU-Markt in Verkehr bringt, das den Namen oder das Markenzeichen einer natürlichen oder juristischen Person trägt, die außerhalb der Union ansässig ist.

Händler (Art. 3(7))

Jede natürliche oder juristische Person in der Lieferkette, die weder Anbieter noch Einführer ist und ein KI-System auf dem Unionsmarkt bereitstellt, ohne es zu ändern.

Wirtschaftsakteur (Art. 3(8))

Ein Sammelbegriff für Anbieter, Bevollmächtigte Vertreter, Einführer, Händler, Betreiber und andere Personen, die nach dem Gesetz Pflichten unterliegen.

Bestimmungsgemäßer Verwendungszweck (Art. 3(12))

Die Verwendung, für die ein KI-System vom Anbieter vorgesehen ist, einschließlich des spezifischen Kontexts und der Verwendungsbedingungen, die in den vom Anbieter in den Gebrauchsanweisungen, Werbe- oder Verkaufsmaterialien oder Erklärungen bereitgestellten Informationen angegeben sind.

Wesentliche Konsequenz: Der bestimmungsgemäße Verwendungszweck bestimmt, welche Risikokategorie gilt und welche Anforderungen erfüllt werden müssen. Ein für die Kreditwürdigkeitsprüfung vorgesehenes System ist hochriskant (Anhang III); dasselbe zugrunde liegende Modell, das für Spam-Filterung vorgesehen ist, ist es möglicherweise nicht. Anbieter können der Hochrisiko-Klassifizierung nicht entgehen, indem sie den Verwendungszweck vage lassen — das Gesetz berücksichtigt alle Informationen über Design und Marketing des Systems.

Vernünftigerweise vorhersehbare Fehlanwendung (Art. 3(13))

Nutzung eines KI-Systems in einer Weise, die nicht seinem bestimmungsgemäßen Verwendungszweck entspricht, aber aus vernünftigerweise vorhersehbarem menschlichem Verhalten oder Interaktion mit anderen Systemen resultieren kann.

Wesentliche Konsequenz: Anbieter müssen vorhersehbare Fehlanwendungen in ihren Risikomanagementsystemen bewerten und berücksichtigen — nicht nur den beabsichtigten Anwendungsfall. Ein für die Zugangskontrolle vorgesehenes Gesichtserkennungssystem muss das vorhersehbare Risiko berücksichtigen, dass es für die Echtzeit-Überwachung verwendet werden könnte.

Sicherheitskomponente (Art. 3(14))

Eine Komponente eines Produkts oder eines KI-Systems, die eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt, oder deren Ausfall oder Fehlfunktion die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet.

Wesentliche Konsequenz: KI-Systeme, die Sicherheitskomponenten von Produkten sind, die durch Anhang-I-Sektorgesetzgebung erfasst werden, unterliegen automatisch den Hochrisikoverpflichtungen, unabhängig davon, ob die KI selbst ein direktes Risiko darstellt.

Inverkehrbringen (Art. 3(9))

Die erste Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt.

Inbetriebnahme (Art. 3(11))

Die Versorgung eines KI-Systems zur Erstverwendung direkt an den Betreiber oder zur Eigenverwendung auf dem Unionsmarkt für seinen bestimmungsgemäßen Zweck.

Wesentliche Konsequenz: Sowohl „Inverkehrbringen" (Verkauf an andere) als auch „Inbetriebnahme" (selbst verwenden) lösen Anbieterpflichten aus. Ein Unternehmen, das ein KI-System für den internen Gebrauch baut, nimmt es in Betrieb und ist ein Anbieter, der allen Pflichten unterliegt.

Hochriskantes KI-System

Nicht in einem einzigen Satz definiert — nach Anhang I (Sicherheitskomponenten in regulierten Produkten) und Anhang III (eigenständige hochriskante Anwendungsfälle) klassifiziert. Das Risikoniveau hängt vom bestimmungsgemäßen Verwendungszweck und dem Einsatzkontext ab, nicht von der zugrunde liegenden Technologie.

Hochriskante Kategorien nach Anhang III:

1. Biometrische Identifizierung und Kategorisierung
2. Verwaltung kritischer Infrastrukturen
3. Allgemeine und berufliche Bildung
4. Beschäftigung, Personalverwaltung, Zugang zur Selbständigkeit
5. Zugang zu wesentlichen privaten und öffentlichen Diensten und Leistungen
6. Strafverfolgung
7. Migration, Asyl, Grenzkontrolle
8. Rechtspflege und demokratische Prozesse

KI-Modell mit allgemeinem Verwendungszweck (GPAI) (Art. 3(63))

Ein KI-Modell, einschließlich solcher, die mit einer großen Menge von Daten unter Verwendung von Selbstüberwachung in großem Maßstab trainiert wurden, das erhebliche Allgemeinheit aufweist und in der Lage ist, kompetent eine Vielzahl verschiedener Aufgaben auszuführen, unabhängig davon, wie das Modell auf dem Markt bereitgestellt wird — das in einer Vielzahl von nachgelagerten Anwendungen verwendet werden kann.

Wesentlicher Unterschied vom KI-System: Ein GPAI-Modell ist noch kein KI-System. Es wird Teil eines KI-Systems, wenn es in ein Produkt oder eine Anwendung integriert wird. Das Gesetz legt Pflichten für GPAI-Modellanbieter separat von (und zusätzlich zu) Pflichten für Anbieter von mit GPAI-Modellen gebauten KI-Systemen fest.

GPAI-Modell mit systemischem Risiko (Art. 3(65))

Ein GPAI-Modell, das als systemisch riskant eingestuft wird, weil es hochkarätige Fähigkeiten hat, die nach geeigneten technischen Tools und Methoden bewertet wurden, oder wegen seiner tatsächlichen oder vernünftigerweise vorhersehbaren hochkarätige Reichweite.

Der aktuelle Indikator ist eine kumulative Trainingsrechenleistung von mehr als 10^25 FLOPs. Zusätzliche Kriterien können durch delegierten Rechtsakt der Kommission angewandt werden.

Schwerwiegender Vorfall (Art. 3(49))

Jeder Vorfall oder Fehler eines KI-Systems, der direkt oder indirekt zu Folgendem führt:

• Tod einer Person oder schwerwiegenden Gesundheitsschäden
• Einer schwerwiegenden und irreversiblen Störung der Verwaltung und des Betriebs kritischer Infrastrukturen
• Verletzung von Pflichten nach Unionsrecht zum Schutz von Grundrechten
• Erheblichem Eigentums- oder Umweltschaden

Wesentliche Änderung (Art. 3(23))

Eine Änderung an einem KI-System nach der Inverkehrbringung oder Inbetriebnahme, die im ursprünglichen Konformitätsbewertungsverfahren nicht vorgesehen oder geplant war und die die Konformität des KI-Systems mit den Anforderungen des Gesetzes beeinflusst oder zu einer Änderung des Verwendungszwecks führt.

Konformitätsbewertung (Art. 3(20))

Das Verfahren zur Überprüfung, ob ein hochriskantes KI-System die in Kapitel III, Abschnitt 2 des Gesetzes festgelegten Anforderungen erfüllt. Konformitätsbewertungen können vom Anbieter (Selbstbewertung) oder von einer benannten Stelle (Drittpartei-Bewertung) durchgeführt werden, je nach Systemtyp.

Benannte Stelle (Art. 3(22))

Eine Konformitätsbewertungsstelle, die von einem Mitgliedstaat zur Durchführung von Drittpartei-Konformitätsbewertungsaktivitäten für hochriskante KI-Systeme benannt wurde. Benannte Stellen sind das AI-Act-Äquivalent der CE-Kennzeichnungsstellen in der traditionellen Produktregulierung.

Marktüberwachungsbehörde (Art. 3(26))

Die nationale Behörde, die für die Marktüberwachung nach dem AI Act zuständig ist. Mitgliedstaaten müssen mindestens eine Marktüberwachungsbehörde pro Mitgliedstaat benennen.

CE-Kennzeichnung (Art. 3(30))

Die Kennzeichnung, durch die ein Anbieter angibt, dass ein hochriskantes KI-System den Anforderungen des AI Act und anderer anwendbarer Harmonisierungsgesetzgebung der Union entspricht.

Sektorspezifische Begriffe

Biometrische Daten (aus der DSGVO übernommen)

Personenbezogene Daten, die sich aus einer spezifischen technischen Verarbeitung physischer, physiologischer oder verhaltensbezogener Merkmale einer natürlichen Person ergeben, die die eindeutige Identifizierung dieser natürlichen Person ermöglichen oder bestätigen.

System zur biometrischen Fernidentifizierung (Art. 3(40))

Ein KI-System, das für die Identifizierung natürlicher Personen aus einer Entfernung durch den Vergleich der biometrischen Daten einer Person mit den in einer Referenzdatenbank enthaltenen biometrischen Daten vorgesehen ist, ohne vorherige Kenntnis des Nutzers des KI-Systems, ob die Person anwesend ist und identifiziert werden kann.

Wesentliche Konsequenz: Die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen ist zu Strafverfolgungszwecken mit engen Ausnahmen verboten (Art. 5).

Basismodell

Nicht im AI Act definiert — das Gesetz verwendet stattdessen „GPAI-Modell". Basismodell ist ein häufig verwendeter Industriebegriff für groß angelegte vortrainierte Modelle. Für regulatorische Zwecke verwenden Sie „GPAI-Modell".

Feinabstimmung

Nicht im Gesetz definiert. Anpassung eines GPAI-Modells an eine bestimmte Domäne oder Aufgabe durch zusätzliches Training. Wenn die Feinabstimmung zu einem wesentlich anderen Modell führt, das auf dem Markt in Verkehr gebracht wird, kann der Feinabstimmende Anbieter dieses neuen Modells werden.

Verfahrensbegriffe

Technische Dokumentation (Anhang IV)

Das strukturierte Dokumentationspaket, das Anbieter hochriskanter KI-Systeme vor der Marktplatzierung erstellen und über den gesamten Lebenszyklus des Systems aufrechterhalten müssen. Es umfasst die Systembeschreibung, die Entwurfslogik, Trainingsdaten-Informationen, Testergebnisse, Risikomanagemtationsdokumentation und den Marktüberwachungsplan.

EU-Konformitätserklärung (Art. 3(37))

Ein formelles Dokument, das vom Anbieter unterzeichnet wird und bestätigt, dass das hochriskante KI-System alle anwendbaren Anforderungen des Gesetzes erfüllt. Es ist die Rechtsgrundlage für das Anbringen der CE-Kennzeichnung.

Gebrauchsanweisungen (Art. 3(15))

Informationen, die der Anbieter bereitstellt, um den Betreiber über den bestimmungsgemäßen Verwendungszweck, die Leistung, die technischen Spezifikationen und die Verwendungsbedingungen des KI-Systems zu informieren — einschließlich etwaiger Einschränkungen und vorhersehbarer Risiken.

Marktüberwachungsplan nach Inverkehrbringen (Art. 3(32))

Der dokumentierte Plan, den ein Anbieter zur Sammlung und Überprüfung von Erfahrungen aus dem Betrieb eines hochriskanten KI-Systems nach seiner Inverkehrbringung oder Inbetriebnahme einrichtet.

Grundrechte-Folgenabschätzung (Art. 27)

Eine Bewertung, die Betreiber im öffentlichen Sektor (und bestimmte private Betreiber) vor dem Einsatz eines hochriskanten KI-Systems durchführen müssen, um die Auswirkungen auf die Grundrechte betroffener Personen zu beurteilen.