Artikel 4 — KI-Kompetenz (EU-KI-Gesetz)

Artikel 4 der Verordnung (EU) 2024/1689 — KI-Kompetenz. Offizieller Text, praktische Auslegung, wesentliche Pflichten und Compliance-Implikationen.

Zusammenfassung des offiziellen Textes

Artikel 4 der Verordnung (EU) 2024/1689 begründet eine allgemeine KI-Kompetenzverpflichtung für Anbieter und Betreiber von KI-Systemen, die im Anwendungsbereich der Verordnung tätig sind. Der Artikel verpflichtet Anbieter und Betreiber, im Rahmen ihrer Möglichkeiten Maßnahmen zu ergreifen, um sicherzustellen, dass ihre Mitarbeiter und andere Personen, die in ihrem Auftrag am Betrieb und der Nutzung von KI-Systemen beteiligt sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Der Artikel definiert KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis, die es Personen ermöglichen, fundierte Entscheidungen über KI-Systeme zu treffen, diese ordnungsgemäß einzusetzen und zu nutzen und sich der Auswirkungen dieser Systeme bewusst zu sein. Entscheidend ist, dass die Verpflichtung kalibriert ist: Das erforderliche Kompetenzniveau muss proportional zu den technischen Kenntnissen, Erfahrungen, der Ausbildung, der Schulung und dem Kontext der betroffenen Personen sowie zu den von ihnen eingesetzten KI-Systemen sein.

Artikel 4 setzt daher keinen einheitlichen Standard. Stattdessen schafft er einen Due-Diligence-Rahmen, unter dem Organisationen die Kompetenzanforderungen der relevanten Mitarbeiter im Verhältnis zu den betreffenden KI-Systemen bewerten und gegebenenfalls geeignete Korrektur- oder Entwicklungsmaßnahmen ergreifen müssen. Die Bestimmung spiegelt die in Erwägungsgrund 20 zum Ausdruck gebrachte Absicht des Gesetzgebers wider, dass die menschliche Aufsicht über KI-Systeme nur dann bedeutsam ist, wenn die ausübenden Personen über das grundlegende Verständnis verfügen, das dafür erforderlich ist. Die Verpflichtung hat horizontalen Charakter: Sie gilt unabhängig von der Risikokategorie des betreffenden KI-Systems und ist damit eine der wenigen Bestimmungen in Titel I, die für alle im Anwendungsbereich der Verordnung stehenden Akteure direkt umsetzbare Pflichten erzeugt.

Was das in der Praxis bedeutet

Artikel 4 begründet eine fortlaufende interne Governance-Verpflichtung. Jede Organisation, die als Anbieter (der ein KI-System auf dem EU-Markt in Verkehr bringt oder in Betrieb nimmt) oder Betreiber (der ein KI-System unter eigener Verantwortung in einem beruflichen Kontext nutzt) qualifiziert, muss die KI-Kompetenz des relevanten Personals aktiv bewerten und fördern.

In der Praxis bedeutet dies, dass Organisationen zunächst erfassen sollten, welche Rollen mit KI-Systemen interagieren — sei es beim Aufbau, der Integration, dem Betrieb, der Überwachung oder der Überprüfung von KI-Ausgaben. Ein Rechtsteam, das ein Vertragsanalyse-Tool nutzt, eine Personalabteilung, die ein CV-Screening-System einsetzt, oder ein Ingenieurteam, das ein Predictive-Maintenance-Modell wartet, fallen alle in den Anwendungsbereich. Jeder Rolleninhaber muss über ein seinen Verantwortlichkeiten angemessenes KI-Kompetenzniveau verfügen.

Konkret können Compliance-Maßnahmen folgendes umfassen:

• Durchführung einer Kompetenzlückenanalyse für KI-nahe Rollen
• Konzeption oder Beschaffung rollenspezifischer Schulungen (technisches Personal benötigt tieferes Wissen über Modellverhalten, Verzerrungen und Unsicherheit; Geschäftsanwender benötigen Bewusstsein für Einschränkungen und Eskalationspfade)
• Dokumentation der ergriffenen Kompetenzmaßnahmen als Teil umfassenderer KI-Governance-Aufzeichnungen
• Überprüfung und Aktualisierung von Kompetenzmassnahmen bei der Weiterentwicklung von KI-Systemen oder der Einführung neuer Systeme

Ein Logistikunternehmen, das ein Routenoptimierungsmodell einsetzt, sollte beispielsweise sicherstellen, dass die Betreiber, die auf der Grundlage der Modellempfehlungen handeln, die Konfidenzintervalle des Systems, bekannte Fehlerursachen und die Zeitpunkte verstehen, an denen sie eingreifen sollten. Ebenso muss ein Gesundheitsanbieter, der ein diagnostisches Unterstützungstool einsetzt, sicherstellen, dass die Kliniker verstehen, was das Tool tut und was nicht, bevor sie sich auf seine Ausgaben verlassen. Das Verhältnismäßigkeitsprinzip bedeutet, dass ein Einzelpraktiker, der ein einfaches KI-Tool einsetzt, leichteren Pflichten unterliegt als ein multinationaler Konzern, der Hochrisikosysteme in großem Maßstab einsetzt.

Wesentliche Pflichten

• KI-Kompetenzbedarf ermitteln: Anbieter und Betreiber müssen identifizieren, welche Mitarbeiter und beauftragten Personen mit KI-Systemen interagieren, und ihr bestehendes KI-Kompetenzniveau anhand der Anforderungen dieser Rollen bewerten.
• Geeignete Kompetenzmaßnahmen ergreifen: Organisationen müssen aktiv Maßnahmen umsetzen — Schulungen, Dokumentationen, Leitfäden oder strukturierte Weiterbildung — die proportional zur Rolle, den vorhandenen Kompetenzen und den betroffenen Systemen jeder Person sind.
• Verhältnismäßigkeit anwenden: Das erforderliche KI-Kompetenzniveau ist nicht einheitlich; es muss die technische Komplexität des KI-Systems, den Grad seiner Autonomie und die potenziellen Auswirkungen der Entscheidungen des Rolleninhabers widerspiegeln.
• Fortlaufende Abdeckung aufrechterhalten: Die Verpflichtung ist kontinuierlich. Wenn sich KI-Systeme ändern, neue Systeme eingesetzt werden oder Mitarbeiter in KI-nahe Rollen wechseln, müssen die Kompetenzmaßnahmen entsprechend überprüft und aktualisiert werden.
• Verpflichtung auf im Auftrag der Organisation handelnde Dritte ausdehnen: Der Artikel erfasst ausdrücklich Personen, die im Auftrag von Anbietern oder Betreibern handeln, d. h. Vertragsmitarbeiter, Dienstleister und Vertreter, die am Betrieb von KI-Systemen beteiligt sind, sind im Anwendungsbereich.
• Maßnahmen dokumentieren: Obwohl Artikel 4 keine spezifischen Dokumentationspflichten vorsieht, stellen Aufzeichnungen über Kompetenzbeurteilungen und Schulungsmaßnahmen angesichts der umfassenderen Governance-Erwartungen der Verordnung (insbesondere für Hochrisikosysteme) eine bewährte Praxis dar und belegen nachweisbare Compliance.

Verhältnis zu anderen Artikeln

Artikel 4 ist in Titel I (Allgemeine Bestimmungen) verankert und fungiert als horizontaler Ermöglicher für die spezifischeren Pflichten der Verordnung. Er ist direkt mit Artikel 9 (Risikomanagementsystem für Hochrisiko-KI) verbunden, der vorschreibt, dass die für das KI-Risikomanagement verantwortlichen Personen über die notwendigen Kompetenzen verfügen müssen — ein Standard, der eine grundlegende KI-Kompetenz voraussetzt. Er stärkt Artikel 14 (menschliche Aufsicht), wo eine bedeutungsvolle Aufsicht durch natürliche Personen davon abhängt, dass diese Personen KI-System-Ausgaben, Einschränkungen und Fehlerursachen verstehen.

Artikel 4 verbindet sich auch mit Artikel 16(g), der von Anbietern von Hochrisiko-KI-Systemen verlangt, Schritte zu unternehmen, um sicherzustellen, dass Betreiber das System angemessen interpretieren und nutzen können, sowie mit Artikel 26(2), der Betreiber verpflichtet, die menschliche Aufsicht Personen mit den notwendigen Kompetenzen zu übertragen. Im Kontext von KI-Modellen mit allgemeinem Verwendungszweck (Titel VIII) unterstützt Artikel 4 die Erwartung, dass Betreiber, die auf GPAI-Modellausgaben aufbauen, die Art und die Grenzen dieser Modelle verstehen. Das gemeinsame Lesen von Artikel 4 und Erwägungsgrund 20 verdeutlicht die Absicht des Gesetzgebers, dass KI-Kompetenz eine Voraussetzung für die wirksame Erfüllung aller anderen Pflichten gemäß der Verordnung ist.

Zeitplan für die Compliance

Das EU-KI-Gesetz ist am 1. August 2024, zwanzig Tage nach der Veröffentlichung im Amtsblatt, in Kraft getreten. Die Verordnung wird phasenweise angewendet:

• 2. Februar 2025 — Verbote für KI-Praktiken mit unannehmbarem Risiko (Artikel 5) wurden anwendbar.
• 2. August 2025 — Artikel 4 wurde anwendbar, zusammen mit den Bestimmungen zu KI-Modellen mit allgemeinem Verwendungszweck (Titel VIII) und den Pflichten für notifizierte Stellen und Marktüberwachungsbehörden. Organisationen hätten bis zu diesem Datum KI-Kompetenzmaßnahmen eingeführt haben sollen.
• 2. August 2026 — Pflichten für Hochrisiko-KI-Systeme, die in Annex I (sicherheitskritische Systeme in regulierten Produkten) aufgeführt sind, werden anwendbar.
• 2. August 2027 — Pflichten für Hochrisiko-KI-Systeme, die in Annex III (eigenständige Hochrisikosysteme) aufgeführt sind, gelten vollumfänglich, einschließlich der Artikel 9–14 und 26, für die die in Artikel 4 geforderte KI-Kompetenz eine Voraussetzung darstellt.

Organisationen, die noch keine Kompetenzlückenanalyse durchgeführt oder Schulungsmaßnahmen umgesetzt haben, sind seit August 2025 bereits nicht compliant mit Artikel 4 und sollten die Behebung dieses Zustands als unmittelbare Priorität behandeln.