Screening verbotener KI-Praktiken — Artikel 5
Wie man KI-Systeme nach Artikel 5 der EU-KI-Verordnung auf verbotene Praktiken prüft. Alle 8 verbotenen Kategorien, Durchsetzungszeitplan, und automatisierte Erkennung.
Die EU-KI-Verordnung verbietet in Artikel 5 8 Kategorien von KI-Praktiken, die als unannehmbare Risiken für die Grundrechte gelten. Diese Verbote sind seit dem 2. Februar 2025 in Kraft — das früheste Durchsetzungsdatum der Verordnung. Ein KI-System, das unter eine verbotene Kategorie fällt, darf unabhängig von Risikominderungsmaßnahmen weder auf dem EU-Markt in Verkehr gebracht noch in Betrieb genommen werden. Verstöße werden geahndet mit Bußgeldern von bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes — der höchsten Stufe der Verordnung.
Alle 8 verbotenen KI-Praktiken nach Artikel 5
Unterschwellige Manipulation unterhalb der bewussten Wahrnehmung
Art 5(1)(a)KI-Systeme, die unterschwellige Techniken jenseits des Bewusstseins einer Person einsetzen, um Verhalten wesentlich zu verzerren und dadurch der Person oder einer anderen Person Schaden zuzufügen oder zuzufügen drohen.
Beispiele: Unterschwellige Audio-/Videoreize in Benutzeroberflächen; algorithmisches Nudging unterhalb der Bewusstseinsschwelle
Ausnutzung von Vulnerabilitäten
Art 5(1)(b)KI-Systeme, die spezifische Vulnerabilitäten von Personen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage ausnutzen, um ihr Verhalten in schädlicher Weise wesentlich zu verzerren.
Beispiele: Ausbeuterisches Targeting älterer Nutzer; manipulatives Design für Menschen mit kognitiven Beeinträchtigungen
Social Scoring durch Behörden
Art 5(1)(c)KI-Systeme, die von oder im Auftrag von Behörden eingesetzt werden, um Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale über einen Zeitraum zu bewerten oder zu klassifizieren, was zu nachteiliger oder diskriminierender Behandlung in sachfremden Kontexten führt.
Beispiele: Staatliche Bürger-Scoring-Systeme; kontextübergreifende Sozialkredit-Systeme
Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum
Art 5(1)(d)Systeme zur biometrischen Echtzeit-Fernidentifizierung (z. B. Gesichtserkennung) in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken — außer in eng definierten Ausnahmefällen (Terrorismus, vermisste Kinder, gesuchte Straftäter).
Beispiele: Live-Gesichtserkennung per CCTV; biometrische Echtzeit-Überwachung in öffentlichen Bereichen
Nachträgliche biometrische Fernidentifizierung (mit Ausnahmen)
Art 5(1)(e)Systeme zur nachträglichen biometrischen Fernidentifizierung durch Strafverfolgungsbehörden — außer mit Genehmigung einer Justiz- oder unabhängigen Behörde zur Verfolgung schwerer Straftaten. Umfasst nachträgliche Gesichtserkennung in aufgezeichnetem Bildmaterial.
Beispiele: Nachträgliche Gesichtserkennung in CCTV-Archiven ohne richterliche Genehmigung
Biometrische Kategorisierung zur Ableitung sensibler Merkmale
Art 5(1)(f)KI-Systeme, die Personen anhand biometrischer Daten kategorisieren, um Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, sexuelle Orientierung oder Gesundheitszustand abzuleiten.
Beispiele: Automatisierte Ableitung der Religion aus Gesichtsmerkmalen; biometrisches Profiling der sexuellen Orientierung
Emotionserkennung am Arbeitsplatz und in der Bildung
Art 5(1)(g)KI-Systeme zur Ableitung der Emotionen von Personen am Arbeitsplatz und in Bildungseinrichtungen — außer aus medizinischen oder Sicherheitsgründen. Umfasst die Echtzeit-Emotionsüberwachung von Beschäftigten und Lernenden.
Beispiele: KI zur Stimmungs-/Engagement-Überwachung von Beschäftigten; Emotionsanalyse von Schülern im Unterricht
Prädiktive Polizeiarbeit auf Basis von Profiling
Art 5(1)(h)KI-Systeme, die von oder im Auftrag von Strafverfolgungsbehörden eingesetzt werden, um das Risiko einer Straftat einer Person allein auf Basis von Profiling oder Persönlichkeitsmerkmalen zu bewerten — ohne objektive, überprüfbare Fakten mit direktem Bezug zu krimineller Aktivität.
Beispiele: Rückfallprognosen aus demografischem Profiling; Pre-Crime-Vorhersage-KI ohne Beweisgrundlage
Durchsetzungszeitplan
EU-KI-Verordnung in Kraft getreten
Verordnung (EU) 2024/1689 im Amtsblatt veröffentlicht und wirksam geworden.
Artikel-5-Verbote durchsetzbar
Alle 8 verbotenen KI-Praktiken sind EU-weit untersagt. Es gilt keine Übergangsfrist.
Hochrisiko-Pflichten der KI-Verordnung
Durchsetzung der Artikel 9–49 für Hochrisiko-KI-Systeme. GPAI-Pflichten bereits seit Aug. 2025 in Kraft.
Wie Scanara verbotene Praktiken erkennt
Scanara enthält ein dediziertes Screening-Modul für verbotene Praktiken, das Ihre KI-Codebasis und Systemdokumentation gegen alle 8 Artikel-5-Kategorien prüft. Anders als manuelle Checklisten erkennt Scanara Code-Indikatoren für verbotenes Verhalten — z. B. APIs für unterschwellige Reize, biometrische Echtzeit-Klassifizierungspipelines, Emotionserkennungs-Integrationen in mitarbeitergerichteten Anwendungen.
Musterbasiertes Code-Scanning
Auf Artikel 5 abgestimmte Compliance-Regeln — sie erkennen Bibliotheken für unterschwellige Reize, biometrische Inferenz-Pipelines, Emotionserkennungs-SDKs und Profiling-Muster mit Bezug zu geschützten Merkmalen.
Architektur-Review-Hinweise
Über einzelne Code-Muster hinaus markiert Scanara Systemarchitektur-Merkmale, die auf verbotene Anwendungsfälle hindeuten — biometrische Echtzeit-Pipelines im öffentlichen Raum, kontextübergreifende Social-Scoring-Datenflüsse.
Null-Toleranz-Schweregrad
Artikel-5-Findings werden immer als kritisch eingestuft — sie können weder unterdrückt noch als Risiko akzeptiert werden. Ein Finding blockiert CI/CD-Merge-Gates, bis das verbotene Feature entfernt ist.
Zeitgestempelte Audit-Nachweise
Jeder Scan protokolliert ein zeitgestempeltes Ergebnis mit Richtlinienversion und verwendeten Eingaben — anhängbar an Ihre technische Anhang-IV-Dokumentation als Nachweis der Sorgfaltspflicht zu Artikel 5.
Häufig gestellte Fragen
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.