Verbotene KI-Praktiken nach Artikel 5 der KI-Verordnung

• Unterschwellige und manipulative Techniken

  Art. 5 Abs. 1 Buchst. a

  KI-Systeme, die Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken einsetzen, um das Verhalten wesentlich zu verändern. Das Verbot gilt, wenn dadurch erheblicher Schaden entsteht oder mit hinreichender Wahrscheinlichkeit entstehen wird.

• Ausnutzung von Schutzbedürftigkeit

  Art. 5 Abs. 1 Buchst. b

  KI-Systeme, die eine Schutzbedürftigkeit aufgrund von Alter, Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation ausnutzen, um das Verhalten in einer Weise wesentlich zu verändern, die erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird.

• Nicht einvernehmlich erstelltes intimes Material

  Art. 5 Abs. 1 Buchst. ba

  KI-Systeme, die realistische Bilder, Videos, Audio- oder ähnliches Material der Intimbereiche einer identifizierbaren Person oder dieser Person bei sexuell eindeutigen Handlungen erzeugen oder manipulieren, ohne ihre freiwillige, spezifische, informierte, unmissverständliche und ausdrückliche Einwilligung. Eine Manipulation, die die Sichtbarkeit der Intimbereiche nicht erhöht und die Art der Handlungen nicht verändert, zählt nicht (Artikel 5 Absatz 1b). Anbieter sind nur erfasst, wenn dies der Zweckbestimmung des Systems entspricht oder wenn Konzeption, Training, Architektur, Fähigkeiten oder nutzerseitige Funktionen dies zu einem vernünftigerweise vorhersehbaren und reproduzierbaren Ergebnis ohne wesentliche technische Änderung machen und das System keine angemessenen und ausreichenden Schutzvorkehrungen hat, um dies zu verhindern und zu korrigieren. Betreiber sind erfasst, wenn sie ein System zu diesem Zweck verwenden (Artikel 5 Absatz 1a). Gilt ab dem 2. Dezember 2026.

• Darstellungen von sexuellem Missbrauch von Kindern

  Art. 5 Abs. 1 Buchst. bb

  KI-Systeme, die Material oder Darbietungen im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren, es sei denn, nach nationalem Recht greift eine „Ohne-Recht“-Ausnahme. Für Anbieter und Betreiber gelten dieselben Bedingungen wie für Buchstabe ba (Artikel 5 Absatz 1a). Gilt ab dem 2. Dezember 2026.

• Social Scoring

  Art. 5 Abs. 1 Buchst. c

  KI-Systeme, die Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften bewerten oder einstufen, wenn die soziale Bewertung zu Schlechterstellung in nicht zusammenhängenden sozialen Kontexten oder zu ungerechtfertigter oder unverhältnismäßiger Benachteiligung führt. Das Verbot ist nicht auf Behörden beschränkt.

• Straftatenprognose allein aus Profiling

  Art. 5 Abs. 1 Buchst. d

  KI-Systeme, die allein auf der Grundlage des Profilings einer Person oder der Bewertung ihrer Persönlichkeitsmerkmale das Risiko bewerten oder vorhersagen, dass sie eine Straftat begeht. KI, die eine menschliche Bewertung auf Grundlage objektiver, überprüfbarer Tatsachen mit unmittelbarem Bezug zu einer kriminellen Aktivität unterstützt, ist nicht verboten.

• Ungezieltes Auslesen von Gesichtsbildern

  Art. 5 Abs. 1 Buchst. e

  KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern.

• Emotionserkennung am Arbeitsplatz und in der Bildung

  Art. 5 Abs. 1 Buchst. f

  KI-Systeme, die Emotionen einer Person am Arbeitsplatz oder in Bildungseinrichtungen ableiten. Das Verbot gilt nicht für Systeme, die aus medizinischen Gründen oder Sicherheitsgründen eingesetzt werden sollen.

• Biometrische Kategorisierung nach sensiblen Merkmalen

  Art. 5 Abs. 1 Buchst. g

  KI-Systeme, die natürliche Personen individuell anhand ihrer biometrischen Daten kategorisieren, um Rasse, politische Einstellungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Ausrichtung zu erschließen oder abzuleiten. Nicht erfasst sind das Kennzeichnen oder Filtern rechtmäßig erworbener biometrischer Datensätze und die Kategorisierung biometrischer Daten im Bereich der Strafverfolgung.

• Biometrische Echtzeit-Fernidentifizierung

  Art. 5 Abs. 1 Buchst. h

  Der Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ist verboten. Die drei engen Ausnahmen folgen weiter unten.

Das Verbot in Artikel 5 Absatz 1 Buchstabe h gilt nicht, wenn die Verwendung für eines von drei Zielen unbedingt erforderlich ist. Die Mitgliedstaaten können entscheiden, ob und unter welchen Bedingungen sie eine solche Verwendung überhaupt zulassen (Artikel 5 Absatz 5).

• Drei Ziele sind zulässig

  Die Verwendung ist nur zulässig, wenn sie unbedingt erforderlich ist für: die gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie nach vermissten Personen; das Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für Leben oder körperliche Unversehrtheit oder einer tatsächlichen und bestehenden oder vorhersehbaren Gefahr eines Terroranschlags; oder das Aufspüren oder Identifizieren eines Verdächtigen einer in Anhang II genannten Straftat für Ermittlungen, Strafverfolgung oder Strafvollstreckung. Die Straftat muss mit einer Freiheitsstrafe oder freiheitsentziehenden Maßregel von mindestens vier Jahren im Höchstmaß bedroht sein (Artikel 5 Absatz 1 Buchstabe h).

• Vorherige Genehmigung und Schutzvorkehrungen sind erforderlich

  Jede Verwendung braucht die vorherige Genehmigung einer Justizbehörde oder einer unabhängigen Verwaltungsbehörde, deren Entscheidung bindend ist. In einer hinreichend begründeten Dringlichkeit darf die Verwendung ohne Genehmigung beginnen, wenn diese unverzüglich, spätestens binnen 24 Stunden, beantragt wird. Wird sie abgelehnt, wird die Verwendung beendet und alle Daten und Ergebnisse werden gelöscht (Artikel 5 Absatz 3). Für die Genehmigung einer Verwendung sind außerdem eine abgeschlossene Grundrechte-Folgenabschätzung und die Registrierung in der EU-Datenbank erforderlich. In dringenden Fällen darf die Registrierung unverzüglich nachgeholt werden (Artikel 5 Absatz 2). Jede Verwendung ist außerdem der Marktüberwachungsbehörde und der nationalen Datenschutzbehörde mitzuteilen (Artikel 5 Absatz 4).

• Nachträgliche Identifizierung ist Hochrisiko, nicht verboten

  Biometrische Fernidentifizierung, die nicht in Echtzeit erfolgt, ist nicht verboten. Sie ist ein Hochrisiko-Anwendungsfall nach Anhang III Nummer 1 Buchstabe a. Bei der gezielten Suche nach einer Person, die einer Straftat verdächtigt wird oder deswegen verurteilt wurde, muss der Betreiber vor der Verwendung oder unverzüglich, spätestens binnen 48 Stunden, die Genehmigung einer Justizbehörde oder einer Verwaltungsbehörde beantragen, deren Entscheidung bindend ist und gerichtlich überprüft werden kann. Das gilt nicht für die Erstidentifizierung eines potenziellen Verdächtigen anhand objektiver und überprüfbarer Tatsachen, die in unmittelbarem Zusammenhang mit der Straftat stehen (Artikel 26 Absatz 10).

• KI-Verordnung: Fristen von 2024 bis 2030 im Zeitplan

  Jedes Anwendungsdatum der Verordnung, mit dem Artikel dahinter.

• KI-Verordnung vs. DSGVO: Unterschiede und Überschneidungen

  Beide Gesetze gelten nebeneinander. Artikel 5 lässt Artikel 9 DSGVO für biometrische Daten außerhalb der Strafverfolgung unberührt.