Verbotene KI-Praktiken nach Artikel 5 der KI-Verordnung
Leitfaden zu verbotenen KI-Praktiken nach Artikel 5 der KI-Verordnung: Social Scoring, manipulative KI und biometrische Kategorisierung.
Artikel 5 verbietet bestimmte KI-Praktiken, die ein unannehmbares Risiko darstellen. Diese Verbote sind seit dem 2. Februar 2025 durchsetzbar.
Verstöße werden mit den höchsten Bußgeldern geahndet: bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes.
Verbotene Praktiken gemäß Artikel 5 sind bereits durchsetzbar. Nichtkonformität setzt Organisationen der höchsten Bußgeldkategorie aus.
Verbotene KI-Praktiken
Unterschwellige & manipulative KI
KI-Systeme, die unterschwellige oder manipulative Techniken unterhalb der Bewusstseinsschwelle einer Person einsetzen und erheblichen Schaden verursachen oder wahrscheinlich verursachen.
Ausnutzung von Schwachstellen
KI-Systeme, die Schwachstellen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage ausnutzen, um das Verhalten wesentlich zu verzerren.
Social Scoring
KI-Systeme öffentlicher Stellen zur Bewertung von Personen auf Basis sozialen Verhaltens, die zu nachteiliger Behandlung führen, die in keinem Zusammenhang mit dem Datenkontext steht.
Predictive Policing (individuell)
KI-Systeme zur Vorhersage des Straftatenrisikos ausschließlich auf Basis von Profiling oder Persönlichkeitsmerkmalen.
Ungezieltes Gesichtserkennungs-Scraping
KI-Systeme zur Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Scraping aus dem Internet oder von Videoüberwachung.
Biometrische Echtzeit-Fernidentifizierung
KI-Systeme zur biometrischen Echtzeit-Fernidentifizierung in öffentlichen Räumen für Strafverfolgungszwecke, außer in eng definierten Umständen.
Strafen bei Verstößen
Die höchste Bußgeldkategorie der KI-Verordnung. Verhältnismäßige Obergrenzen können für KMU und Start-ups gelten.
Enge Ausnahmen
Sehr enge Ausnahmen bestehen, hauptsächlich für die Strafverfolgung unter strengen richterlichen Schutzmaßnahmen.
Biometrie-Ausnahme für Strafverfolgung
Biometrische Echtzeit-Identifizierung erlaubt für die Suche nach Opfern, Verhinderung terroristischer Bedrohungen oder Lokalisierung von Verdächtigen schwerer Straftaten. Vorherige richterliche Genehmigung erforderlich.
Nachträgliche biometrische Fernidentifizierung
Nachträgliche biometrische Fernidentifizierung bei schwerwiegenden Strafermittlungen mit vorheriger richterlicher Genehmigung. Als Hochrisiko eingestuft, nicht verboten.
Häufig gestellte Fragen
Verwandte Leitfäden
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.