KI-Verordnung Biometrie: Compliance-Leitfaden
KI-Verordnung Compliance für biometrische KI-Systeme: verbotene Praktiken, Hochrisiko-Einstufung und Echtzeit-Identifizierung.
Biometrische KI-Systeme in der EU müssen sich in einer komplexen Regulierungslandschaft zurechtfinden. Der EU AI Act unterteilt biometrische Anwendungen in verbotene, Hochrisiko- und transparenzpflichtige Kategorien.
Zu verstehen, in welche Kategorie Ihr System fällt, ist entscheidend für Compliance und Marktzugang.
Verbotene biometrische Praktiken
Der EU AI Act verbietet bestimmte biometrische Verwendungen kategorisch. Verstöße führen zu Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes.
Echtzeitbiometrische Identifikation an öffentlichen Orten
Die Echtzeit-Gesichtserkennung durch Behörden an öffentlich zugänglichen Orten ist verboten, ausgenommen enge Ausnahmen wie Prävention von Menschenhandel, Vermisstensuche und Abwehr unmittelbarer Gefahren.
Biometrische Kategorisierung nach geschützten Merkmalen
Die Verwendung biometrischer Daten zur Kategorisierung nach Rasse, politischer Überzeugung, Religion, Gewerkschaftszugehörigkeit oder sexueller Orientierung ist absolut verboten.
Emotionserkennung am Arbeitsplatz und in der Bildung
Emotionserkennungssysteme am Arbeitsplatz oder in Bildungseinrichtungen sind verboten, es sei denn, der einzige Zweck ist medizinische Diagnose oder Sicherheitsüberwachung.
Unkontrolliertes Scraping von Gesichtsbildern
Das Erstellen von Gesichtserkennungsdatenbanken durch unkontrolliertes Scraping von Gesichtsbildern aus dem Internet oder Überwachungsmaterial ohne definierten Zweck ist verboten.
Biometrische Hochrisiko-Systeme
Biometrische Identifikationssysteme
Biometrische Identifikationssysteme mit 1:n-Vergleich (z. B. Flughafengrenzkontrollen, Zugangskontrollen am Arbeitsplatz) außerhalb verbotener Kontexte gelten als Hochrisiko und erfordern dokumentierte Genauigkeit, Überprüfung durch Menschen und Rechtsgrundlage.
Biometrische Kategorisierungssysteme
Biometrische Kategorisierungssysteme, die nicht unter Verbote fallen (z. B. Altersschätzung, Geschlechtsklassifizierung zu nicht-diskriminierenden Zwecken), erfordern Dokumentation, Genauigkeitstests und transparente Offenlegung gegenüber betroffenen Personen.
Wichtige Unterscheidung: Verifizierung vs. Identifikation
Biometrische Verifizierung (1:1-Vergleich)
Verifizierung vergleicht eine biometrische Probe mit einem bekannten Profil, um die Identität zu bestätigen (z. B. Telefonentsperre, Zahlungsauthentifizierung). Dies ist im Allgemeinen nicht hochrisiko gemäß EU AI Act.
Biometrische Identifikation (1:n-Vergleich)
Identifikation sucht eine biometrische Probe in einer Datenbank vieler Profile, um eine Übereinstimmung zu finden (z. B. Suche in einer Fahndungsdatenbank). Dies ist in der Regel hochrisiko.
Praktische Beispiele
Telefonentsperre mit Gesichtserkennung
Biometrische Verifizierung auf einem persönlichen Gerät durch Vergleich eines Live-Gesichts mit einem gespeicherten Profil.
Verifizierungssystem. Nicht hochrisiko, es sei denn in hochriskanten Kontexten (z. B. Grenzkontrollen).
Biometrische Flughafengrenzkontrollen
Erfassung von Reisenden-Gesichtern gegen Pass-Datenbanken und Watchlisten an Grenzübergängen.
Hochrisiko-Identifikationssystem. Erfordert Genauigkeitsdokumentation, Überprüfung durch Menschen und Rechtsgrundlage.
Emotionserkennung am Arbeitsplatz
Analyse von Mitarbeiter-Gesichtsausdrücken zur Deduktion von Stress, Engagement oder emotionalem Zustand während der Arbeitszeit.
Absolut verboten, es sei denn, es ist medizinisch notwendig oder für Sicherheitsüberwachung.
Gesichtserkennung im Einzelhandel für Marketing
Verwendung von In-Store-Kameras zur Identifikation wiederholter Kunden oder zur Deduktion von Demografie für personalisierte Werbung.
Verboten, wenn für Echtzeit-Massenidentifizierung oder Kategorisierung nach geschützten Merkmalen verwendet; hochrisiko bei Beschränkung auf zustimmungsbasierte Profile.
Compliance-Checkliste
euAiAct.industryBiometrics.checklist1Desc
euAiAct.industryBiometrics.checklist2Desc
euAiAct.industryBiometrics.checklist3Desc
euAiAct.industryBiometrics.checklist4Desc
euAiAct.industryBiometrics.checklist5Desc
euAiAct.industryBiometrics.checklist6Desc
euAiAct.industryBiometrics.checklist7Desc
euAiAct.industryBiometrics.checklist8Desc
Compliance-Strafen
Maximale Strafe für verbotene biometrische Praktiken.
Maximale Strafe für Nichteinhaltung von Hochrisiko-Anforderungen.
Häufig gestellte Fragen
Verwandte Bestimmungen und Ressourcen
Artikel 5 – Verbotene Praktiken
Vollständiger Wortlaut der Gesetze, die verbotene biometrische KI-Verwendungen definieren.
Artikel 6 – Klassifikation hochriskanter KI
Definiert, welche biometrischen Systeme als hochrisiko gelten und welche Schutzmaßnahmen erforderlich sind.
Artikel 50 – Transparenzanforderungen
Personen, die Emotionserkennung oder biometrischer Kategorisierung ausgesetzt sind, müssen transparent informiert werden.
Biometrische Compliance-Checkliste
Schritt-für-Schritt-Verifizierungsleitfaden für biometrische KI-Systeme.
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.