KI-Verordnung Biometrie: Compliance-Leitfaden

Anhang III Nummer 1 erfasst die Biometrie, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist. Das Wort „Biometrie“ dieser Website entspricht den folgenden Anknüpfungspunkten.

• Nummer 1 Buchstabe a: biometrische Fernidentifizierungssysteme

  Ein biometrisches Fernidentifizierungssystem dient der Identifizierung natürlicher Personen ohne deren aktive Mitwirkung, in der Regel aus der Ferne, durch den Abgleich der biometrischen Daten einer Person mit den biometrischen Daten in einer Referenzdatenbank (Artikel 3 Nummer 41). Anhang III nennt diese Systeme, ohne zwischen Echtzeit- und nachträglicher Fernidentifizierung zu trennen (Artikel 3 Nummer 42, Artikel 3 Nummer 43).

• Die Verifizierung ist von Nummer 1 Buchstabe a ausgenommen

  Nummer 1 Buchstabe a umfasst keine KI-Systeme, die bestimmungsgemäß für die biometrische Verifizierung verwendet werden sollen, deren einziger Zweck darin besteht, zu bestätigen, dass eine bestimmte natürliche Person die Person ist, für die sie sich ausgibt. Biometrische Verifizierung ist die automatisierte Eins-zu-eins-Verifizierung, einschließlich der Authentifizierung, durch Abgleich biometrischer Daten mit zuvor bereitgestellten biometrischen Daten (Artikel 3 Nummer 36). Ein solches System ist nur hochriskant, wenn ein anderer Punkt von Anhang III oder Anhang I es erfasst.

• Nummer 1 Buchstabe b: Kategorisierung nach sensiblen oder geschützten Attributen

  KI-Systeme, die bestimmungsgemäß für die biometrische Kategorisierung nach sensiblen oder geschützten Attributen oder Merkmalen auf der Grundlage von Rückschlüssen auf diese Attribute oder Merkmale verwendet werden sollen. Ein System zur biometrischen Kategorisierung dient der Zuordnung natürlicher Personen zu bestimmten Kategorien auf der Grundlage ihrer biometrischen Daten, es sei denn, es handelt sich um eine Nebenfunktion eines anderen kommerziellen Dienstes, die aus objektiven technischen Gründen unbedingt erforderlich ist (Artikel 3 Nummer 40). Artikel 5 Absatz 1 Buchstabe g verbietet einen Teil der Kategorisierung (siehe unten).

• Nummer 1 Buchstabe c: Emotionserkennung

  KI-Systeme, die bestimmungsgemäß zur Emotionserkennung verwendet werden sollen. Ein Emotionserkennungssystem ist ein KI-System zur Ermittlung oder Ableitung von Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten (Artikel 3 Nummer 39). Artikel 5 Absatz 1 Buchstabe f verbietet die Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, es sei denn aus medizinischen Gründen oder Sicherheitsgründen (siehe unten).

• Nummern 6 und 7: weitere Verwendungen durch Behörden

  Anhang III Nummer 7 Buchstabe d erfasst KI-Systeme, die von oder im Namen zuständiger Behörden oder von Organen, Einrichtungen oder sonstigen Stellen der Union im Zusammenhang mit Migration, Asyl oder Grenzkontrolle zur Erkennung, Wiedererkennung oder Identifizierung natürlicher Personen verwendet werden, mit Ausnahme der Überprüfung von Reisedokumenten. Nummer 6 nennt Verwendungen in der Strafverfolgung; siehe die Übersicht Strafverfolgung. Die Registrierung von Systemen nach den Nummern 1, 6 und 7 in diesen Bereichen erfolgt in einem sicheren nicht öffentlichen Teil der EU-Datenbank (Artikel 49 Absatz 4).

• Echtzeit, nachträglich und Strafverfolgung

  Ein biometrisches Echtzeit-Fernidentifizierungssystem ist ein System, bei dem Erfassung der biometrischen Daten, Abgleich und Identifizierung ohne erhebliche Verzögerung erfolgen, einschließlich begrenzter kurzer Verzögerungen zur Vermeidung einer Umgehung (Artikel 3 Nummer 42). Ein System zur nachträglichen biometrischen Fernidentifizierung ist jedes andere biometrische Fernidentifizierungssystem (Artikel 3 Nummer 43). „Strafverfolgung“ bezeichnet Tätigkeiten von Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit (Artikel 3 Nummer 46). Eine Strafverfolgungsbehörde ist eine für diese Aufgaben zuständige Behörde oder jede andere Stelle oder Einrichtung, der nach dem Recht des Mitgliedstaats die Ausübung öffentlicher Gewalt und hoheitlicher Befugnisse für diese Zwecke übertragen wurde (Artikel 3 Nummer 45). Ein „öffentlich zugänglicher Raum“ ist jeder in öffentlichem oder privatem Eigentum stehende physische Ort, der einer unbestimmten Anzahl natürlicher Personen zugänglich ist, unabhängig von etwaigen Zugangsbedingungen (Artikel 3 Nummer 44).

Die Buchstaben e bis h des Artikels 5 Absatz 1 gelten seit dem 2. Februar 2025 (Artikel 113 Buchstabe a). Geldbußen: bis zu 35 Mio. EUR oder, bei Unternehmen, bis zu 7 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 3).

• Ungezieltes Auslesen zum Aufbau von Gesichtsdatenbanken (Buchstabe e)

  KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern. Das Verbot betrifft das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck und die Verwendung. Der Wortlaut nennt keine Einwilligungsprüfung und keinen benannten Datensatz.

• Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen (Buchstabe f)

  KI-Systeme zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die Verwendung des Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden. Emotionserkennungssysteme nennt Anhang III Nummer 1 Buchstabe c, der sie nicht auf einen Bereich beschränkt.

• Biometrische Kategorisierung sensibler Merkmale (Buchstabe g)

  Systeme zur biometrischen Kategorisierung, mit denen natürliche Personen individuell auf der Grundlage ihrer biometrischen Daten kategorisiert werden, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten. Das Verbot gilt nicht für die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, wie z. B. Bilder, auf der Grundlage biometrischer Daten oder die Kategorisierung biometrischer Daten im Bereich der Strafverfolgung.

• Biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken (Buchstabe h)

  Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ist verboten, außer wenn und insoweit dies für eines von drei Zielen unbedingt erforderlich ist. Das erste ist die gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie die Suche nach vermissten Personen. Das zweite ist das Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit oder einer tatsächlichen und bestehenden oder tatsächlichen und vorhersehbaren Gefahr eines Terroranschlags. Das dritte ist das Aufspüren oder Identifizieren einer Person, die einer in Anhang II aufgeführten Straftat verdächtigt wird, die mit einer Freiheitsstrafe oder freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens vier Jahren bedroht ist. Die Verwendung darf nur zur Bestätigung der Identität der speziell betroffenen Person erfolgen (Artikel 5 Absatz 2). Jede Verwendung bedarf einer vorherigen Genehmigung durch eine Justizbehörde oder eine unabhängige Verwaltungsbehörde, deren Entscheidung bindend ist. In einer ordnungsgemäß begründeten Dringlichkeitssituation darf die Verwendung ohne Genehmigung beginnen, sofern sie unverzüglich, spätestens binnen 24 Stunden, beantragt wird. Wird sie abgelehnt, ist die Verwendung mit sofortiger Wirkung einzustellen, und die Daten und Ergebnisse werden gelöscht (Artikel 5 Absatz 3). Die Genehmigung setzt außerdem eine abgeschlossene Grundrechte-Folgenabschätzung und die Registrierung des Systems in der EU-Datenbank voraus; in einem ordnungsgemäß begründeten Dringlichkeitsfall kann die Registrierung unverzüglich nachgeholt werden (Artikel 5 Absatz 2). Jede Verwendung wird der Marktüberwachungsbehörde und der nationalen Datenschutzbehörde mitgeteilt (Artikel 5 Absatz 4). Diese Behörden übermitteln der Kommission jährliche Berichte, und die Kommission veröffentlicht jährliche Berichte (Artikel 5 Absatz 6, Artikel 5 Absatz 7). Ein Mitgliedstaat kann entscheiden, ob er eine solche Genehmigung vorsieht (Artikel 5 Absatz 5). Buchstabe h betrifft die Verwendung zu Strafverfolgungszwecken; er gilt unbeschadet des Artikels 9 der Verordnung (EU) 2016/679 für andere Zwecke.

• Anbieter

  Anbieter ist, wer ein System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Ein Anbieter muss sicherstellen, dass sein Hochrisiko-KI-System die Anforderungen von Abschnitt 2 erfüllt, zu dem die Artikel 9 bis 15 gehören, ein Qualitätsmanagementsystem nach Artikel 17 einrichten und vor dem Inverkehrbringen oder der Inbetriebnahme die Konformitätsbewertung nach Artikel 43 sicherstellen (Artikel 16 Buchstaben a, c und f).

• Betreiber

  Betreiber ist jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Artikel 3 Nummer 4). Betreiber treffen geeignete technische und organisatorische Maßnahmen, um das System entsprechend der Betriebsanleitung zu verwenden, übertragen die menschliche Aufsicht natürlichen Personen mit der notwendigen Kompetenz, Ausbildung und Befugnis und bewahren die Protokolle auf, die ihrer Kontrolle unterliegen (Artikel 26 Absätze 1, 2 und 6). Betreiber, die Behörden sind, registrieren ihre Nutzung in der EU-Datenbank (Artikel 26 Absatz 8, Artikel 49 Absatz 3). Betreiber, die Einrichtungen des öffentlichen Rechts oder private Stellen sind, die öffentliche Dienstleistungen erbringen, führen vor der Inbetriebnahme eines in Artikel 6 Absatz 2 genannten Systems eine Grundrechte-Folgenabschätzung durch (Artikel 27 Absatz 1).

• Betreiber der nachträglichen biometrischen Fernidentifizierung

  Im Rahmen von Ermittlungen zur gezielten Suche einer Person, die einer Straftat verdächtigt wird oder aufgrund einer solchen verurteilt wurde, beantragt der Betreiber eines Systems zur nachträglichen biometrischen Fernidentifizierung vorab oder unverzüglich, spätestens binnen 48 Stunden, bei einer Justizbehörde oder einer Verwaltungsbehörde, deren Entscheidung bindend ist und einer justiziellen Überprüfung unterliegt, die Genehmigung für die Nutzung. Ausgenommen ist die Verwendung zur erstmaligen Identifizierung eines potenziellen Verdächtigen auf der Grundlage objektiver und nachprüfbarer Tatsachen, die in unmittelbarem Zusammenhang mit der Straftat stehen. Die Strafverfolgungsbehörden dürfen keine Entscheidung mit nachteiliger Rechtsfolge für eine Person ausschließlich auf der Grundlage der Ausgabe eines solchen Systems treffen. Unabhängig vom Zweck oder Betreiber wird jede Verwendung solcher Systeme in der einschlägigen Polizeiakte dokumentiert und der Marktüberwachungsbehörde und der nationalen Datenschutzbehörde auf Anfrage zur Verfügung gestellt, ohne sensible operative Daten der Strafverfolgung. Betreiber übermitteln diesen Behörden jährliche Berichte über ihre Nutzung von Systemen zur nachträglichen biometrischen Fernidentifizierung; die Berichte können zusammengefasst werden (Artikel 26 Absatz 10).

Verstöße gegen die Verbote nach Artikel 5 können mit Geldbußen von bis zu 35 Mio. EUR oder, bei Unternehmen, von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 3). Verstöße gegen die Anbieterpflichten nach Artikel 16 und die Betreiberpflichten nach Artikel 26 können mit Geldbußen von bis zu 15 Mio. EUR oder, bei Unternehmen, von bis zu 3 % geahndet werden, je nachdem, welcher Betrag höher ist; dieselbe Stufe gilt für die Transparenzpflichten nach Artikel 50 (Artikel 99 Absatz 4 Buchstaben a, e und g). Für KMU, einschließlich Start-up-Unternehmen, gilt für jede Geldbuße der jeweils niedrigere der beiden Beträge (Artikel 99 Absatz 6). Für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b) gilt dasselbe für die Geldbußen nach Artikel 99 Absatz 4 und Artikel 99 Absatz 5, nicht aber für die nach Artikel 99 Absatz 3 (Artikel 99 Absatz 6a). Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8). Artikel 99 Absätze 3 bis 5 nennen keine Stufe für Artikel 27 oder Artikel 49.

• Art. 5(1)(e)–(h)
  Verbote: zuerst prüfen

  Prüfen Sie, ob das System unter die Buchstaben e bis h des Artikels 5 Absatz 1 fällt, bevor Sie die Hochrisiko-Regeln anwenden. Siehe die Verbote oben.

• Art. 9
  Risikomanagementsystem

  Eine Anbieterpflicht. Sie umfasst die Berücksichtigung von Personen unter 18 Jahren und anderen schutzbedürftigen Gruppen (Artikel 9 Absatz 9). Die Verordnung nennt keinen biometrischen Risikowert und kein biometrisches Verfahren.

• Art. 10, 4a
  Daten-Governance und besondere Datenkategorien

  Qualitätskriterien für Trainings-, Validierungs- und Testdaten (Artikel 10). Anbieter dürfen ausnahmsweise besondere Kategorien personenbezogener Daten zur Erkennung und Korrektur von Verzerrungen unter sechs Bedingungen verarbeiten (Artikel 4a Absatz 1).

• Art. 12(3)
  Aufzeichnungspflichten: Mindestinhalt der Protokolle

  Bei Systemen nach Nummer 1 Buchstabe a erfassen die Protokolle den Zeitraum jeder Verwendung, die Referenzdatenbank, die Eingabedaten mit Übereinstimmung und die Personen, die das Ergebnis überprüft haben (Artikel 12 Absatz 3).

• Art. 13
  Transparenz und Betriebsanleitung

  Der Anbieter stellt Betriebsanleitungen mit mindestens den Angaben nach Artikel 13 Absatz 3 bereit. Artikel 13 enthält keine Regel zu Schildern oder Hinweisen für Personen, die von einem System erfasst werden.

• Art. 14(5)
  Menschliche Aufsicht: Prüfung durch zwei Personen

  Bei Systemen nach Nummer 1 Buchstabe a keine Maßnahme und keine Entscheidung auf Grundlage einer Identifizierung vor getrennter Überprüfung und Bestätigung durch mindestens zwei natürliche Personen mit der notwendigen Kompetenz, Ausbildung und Befugnis (Artikel 14 Absatz 5). Ausnahme für Strafverfolgung, Migration, Grenzkontrolle und Asyl, wenn das Recht die Anforderung für unverhältnismäßig hält.

• Art. 15, 17
  Genauigkeit, Robustheit, Cybersicherheit und Qualitätsmanagement

  Anbieterpflichten (Artikel 15, Artikel 17). Die Verordnung nennt für die Biometrie keinen Genauigkeitswert, keine Fehlerraten-Metrik und kein Testverfahren. Der Anbieter gibt die Genauigkeitsniveaus und die Metriken in der Betriebsanleitung an (Artikel 15 Absatz 3).

• Art. 26–27
  Betreiberpflichten und Grundrechte-Folgenabschätzung

  Verwendung entsprechend der Betriebsanleitung, menschliche Aufsicht, Protokolle (Artikel 26). Betreiber von Hochrisiko-KI-Systemen nach Anhang III, die Entscheidungen über natürliche Personen treffen oder dabei Unterstützung leisten, informieren diese Personen (Artikel 26 Absatz 11). Nachträgliche Fernidentifizierung bei strafrechtlichen Ermittlungen: Genehmigung und Berichte (Artikel 26 Absatz 10). Grundrechte-Folgenabschätzung für die in Artikel 27 Absatz 1 genannten Betreiber.

• Art. 43(1)
  Konformitätsbewertungsverfahren für Nummer 1

  Hat der Anbieter harmonisierte Normen (Artikel 40) oder gegebenenfalls gemeinsame Spezifikationen (Artikel 41) angewandt, wählt er zwischen der internen Kontrolle nach Anhang VI und einer Bewertung unter Beteiligung einer notifizierten Stelle nach Anhang VII. Anhang VII gilt, wenn solche Normen nicht existieren und gemeinsame Spezifikationen nicht verfügbar sind, wenn der Anbieter die Norm nicht oder nur teilweise angewandt hat, wenn er vorhandene gemeinsame Spezifikationen nicht angewandt hat oder wenn eine Norm mit einer Einschränkung veröffentlicht wurde. Bei Systemen, die von Strafverfolgungs-, Einwanderungs- oder Asylbehörden oder von Organen der Union in Betrieb genommen werden, fungiert die Marktüberwachungsbehörde als notifizierte Stelle (Artikel 43 Absatz 1).

• Art. 49
  Registrierung in der EU-Datenbank

  Anbieter registrieren sich und ihr System vor dem Inverkehrbringen oder der Inbetriebnahme (Artikel 49 Absatz 1). Betreiber, die Behörden sind, registrieren ihre Nutzung (Artikel 49 Absatz 3). Bei Systemen nach den Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle erfolgt die Registrierung in einem sicheren nicht öffentlichen Teil mit begrenzten Angaben (Artikel 49 Absatz 4).

• Art. 50(3)
  Informationspflicht bei Emotionserkennung und biometrischer Kategorisierung

  Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeiten die personenbezogenen Daten im Einklang mit dem Datenschutzrecht. Die Pflicht gilt nicht für Systeme, die zur Aufdeckung, Verhütung oder Ermittlung von Straftaten gesetzlich zugelassen sind, vorbehaltlich angemessener Garantien und im Einklang mit dem Unionsrecht (Artikel 50 Absatz 3). Die biometrische Fernidentifizierung wird in diesem Absatz nicht genannt.

• Artikel 9 für Biometrie-KI: Risikomanagement

  Risikomanagement für Biometrie-KI: was Artikel 9 vom Anbieter verlangt.

• Artikel 14 für Biometrie-KI: Menschliche Aufsicht

  Menschliche Aufsicht für Biometrie-KI, einschließlich der Prüfung durch zwei Personen bei der Fernidentifizierung.

• Verbotene KI-Praktiken nach Artikel 5 der KI-Verordnung

  Alle verbotenen KI-Praktiken nach Artikel 5, einschließlich der biometrischen.

• KI-Verordnung Strafverfolgung: Compliance-Guide

  Die Übersicht Strafverfolgung: Anhang III Nummer 6 und die Regeln für Strafverfolgungsbehörden.