Artikel 15 für die Biometrie: Genauigkeit, Robustheit und Cybersicherheit

Artikel 15 enthält Auslegungsanforderungen für den Anbieter. Er nennt für keinen Sektor einen Genauigkeitswert.

• Art. 15(1)
  Angemessenes Maß über den gesamten Lebenszyklus

  Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

• Art. 15(2)
  Benchmarks fördert die Kommission

  Die Kommission fördert gegebenenfalls in Zusammenarbeit mit Interessenträgern wie Metrologie- und Benchmarking-Behörden die Entwicklung von Benchmarks und Messmethoden. Das ist keine Pflicht des Anbieters.

• Art. 15(3)
  Maße und Metriken angeben

  Die Maße an Genauigkeit und die relevanten Genauigkeitsmetriken müssen in den beigefügten Betriebsanleitungen angegeben werden.

• Art. 15(4)
  Widerstandsfähigkeit gegen Fehler und Rückkopplungsschleifen

  Systeme müssen so widerstandsfähig wie möglich gegenüber Fehlern, Störungen oder Unstimmigkeiten im System oder in seiner Umgebung sein, insbesondere wegen der Interaktion mit natürlichen Personen oder anderen Systemen. Es sind technische und organisatorische Maßnahmen zu ergreifen; technische Redundanz, Sicherungs- oder Störungssicherheitspläne sind als Möglichkeiten genannt. Ein System, das nach dem Inverkehrbringen weiterlernt, ist so zu entwickeln, dass das Risiko verzerrter Ausgaben, die künftige Vorgänge beeinflussen (Rückkopplungsschleifen), beseitigt oder so gering wie möglich gehalten wird.

• Art. 15(5)
  Cybersicherheit gegen unbefugte Dritte

  Systeme müssen widerstandsfähig gegen Versuche unbefugter Dritter sein, ihre Verwendung, Ausgaben oder Leistung durch Ausnutzung von Schwachstellen zu verändern. Die technischen Lösungen umfassen gegebenenfalls Maßnahmen gegen Data Poisoning, Model Poisoning, Adversarial Examples oder Model Evasion, Angriffe auf vertrauliche Daten und Modellmängel.

Artikel 15 bindet nur Anbieter von Hochrisiko-KI-Systemen. Die folgenden Zeilen zeigen, wo biometrische KI hochriskant wird.

• Biometrie ist ein begrenzter Bereich von Anhang III

  Anhang III hat einen Bereich „Biometrie“, beschränkt auf die Nummern a bis c und auf Verwendungen, die nach einschlägigem Unionsrecht oder nationalem Recht zugelassen sind (Anhang III Nummer 1). Die Verordnung kennt kein weitergehendes Biometrie-Regime. Diese Website zählt außerdem die Verbote in Artikel 5 Absatz 1 Buchstaben e bis h zur Biometrie.

• Anhang III Nummer 1: Biometrie

  Anhang III Nummer 1 nennt drei Arten von KI-Systemen, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist: a) biometrische Fernidentifizierungssysteme; dazu zählen nicht KI-Systeme, die bestimmungsgemäß für die biometrische Verifizierung verwendet werden sollen, deren alleiniger Zweck darin besteht zu bestätigen, dass eine bestimmte natürliche Person die Person ist, für die sie sich ausgibt; b) KI-Systeme, die bestimmungsgemäß für die biometrische Kategorisierung nach sensiblen oder geschützten Attributen oder Merkmalen aufgrund der Ableitung dieser Attribute oder Merkmale verwendet werden sollen; c) KI-Systeme, die bestimmungsgemäß für die Emotionserkennung verwendet werden sollen. Biometrische Verifizierungssysteme im Sinne des Buchstabens a sind in Nummer 1 nicht erfasst. Andere Systeme nach Anhang III sind nicht hochriskant, wenn Artikel 6 Absatz 3 greift; lassen Sie rechtlich klären, wie dessen Bedingungen zusammenwirken. Ein System, das Profiling natürlicher Personen durchführt, gilt stets als hochriskant. Ein Anbieter, der ein System nach Anhang III für nicht hochriskant hält, muss die Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird, und es nach Artikel 49 Absatz 2 registrieren (Artikel 6 Absatz 4).

• Verifizierung ist keine Fernidentifizierung

  Biometrische Verifizierung ist die automatisierte Eins-zu-eins-Überprüfung, einschließlich der Authentifizierung, der Identität natürlicher Personen durch den Vergleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen Daten (Artikel 3 Nummer 36). Ein biometrisches Fernidentifizierungssystem identifiziert natürliche Personen ohne ihre aktive Einbeziehung, typischerweise aus der Ferne, durch den Abgleich ihrer biometrischen Daten mit den in einer Referenzdatenbank gespeicherten biometrischen Daten (Artikel 3 Nummer 41). Die Verordnung nennt keine Produkttypen; ordnen Sie jedes System anhand dieser Begriffsbestimmungen und seiner Zweckbestimmung ein (Artikel 3 Nummer 12).

• Zusätzliche Anbieterregeln für die Fernidentifizierung

  Zwei der Anbieterregeln, die speziell für Systeme nach Anhang III Nummer 1 Buchstabe a gelten, sind diese. Die Protokollierungsfunktionen müssen mindestens den Zeitraum jeder Verwendung, die Referenzdatenbank, mit der die Eingabedaten abgeglichen wurden, die Eingabedaten, die zu einem Treffer geführt haben, und die Identifizierung der natürlichen Personen erfassen, die an der Überprüfung der Ergebnisse beteiligt waren (Artikel 12 Absatz 3). Die Maßnahmen zur menschlichen Aufsicht müssen zudem sicherstellen, dass keine Maßnahmen oder Entscheidungen auf der Grundlage der Identifizierung getroffen werden, solange sie nicht von mindestens zwei natürlichen Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis getrennt überprüft und bestätigt wurde; das gilt nicht für Systeme, die für Zwecke der Strafverfolgung, Migration, Grenzkontrolle oder des Asyls verwendet werden, wenn das Unionsrecht oder das nationale Recht die Anwendung dieser Anforderung für unverhältnismäßig hält (Artikel 14 Absatz 5).

• Anbieter und Betreiber

  Anbieter, zum Beispiel ein Hersteller von Gesichtserkennungssoftware, ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Ein Unternehmen, eine Behörde oder eine andere Stelle, die ein System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4). Ein Betreiber wird zum Anbieter, wenn er ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke versieht, eine wesentliche Veränderung vornimmt, durch die das System ein Hochrisiko-KI-System bleibt, oder die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so ändert, dass es hochriskant wird (Artikel 25 Absatz 1); im ersten Fall können vertragliche Vereinbarungen die Pflichten anders zuweisen. Die Verordnung gilt nicht für Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10).

• Termine

  Systeme nach Anhang III Nummer 1 müssen diese Pflichten ab dem 2. Dezember 2027 erfüllen (Artikel 113 Buchstabe c Ziffer i). Ein System, das vor diesem Termin in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2); dies gilt nicht für die anschließend genannten Komponenten nach Anhang X. KI-Systeme, die Komponenten der in Anhang X aufgeführten IT-Großsysteme sind und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden, müssen bis zum 31. Dezember 2030 konform sein (Artikel 111 Absatz 1). Die Verbote nach Artikel 5 Absatz 1 Buchstaben e bis h gelten seit dem 2. Februar 2025; die Ausnahme in Artikel 113 Buchstabe a betrifft sie nicht. Die Artikel 43 und 49 stehen in Kapitel III Abschnitt 5, den Artikel 113 in keinem seiner Buchstaben nennt. Artikel 113 nennt für sie keinen eigenen Termin; lassen Sie rechtlich klären, ab wann sie Anbieter von Systemen nach Anhang III binden.

• Geldbußen

  Verstöße gegen die Anbieterpflichten nach Artikel 16 und die Betreiberpflichten nach Artikel 26 können mit Geldbußen von bis zu 15 Mio. EUR oder, wenn der Verstoßende ein Unternehmen ist, bis zu 3 % seines gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU, einschließlich Start-up-Unternehmen, gilt jede Geldbuße bis zum jeweils niedrigeren Betrag (Artikel 99 Absatz 6); dasselbe gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt fest, inwieweit gegen Behörden und Einrichtungen seines Hoheitsgebiets Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Grenzen des Anwendungsbereichs

  Die Verordnung gilt nicht für Bereiche, die nicht in den Anwendungsbereich des Unionsrechts fallen (Artikel 2 Absatz 3 erster Satz). Sie gilt nicht für KI-Systeme, soweit sie, mit oder ohne Änderung, ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder verwendet werden (Artikel 2 Absatz 3 zweiter Satz). Sie gilt nicht für Behörden eines Drittlandes und internationale Organisationen, die KI-Systeme im Rahmen der internationalen Zusammenarbeit oder von Übereinkünften über die Strafverfolgung und justizielle Zusammenarbeit mit der Union oder mit Mitgliedstaaten verwenden, sofern sie angemessene Garantien für den Schutz der Grundrechte und Grundfreiheiten bieten (Artikel 2 Absatz 4). Sie gilt nicht für KI-Systeme oder KI-Modelle einschließlich ihrer Ausgabe, die eigens und ausschließlich für wissenschaftliche Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6), und nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen fallen nicht unter diese Ausnahme (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-System nach Artikel 5 oder 50 in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12).

• Kein Genauigkeitswert und kein Prüfverfahren für die Biometrie

  Artikel 15 nennt weder für biometrische Systeme noch für einen anderen Sektor eine Genauigkeitsmetrik, einen Mindestwert, ein Prüfverfahren oder eine Norm. Der Anbieter gibt die Genauigkeitsgrade und die relevanten Metriken an (Artikel 15 Absatz 3). Die technische Dokumentation muss außerdem die Metriken beschreiben, mit denen Genauigkeit, Robustheit und Einhaltung der Anforderungen gemessen werden, sowie potenziell diskriminierende Auswirkungen (Anhang IV Nummer 2 Buchstabe g).

• Konformitätsvermutungen

  Die Verordnung selbst nennt keine Norm. Systeme, die harmonisierten Normen entsprechen, deren Fundstellen im Amtsblatt veröffentlicht sind, gelten als konform mit den Anforderungen des Abschnitts 2, soweit die Normen diese abdecken (Artikel 40 Absatz 1). Eine im Amtsblatt veröffentlichte Cybersicherheitszertifizierung oder Konformitätserklärung nach der Verordnung (EU) 2019/881 begründet die Vermutung für die Cybersicherheitsanforderungen des Artikels 15 (Artikel 42 Absatz 2); Systeme im Anwendungsbereich der Verordnung (EU) 2024/2847, die deren Artikel 12 Absatz 1 erfüllen, gelten als konform (Artikel 42 Absatz 3). Die Kommission arbeitet Leitlinien zur Anwendung der Anforderungen und Pflichten nach den Artikeln 8 bis 15 sowie den Artikeln 25 und 26 aus (Artikel 96 Absatz 1 Buchstabe a).

• Beispiel: Messung der Genauigkeit angeben

  Beispiel, keine Anforderung der Verordnung: Der Anbieter eines biometrischen Fernidentifizierungssystems könnte neben jeder angegebenen Genauigkeitsmetrik die Daten und Testbedingungen nennen, mit denen sie gemessen wurde. Artikel 15 Absatz 3 verlangt nur die Genauigkeitsgrade und die relevanten Genauigkeitsmetriken.

• Artikel 15 KI-Verordnung: Genauigkeit, Robustheit und Cybersicherheit

  Artikel 15 für alle Sektoren: Anforderungen, Termine und Geldbußen.

• KI-Verordnung Biometrie: Compliance-Leitfaden

  Der Überblick zur Biometrie: wie die Verordnung biometrische Fernidentifizierung, biometrische Kategorisierung und Emotionserkennung erfasst.

• Artikel 17 für die Biometrie: Qualitätsmanagementsystem

  Biometrische KI und Artikel 17: Qualitätsmanagementsystem, Konformitätsbewertung, Termine und Rollen.

• Anhang III im Detail: Alle 8 Hochrisiko-Kategorien

  Wie Anhang III KI-Systeme zu Hochrisiko-KI-Systemen macht, einschließlich der Biometrie.