Artikel 13 für Biometrie-KI: Transparenz und Betriebsanleitung

Artikel 13 betrifft die Informationen, die ein Anbieter den Betreibern gibt. Es ist keine Hinweispflicht gegenüber den Personen, die ein System erfasst.

• Art. 13(1)
  Hinreichend transparent, um die Ausgabe zu interpretieren

  Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend transparent ist, damit die Betreiber die Ausgaben eines Systems angemessen interpretieren und verwenden können. Die Transparenz wird auf eine geeignete Art und in einem angemessenen Maß gewährleistet, damit die Anbieter und Betreiber ihre in Abschnitt 3 festgelegten einschlägigen Pflichten erfüllen können.

• Art. 13(2)
  Betriebsanleitung in geeignetem Format

  Hochrisiko-KI-Systeme werden mit Betriebsanleitungen in einem geeigneten digitalen Format bereitgestellt oder auf andere Weise mit Betriebsanleitungen geliefert. Diese enthalten knappe, vollständige, korrekte und eindeutige Informationen, die für die Betreiber relevant, barrierefrei zugänglich und verständlich sind.

• Art. 13(3)(a)–(b)
  Identität des Anbieters, Fähigkeiten und Leistungsgrenzen

  Die Betriebsanleitung muss zumindest die Identität und die Kontaktdaten des Anbieters und gegebenenfalls seines Bevollmächtigten enthalten. Sie muss die Merkmale, Fähigkeiten und Leistungsgrenzen des Systems beschreiben, darunter Folgendes. Die Zweckbestimmung. Das Maß an Genauigkeit, einschließlich der diesbezüglichen Metriken, Robustheit und Cybersicherheit, anhand dessen das System getestet und validiert wurde und das zu erwarten ist, sowie alle bekannten und vorhersehbaren Umstände, die sich darauf auswirken können. Alle bekannten oder vorhersehbaren Umstände, die zu Risiken für Gesundheit und Sicherheit oder Grundrechte führen können. Gegebenenfalls die technischen Fähigkeiten und Merkmale des Systems, Informationen bereitzustellen, die zur Erläuterung seiner Ausgabe relevant sind. Gegebenenfalls seine Leistung in Bezug auf bestimmte Personen oder Personengruppen, bei denen das System verwendet werden soll. Gegebenenfalls Spezifikationen für die Eingabedaten oder sonstige relevante Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze. Gegebenenfalls Informationen, die es den Betreibern ermöglichen, die Ausgabe des Systems zu interpretieren und angemessen zu verwenden.

• Art. 13(3)(c)–(f)
  Änderungen, menschliche Aufsicht, Ressourcen und Protokolle

  Die Betriebsanleitung muss außerdem Folgendes enthalten. Die vom Anbieter zum Zeitpunkt der ersten Konformitätsbewertung vorab bestimmten Änderungen des Systems und seiner Leistung, falls vorhanden. Die in Artikel 14 genannten Maßnahmen zur Gewährleistung der menschlichen Aufsicht, einschließlich der technischen Maßnahmen, mit denen die Interpretation der Ausgaben durch die Betreiber erleichtert werden soll. Die erforderlichen Rechen- und Hardwareressourcen, die erwartete Lebensdauer des Systems und alle erforderlichen Wartungs- und Pflegemaßnahmen einschließlich ihrer Häufigkeit zur Gewährleistung des ordnungsgemäßen Funktionierens des Systems, einschließlich Software-Updates. Gegebenenfalls eine Beschreibung der im System enthaltenen Mechanismen, die es den Betreibern ermöglichen, die Protokolle gemäß Artikel 12 ordnungsgemäß zu erfassen, zu speichern und auszuwerten.

Artikel 13 bindet nur Hochrisiko-KI-Systeme. Die folgenden Zeilen zeigen, wo Biometrie-KI hochriskant ist, wer gebunden ist und wo die Pflichten gegenüber betroffenen Personen stehen.

• Anhang III enthält einen Bereich „Biometrie“, beschränkt auf drei Arten von Systemen

  Anhang III enthält den Bereich „Biometrie“, soweit der Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist. Der Bereich ist auf Nummer 1 Buchstaben a bis c beschränkt; die Verordnung kennt kein weitergehendes Biometrie-Regime. Das Wort „Biometrie“ dieser Website meint diese Systeme. Nummer 1 Buchstabe a erfasst biometrische Fernidentifizierungssysteme. Dazu gehören nicht KI-Systeme, die bestimmungsgemäß für die biometrische Verifizierung verwendet werden sollen, deren einziger Zweck darin besteht, zu bestätigen, dass eine bestimmte natürliche Person die Person ist, für die sie sich ausgibt. Nummer 1 Buchstabe b erfasst KI-Systeme, die bestimmungsgemäß für die biometrische Kategorisierung nach sensiblen oder geschützten Attributen oder Merkmalen auf der Grundlage von Rückschlüssen auf diese Attribute oder Merkmale verwendet werden sollen. Nummer 1 Buchstabe c erfasst KI-Systeme, die bestimmungsgemäß zur Emotionserkennung verwendet werden sollen. Ein biometrisches Fernidentifizierungssystem dient der Identifizierung natürlicher Personen ohne deren aktive Mitwirkung, in der Regel aus der Ferne, durch den Abgleich der biometrischen Daten einer Person mit den biometrischen Daten in einer Referenzdatenbank (Artikel 3 Nummer 41). Biometrische Verifizierung ist die automatisierte Eins-zu-eins-Verifizierung, einschließlich der Authentifizierung, der Identität natürlicher Personen durch den Abgleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen Daten (Artikel 3 Nummer 36). Ein biometrisches System, das Nummer 1 nicht nennt, ist nur hochriskant, wenn ein anderer Punkt von Anhang III oder Anhang I es erfasst.

• Artikel 6 Absatz 3 kann ein System aus Anhang III herausnehmen

  Ein System nach Anhang III Nummer 1 ist nach Artikel 6 Absatz 2 hochriskant. Nach Artikel 6 Absatz 3 gilt es nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte birgt. Dazu gehört, dass es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Die Verordnung wendet diese Ausnahme an, wenn eine der folgenden Bedingungen erfüllt ist (Artikel 6 Absatz 3 Buchstaben a bis d). Das System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen. Oder es ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern. Oder es ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen. Oder es ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die in Anhang III aufgeführten Anwendungsfälle relevant ist. Wie sich diese Bedingungen mit dem Test auf ein erhebliches Risiko verbinden, ist eine Frage für Ihre Rechtsberatung. Nimmt das System ein Profiling natürlicher Personen vor, gilt es immer als hochriskant. Profiling ist in Artikel 4 Nummer 4 DSGVO definiert (Artikel 3 Nummer 52). Ob ein bestimmtes biometrisches System ein Profiling vornimmt, ist ebenfalls eine Frage für Ihre Rechtsberatung. Ein Anbieter, der sich auf die Ausnahme beruft, dokumentiert seine Bewertung, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Er muss das System außerdem registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2). Unabhängig davon nimmt Nummer 1 Buchstabe a selbst KI-Systeme aus, die bestimmungsgemäß für die biometrische Verifizierung verwendet werden sollen, deren einziger Zweck darin besteht, zu bestätigen, dass eine bestimmte natürliche Person die Person ist, für die sie sich ausgibt.

• Anbieter und Betreiber

  Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Die Inbetriebnahme schließt die Bereitstellung zum Eigengebrauch ein (Artikel 3 Nummer 11). Wer als Unternehmen oder Behörde ein biometrisches System entwickelt und unter eigenem Namen in Betrieb nimmt, ist daher Anbieter. Wer als Unternehmen oder Behörde ein System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4). Ein Betreiber wird in drei Fällen zum Anbieter. Er versieht ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke, unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen. Er nimmt an einem solchen System eine wesentliche Veränderung vor, durch die es ein Hochrisiko-KI-System bleibt. Oder er ändert die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so, dass es hochriskant wird (Artikel 25 Absatz 1). Der Anbieter, der das System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, gilt dann nicht mehr als Anbieter dieses spezifischen Systems und muss eng mit dem neuen Anbieter zusammenarbeiten (Artikel 25 Absatz 2). Das gilt nicht, wenn der Erstanbieter eindeutig festgelegt hat, dass sein System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.

• Pflichten zur Information betroffener Personen stehen in anderen Artikeln

  Artikel 13 betrifft Informationen für Betreiber. Er enthält keine Regel zu Schildern, Hinweisen oder Bildschirmmeldungen für Personen, die von einem biometrischen System erfasst werden. Betreiber von in Anhang III genannten Hochrisiko-KI-Systemen, die Entscheidungen über natürliche Personen treffen oder bei solchen Entscheidungen Unterstützung leisten, informieren die betroffenen Personen darüber, dass sie der Verwendung des Systems unterliegen (Artikel 26 Absatz 11). Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeiten die personenbezogenen Daten im Einklang mit dem Datenschutzrecht (Artikel 50 Absatz 3). Diese Pflicht gilt nicht für solche Systeme, die zur Aufdeckung, Verhütung oder Ermittlung von Straftaten gesetzlich zugelassen sind, vorbehaltlich angemessener Garantien für die Rechte und Freiheiten Dritter und im Einklang mit dem Unionsrecht. Das Datenschutzrecht der Union gilt weiter (Artikel 2 Absatz 7).

• Termine

  Die Anforderungen für diese Verwendungen nach Anhang III gelten ab dem 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Ein System, das vor diesem Termin in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Diese Regel gilt nicht für die in Artikel 111 Absatz 1 genannten Systeme.

• Geldbußen

  Anbieter müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die Anforderungen von Kapitel III Abschnitt 2 erfüllen, zu dem die Artikel 9 bis 15 gehören (Artikel 16 Buchstabe a). Verstöße gegen die Anbieterpflichten nach Artikel 16 oder die Betreiberpflichten nach Artikel 26 können mit Geldbußen geahndet werden. Die Geldbuße beträgt bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstaben a und e). Für KMU, einschließlich Start-up-Unternehmen, gilt für jede Geldbuße der jeweils niedrigere der beiden Beträge (Artikel 99 Absatz 6). Dasselbe gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Reichweite und Grenzen der Verordnung

  Die Verordnung gilt für Anbieter und Betreiber, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Artikel 2 Absatz 1 Buchstabe c). Sie gilt nur in den unter das Unionsrecht fallenden Bereichen und berührt nicht die Zuständigkeiten der Mitgliedstaaten in Bezug auf die nationale Sicherheit (Artikel 2 Absatz 3). Die Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6). Sie gilt auch nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird. Tests unter Realbedingungen fallen nicht unter diesen Ausschluss (Artikel 2 Absatz 8). KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, fallen nicht unter die Verordnung. Dieser Ausschluss gilt nicht, wenn sie als Hochrisiko-KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden oder wenn sie unter Artikel 5 oder 50 fallen (Artikel 2 Absatz 12). Sie gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder – mit oder ohne Änderung – verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt (Artikel 2 Absatz 3). Sie gilt weder für Behörden in Drittländern noch für internationale Organisationen, die nach Artikel 2 Absatz 1 in ihren Anwendungsbereich fallen, soweit diese KI-Systeme im Rahmen der internationalen Zusammenarbeit oder internationaler Übereinkünfte im Bereich der Strafverfolgung und justiziellen Zusammenarbeit mit der Union oder mit einem oder mehreren Mitgliedstaaten verwenden und sofern das Drittland oder die internationale Organisation angemessene Garantien hinsichtlich des Schutzes der Privatsphäre, der Grundrechte und der Grundfreiheiten von Personen bietet (Artikel 2 Absatz 4). Sie gilt nicht für die Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10). Die Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit der Kommunikation gelten für die Verarbeitung personenbezogener Daten im Zusammenhang mit den Rechten und Pflichten der Verordnung. Unbeschadet des Artikels 4a und des Artikels 59 berührt die Verordnung nicht die Verordnung (EU) 2016/679, die Verordnung (EU) 2018/1725, die Richtlinie 2002/58/EG oder die Richtlinie (EU) 2016/680 (Artikel 2 Absatz 7).

• Keine biometrischen Genauigkeitswerte und keine Liste von Gruppen

  Artikel 13 Absatz 3 verlangt, dass die Betriebsanleitung das Maß an Genauigkeit und seine Metriken sowie gegebenenfalls die Leistung in Bezug auf bestimmte Personen oder Personengruppen angibt. Er nennt für biometrische Systeme keinen Genauigkeitswert, keine Metrik und keine Liste von Gruppen. Die Verordnung selbst nennt keine Norm. Bei Hochrisiko-KI-Systemen, die mit harmonisierten Normen übereinstimmen, deren Fundstellen im Amtsblatt der Europäischen Union veröffentlicht wurden, wird die Konformität mit den Anforderungen gemäß Abschnitt 2 vermutet, soweit diese Anforderungen von den Normen abgedeckt sind (Artikel 40 Absatz 1). Die Kommission erarbeitet Leitlinien für die Anwendung der Anforderungen und Pflichten nach den Artikeln 8 bis 15, 25 und 26 (Artikel 96 Absatz 1 Buchstabe a).

• Beispiel: ein Leitfaden für die Personen, die Treffer überprüfen

  Beispiel, keine Anforderung der Verordnung: Für die Personen, die eine Übereinstimmung nach Artikel 14 Absatz 5 überprüfen müssen, könnte der Anbieter einen kurzen Leitfaden beifügen, wie eine Übereinstimmung zu lesen ist und unter welchen Umständen sie weniger verlässlich ist.

• Beispiel: die Betriebsanleitung versionieren

  Beispiel, keine Anforderung der Verordnung: Ein Anbieter könnte die Betriebsanleitung versionieren und festhalten, welche Version zu welcher Systemfreigabe gehört, damit ein Betreiber prüfen kann, was zum Zeitpunkt einer bestimmten Verwendung galt.

• Artikel 13 KI-Verordnung: Transparenz und Betriebsanleitung

  Artikel 13 für alle Sektoren: Anforderungen, Termine und Geldbußen.

• KI-Verordnung Biometrie: Compliance-Leitfaden

  Die Übersicht Biometrie: was die Verordnung erfasst, was sie verbietet und die biometrikspezifischen Regeln.

• Artikel 14 für Biometrie-KI: Menschliche Aufsicht

  Biometrie-KI und Artikel 14: menschliche Aufsicht und die Prüfung durch zwei Personen bei der Fernidentifizierung.

• Artikel 15 KI-Verordnung: Genauigkeit, Robustheit und Cybersicherheit

  Artikel 15 für alle Sektoren: die Genauigkeitsniveaus, die Artikel 13 Absatz 3 vom Anbieter anzugeben verlangt.