Artikel 13 Transparenz für KI in der Strafverfolgung: KI-Verordnung

Art. 13 Abs. 1

Transparenz für Betreiber

Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass ihr Betrieb hinreichend transparent ist, damit die Betreiber die Ausgabe des Systems angemessen interpretieren und verwenden können. Es ist eine geeignete Art und ein geeignetes Maß an Transparenz zu gewährleisten, damit die einschlägigen Pflichten von Anbieter und Betreiber nach Abschnitt 3 erfüllt werden können (Artikel 13 Absatz 1).

Art. 13 Abs. 2

Betriebsanleitung

Hochrisiko-KI-Systeme werden mit einer Betriebsanleitung in einem geeigneten digitalen Format oder anderweitig geliefert. Sie enthält präzise, vollständige, korrekte und eindeutige Informationen, die für die Betreiber relevant, barrierefrei zugänglich und verständlich sind (Artikel 13 Absatz 2).

Art. 13 Abs. 3

Was die Betriebsanleitung mindestens enthält

(a) Identität und Kontaktdaten des Anbieters und gegebenenfalls seines Bevollmächtigten. (b) Merkmale, Fähigkeiten und Leistungsgrenzen des Systems, darunter die Zweckbestimmung; das Maß an Genauigkeit mit den Metriken, Robustheit und Cybersicherheit, anhand derer das System getestet und validiert wurde, und Umstände, die sich darauf auswirken können; bekannte oder vorhersehbare Umstände, die zu Risiken für Gesundheit, Sicherheit oder Grundrechte führen können; gegebenenfalls die technischen Fähigkeiten und Merkmale zur Bereitstellung von Informationen, die zur Erklärung der Ausgabe relevant sind; gegebenenfalls die Leistung in Bezug auf bestimmte Personen oder Gruppen; gegebenenfalls Spezifikationen für die Eingabedaten oder sonstige relevante Informationen zu den verwendeten Trainings-, Validierungs- und Testdatensätzen; gegebenenfalls Informationen, die den Betreibern ermöglichen, die Ausgabe zu interpretieren und angemessen zu verwenden. (c) Vorab bestimmte Änderungen des Systems. (d) Die Maßnahmen zur menschlichen Aufsicht nach Artikel 14, einschließlich der technischen Maßnahmen, die den Betreibern die Interpretation der Ausgaben erleichtern. (e) Die erforderlichen Rechen- und Hardwareressourcen, die erwartete Lebensdauer und die Wartung. (f) Gegebenenfalls eine Beschreibung der Mechanismen, mit denen Betreiber die Protokolle nach Artikel 12 erfassen, speichern und auswerten können.

Art. 3 Abs. 46

Strafverfolgung in der Verordnung

Die Verordnung enthält kein branchenweites Strafverfolgungsregime; Anhang III Nummer 6 ist der Hochrisiko-Bereich mit der Überschrift „Strafverfolgung“. Die Verordnung definiert sie als Tätigkeiten der Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit (Artikel 3 Absatz 46). Die Hochrisiko-Verwendungen stehen in Anhang III: Nummer 6 für die Strafverfolgung und Nummer 1 für die Biometrie, jeweils „soweit ihre Verwendung nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist“.

Art. 26 Abs. 11

Information der betroffenen Personen

Unbeschadet des Artikels 50 müssen Betreiber von Hochrisiko-KI-Systemen nach Anhang III, die Entscheidungen über natürliche Personen treffen oder bei solchen Entscheidungen unterstützen, die betroffenen Personen darüber informieren, dass sie der Verwendung des Systems unterliegen. Für Hochrisiko-KI-Systeme, die für Strafverfolgungszwecke verwendet werden, gilt Artikel 13 der Richtlinie (EU) 2016/680 (Artikel 26 Absatz 11). Artikel 13 der KI-Verordnung ist nicht diese Pflicht.

Art. 26 Abs. 9

Datenschutz-Folgenabschätzung

Gegebenenfalls nutzen Betreiber die nach Artikel 13 bereitgestellten Informationen, um ihrer Pflicht zur Datenschutz-Folgenabschätzung nach Artikel 35 der Verordnung (EU) 2016/679 (DSGVO) oder Artikel 27 der Richtlinie (EU) 2016/680 nachzukommen (Artikel 26 Absatz 9).

Art. 49 Abs. 4

Die Registrierung ist nicht öffentlich

Bei Hochrisiko-KI-Systemen nach den Nummern 1, 6 und 7 des Anhang III in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle erfolgt die Registrierung in einem sicheren, nicht öffentlichen Bereich der EU-Datenbank und umfasst nur begrenzte Angaben. Nur die Kommission und die nationalen Behörden nach Artikel 74 Absatz 8 haben Zugang (Artikel 49 Absatz 4).

Art. 3 Abs. 3, Art. 3 Abs. 4, Art. 25 Abs. 1

Anbieter und Betreiber

Anbieter ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Absatz 3). Betreiber ist eine solche Person oder Stelle, die ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit (Artikel 3 Absatz 4). Eine Polizeibehörde, die ein System kauft, ist Betreiber. Sie wird zum Anbieter, wenn sie ihren Namen oder ihre Handelsmarke auf ein bereits in Verkehr gebrachtes Hochrisiko-KI-System setzt, ein solches System wesentlich verändert, sodass es ein Hochrisiko-KI-System bleibt, oder den Verwendungszweck eines Nicht-Hochrisiko-KI-Systems so ändert, dass es zum Hochrisiko-KI-System wird (Artikel 25 Absatz 1).

Art. 113 Buchst. c Ziff. i, Art. 111 Abs. 2

Fristen

Die Anforderungen an Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Ein vor diesem Datum in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Die Verbote in Artikel 5 Absatz 1 Buchstaben d, e, g und h gelten seit dem 2. Februar 2025 (Artikel 113 Buchstabe a).

Art. 2 Abs. 3, Art. 2 Abs. 6, Art. 2 Abs. 8

Grenzen des Anwendungsbereichs

Die Verordnung gilt nicht für Bereiche außerhalb des Anwendungsbereichs des Unionsrechts und nicht für KI-Systeme, soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3). Sie gilt nicht für Behörden von Drittländern und internationale Organisationen, die KI-Systeme im Rahmen der internationalen Zusammenarbeit oder von Abkommen über die Zusammenarbeit in den Bereichen Strafverfolgung und Justiz mit der Union oder einem oder mehreren Mitgliedstaaten verwenden, sofern das Drittland oder die internationale Organisation angemessene Garantien für den Schutz der Grundrechte und Grundfreiheiten bietet (Artikel 2 Absatz 4). Sie gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6), und nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen sind von dieser Ausnahme nicht erfasst (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-System in Verkehr gebracht oder in Betrieb genommen, das unter Artikel 5 oder Artikel 50 fällt (Artikel 2 Absatz 12).

Art. 99 Abs. 4 Buchst. a, Art. 99 Abs. 8

Geldbußen für Anbieter

Verstößt ein Anbieter gegen seine Pflichten nach Artikel 16, wozu gehört sicherzustellen, dass das System die Anforderungen des Abschnitts 2 erfüllt (Artikel 16 Buchstabe a), drohen Geldbußen von bis zu 15 Mio. EUR oder, wenn der Zuwiderhandelnde ein Unternehmen ist, von bis zu 3 % seines gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahrs, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe a). Bei KMU, einschließlich Start-up-Unternehmen, gilt jeweils der niedrigere der genannten Beträge als Obergrenze (Artikel 99 Absatz 6); dasselbe gilt für kleine Midcap-Unternehmen (Artikel 99 Absatz 6a; Artikel 3 Absatz 14b). Jeder Mitgliedstaat legt fest, inwieweit gegen Behörden und öffentliche Stellen seines Hoheitsgebiets Geldbußen verhängt werden können (Artikel 99 Absatz 8).

Art. 13 Abs. 3

Beispiel: ein Werkzeug für die Gesichtssuche

Beispiel: Die Betriebsanleitung eines Werkzeugs für die Gesichtssuche nennt die Genauigkeitsmetriken, anhand derer es getestet wurde (Artikel 13 Absatz 3 Buchstabe b), und gegebenenfalls seine Leistung für bestimmte Personengruppen.

Art. 13 Abs. 1

Eine Gestaltungsentscheidung, keine Vorgabe der Verordnung

Eine übliche Gestaltungsentscheidung, keine Vorgabe der Verordnung: neben jeder Ausgabe einen Konfidenz- oder Trefferwert anzeigen, damit die prüfende Person sie interpretieren kann (Artikel 13 Absatz 1).