Artikel 10 Daten-Governance für KI in der Strafverfolgung: KI-Verordnung

Art. 10 Abs. 2

Praktiken der Daten-Governance

Trainings-, Validierungs- und Testdatensätze unterliegen Daten-Governance- und Datenverwaltungspraktiken, die für die Zweckbestimmung geeignet sind. Sie betreffen insbesondere: (a) die einschlägigen Konzeptionsentscheidungen; (b) die Datenerhebungsvorgänge, die Herkunft der Daten und bei personenbezogenen Daten den ursprünglichen Zweck der Erhebung; (c) Datenaufbereitungsvorgänge wie Annotation, Kennzeichnung, Bereinigung, Aktualisierung, Anreicherung und Aggregierung; (d) die Aufstellung von Annahmen darüber, was die Daten messen und abbilden sollen; (e) die Bewertung der Verfügbarkeit, Menge und Eignung der benötigten Datensätze; (f) die Untersuchung im Hinblick auf mögliche Verzerrungen, die sich auf Gesundheit und Sicherheit auswirken, die Grundrechte beeinträchtigen oder zu verbotener Diskriminierung führen, insbesondere wenn Datenausgaben die Eingaben für künftige Vorgänge beeinflussen; (g) Maßnahmen zur Erkennung, Verhinderung und Abmilderung solcher Verzerrungen; (h) die Ermittlung relevanter Datenlücken oder Mängel und wie sie behoben werden können.

Art. 10 Abs. 3, Art. 10 Abs. 4

Qualität und Einsatzumfeld

Datensätze müssen relevant und hinreichend repräsentativ sowie im Hinblick auf die Zweckbestimmung so weit wie möglich fehlerfrei und vollständig sein. Sie müssen die geeigneten statistischen Merkmale haben, gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das System bestimmungsgemäß verwendet werden soll (Artikel 10 Absatz 3). Sie berücksichtigen, soweit es die Zweckbestimmung erfordert, die Merkmale des besonderen geografischen, kontextbezogenen, verhaltensbezogenen oder funktionalen Umfelds der Verwendung (Artikel 10 Absatz 4).

Art. 10 Abs. 6

Systeme, die nicht mit Daten trainiert werden

Für Hochrisiko-KI-Systeme, die keine Techniken mit dem Trainieren von KI-Modellen verwenden, gelten die Absätze 2, 3 und 4 des Artikels 10 und Artikel 4a Absatz 1 nur für die Testdatensätze (Artikel 10 Absatz 6).

Art. 4a Abs. 1

Besondere Kategorien personenbezogener Daten zur Erkennung von Verzerrungen

Soweit es für die Erkennung und Korrektur von Verzerrungen nach Artikel 10 Absatz 2 Buchstaben f und g unbedingt erforderlich ist, dürfen Anbieter von Hochrisiko-KI-Systemen ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, vorbehaltlich angemessener Schutzvorkehrungen. Das gilt zusätzlich zu Verordnung (EU) 2016/679 (DSGVO), der Verordnung (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit anwendbar, und alle sechs Bedingungen des Artikels 4a Absatz 1 Buchstaben a bis f müssen erfüllt sein. Betreiber von Hochrisiko-KI-Systemen dürfen solche Daten auch unter den Bedingungen des Artikels 4a Absatz 2 verarbeiten.

Art. 42 Abs. 1, Art. 40 Abs. 1

Konformitätsvermutung

Hochrisiko-KI-Systeme, die mit Daten trainiert und getestet wurden, die das besondere geografische, verhaltensbezogene, kontextbezogene oder funktionale Umfeld widerspiegeln, in dem sie verwendet werden sollen, gelten als konform mit den Anforderungen nach Artikel 10 Absatz 4 (Artikel 42 Absatz 1). Systeme, die harmonisierten Normen entsprechen, deren Fundstellen im Amtsblatt veröffentlicht wurden, gelten als konform mit den Anforderungen des Abschnitts 2, soweit die Normen diese abdecken (Artikel 40 Absatz 1). Die Verordnung nennt selbst keine Norm.

Art. 3 Abs. 46

Strafverfolgung in der Verordnung

Die Verordnung enthält kein branchenweites Strafverfolgungsregime; Anhang III Nummer 6 ist der Hochrisiko-Bereich mit der Überschrift „Strafverfolgung“. Die Verordnung definiert sie als Tätigkeiten der Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit (Artikel 3 Absatz 46). Die Hochrisiko-Verwendungen stehen in Anhang III: Nummer 6 für die Strafverfolgung und Nummer 1 für die Biometrie, jeweils „soweit ihre Verwendung nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist“.

Art. 2 Abs. 7, Art. 4a Abs. 1

Keine eigene Datenregel für die Strafverfolgung

Artikel 10 enthält keinen Absatz für die Strafverfolgung. Die Verordnung lässt die Richtlinie (EU) 2016/680 unberührt (Artikel 2 Absatz 7), und Artikel 4a Absatz 1 gilt zusätzlich zu ihr.

Art. 5 Abs. 1 Buchst. e

Auslesen von Gesichtsbildern

KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern, sind verboten (Artikel 5 Absatz 1 Buchstabe e). Das Verbot betrifft solche Systeme; Artikel 10 selbst nennt keine verbotene Datenquelle.

Art. 26 Abs. 4

Betreiber, die die Eingabedaten kontrollieren

Ein Betreiber, der die Kontrolle über die Eingabedaten ausübt, muss sicherstellen, dass diese Daten im Hinblick auf die Zweckbestimmung des Systems relevant und hinreichend repräsentativ sind (Artikel 26 Absatz 4).

Art. 3 Abs. 3, Art. 3 Abs. 4, Art. 25 Abs. 1

Anbieter und Betreiber

Anbieter ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Absatz 3). Betreiber ist eine solche Person oder Stelle, die ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit (Artikel 3 Absatz 4). Eine Polizeibehörde, die ein System kauft, ist Betreiber. Sie wird zum Anbieter, wenn sie ihren Namen oder ihre Handelsmarke auf ein bereits in Verkehr gebrachtes Hochrisiko-KI-System setzt, ein solches System wesentlich verändert, sodass es ein Hochrisiko-KI-System bleibt, oder den Verwendungszweck eines Nicht-Hochrisiko-KI-Systems so ändert, dass es zum Hochrisiko-KI-System wird (Artikel 25 Absatz 1).

Art. 113 Buchst. c Ziff. i, Art. 111 Abs. 2

Fristen

Die Anforderungen an Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Ein vor diesem Datum in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Die Verbote in Artikel 5 Absatz 1 Buchstaben d, e, g und h gelten seit dem 2. Februar 2025 (Artikel 113 Buchstabe a).

Art. 2 Abs. 3, Art. 2 Abs. 6, Art. 2 Abs. 8

Grenzen des Anwendungsbereichs

Die Verordnung gilt nicht für Bereiche außerhalb des Anwendungsbereichs des Unionsrechts und nicht für KI-Systeme, soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3). Sie gilt nicht für Behörden von Drittländern und internationale Organisationen, die KI-Systeme im Rahmen der internationalen Zusammenarbeit oder von Abkommen über die Zusammenarbeit in den Bereichen Strafverfolgung und Justiz mit der Union oder einem oder mehreren Mitgliedstaaten verwenden, sofern das Drittland oder die internationale Organisation angemessene Garantien für den Schutz der Grundrechte und Grundfreiheiten bietet (Artikel 2 Absatz 4). Sie gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6), und nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen sind von dieser Ausnahme nicht erfasst (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-System in Verkehr gebracht oder in Betrieb genommen, das unter Artikel 5 oder Artikel 50 fällt (Artikel 2 Absatz 12).

Art. 99 Abs. 4 Buchst. a, Art. 99 Abs. 8

Geldbußen für Anbieter

Verstößt ein Anbieter gegen seine Pflichten nach Artikel 16, wozu gehört sicherzustellen, dass das System die Anforderungen des Abschnitts 2 erfüllt (Artikel 16 Buchstabe a), drohen Geldbußen von bis zu 15 Mio. EUR oder, wenn der Zuwiderhandelnde ein Unternehmen ist, von bis zu 3 % seines gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahrs, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe a). Bei KMU, einschließlich Start-up-Unternehmen, gilt jeweils der niedrigere der genannten Beträge als Obergrenze (Artikel 99 Absatz 6); dasselbe gilt für kleine Midcap-Unternehmen (Artikel 99 Absatz 6a; Artikel 3 Absatz 14b). Jeder Mitgliedstaat legt fest, inwieweit gegen Behörden und öffentliche Stellen seines Hoheitsgebiets Geldbußen verhängt werden können (Artikel 99 Absatz 8).

Art. 10 Abs. 2

Beispiel: frühere Polizeiakten

Beispiel: Trainingsdaten aus früheren Polizeiakten können die Verzerrung enthalten, die Anbieter nach Artikel 10 Absatz 2 Buchstabe f untersuchen müssen, insbesondere wenn die Ausgaben des Systems die Eingaben für künftige Vorgänge beeinflussen.

Art. 10 Abs. 2

Eine Gestaltungsentscheidung, keine Vorgabe der Verordnung

Eine übliche Gestaltungsentscheidung, keine Vorgabe der Verordnung: für jeden Datensatz ein Datenblatt mit Herkunft, Aufbereitungsschritten und bekannten Lücken führen, damit sich die Punkte des Artikels 10 Absatz 2 belegen lassen.