KI-Verordnung Strafverfolgung: Compliance-Guide
KI-Verordnung Compliance für Strafverfolgungs-KI: Predictive Policing, biometrische Identifizierung und Hochrisiko-Einstufung.
Polizei-KI unterliegt strengen EU-AI-Gesetzbeschränkungen. Verbotene Praktiken führen zu Geldstrafen bis zu €35 Mio. Hochrisikosysteme erfordern obligatorische Grundrechtsfolgenabschätzungen und menschliche Beaufsichtigung.
Das EU-AI-Gesetz unterwirft Polizei-KI dem strengsten Compliance-Regime. Die Vorhersageprofilerung einzelner Personen, die Echtzeitidentifizierung durch Biometrie im öffentlichen Raum und Emotion-Detection-Systeme sind verboten oder stark eingeschränkt. Systeme wie Risikobewertungsalgorithmen, Evidence-Analyse-Tools und Assistenzsysteme für juristische Recherche fallen in hochriskante Kategorien, die umfassende technische Dokumentation, Audit-Logs und obligatorische Grundrechtsfolgenabschätzungen (FRIA) erfordern. Das Verständnis Ihrer Verpflichtungen ist entscheidend, um Strafen zu vermeiden.
Verbotene Praktiken (Artikel 5)
Vorhersagende Profilerstellung einzelner Personen basierend nur auf Profilen
Die Verwendung von KI zur Vorhersage, ob eine bestimmte Person ein Verbrechen begehen wird, basierend allein auf Verhaltensprofilierung, Persönlichkeitsmerkmalen oder historischen Daten ist verboten. Vorhersagen müssen auf objektiven Fakten und Umständen beruhen, nicht auf algorithmischer Profilerstellung einzelner Personen.
Echtzeit-Fernbiometrie-Identifizierung im öffentlichen Raum
Die Echtzeit-Fernbiometrie-Identifizierung (Gesichtserkennung, Gangerkennung usw.) im öffentlichen Raum zu Polizeizwecken ist verboten. Enge Ausnahmen bestehen für die Identifizierung von Opfern, unmittelbare Lebensbedrohungen und die Verfolgung schwerwiegender Verbrechen—jede erfordert vorherige richterliche Genehmigung.
Massenhafte Erfassung von Gesichtsbildern für Polizeidatenbanken
Die massenhafte Erfassung und Speicherung von Gesichtsbildern aus öffentlichen oder privaten Quellen in Polizeidatenbanken ohne spezifische Ermittlungsjustifikation ist verboten. Dies umfasst das Scraping von sozialen Medien, CCTV-Feeds oder Datenbanken zum Aufbau allgemeiner Identifizierungssysteme.
Hochrisikokategorien (Annex III)
Risikobewertung für Opfer/Täter/Rückfälligkeit
KI-Systeme, die das Risiko bewerten, dass Einzelpersonen Opfer werden, Täter werden oder rückfällig werden, fallen in die hochriskante Kategorie 6(a). Diese erfordern Risikomanagementpläne, technische Dokumentation, Audit-Logs und menschliche Beaufsichtigung. Genauigkeitstests und Bias-Mitigation sind obligatorisch.
Polygraph- und Emotion-Detection-Systeme
KI-basierte Polygraph-Äquivalente und Emotion-Detection-Systeme sind hochriskante Kategorie 6(b). Diese Tools bewerten Wahrheitsgehalt oder Absicht durch Verhaltens- oder physiologische Signale. Die Zuverlässigkeit ist wissenschaftlich umstritten; strenge Genauigkeitsschwellen und menschliche Beaufsichtigung sind erforderlich.
Bewertung der Beweiszuverlässigkeit
KI-Systeme, die die Zuverlässigkeit oder Glaubwürdigkeit von Beweisen bewerten—wie Sprachanalyse, Handschriftenverifizierung oder digitale Forensik-Tools—sind hochriskante Kategorie 6(c). Technische Dokumentation, Validierung gegen bekannte Testfälle und menschliche Überprüfung von Schlussfolgerungen sind obligatorisch.
Profilerstellung während Ermittlung und Strafverfolgung
KI-Systeme zur Erstellung oder Bewertung von Profilen einzelner Personen während strafrechtlicher Ermittlung oder Strafverfolgung sind hochriskante Kategorie 6(d). Diese Systeme müssen transparent und überprüfbar sein und menschlicher Beaufsichtigung an jedem Entscheidungspunkt unterliegen.
Risikobewertung in Migration, Asyl und Grenzkontrolle
KI-Systeme, die Risiken in Migrations-, Asyl- oder Grenzkontrollkontexten bewerten, sind hochriskante Kategorie 7. Diese umfassen Systeme zur Betrugserkennung bei Asylgesuchen, Abflugrisikobewertung oder Bewertung von Grenzüberschreitungsabsichten. Grundrechtsfolgenabschätzungen und menschliche Beaufsichtigung sind obligatorisch.
KI zur Unterstützung von Justizbehörden
KI-Systeme, die Justizbehörden bei der Recherche oder Auslegung von Tatsachen und Recht unterstützen, sind hochriskante Kategorie 8. Beispiele umfassen Assistenzsysteme für juristische Recherche, Case-Law-Indexing-Tools und Fact-Pattern-Analysesysteme. Diese Systeme müssen die menschliche juristische Argumentation verbessern—nicht ersetzen.
Grundrechte
Polizei-KI darf die Unschuldsvermutung nicht untergraben. Risikobewertungs- oder Profilerstellungssysteme müssen das menschliche Urteilsvermögen in Ermittlungen und Strafverfolgung unterstützen—nicht ersetzen.
Einzelpersonen müssen das Recht haben, KI-Entscheidungen in Gerichtsverfahren anzufechten. Von KI-Systemen generierte Beweise müssen transparent, erklärbar und menschlicher Überprüfung unterliegen, bevor sie juristische Feststellungen beeinflussen.
Polizei-KI darf nicht auf der Grundlage geschützter Merkmale diskriminieren (Rasse, Geschlecht, ethnische Herkunft, Religion, Behinderung usw.). Algorithmische Bias-Tests und kontinuierliche Fairness-Überwachung sind obligatorisch.
Polizeibehörden müssen wirksame Abhilfemaßnahmen bieten, wenn KI-Systeme Schaden verursachen. Dies umfasst Mechanismen für Beschwerde, Überprüfung und Korrektur fehlerhafter Entscheidungen.
Hochriskante Anwendungsfälle: Beispiele und Anforderungen
Vorhersage-Risikobewertungs-Tool für Opfer/Täter-Bewertung
Ein System, das die Wahrscheinlichkeit vorhersagt, dass ein bestimmtes Gebiet ein Verbrechensevent erleben wird, oder dass eine Person einem Risikoprofil für Opfertum oder Täterschaft entspricht.
Risikomanagementplan, technische Dokumentation, Audit-Logs für jede Vorhersage, menschliche Analyst-Überprüfung vor jeglicher Durchsetzungsmaßnahme, jährlicher Bias-Audit, Validierung gegen unabhängige Testsets.
Polygraph- oder Emotion-Detection-System
KI analysiert physiologische Signale (Herzschlag, Pupillenerweiterung) oder Gesichtsausdrücke, um Wahrheitsgehalt zu bewerten oder Täuschung während des Verhörs zu erkennen.
Genauigkeitsvalidierung gegen Referenzdatensets, Offenlegung gegenüber Verhörperson, dass KI verwendet wird, menschliche Entscheidungsträger-Überprüfung der KI-Ausgabe vor jeder Schlussfolgerung, klare Kennzeichnung von Konfidenzintervallen.
Evidence-Zuverlässigkeits-Analyse-Tool
KI-System analysiert Sprachaufzeichnungen auf Stress, matched forensische DNA-Profile oder verifiziert Handschriftenechtheit.
Peer-Review-validierte Studien, technische Dokumentation von Trainingsdaten und Modellarchitektur, Audit-Log für jede Analyse, Überprüfung durch Fachexperten, klare Kennzeichnung von Unsicherheiten.
Assistenzsystem für juristische Recherche
KI-Tool, das Case Law indexiert, Präzedenzfälle zusammenfasst, relevante Statuten identifiziert oder ähnliche Fälle zur Berücksichtigung durch einen Richter während der Rechtsrecherche vorschlägt.
Transparente Quellenbeschaffung von Trainingsdaten (veröffentlichte Gerichtsentscheidungen), keine autonome Entscheidungsfindung, klare Kennzeichnung von KI-generierten Zusammenfassungen, Richter behält volle Urteilsfreiheit, Audit-Log jeder Suche und Empfehlung.
Compliance-Checkliste für Polizei-KI
euAiAct.industryLawEnforcement.checklist1Desc
euAiAct.industryLawEnforcement.checklist2Desc
euAiAct.industryLawEnforcement.checklist3Desc
euAiAct.industryLawEnforcement.checklist4Desc
euAiAct.industryLawEnforcement.checklist5Desc
euAiAct.industryLawEnforcement.checklist6Desc
euAiAct.industryLawEnforcement.checklist7Desc
euAiAct.industryLawEnforcement.checklist8Desc
Strafen für Nichtkonformität
Einsatz einer verbotenen Praktik (z. B. Vorhersage-Profilerstellung einzelner Personen, Echtzeitbiometrie ohne Genehmigung, massenhafte Gesichtsbildsammlung).
Hochrisiko-Systemkonformitätsverletzung: fehlender Risikomanagementplan, Audit-Log, technische Dokumentation, menschliche Beaufsichtigung, FRIA oder Genauigkeitsprüfung.
Das EU-AI-Gesetz erzwingt hohe Geldstrafen für Verstöße. Strafen skalieren mit Umsatz und Schweregrad.
Häufig gestellte Fragen
Zugehörige Compliance-Themen
Artikel 5: Verbotene KI-Praktiken
Die vollständige Liste verbotener KI-Praktiken im EU-AI-Gesetz. Die Polizei sieht sich drei Hauptverboten gegenüber; andere Sektoren haben unterschiedliche Einschränkungen. Machen Sie sich mit dem vollständigen Umfang vertraut.
Artikel 27: Grundrechtsfolgenabschätzung (FRIA)
Obligatorisch für öffentliche Behörden, die hochriskante Polizei-KI einsetzen. FRIAs identifizieren Risiken für Unschuldsvermutung, faires Verfahren, Nichtdiskriminierung und wirksamen Rechtsschutz. Sie müssen vor der Bereitstellung dokumentiert und überprüft werden.
Artikel 14: Anforderungen an menschliche Beaufsichtigung
Sinnvolle menschliche Beaufsichtigung ist obligatorisch für alle hochriskanten Polizei-Systeme. Menschen müssen KI-Empfehlungen überprüfen, verstehen und die Autorität haben, diese außer Kraft zu setzen. Automatisierte Durchsetzungsentscheidungen sind verboten.
Compliance-Checkliste: Polizei-KI
Eine Schritt-für-Schritt-Checkliste für Polizei-KI-Projekte: Risikokategorie identifizieren, FRIA durchführen, Audit-Logs entwerfen, menschliche Beaufsichtigung implementieren, Genauigkeit und Bias testen, alles dokumentieren, Post-Deployment-Überwachung.
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.