Gilt Artikel 10 für feinabgestimmte Foundation Models?

Ja. Wenn Sie ein Foundation Model für einen Hochrisiko-Anwendungsfall feinabstimmen, müssen Sie Data-Governance-Praktiken auf Ihre Feinabstimmungsdatensätze anwenden, auch wenn Sie das Basismodell nicht trainiert haben.

Was gilt als "ausreichend repräsentativ"?

Datensätze müssen den betrieblichen Kontext und die Zielpopulation Ihres KI-Systems widerspiegeln. Dies bedeutet die Abdeckung relevanter demografischer Gruppen, Edge Cases und Eingabevariationen, denen Ihr System in der Produktion begegnen wird.

Muss ich synthetische Daten verwenden?

Nein, synthetische Daten sind nicht verpflichtend. Sie können jedoch helfen, identifizierte Datenlücken zu schließen oder Unterrepräsentation bestimmter Gruppen zu beheben, insbesondere wenn echte Daten knapp sind oder Datenschutzbedenken aufwerfen.

Was gilt bei Drittanbieter-Datensätzen?

Sie bleiben dafür verantwortlich, dass Drittanbieter-Datensätze die Anforderungen von Artikel 10 erfüllen. Dokumentieren Sie die Herkunft des Datensatzes, führen Sie Ihre eigene Bias-Prüfung durch und bewerten Sie, ob er für Ihren vorgesehenen Zweck ausreichend repräsentativ ist.

Wie interagiert Artikel 10 mit der DSGVO?

Artikel 10 ergänzt die DSGVO durch zusätzliche KI-spezifische Data-Governance-Anforderungen. Artikel 10 Absatz 5 sieht eine begrenzte Ausnahme für die Verarbeitung besonderer Kategorien zur Bias-Korrektur vor, Sie müssen jedoch weiterhin die umfassenderen Datenschutzgrundsätze der DSGVO einhalten.

Artikel 10 KI-Verordnung: Anforderungen an Trainingsdaten

Was Artikel 10 der KI-Verordnung für Trainings-, Validierungs- und Testdaten verlangt: Datenqualität, Bias-Erkennung und Dokumentation.

Artikel 10 der EU-KI-Verordnung verpflichtet Anbieter von Hochrisiko-KI-Systemen, während des gesamten Lebenszyklus des KI-Systems Data-Governance- und Datenverwaltungspraktiken auf Trainings-, Validierungs- und Testdatensätze anzuwenden.

Data-Governance-Anforderungen

Entwurfsentscheidungen & Datenerhebung

Dokumentieren Sie relevante Entwurfsentscheidungen für Datenerhebungsprozesse, einschließlich Datenquellen, Erhebungsmethoden und der Begründung für die Zusammensetzung des Datensatzes.

Datenerhebungsprozesse

Etablieren Sie klare Prozesse für die Erfassung von Trainings-, Validierungs- und Testdaten, die mit dem vorgesehenen Zweck des KI-Systems übereinstimmen.

Datenaufbereitung & Annotation

Wenden Sie geeignete Datenaufbereitungsoperationen an, einschließlich Annotation, Kennzeichnung, Bereinigung, Anreicherung und Aggregation, um die Qualität des Datensatzes sicherzustellen.

Bias-Prüfung & Risikominderung

Untersuchen Sie Datensätze auf mögliche Verzerrungen, die Gesundheit, Sicherheit oder Grundrechte beeinträchtigen oder zu verbotener Diskriminierung führen können.

Datenlücken & Vollständigkeit

Identifizieren und beheben Sie Datenlücken oder Mängel, um sicherzustellen, dass Datensätze für den vorgesehenen Zweck relevant, ausreichend repräsentativ und vollständig sind.

Umsetzungsschritte

Datensatzdokumentation as Code

Pflegen Sie Datensatzspezifikationen, Erhebungsmethoden und Aufbereitungsschritte in versionskontrollierten Konfigurationsdateien neben Ihrem KI-System-Code.

Automatisierte Bias- & Drift-Tests

Integrieren Sie automatisierte Bias-Erkennung und Data-Drift-Tests in Ihre CI/CD-Pipeline, um Probleme vor der Bereitstellung zu erkennen.

Data-Lineage-Tracking

Implementieren Sie End-to-End-Tracking von Datenquellen, Transformationen und Versionierung, um volle Transparenz über die Datensatzherkunft zu gewährleisten.

Versionierte Dataset Cards

Erstellen Sie strukturierte Dataset Cards, die Zusammensetzung, Erhebungsmethodik, bekannte Einschränkungen und Bias-Prüfungsergebnisse für jede Datensatzversion dokumentieren.

DSGVO-Aspekte

Artikel 10 Absatz 5 erlaubt die Verarbeitung besonderer Kategorien personenbezogener Daten ausschließlich zur Erkennung und Korrektur von Verzerrungen, vorbehaltlich geeigneter Schutzmaßnahmen, einschließlich technischer Beschränkungen, modernster Sicherheitsmaßnahmen und Löschung nach Korrektur der Verzerrung oder Erreichen der Aufbewahrungsfrist.

Häufige Fragen

So hilft Scanara

Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.