Artykuł 10 rozporządzenia AI: wymagania danych treningowych
Co artykuł 10 rozporządzenia AI wymaga dla danych treningowych, walidacyjnych i testowych: jakość, wykrywanie stronniczości i dokumentacja.
Artykuł 10 rozporządzenia UE w sprawie AI wymaga od dostawców systemów AI wysokiego ryzyka stosowania praktyk zarządzania danymi i nadzoru nad danymi do zestawów danych szkoleniowych, walidacyjnych i testowych przez cały cykl życia systemu AI.
Wymagania dotyczące zarządzania danymi
Decyzje projektowe i zbieranie danych
Udokumentować istotne decyzje projektowe dotyczące procesów zbierania danych, w tym źródła danych, metody zbierania i uzasadnienie składu zestawu danych.
Procesy zbierania danych
Ustanowić jasne procesy gromadzenia danych treningowych, walidacyjnych i testowych zgodnych z zamierzonym celem systemu AI.
Przygotowanie i adnotacja danych
Stosować odpowiednie operacje przygotowania danych, w tym adnotację, etykietowanie, czyszczenie, wzbogacanie i agregację w celu zapewnienia jakości zestawu danych.
Badanie i łagodzenie stronniczości
Badać zestawy danych pod kątem możliwych uprzedzeń, które mogą wpływać na zdrowie, bezpieczeństwo lub prawa podstawowe lub prowadzić do zakazanej dyskryminacji.
Luki w danych i kompletność
Identyfikować i uzupełniać luki lub braki w danych, aby zapewnić, że zestawy danych są odpowiednie, wystarczająco reprezentatywne i kompletne dla zamierzonego celu.
Kroki implementacji
Dokumentacja zestawów danych jako kod
Utrzymywać specyfikacje zestawów danych, metody zbierania i etapy przygotowania w plikach konfiguracyjnych objętych kontrolą wersji obok kodu systemu AI.
Automatyczne testy stronniczości i dryfu
Zintegrować automatyczne wykrywanie stronniczości i testy dryfu danych z potokiem CI/CD, aby wychwycić problemy przed wdrożeniem.
Śledzenie linii danych
Wdrożyć kompleksowe śledzenie źródeł danych, transformacji i wersjonowania, aby zachować pełną widoczność pochodzenia zestawu danych.
Wersjonowane karty zestawów danych
Tworzyć ustrukturyzowane karty zestawów danych dokumentujące skład, metodologię zbierania, znane ograniczenia i wyniki badania stronniczości dla każdej wersji zestawu danych.
Względy RODO
Artykuł 10 ust. 5 zezwala na przetwarzanie szczególnych kategorii danych osobowych wyłącznie w celu wykrywania i korygowania stronniczości, z zastrzeżeniem odpowiednich zabezpieczeń, w tym ograniczeń technicznych, najnowocześniejszych środków bezpieczeństwa i usuwania po skorygowaniu stronniczości lub osiągnięciu limitu przechowywania danych.
Często zadawane pytania
Powiązane wymagania
Artykuł 9: System zarządzania ryzykiem
Praktyki zarządzania danymi zasilają ciągłe zarządzanie ryzykiem wymagane na mocy artykułu 9, szczególnie w celu identyfikacji i łagodzenia ryzyk związanych ze stronniczością.
Artykuł 11: Dokumentacja techniczna
Procedury zarządzania danymi, charakterystyka zestawu danych i wyniki badania stronniczości muszą być udokumentowane jako część dokumentacji technicznej wymaganej na mocy artykułu 11.
Artykuł 15: Dokładność i odporność
Wysokiej jakości, reprezentatywne zestawy danych zarządzane zgodnie z artykułem 10 są niezbędne do osiągnięcia poziomów dokładności, odporności i cyberbezpieczeństwa wymaganych przez artykuł 15.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.