Artykuł 13 rozporządzenia AI: wymogi przejrzystości
Co artykuł 13 rozporządzenia AI nakazuje dostawcom ujawniać w instrukcjach użytkowania: metryki skuteczności, ograniczenia i nadzór ludzki.
Przejrzystość i dostarczanie informacji użytkownikom wdrażającym
Artykuł 13 wymaga, aby systemy AI wysokiego ryzyka były wystarczająco przejrzyste, aby użytkownicy wdrażający mogli interpretować wyniki i sprawować odpowiedni nadzór ludzki. Dostawcy muszą dostarczać kompleksowe instrukcje użytkowania.
Wymagane instrukcje użytkowania
Tożsamość i dane kontaktowe dostawcy
Dołącz nazwę dostawcy, zarejestrowaną nazwę handlową lub znak towarowy, adres pocztowy i adres e-mail kontaktowy. Użytkownicy wdrażający muszą wiedzieć, kto zbudował system.
Charakterystyka, możliwości i ograniczenia wydajności
Udokumentuj metryki dokładności, progi solidności, środki cyberbezpieczeństwa oraz wydajność w grupach demograficznych. Uwzględnij wszystkie znane ograniczenia.
Przewidywalne okoliczności, które mogą prowadzić do zagrożeń
Opisz sytuacje, w których system może działać poniżej oczekiwań, generować stronnicze wyniki lub zawieść. Obejmij przypadki brzegowe i scenariusze poza rozkładem.
Zmiany w systemie z góry określone przez dostawcę
Ujawnij wszelkie automatyczne aktualizacje, harmonogramy przekwalifikowania lub zmiany konfiguracji, które dostawca może zastosować po wdrożeniu.
Środki nadzoru ludzkiego i konserwacja
Wyjaśnij środki techniczne umożliwiające nadzór ludzki zgodnie z artykułem 14, przewidywany okres eksploatacji systemu oraz wymagane procedury konserwacji lub pielęgnacji.
Kroki implementacji
Generuj instrukcje z kart modeli i arkuszy danych
Zautomatyzuj generowanie instrukcji użytkowania, wyodrębniając metadane z kart modeli, arkuszy danych i raportów ewaluacyjnych. Przechowuj je pod kontrolą wersji wraz z kodem.
Wersjonuj ujawnienia ograniczeń i dzienniki aktualizacji
Śledź każde znane ograniczenie, tryb awarii i przypadek brzegowy w ustrukturyzowanym dzienniku zmian. Aktualizuj instrukcje za każdym razem, gdy zmienia się system.
Dokumentuj rozbicie wydajności demograficznej
Mierz i publikuj metryki dokładności, precyzji, pokrycia i sprawiedliwości podzielone według chronionych atrybutów i scenariuszy przypadków użycia.
Zapewnij środki techniczne do interpretacji wyników
Dołącz wyniki pewności, funkcje wyjaśnialności i wskazówki, kiedy wymagana jest ludzka weryfikacja. Połącz z procedurami nadzoru z artykułu 14.
Łańcuch przejrzystości dostawca-użytkownik wdrażający
Artykuł 13 tworzy prawnie wiążący łańcuch przejrzystości: dostawcy dokumentują zachowanie systemu, użytkownicy wdrażający otrzymują instrukcje, a użytkownicy wdrażający wykorzystują je do sprawowania nadzoru ludzkiego zgodnie z artykułem 14. Jeśli instrukcje są niekompletne, użytkownicy wdrażający nie mogą wywiązać się z własnych zobowiązań.
Często zadawane pytania
Powiązane artykuły
Artykuł 11: Dokumentacja techniczna
Dostawcy muszą prowadzić szczegółową dokumentację techniczną wykazującą zgodność z wymaganiami rozdziału III. Ta dokumentacja wspiera audyty regulacyjne i oceny zgodności.
Artykuł 14: Nadzór ludzki
Systemy AI wysokiego ryzyka muszą być zaprojektowane z myślą o skutecznym nadzorze ludzkim. Instrukcje z artykułu 13 umożliwiają użytkownikom wdrażającym wdrożenie środków nadzoru opisanych w artykule 14.
Artykuł 26: Obowiązki użytkowników wdrażających systemy AI wysokiego ryzyka
Użytkownicy wdrażający muszą przestrzegać instrukcji użytkowania dostawcy, monitorować działanie systemu i zgłaszać poważne incydenty. Przejrzystość z artykułu 13 jest fundamentem zgodności użytkownika wdrażającego.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.