L'articolo 10 si applica ai modelli fondazionali ottimizzati?

Sì. Se si ottimizza un modello fondazionale per un caso d'uso ad alto rischio, è necessario applicare pratiche di governance dei dati ai dataset di ottimizzazione, anche se non si è addestrato il modello di base.

Cosa conta come dati "sufficientemente rappresentativi"?

I dataset devono riflettere il contesto operativo e la popolazione target del sistema di IA. Ciò significa coprire gruppi demografici rilevanti, casi limite e variazioni di input che il sistema incontrerà in produzione.

Devo utilizzare dati sintetici?

No, i dati sintetici non sono obbligatori. Tuttavia, possono aiutare a colmare le lacune di dati identificate o affrontare la sottorappresentazione di determinati gruppi, specialmente quando i dati reali scarseggiano o sollevano preoccupazioni sulla privacy.

Cosa succede se utilizzo dataset di terze parti?

Si rimane responsabili di garantire che i dataset di terze parti soddisfino i requisiti dell'articolo 10. Documentare la provenienza del dataset, condurre il proprio esame dei bias e valutare se è sufficientemente rappresentativo per lo scopo previsto.

Come interagisce l'articolo 10 con il GDPR?

L'articolo 10 integra il GDPR aggiungendo requisiti di governance dei dati specifici per l'IA. L'articolo 10(5) prevede un'eccezione limitata per trattare categorie particolari di dati per la correzione dei bias, ma è comunque necessario rispettare i principi più ampi di protezione dei dati del GDPR.

Articolo 10 regolamento IA: requisiti dati di addestramento

Cosa richiede l'articolo 10 del regolamento IA per i dati di addestramento, validazione e test: qualità, rilevamento bias e documentazione.

L'articolo 10 del regolamento UE sull'IA impone ai fornitori di sistemi di IA ad alto rischio di applicare pratiche di governance e gestione dei dati ai dataset di addestramento, validazione e test durante l'intero ciclo di vita del sistema di IA.

Requisiti di governance dei dati

Scelte progettuali e raccolta dati

Documentare le scelte progettuali rilevanti per i processi di raccolta dati, comprese le fonti dati, i metodi di raccolta e la motivazione per la composizione del dataset.

Processi di raccolta dati

Stabilire processi chiari per la raccolta di dati di addestramento, validazione e test allineati con lo scopo previsto del sistema di IA.

Preparazione e annotazione dei dati

Applicare operazioni appropriate di preparazione dei dati, incluse annotazione, etichettatura, pulizia, arricchimento e aggregazione per garantire la qualità del dataset.

Esame e mitigazione dei bias

Esaminare i dataset alla ricerca di possibili bias che possano influire sulla salute, sicurezza o diritti fondamentali, o portare a discriminazione vietata.

Lacune e completezza dei dati

Identificare e colmare lacune o carenze nei dati per garantire che i dataset siano pertinenti, sufficientemente rappresentativi e completi per lo scopo previsto.

Passaggi di implementazione

Documentazione dei dataset come codice

Mantenere le specifiche dei dataset, i metodi di raccolta e i passaggi di preparazione in file di configurazione versionati insieme al codice del sistema di IA.

Test automatizzati di bias e deriva

Integrare il rilevamento automatico di bias e i test di deriva dei dati nella pipeline CI/CD per rilevare problemi prima del deployment.

Tracciamento della lineage dei dati

Implementare il tracciamento end-to-end di fonti dati, trasformazioni e versionamento per mantenere piena visibilità sulla provenienza del dataset.

Schede dataset versionate

Creare schede dataset strutturate che documentano composizione, metodologia di raccolta, limitazioni note e risultati dell'esame dei bias per ogni versione del dataset.

Considerazioni GDPR

L'articolo 10(5) consente il trattamento di categorie particolari di dati personali strettamente per rilevare e correggere i bias, soggetto a garanzie appropriate, incluse limitazioni tecniche, misure di sicurezza all'avanguardia e cancellazione una volta corretto il bias o raggiunto il limite di conservazione dei dati.

Domande frequenti

Come aiuta Scanara

Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.