Articolo 10: governance dei dati per i sistemi autonomi
Come la governance dei dati dell’articolo 10 dell’EU AI Act si applica ai sistemi autonomi — dati multisensore, simulazione vs mondo reale e condizioni ambientali.
L’articolo 10 del EU AI Act impone requisiti di governance dei dati particolarmente impegnativi per i sistemi autonomi. Ai sensi dell’allegato III, sezione 2(a), i sistemi di IA destinati a fungere da componenti di sicurezza di veicoli, aeromobili e altri macchinari autonomi sono classificati ad alto rischio. I loro dati di addestramento devono rappresentare l’intera gamma di condizioni operative — meteo, illuminazione, superfici stradali, regioni geografiche — e il regolamento richiede esplicitamente che i dati tengano conto degli specifici contesti funzionali in cui il sistema sarà impiegato.
Questa pagina illustra come la governance dei dati dell’articolo 10 si applichi specificamente ai sistemi autonomi — dai veicoli a guida autonoma ai droni autonomi — comprese le sfide di governance dei dati multisensore, la distinzione tra dati di addestramento da simulazione e dal mondo reale, e quali violazioni a livello di codice Scanara rileva nelle pipeline di dati dei sistemi autonomi.
A quali sistemi di IA autonomi si applica l’articolo 10?
Veicoli autonomi (L3–L5)
Automobili, camion e autobus a guida autonoma con automazione da condizionata a totale. I dati di addestramento devono coprire le condizioni stradali dell’UE: inverno nordico (ghiaccio, scarsa luce, neve), estate mediterranea (abbagliamento, miraggio da calore), variazioni di densità urbana e segnaletica stradale nei 27 Stati membri. I sistemi addestrati con dati di guida della soleggiata California affrontano un rischio diretto di non conformità all’articolo 10(4).
Droni autonomi e UAV
Veicoli aerei senza pilota basati su IA per consegna, ispezione o sorveglianza. I dati di addestramento devono rappresentare diverse condizioni dello spazio aereo, ostacoli, andamenti meteorologici e contesti normativi negli Stati membri dell’UE. I dati di addestramento a livello del suolo sono insufficienti per sistemi che operano in uno spazio aereo tridimensionale.
Maritime Autonomous Surface Ships (MASS)
Sistemi di IA per la navigazione autonoma o semiautonoma delle navi. I dati di addestramento devono coprire le vie navigabili europee, le condizioni portuali, gli andamenti meteorologici e il traffico navale negli ambienti del Baltico, del Mediterraneo, del Mare del Nord e dell’Atlantico — ciascuno con sfide di navigazione distinte.
Robot industriali autonomi
Robot controllati da IA che operano in spazi di lavoro condivisi tra uomo e robot. I dati di addestramento devono rappresentare la gamma di comportamenti umani, ambienti fisici e scenari operativi dell’impiego previsto, compresi i casi limite come la prossimità umana inaspettata o l’occlusione di oggetti.
Principali obblighi di governance dei dati per i sistemi autonomi
I requisiti dell’articolo 10 per i sistemi autonomi vanno oltre la qualità standard dei dati. Il regolamento richiede che i dati di addestramento riflettano il mondo fisico in cui il sistema opererà — comprese le condizioni ambientali, i limiti dei sensori e la distinzione tra dati simulati e dati del mondo reale.
Copertura delle condizioni ambientali
L’articolo 10(4) richiede che i dati tengano conto degli specifici contesti geografici e funzionali di impiego. Per i veicoli autonomi impiegati in tutta l’UE, i dati di addestramento devono coprire pioggia, neve, nebbia, ghiaccio, oscurità, abbagliamento da sole basso e zone di cantiere nelle condizioni dell’Europa settentrionale, centrale e meridionale. Addestrare esclusivamente su dati con tempo asciutto provenienti da un’unica regione geografica costituisce una chiara lacuna di conformità.
Governance dei dati multisensore
I sistemi autonomi combinano dati provenienti da sensori lidar, radar, telecamera e a ultrasuoni. L’articolo 10(2) richiede una governance dei dati documentata per ogni modalità di sensore: dati di calibrazione, caratteristiche di degrado del sensore, procedure di allineamento tra sensori e limiti noti (ad es. prestazioni del lidar con pioggia intensa, prestazioni della telecamera in scarsa luce). Ogni tipo di sensore introduce sfide di governance dei dati differenti.
Separazione tra dati di simulazione e del mondo reale
I sistemi autonomi utilizzano sempre più dati di addestramento generati da simulazione. L’articolo 10 richiede una governance diversa per i dati simulati e reali: i dati di simulazione devono essere chiaramente etichettati, documentati con i relativi parametri di generazione e valutati per il divario di dominio rispetto alle condizioni reali. Mescolare dati di simulazione e del mondo reale senza una chiara separazione viola i requisiti di documentazione.
Copertura dei casi limite e degli scenari a coda lunga
L’articolo 10(3) richiede che i dati di addestramento siano completi per la finalità prevista. Per i sistemi autonomi critici per la sicurezza, ciò include scenari rari ma pericolosi: veicoli di emergenza, pedoni in posizioni insolite, fauna selvatica sulle strade e guasti imprevisti dell’infrastruttura. I dati di addestramento devono documentare la copertura di questi scenari a coda lunga.
Sovrapposizioni normative
I sistemi autonomi sono regolati simultaneamente da quadri normativi sulla sicurezza dei veicoli, sull’aviazione e sul settore marittimo che impongono propri requisiti di governance dei dati. La conformità all’articolo 10 deve essere integrata con questi obblighi settoriali.
UNECE WP.29 TAFR — Type Approval Framework
Il UN Type Approval Framework per i veicoli automatizzati/autonomi richiede set di dati di validazione che coprano le condizioni dell’operational design domain (ODD). I requisiti di dati del TAFR si sovrappongono all’articolo 10 ma utilizzano terminologia e struttura differenti. I fornitori devono mappare la copertura degli scenari ODD del TAFR sui requisiti di rappresentatività dell’articolo 10 per evitare sforzi di conformità duplicati.
ISO 21448 (SOTIF) — Safety of the Intended Functionality
La SOTIF affronta i rischi per la sicurezza derivanti da insufficienze funzionali, comprese quelle risultanti da dati di addestramento inadeguati. La sezione 10 della ISO 21448 richiede di individuare le condizioni scatenanti (scenari in cui il sistema può fallire) — queste devono essere rappresentate nei dati di addestramento sia ai sensi della SOTIF sia dell’articolo 10. I requisiti sui dati di validazione della SOTIF possono essere sfruttati ai fini della conformità all’articolo 10.
EU General Safety Regulation 2019/2144 (GSR)
La GSR impone funzioni ADAS (frenata di emergenza, mantenimento della corsia) per i veicoli nuovi. I sistemi di IA che implementano tali funzioni devono soddisfare i requisiti prestazionali della GSR nelle condizioni di guida dell’UE. La governance dei dati deve garantire la copertura degli scenari definiti nei regolamenti di attuazione della GSR, compreso il rilevamento dei pedoni in popolazioni diverse.
EASA AI Roadmap — Governance dell’IA nell’aviazione
L’Agenzia dell’Unione europea per la sicurezza aerea (EASA) ha pubblicato una roadmap sull’IA che richiede la gestione dei dati per l’IA nell’aviazione. L’EASA Concept Paper on AI (2024) specifica requisiti di qualità, rappresentatività e indipendenza dei dati di addestramento che rispecchiano da vicino l’articolo 10. I droni autonomi e i taxi aerei devono soddisfare sia la governance dei dati dell’EASA sia quella dell’AI Act.
Violazioni comuni rilevate da Scanara
Dati di addestramento di una sola regione per un impiego multiregionale
Pipeline di dati che caricano dati di guida o operativi esclusivamente da un’unica regione geografica, senza diversità di meteo, illuminazione o condizioni stradali. Scanara segnala i set di dati di addestramento con copertura geografica insufficiente quando l’ODD di impiego abbraccia più zone climatiche dell’UE — una violazione diretta dell’articolo 10(4).
Dati di simulazione non etichettati nella pipeline di addestramento
Pipeline di addestramento che mescolano dati di sensori generati da simulazione e del mondo reale senza metadati che distinguano le due fonti. Scanara rileva il codice di caricamento dei dati che combina set sintetici e reali senza etichettatura di provenienza, impedendo una corretta governance di ciascun tipo di dato come richiesto dall’articolo 10(2).
Documentazione mancante dei limiti dei sensori
Codice di addestramento che elabora dati multisensore senza documentare i limiti noti dei sensori e il loro impatto sulla qualità dei dati. Scanara segnala le pipeline che fondono dati lidar, telecamera e radar senza registrare lo stato di calibrazione, le condizioni di degrado note o le caratteristiche di errore specifiche del sensore.
Lista di controllo per la conformità all’articolo 10 per i sistemi autonomi
Documentare la governance dei dati multisensore
Registrare la governance dei dati per ogni modalità di sensore: condizioni di raccolta, procedure di calibrazione, limiti noti e indicatori di qualità dei dati. Documentare separatamente i dati di simulazione con i parametri di generazione e le valutazioni del divario di dominio.
Garantire la copertura dell’ODD nei dati di addestramento
Verificare che i dati di addestramento coprano l’intero operational design domain: condizioni meteorologiche, illuminazione, tipi di strada, densità di traffico e regioni geografiche. Documentare gli indicatori di copertura e individuare le lacune rispetto all’ODD previsto.
Tenere conto della geografia di impiego
Documentare come i dati di addestramento riflettano le specifiche condizioni geografiche, climatiche e infrastrutturali di ciascun mercato dell’UE in cui il sistema opererà. Includere le variazioni di segnaletica stradale, le convenzioni di guida e le condizioni ambientali locali.
Esaminare i dati per distorsioni critiche per la sicurezza
Valutare se i dati di addestramento siano distorti a favore di determinate condizioni ambientali, dati demografici dei pedoni o tipi di veicolo. Documentare qualsiasi sottorappresentazione che potrebbe compromettere le prestazioni di sicurezza per popolazioni specifiche.
Utilizzare dati di test indipendenti
Validare le prestazioni del sistema su dati di test raccolti in modo indipendente dai dati di addestramento. Utilizzare regioni geografiche, periodi o condizioni ambientali differenti. Includere nel set di test scenari con condizioni scatenanti SOTIF.
Domande frequenti
Risorse correlate
Articolo 10: governance dei dati
Requisiti completi dell’articolo 10 in tutti i settori.
Sistemi autonomi — hub di settore
Guida completa alla conformità al EU AI Act per i sistemi di IA autonomi.
Articolo 9: gestione dei rischi per i sistemi autonomi
Requisiti di gestione dei rischi per i sistemi di IA autonomi.
Articolo 10: governance dei dati per le infrastrutture critiche
Requisiti sui dati di addestramento per l’IA delle infrastrutture critiche.
Come aiuta Scanara
Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.