Articolo 12: conservazione dei registri per i sistemi autonomi
Come la conservazione dei registri dell'articolo 12 della legge UE sull'IA si applica ai sistemi autonomi — dati dei sensori, log decisionali, eventi di override e GDPR.
L'articolo 12 richiede che i fornitori di sistemi di IA e gli implementatori mantengano registri e dossier dettagliati che dimostrino la conformità con gli obblighi della legge sull'IA. Per i sistemi autonomi – veicoli autonomi, droni, robot industriali – la registrazione è particolarmente critica perché il comportamento dell'IA influisce direttamente sulla sicurezza e sulla necessità di investigare gli incidenti.
Questa guida spiega cosa deve essere registrato, quanto a lungo conservare i registri, come gestire i dati personali e come i registri dell'articolo 12 interagiscono con altre normative (GDPR, omologazione dei tipi di veicoli, responsabilità del prodotto). Scanara vi aiuta a progettare e controllare la vostra infrastruttura di registrazione per soddisfare tutti i requisiti.
Fondamenti di registrazione dell'articolo 12 per i sistemi autonomi
Registrazione automatica degli eventi
I registri devono catturare ogni momento decisionale, fotogramma del sensore e evento di override automaticamente senza intervento umano. La registrazione in tempo reale riduce la perdita di dati post-hoc e garantisce la completezza.
Requisito di ricostruzione delle decisioni
Gli auditor e le autorità di regolamentazione devono essere in grado di ricostruire il percorso decisionale dell'IA dai vostri registri. Ciò significa archiviare non solo l'output (gira a sinistra) ma lo stato di input (ostacolo rilevato a X, velocità Y) e la versione del modello utilizzata.
Documentazione degli interventi umani
Quando un operatore, passeggero o sistema di sicurezza esegue l'override dell'IA, questo evento deve essere registrato con tempistica, codici motivo e l'azione di override intrapresa. Questa è prova critica per l'investigazione dell'incidente.
Conservazione dei dati dei sensori
I flussi di sensori grezzi o elaborati (fotogrammi della fotocamera, nuvole di punti lidar, ritorni radar) devono essere registrati per dimostrare il contesto operativo dell'IA. I formati compressi sono accettabili se i dati senza perdita possono essere recuperati.
Pista di audit della conformità
I registri formano la pista di audit che prova che avete seguito gli obblighi dell'articolo 12. Supportano valutazioni di conformità, revisioni da parte di organismi notificati e investigazioni di sorveglianza post-mercato.
Continuità temporale e sincronizzazione
I registri su tutti i sensori e i sistemi devono essere sincronizzati con timestamp precisi. Le lacune o lo scostamento dell'orologio possono rendere l'intera catena di registri inaffidabile ai fini normativi.
Cosa deve essere registrato: dati di sensori, decisioni e override
I sistemi autonomi operano in ambienti dinamici e prendono decisioni in frazioni di secondo. Per soddisfare l'articolo 12, è necessario registrare gli input sensoriali, il ragionamento interno dell'IA (se disponibile) e tutti gli output e gli override.
I registri delle decisioni IA sono la vostra traccia di prove
L'articolo 12 richiede la registrazione completa di tutte le decisioni del sistema di IA, degli input dei sensori e degli interventi umani. Per i veicoli autonomi, ciò significa catturare i comandi di sterzo, le decisioni di accelerazione/frenata e gli interventi degli operatori. Senza questi registri, le autorità di regolamentazione non possono verificare la vostra conformità o investigare gli incidenti.
La cattura di sensori e eventi deve essere continua
I sistemi autonomi devono registrare tutti gli input dei sensori (fotocamere, lidar, radar), le caratteristiche elaborate ricevute dal modello di IA e ogni output decisionale. Per i droni, ciò include le decisioni del percorso di volo e i trigger di prevenzione delle collisioni. Le lacune nella registrazione invalidano l'intero record e vi espongono a sanzioni normative.
I periodi di conservazione variano per categoria di rischio
I sistemi autonomi ad alto rischio (veicoli autonomi, manipolatori robotici) possono richiedere che i registri siano conservati per anni per supportare le investigazioni su incidenti e gli audit di conformità. I droni a rischio inferiore possono avere finestre più brevi. Determinare prima la categoria di rischio del vostro sistema – determina la vostra politica di conservazione.
I dati personali nei registri attivano gli obblighi GDPR
Se il vostro sistema autonomo registra dati di localizzazione, dati biometrici dei sensori o identificatori utente, questi registri diventano dati personali. Il GDPR si applica in parallelo all'articolo 12: è necessario anonimizzare, pseudonimizzare o giustificare la conservazione secondo la legge sulla protezione dei dati. Il mancato rispetto viola sia la legge sull'IA che il GDPR.
Conservazione, accesso e consegna normativa
I registri sono utili solo se conservati abbastanza a lungo per supportare investigazioni e audit di conformità, e se accessibili alle autorità di regolamentazione, agli utenti e alle terze parti autorizzate quando richiesto.
Direttiva Macchine e articolo 12
Se il vostro sistema autonomo è una macchina (braccio robotico, carrello elevatore autonomo), deve conformarsi sia alla direttiva Macchine (UE 2006/42/CE) che alla legge sull'IA. La registrazione dell'articolo 12 complementa i requisiti del file di documentazione tecnica (TDF) della direttiva Macchine. La conservazione dei registri deve soddisfare entrambi i quadri.
Omologazione dei tipi di veicoli e normative UNECE
I veicoli autonomi devono conformarsi alle normative di sicurezza dei veicoli UNECE (ad es. UNECE R79, R80) insieme alla legge sull'IA dell'UE. Molte norme UNECE ora richiedono registratori di dati di evento (scatole nere). Coordinare la registrazione dell'articolo 12 con i requisiti di omologazione per evitare duplicazioni e garantire nessuna lacuna di dati.
GDPR e dati personali nei registri
Qualsiasi informazione di identificazione personale nei vostri registri – coordinate GPS, dati biometrici dei sensori, identificatori utente – è dato personale secondo il GDPR. L'articolo 12 e il GDPR si applicano entrambi. Dovete avere una base giuridica per la conservazione, implementare la protezione dei dati per progettazione e fornire agli individui trasparenza e diritti (ad es. accesso, cancellazione). Il mancato rispetto di entrambi i quadri vi espone a sanzioni significative.
Responsabilità civile del prodotto e il diritto a una traccia di dati
Nelle controversie di responsabilità del prodotto (qualcuno ferito dal vostro sistema autonomo), gli avvocati dei ricorrenti richiederanno registri per provare che il vostro sistema ha malfunzionato o violato il dovere. I registri completi dell'articolo 12 vi proteggono creando un record oggettivo. I registri incompleti o assenti possono essere interpretati contro di voi in causa.
Violazioni del mondo reale dell'articolo 12 nei sistemi autonomi
Incidente di veicolo autonomo: registri della scatola nera insufficienti
Un'auto autonoma colpisce un pedone. I registri dell'azienda mostrano solo l'azione di comando finale (freno applicato) ma non i dati dei sensori o la sequenza temporale della percezione dell'IA che ha portato alla decisione. Le autorità di regolamentazione non possono determinare se l'IA non ha rilevato il pedone o se il sistema di override/frenata ha fallito. Violazione dell'articolo 12: registri insufficienti per ricostruire la sequenza causale. Risultato: multa, ridesign obbligatorio dei registri, possibile ritiro del prodotto.
L'operatore del drone distrugge i registri di volo dopo l'incidente
Un drone di consegna si schianta. La politica aziendale dell'operatore era di sovrascrivere i dati di volo dopo 7 giorni per risparmiare spazio di archiviazione. Le autorità di regolamentazione che investigano l'incidente non trovano registri. Violazione dell'articolo 12: periodo di conservazione inadeguato e, se correlato all'incidente, distruzione intenzionale di prove. Risultato: multa normativa, investigazione criminale in alcune giurisdizioni.
Il produttore di robot non registra gli eventi di override
Un braccio robotico industriale è programmato per funzionare senza registrare gli arresti di sicurezza umani o le pressioni del pulsante di emergenza. Si verifica un infortunio e gli investigatori scoprono che l'IA stava continuamente spingendo oltre i comandi di sicurezza. Violazione dell'articolo 12: eventi di override non registrati. Risultato: multa, ordine di ridesignare il sistema di registrazione, perdita della marcatura CE in sospeso di misure correttive.
Dati dei sensori troppo compressi, non può ricostruire lo stato
Un robot logistico registra solo statistiche aggregate (ad es. 'ostacolo rilevato, confidenza 87%') ma scarta i fotogrammi dei sensori grezzi. Quando si verifica un incidente, gli auditor non possono verificare se l'IA ha effettivamente ricevuto le informazioni necessarie per prendere una decisione sicura. Violazione dell'articolo 12: dettagli insufficienti per ricostruire il contesto decisionale. Risultato: ordine di conformità condizionale in sospeso della ridesign del formato del registro.
Elenco di controllo della conformità dell'articolo 12 e domande frequenti
Definire l'ambito della registrazione
Identificare tutti i punti di decisione del sistema di IA, gli input dei sensori e i meccanismi di override. Creare un documento di specifica della registrazione legato alla vostra valutazione del rischio e all'architettura del sistema.
Implementare la registrazione automatica e continua
Distribuire un'infrastruttura di registrazione che catturi gli eventi senza intervento manuale. Garantire la sincronizzazione tra i sensori distribuiti (fotocamere, lidar, radar, GPS, accelerometri).
Conservare i registri per la durata normativa
Stabilire le politiche di conservazione in base alla vostra categoria di rischio (alto rischio: 3–5 anni o per cronologie di investigazione di incidenti; rischio inferiore: 1–2 anni). Documentare la base della conservazione.
Verificare la capacità di ricostruzione
Testare che gli auditor possano riprodurre i vostri registri per comprendere il percorso decisionale dell'IA. Eseguire investigazioni di incidenti simulati utilizzando i vostri dati di registrazione per garantire la completezza.
Separare i dati personali e implementare i controlli GDPR
Isolare le informazioni di identificazione personale, implementare la pseudonimizzazione dove possibile e allineare la conservazione dei dati con la base legittima GDPR e i principi di minimizzazione della conservazione.
Domande Frequenti
Articoli e normative correlati
Articolo 9: Gestione del rischio per i sistemi autonomi
La gestione del rischio informa cosa registrate. I sistemi autonomi ad alto rischio richiedono registri completi per supportare il monitoraggio continuo e l'investigazione degli incidenti. L'articolo 9 e l'articolo 12 funzionano insieme.
Articolo 14: Supervisione umana e registrazione degli override
L'articolo 14 richiede la supervisione umana. I registri dell'articolo 12 devono catturare tutti gli eventi di override umano con dettagli sufficienti per verificare che la supervisione umana fosse efficace.
Direttiva Macchine - File di documentazione tecnica (TDF)
Per i robot autonomi e le macchine, i requisiti di TDF si sovrappongono con la registrazione dell'articolo 12. Assicurate che i vostri registri alimentino il vostro TDF e supportino gli audit degli organismi notificati.
Norme di omologazione dei veicoli UNECE e registratori di dati di evento
I veicoli autonomi devono conformarsi alle normative di sicurezza UNECE. Molti ora richiedono registratori di dati di evento (scatole nere). Coordinare i registri dell'articolo 12 con i requisiti UNECE per garantire una copertura completa.
Come aiuta Scanara
Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.