Articolo 13: trasparenza per i sistemi autonomi
Come la trasparenza dell'articolo 13 dell'EU AI Act si applica ai sistemi autonomi — divulgazione dell'ODD, notifica ai passeggeri e istruzioni per gli operatori di flotte.
L'articolo 13 dell'EU AI Act impone che i sistemi di IA ad alto rischio siano sufficientemente trasparenti affinché i deployer possano interpretare i risultati e utilizzarli in modo appropriato. Per i sistemi autonomi — veicoli a guida autonoma, droni e macchinari autonomi — la trasparenza determina se gli operatori umani possano monitorare, intervenire e fidarsi in sicurezza delle decisioni guidate dall'IA in ambienti critici per la sicurezza. Ai sensi dell'Allegato III, sezione 2(a), i sistemi di IA destinati a fungere da componenti di sicurezza nella gestione del traffico stradale e nel funzionamento dei veicoli autonomi sono classificati ad alto rischio.
Questa pagina illustra come i requisiti di trasparenza dell'articolo 13 si applichino specificamente ai sistemi autonomi — dai veicoli a guida autonoma ai droni industriali — inclusa la divulgazione del dominio operativo, le istruzioni per gli operatori di flotte, la notifica ai passeggeri e le violazioni a livello di codice che Scanara rileva nel software dei sistemi autonomi.
Quali sistemi di IA autonomi devono essere trasparenti?
Veicoli a guida autonoma (SAE L3-L5)
I veicoli autonomi devono divulgare i limiti del proprio dominio di progettazione operativa (ODD) ai passeggeri e agli operatori di flotte. I passeggeri devono conoscere le capacità e i limiti del sistema — compreso quando l'IA può richiedere la presa di controllo da parte dell'uomo e il tempo di transizione previsto.
Droni autonomi e UAV
I sistemi di rilevamento ed evitamento (DAA) assistiti dall'IA e la pianificazione di volo autonoma devono fornire agli operatori spiegazioni trasparenti delle decisioni di navigazione, in particolare quando l'IA scavalca i percorsi pianificati o attiva procedure di emergenza. L'EASA richiede trasparenza sui limiti dei sistemi DAA assistiti dall'IA.
Macchinari industriali autonomi
I robot di magazzino, i macchinari agricoli e i sistemi di produzione controllati dall'IA devono fornire agli operatori informazioni chiare sulla logica decisionale del sistema, sui limiti di sicurezza e sulle condizioni in cui l'IA può comportarsi in modo imprevedibile o richiedere un intervento umano.
Sistemi marittimi e ferroviari autonomi
I sistemi di navigazione basati sull'IA per le navi autonome e le operazioni ferroviarie devono essere trasparenti in merito alle decisioni di instradamento, alla logica di prevenzione delle collisioni e ai limiti operativi. Le autorità dei trasporti devono ricevere informazioni sufficienti per valutare l'idoneità dell'IA all'impiego in contesti operativi specifici.
Principali obblighi di trasparenza per i sistemi autonomi
L'articolo 13 richiede istruzioni per l'uso che consentano ai deployer di interpretare i risultati dell'IA in modo appropriato. Per i sistemi autonomi, ciò significa che gli operatori di flotte e le autorità dei trasporti devono comprendere i limiti operativi dell'IA, la motivazione delle decisioni e il comportamento nei casi limite — una trasparenza che incide direttamente sulla sicurezza fisica.
Il dominio di progettazione operativa deve essere divulgato
Le istruzioni per l'uso devono definire chiaramente l'ODD — le condizioni specifiche in cui il sistema autonomo è progettato per operare in sicurezza. Ciò include le condizioni meteorologiche, i tipi di strada, gli intervalli di velocità, i confini geografici e le restrizioni relative all'ora del giorno. Operare al di fuori dell'ODD documentato senza divulgazione viola l'articolo 13.
I deployer devono comprendere i punti di intervento
L'articolo 13(1) richiede che i deployer interpretino i risultati in modo appropriato. Per i sistemi autonomi, ciò significa che gli operatori di flotte devono comprendere quando e come intervenire — comprese le tempistiche delle richieste di presa di controllo, i comportamenti di ripiego e la risposta prevista del sistema quando opera al limite delle proprie capacità.
I passeggeri devono conoscere le capacità del sistema
I passeggeri dei veicoli autonomi devono essere informati delle capacità operative e dei limiti del sistema. Ciò include il livello di autonomia attuale, ciò che l'IA è in grado di gestire e ciò che non è in grado di gestire, e ciò che ci si aspetta dal conducente umano (se presente). I contrassegni di identificazione dei veicoli possono variare a seconda della giurisdizione.
Il comportamento nei casi limite deve essere documentato
La documentazione tecnica deve spiegare il comportamento del sistema in condizioni degradate: guasti dei sensori, condizioni meteorologiche avverse, ostacoli insoliti e perdita della connettività di rete. L'articolo 13(3)(b)(i) richiede la divulgazione dei limiti e delle condizioni in cui il sistema può presentare malfunzionamenti — per i sistemi autonomi si tratta di divulgazioni critiche per la sicurezza.
Sovrapposizioni normative
La trasparenza dei sistemi autonomi si interseca con i quadri di omologazione, le normative aeronautiche e le norme di sicurezza. L'articolo 13 deve essere coordinato con i requisiti settoriali esistenti in materia di trasparenza e documentazione.
Regolamento quadro sull'omologazione (TAFR)
Il regolamento quadro dell'UE sull'omologazione richiede una documentazione tecnica dettagliata per la certificazione dei veicoli autonomi, compresi il dominio di progettazione operativa, i dati di validazione della sicurezza e la progettazione dell'interfaccia uomo-macchina. I requisiti dell'articolo 13 dell'AI Act relativi alle istruzioni per l'uso devono essere allineati alla documentazione TAFR per evitare divulgazioni contraddittorie o ridondanti.
Regolamento generale sulla sicurezza (GSR)
Il GSR impone sistemi avanzati di assistenza alla guida e stabilisce requisiti per la loro trasparenza nei confronti dei conducenti. I registratori di dati di evento, il rilevamento della sonnolenza del conducente e l'assistenza intelligente alla velocità richiedono tutti la notifica al conducente. L'articolo 13 estende questi requisiti di trasparenza al livello del sistema di IA, richiedendo la documentazione delle capacità, dei limiti e delle prestazioni.
Regolamenti EASA sulle operazioni di volo
L'Agenzia dell'Unione europea per la sicurezza aerea disciplina l'IA nell'aviazione, comprese le operazioni con droni autonomi. L'EASA richiede trasparenza sulle decisioni di rilevamento ed evitamento assistite dall'IA e sui loro limiti. L'articolo 13 aggiunge requisiti per la documentazione a livello di sistema delle capacità, dell'accuratezza e della robustezza dell'IA che integrano il quadro di trasparenza operativa dell'EASA.
ISO 21448 (SOTIF) — Sicurezza della funzionalità prevista
La norma ISO 21448 affronta i rischi per la sicurezza derivanti da insufficienze funzionali nei sistemi autonomi, richiedendo l'identificazione e la documentazione delle condizioni scatenanti e delle modalità di guasto. I requisiti di trasparenza dell'articolo 13 relativi alla divulgazione dei limiti del sistema si allineano strettamente alla documentazione SOTIF degli scenari non sicuri noti e ignoti.
Violazioni comuni rilevate da Scanara
Documentazione dei limiti dell'ODD mancante nel risultato del sistema
Codice di navigazione autonoma che prende decisioni di instradamento o controllo senza fare riferimento ai limiti del dominio di progettazione operativa o esporli all'interfaccia dell'operatore. L'articolo 13 richiede che i deployer comprendano i limiti del sistema — Scanara segnala i moduli decisionali privi di esposizione dei parametri dell'ODD.
Nessuna divulgazione dell'interazione con l'IA nell'interfaccia passeggeri
Interfacce passeggeri di veicoli o droni che visualizzano lo stato di navigazione o operativo senza rivelare che le decisioni sono guidate dall'IA. L'articolo 50(1) richiede la notifica quando le persone fisiche interagiscono con sistemi di IA — i passeggeri devono conoscere il livello di autonomia e le capacità attuali del sistema.
Istruzioni per l'uso prive del comportamento in modalità degradata
Documentazione di sistema che descrive il funzionamento normale senza documentare il comportamento in caso di guasto dei sensori, condizioni meteorologiche avverse, perdita di connettività o altre condizioni degradate. L'articolo 13(3)(b)(i) richiede la divulgazione dei limiti e delle condizioni in cui il sistema può presentare malfunzionamenti — fondamentale per la sicurezza dei sistemi autonomi.
Lista di controllo per la conformità all'articolo 13 per i sistemi autonomi
Rendere le decisioni dell'IA interpretabili per gli operatori
Assicuratevi che gli operatori di flotte e le autorità dei trasporti possano comprendere la motivazione delle decisioni dell'IA, comprese le scelte di navigazione, le regolazioni della velocità e le decisioni di prevenzione degli ostacoli. Fornite strumenti di interpretabilità in tempo reale e a posteriori.
Documentare il dominio di progettazione operativa
Fornite una documentazione dettagliata dell'ODD, compresi i limiti meteorologici, di tipo di strada, di intervallo di velocità, geografici e temporali. Includete indicazioni chiare su cosa accade quando il sistema si avvicina o supera i limiti dell'ODD.
Divulgare il comportamento in modalità degradata e nei casi limite
Documentate il comportamento del sistema in caso di guasto dei sensori, condizioni meteorologiche avverse, perdita di connettività e scenari di ostacoli insoliti. Includete le strategie di ripiego, le condizioni di rischio minimo e i tempi di transizione previsti per le richieste di presa di controllo da parte dell'uomo.
Notificare i passeggeri e gli altri utenti della strada
Informate i passeggeri del livello di autonomia del sistema, delle capacità attuali e di ciò che ci si aspetta da loro. Per gli altri utenti della strada, implementate i contrassegni di identificazione dei veicoli come richiesto dalla giurisdizione.
Divulgare le metriche di sicurezza e prestazione
Riferite le prestazioni del sistema, compresa l'accuratezza del rilevamento degli oggetti, i tassi di falsi positivi/negativi, i tempi di reazione e i risultati della validazione della sicurezza sull'intero ODD documentato. Includete le prestazioni in condizioni limite.
Domande frequenti
Risorse correlate
Articolo 13: trasparenza
Requisiti completi dell'articolo 13 in tutti i settori.
Sistemi autonomi — Hub settoriale
Guida completa alla conformità all'EU AI Act per i sistemi autonomi.
Articolo 12: conservazione dei registri per i sistemi autonomi
Requisiti di registrazione e conservazione dei registri per l'IA autonoma.
Articolo 14: sorveglianza umana per i sistemi autonomi
Obblighi di sorveglianza umana per i sistemi di IA autonomi.
Come aiuta Scanara
Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.