Il mio sistema IA è ad alto rischio? Un albero decisionale
Albero decisionale interattivo per la classificazione dei rischi secondo il regolamento IA. Copre le pratiche vietate dell'articolo 5, le 8 categorie ad alto rischio dell'allegato III, gli obblighi dei modelli GPAI e la trasparenza dell'articolo 50.
Il Regolamento sull'IA (Regolamento (UE) 2024/1689) classifica i sistemi di IA in quattro livelli di rischio: proibito, alto rischio, rischio limitato e rischio minimo. Ogni livello comporta obblighi di conformità diversi, dal divieto assoluto ai codici di condotta volontari.
Utilizzate questo albero decisionale interattivo per determinare dove si colloca il vostro sistema di IA. La classificazione segue la logica definita negli articoli 5, 6, 50 e 51 del regolamento, più gli Allegati I e III. Rispondete a ciascuna domanda in base alla funzionalità effettiva del vostro sistema, non solo all'uso previsto.
Albero decisionale interattivo
Does your AI system perform any practice listed under Article 5?
Article 5 prohibits social scoring, subliminal manipulation, exploitation of vulnerabilities, real-time remote biometric identification in public spaces (with limited exceptions), predictive policing based solely on profiling, untargeted scraping for facial recognition databases, emotion recognition in workplaces/schools, and biometric categorisation inferring sensitive attributes.
Comprendere il framework di classificazione del rischio
Il Regolamento sull'IA stabilisce un approccio proporzionato e basato sul rischio alla regolamentazione dell'IA. Maggiore è il rischio che un sistema di IA comporta per i diritti fondamentali e la sicurezza, più rigorosi sono i requisiti. Questo framework si applica a fornitori, utilizzatori, importatori, distributori e rappresentanti autorizzati che operano nel mercato dell'UE o che lo influenzano.
Proibito (rischio inaccettabile)
Pratiche di IA che comportano un rischio inaccettabile per i diritti fondamentali. Sono vietate in modo assoluto ai sensi dell'articolo 5, con sanzioni fino a 35 milioni di EUR o il 7% del fatturato globale. Include social scoring, manipolazione subliminale, sfruttamento di gruppi vulnerabili e determinate pratiche biometriche.
Alto rischio
Sistemi di IA utilizzati in settori critici elencati nell'Allegato III (biometria, infrastrutture critiche, occupazione, istruzione, forze dell'ordine, ecc.) o come componenti di sicurezza di prodotti ai sensi della legislazione dell'Allegato I. Soggetti a requisiti completi tra cui gestione del rischio, governance dei dati, documentazione tecnica, tenuta dei registri, trasparenza, sorveglianza umana, accuratezza e robustezza.
Rischio limitato
Sistemi di IA che interagiscono con persone fisiche, generano contenuti sintetici o effettuano riconoscimento delle emozioni o categorizzazione biometrica. Soggetti a obblighi di trasparenza ai sensi dell'articolo 50: gli utenti devono essere informati che stanno interagendo con un'IA e i contenuti sintetici devono essere etichettati.
Rischio minimo
La maggioranza dei sistemi di IA rientra in questa categoria. Nessun requisito obbligatorio, ma sono incoraggiati codici di condotta volontari ai sensi dell'articolo 95. Esempi: filtri antispam, giochi basati sull'IA, sistemi di gestione dell'inventario.
Errori comuni di classificazione
Classificare in base all'intenzione, non alla capacità
Il regolamento classifica in base a ciò che un sistema di IA può fare, non solo a ciò che è destinato a fare. Uno strumento di screening HR è ad alto rischio indipendentemente dal fatto che il datore di lavoro dichiari di utilizzarlo solo come motore di suggerimenti.
Ignorare l'eccezione dell'articolo 6(3)
Non tutti i sistemi dell'Allegato III sono automaticamente ad alto rischio. Se il vostro sistema svolge solo compiti procedurali ristretti, migliora il lavoro umano precedente o prepara valutazioni per la revisione umana, potrebbe qualificarsi per l'eccezione dell'articolo 6(3). Ma dovete documentarlo prima dell'immissione sul mercato.
Dimenticare la classificazione a valle
Un modello GPAI utilizzato come componente in un sistema ad alto rischio attiva gli obblighi ad alto rischio per il fornitore a valle. La classificazione deve considerare l'intero contesto di deployment, non solo il modello isolato.
Domande frequenti
Guide correlate
Come aiuta Scanara
Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.