Il mio sistema IA è ad alto rischio? Un albero decisionale
Albero decisionale interattivo per la classificazione dei rischi secondo il regolamento IA. Copre le pratiche vietate dell'articolo 5, le 8 categorie ad alto rischio dell'allegato III, gli obblighi dei modelli GPAI e la trasparenza dell'articolo 50.
Il regolamento UE sull'IA (regolamento (UE) 2024/1689) classifica i sistemi di IA in base alla loro finalità prevista: pratiche vietate (articolo 5), sistemi ad alto rischio (articolo 6 con gli allegati I e III) e sistemi con obblighi di trasparenza (articolo 50). I modelli di IA per finalità generali hanno regole proprie (capo V). Gli obblighi vanno dal divieto assoluto ai codici di condotta volontari.
Usi questo albero decisionale interattivo per scoprire quali regole si applicano al suo sistema di IA. Segue gli articoli 5, 6, 50 e 51 e gli allegati I e III. Risponda a ogni domanda in base alla finalità prevista del suo sistema: l'uso che indica nelle istruzioni per l'uso, nel materiale promozionale o di vendita e nella documentazione tecnica (articolo 3, punto 12). Il risultato è un punto di partenza, non una consulenza legale.
Albero decisionale interattivo
Il suo sistema di IA mette in atto una pratica vietata dall'articolo 5?
L'articolo 5 vieta tra l'altro: le tecniche subliminali o manipolative dannose; lo sfruttamento delle vulnerabilità dovute a età, disabilità o situazione sociale o economica; il punteggio sociale; la valutazione del rischio di commettere un reato basata unicamente sulla profilazione; la raccolta non mirata di immagini facciali per creare banche dati di riconoscimento facciale; il riconoscimento delle emozioni sul luogo di lavoro e negli istituti di istruzione (salvo motivi medici o di sicurezza); la categorizzazione biometrica per dedurre razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale; e l'identificazione biometrica remota in tempo reale in spazi accessibili al pubblico a fini di attività di contrasto, con eccezioni ristrette. Dal 2 dicembre 2026 vieta anche i sistemi di IA che generano deepfake sessualmente espliciti di persone identificabili senza il loro consenso o materiale pedopornografico (articolo 5, paragrafo 1, lettere ba) e bb)).
Comprendere il framework di classificazione del rischio
Il regolamento sull'IA segue un approccio basato sul rischio: più un sistema di IA è rischioso per la salute, la sicurezza e i diritti fondamentali, più i requisiti sono severi. Si applica a fornitori, deployer, importatori, distributori, fabbricanti di prodotti, rappresentanti autorizzati e persone interessate nell'UE, nonché a fornitori e deployer di paesi terzi quando l'output del sistema è utilizzato nell'UE (articolo 2, paragrafo 1). Non si applica ai sistemi di IA usati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3), ai sistemi e modelli di IA sviluppati e messi in servizio al solo scopo della ricerca e dello sviluppo scientifici (articolo 2, paragrafo 6), alla ricerca, alle prove e allo sviluppo prima dell'immissione sul mercato o della messa in servizio di un sistema, escluse le prove in condizioni reali (articolo 2, paragrafo 8), né alle persone fisiche che usano l'IA in un'attività puramente personale e non professionale (articolo 2, paragrafo 10). Sono esclusi anche i sistemi di IA rilasciati con licenze libere e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi ad alto rischio o rientrino nell'articolo 5 o 50 (articolo 2, paragrafo 12). Le etichette «rischio limitato» e «rischio minimo» sono scorciatoie di uso comune; il regolamento stesso non le utilizza.
Pratiche vietate (articolo 5)
Pratiche di IA che il regolamento vieta del tutto (articolo 5), come il punteggio sociale, le tecniche subliminali o manipolative dannose, lo sfruttamento delle vulnerabilità e alcune pratiche biometriche. Le sanzioni arrivano a 35 milioni di EUR o, per un'impresa, al 7 % del fatturato mondiale totale annuo, se superiore (articolo 99, paragrafo 3).
Alto rischio
Sistemi di IA che sono un componente di sicurezza di un prodotto disciplinato da una norma dell'allegato I e che devono essere sottoposti a una valutazione della conformità da parte di terzi, oppure che sono usati per gli usi dell'allegato III, come biometria, infrastrutture critiche, istruzione, occupazione, attività di contrasto e migrazione. Devono rispettare requisiti come gestione del rischio, governance dei dati, documentazione tecnica, conservazione delle registrazioni, trasparenza, sorveglianza umana, accuratezza e robustezza. I requisiti si applicano ai sistemi dell'allegato III dal 2 dicembre 2027 e ai sistemi della sezione A dell'allegato I dal 2 agosto 2028 (articolo 113, come modificato dal regolamento (UE) 2026/1744). I sistemi immessi sul mercato o messi in servizio prima di tali date sono coperti solo dopo modifiche significative della progettazione; in ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111(2)). Per i sistemi della sezione B si applicano solo gli articoli 6(1), 60 bis e da 102 a 112, e gli articoli da 57 a 59 solo nella misura in cui la norma settoriale ha integrato i requisiti per l'alto rischio (articolo 2(2)).
Obblighi di trasparenza (articolo 50)
Sistemi di IA che interagiscono direttamente con le persone, generano audio, immagini, video o testo sintetici, oppure effettuano il riconoscimento delle emozioni o la categorizzazione biometrica. Fornitori e deployer devono, dal 2 agosto 2026, informare le persone o contrassegnare i contenuti come richiede l'articolo 50. L'informazione deve essere chiara e fornita al più tardi al momento della prima interazione o esposizione (articolo 50, paragrafo 5).
Tutti gli altri sistemi di IA
Sistemi di IA ai quali non si applica alcun divieto dell'articolo 5, alcuna regola per l'alto rischio né alcun obbligo dell'articolo 50. Restano applicabili regole generali, come l'alfabetizzazione in materia di IA (articolo 4). I codici di condotta volontari sono incoraggiati (articolo 95).
Errori comuni di classificazione
Classificare in base all'etichetta anziché alla finalità prevista
La classificazione segue la finalità prevista: l'uso che il fornitore indica nelle istruzioni per l'uso, nel materiale promozionale o di vendita e nella documentazione tecnica (articolo 3, punto 12). Un sistema per l'assunzione di personale, per esempio per filtrare le candidature o valutare i candidati, è un uso dell'allegato III (punto 4(a)). Chiamarlo strumento di suggerimento non cambia nulla. Possono cambiarlo solo le condizioni dell'articolo 6(3), e mai se il sistema effettua la profilazione di persone fisiche.
Ignorare l'eccezione dell'articolo 6(3)
Non ogni sistema dell'allegato III è ad alto rischio. Un sistema che non presenta un rischio significativo di danno e soddisfa una delle quattro condizioni dell'articolo 6(3) non è considerato ad alto rischio. L'eccezione non si applica mai quando il sistema effettua la profilazione di persone fisiche. Il fornitore deve documentare la valutazione prima dell'immissione del sistema sul mercato o della sua messa in servizio e deve comunque registrare il sistema nella banca dati dell'UE (articolo 6(4), articolo 49(2)).
Dimenticare la classificazione a valle
Un modello GPAI non è di per sé classificato ad alto rischio. Se costruisce un sistema di IA su un modello e quel sistema è ad alto rischio ai sensi dell'articolo 6, il fornitore di quel sistema risponde degli obblighi per l'alto rischio, e gli obblighi del fornitore del modello ai sensi dell'articolo 53 restano distinti. Classifichi il sistema in base alla sua finalità prevista, non solo in base al modello.
Domande frequenti
Come faccio a sapere se il mio sistema di IA è ad alto rischio?
Un sistema di IA è ad alto rischio se rientra in una di due vie. Via 1 (articolo 6(1)): è un componente di sicurezza di un prodotto, o è esso stesso un prodotto, disciplinato da una norma dell'allegato I, e quel prodotto deve essere sottoposto a una valutazione della conformità da parte di terzi. Via 2 (articolo 6(2)): è usato per un uso dell'allegato III e non si applica l'eccezione dell'articolo 6(3); la profilazione di persone fisiche non è mai esentata. Per i prodotti della sezione B dell'allegato I si applicano solo gli articoli 6(1), 60 bis e da 102 a 112, e gli articoli da 57 a 59 solo nella misura in cui la norma settoriale ha integrato i requisiti per l'alto rischio (articolo 2(2)). Usi l'albero decisionale qui sopra per percorrere i criteri.
Cosa succede se classifico erroneamente il mio sistema di IA?
Se un sistema dell'allegato III viene classificato erroneamente come non ad alto rischio per eludere le regole, il fornitore è soggetto a sanzioni ai sensi dell'articolo 99 (articolo 80(7)). Le sanzioni per la violazione degli obblighi dei fornitori dell'articolo 16 arrivano a 15 milioni di EUR o, per un'impresa, al 3 % del fatturato mondiale totale annuo, se superiore (articolo 99(4)). Per le PMI e le piccole imprese a media capitalizzazione il limite è il più basso dei due importi (articolo 99(6) e (6 bis)).
La classificazione del rischio di un sistema di IA può cambiare nel tempo?
Sì. La Commissione può modificare l'allegato III e le condizioni dell'articolo 6(3) con atti delegati (articolo 7, articolo 6(6) e (7)). Anche un cambio della finalità prevista può cambiare la classificazione: chi modifica la finalità prevista di un sistema che non era ad alto rischio ed è già sul mercato o in servizio in modo che lo diventi ne diventa il fornitore (articolo 25(1)(c)). Riesamini la classificazione ogni volta che cambiano la finalità o il contesto d'uso. Il regolamento (UE) 2026/1744 (il «Digital Omnibus sull'IA») ha fissato le date delle regole per l'alto rischio: il 2 dicembre 2027 per i sistemi dell'allegato III e il 2 agosto 2028 per quelli dell'allegato I. I divieti dell'articolo 5 si applicano dal 2 febbraio 2025 (articolo 5(1), lettere ba) e bb): dal 2 dicembre 2026) e gli obblighi GPAI dal 2 agosto 2025.
L'utilizzo di un'API di IA di terze parti rende il mio sistema ad alto rischio?
Dipende dalla finalità prevista del suo sistema, non dall'origine del modello. Se integra un'API di IA di terze parti in un sistema con un uso dell'allegato III, come il punteggio di credito o la selezione del personale, il suo sistema è ad alto rischio, salvo che si applichi l'eccezione dell'articolo 6(3). Chi immette quel sistema sul mercato o lo mette in servizio con il proprio nome o marchio ne è il fornitore (articolo 3, punto 3) e risponde degli obblighi del fornitore, chiunque abbia creato il modello. Il fornitore del modello ha i propri obblighi GPAI.
Scanara prepara evidenze dai vostri repository
Scanara legge i vostri repository GitHub collegati ed esegue scansioni basate su regole per individuare pattern comuni di IA e machine learning. Può non rilevare il codice non standard. Separatamente genera bozze di documentazione a partire da modelli e dalle vostre risposte alle valutazioni, come evidenze per il vostro lavoro di conformità. La classificazione la decidete voi.