Skip to main content

Valutazione del rischio dell’IA (AIRA): il sistema di gestione dei rischi dell’articolo 9

I fornitori di sistemi di IA ad alto rischio devono attuare un sistema di gestione dei rischi (articolo 9). AIRA è la valutazione guidata di Scanara.

I fornitori di sistemi di IA ad alto rischio devono attuare un sistema di gestione dei rischi per tutto il ciclo di vita (articolo 9). AIRA è il nome che Scanara dà alla propria valutazione guidata di tale obbligo; il regolamento non prevede una «valutazione del rischio dell’IA».

L’obbligo si applica dal 2 dicembre 2027 ai sistemi dell’allegato III. Le sanzioni per i fornitori arrivano a 15 milioni di EUR o al 3 % del fatturato mondiale annuo, se superiore (articolo 99(4)). Prossimo passo: verifichi che il Suo sistema sia ad alto rischio ai sensi dell’articolo 6, poi avvii la valutazione.

L’articolo 9 descrive un processo continuo in quattro passaggi

Il sistema di gestione dei rischi è un processo iterativo continuo, pianificato ed eseguito durante l’intero ciclo di vita, con riesame e aggiornamento regolari e sistematici (articolo 9(2)).

  1. 1

    Individuare e analizzare i rischi

    Elenchi i rischi noti e ragionevolmente prevedibili per la salute, la sicurezza o i diritti fondamentali quando il sistema è usato conformemente alla finalità prevista (articolo 9(2), lettera a)).

  2. 2

    Stimare e valutare i rischi

    Includa i rischi che possono emergere in caso di uso improprio ragionevolmente prevedibile (articolo 9(2), lettera b)).

  3. 3

    Valutare i rischi emersi dopo il rilascio

    Aggiunga i rischi che emergono dai dati del monitoraggio successivo all’immissione sul mercato (articolo 9(2), lettera c), articolo 72).

  4. 4

    Adottare misure mirate contro i rischi

    Adotti misure adeguate e mirate contro i rischi individuati nel passaggio 1. Il rischio residuo deve essere giudicato accettabile (articolo 9(2), lettera d), e (5)).

Le misure seguono un ordine fisso; contano anche i test e i gruppi vulnerabili

  • Ridurre i rischi in un ordine fisso

    Prima elimini o riduca i rischi con la progettazione e lo sviluppo. Poi aggiunga misure di attenuazione e controllo. Infine fornisca ai deployer informazioni e, se del caso, formazione. Il rischio residuo deve essere accettabile (articolo 9(5)).

  • Testare su metriche definite

    Testi durante lo sviluppo e prima dell'immissione sul mercato, con metriche e soglie probabilistiche definite in anticipo (articolo 9(6) e (8)). Le prove in condizioni reali sono possibili ai sensi dell'articolo 60 (articolo 9(7)).

  • Considerare i minori e i gruppi vulnerabili

    Valuti se il sistema può avere un impatto negativo sulle persone di età inferiore a 18 anni e, se del caso, su altri gruppi vulnerabili (articolo 9(9)).

Cosa fa la valutazione AIRA di Scanara

AIRA è una valutazione guidata: Lei risponde a domande sul Suo sistema e Scanara conserva le risposte come prove. Il giudizio sui rischi, e su quale rischio residuo sia accettabile, resta a Lei.

Domande guidate

Un questionario La guida attraverso gli obblighi di gestione dei rischi e per la maggior parte delle domande cita l’articolo di riferimento.

Risposte precompilate dalle scansioni

Se ha scansionato un repository, Scanara precompila le risposte con i risultati della scansione. Lei le verifica e le corregge.

Contributo alla documentazione dell’allegato IV

L’allegato IV, punto 5, richiede una descrizione del sistema di gestione dei rischi. Scanara redige la documentazione tecnica a partire dalle Sue risposte; Lei la completa e la verifica.

Apra la demo di Scanara

Legga il dettaglio alla base di questa valutazione

Domande frequenti sulla valutazione AIRA

«AIRA» è un termine del regolamento sull’IA?

No. L’articolo 9 richiede un sistema di gestione dei rischi. AIRA è il nome che Scanara usa per la propria valutazione guidata di tale sistema.

Chi è responsabile del sistema di gestione dei rischi?

Il fornitore. I fornitori devono garantire che i loro sistemi di IA ad alto rischio rispettino i requisiti della sezione 2, articolo 9 compreso (articolo 16, lettera a)). I deployer non lo gestiscono, ma devono monitorare il funzionamento del sistema e informare i fornitori se del caso (articolo 26(5)).

L'articolo 9 si applica a tutti i sistemi di IA?

No. L'articolo 9 si applica ai sistemi di IA ad alto rischio, che l'articolo 6 definisce tramite gli allegati III e I. Si applica dal 2 dicembre 2027 ai sistemi dell'allegato III e dal 2 agosto 2028 a quelli dell'allegato I (articolo 113, lettera c). Per i sistemi ad alto rischio legati a prodotti disciplinati dalla normativa dell'allegato I, sezione B, si applicano solo l'articolo 6(1), l'articolo 60 bis e gli articoli da 102 a 112, e gli articoli da 57 a 59 si applicano solo nella misura in cui i requisiti per i sistemi di IA ad alto rischio siano stati integrati in tale normativa (articolo 2(2)).

L’articolo 9 si applica ai sistemi già sul mercato?

Solo dopo modifiche significative della progettazione. Un sistema ad alto rischio immesso sul mercato o messo in servizio prima della data di applicazione del capo III rientra nell’ambito solo se, da tale data, la sua progettazione subisce modifiche significative (articolo 111(2)). In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030.

Il regolamento richiede un metodo o una norma particolare per la gestione dei rischi?

No. L’articolo 9 fissa dei passaggi, non un metodo. Le norme armonizzate pubblicate nella Gazzetta ufficiale conferiscono una presunzione di conformità ai requisiti che coprono (articolo 40).

Scanara prepara evidenze dai vostri repository

Scanara legge i vostri repository GitHub collegati ed esegue scansioni basate su regole per individuare pattern comuni di IA e machine learning. Può non rilevare il codice non standard. Separatamente genera bozze di documentazione a partire da modelli e dalle vostre risposte alle valutazioni, come evidenze per il vostro lavoro di conformità. La classificazione la decidete voi.