Articolo 9 per i sistemi autonomi: sistema di gestione dei rischi

L’articolo 9 stabilisce obblighi per il fornitore. Non fissa alcun elenco di rischi, valore di metrica o soglia per veicoli, aeromobili, macchine né per alcun altro prodotto.

• art. 9(1)
  Istituire, attuare, documentare e mantenere

  Per i sistemi di IA ad alto rischio deve essere istituito, attuato, documentato e mantenuto un sistema di gestione dei rischi.

• art. 9(2)
  Un processo continuo lungo l’intero ciclo di vita

  Il sistema è un processo iterativo continuo, pianificato ed eseguito nel corso dell’intero ciclo di vita, con riesame e aggiornamento costanti e sistematici. Comprende quattro fasi. Prima: identificare e analizzare i rischi noti e ragionevolmente prevedibili per la salute, la sicurezza o i diritti fondamentali quando il sistema è utilizzato conformemente alla sua finalità prevista. Seconda: stimare e valutare i rischi con uso conforme alla finalità prevista e in condizioni di uso improprio ragionevolmente prevedibile. Terza: valutare altri eventuali rischi derivanti dai dati del monitoraggio successivo all’immissione sul mercato (articolo 72). Quarta: adottare misure di gestione dei rischi opportune e mirate.

• art. 9(3)
  Solo i rischi che progettazione o informazioni possono affrontare

  I rischi considerati sono quelli che possono essere ragionevolmente attenuati o eliminati attraverso lo sviluppo o la progettazione del sistema oppure la fornitura di informazioni tecniche adeguate.

• art. 9(5)
  Il rischio residuo deve essere considerato accettabile

  Il rischio residuo pertinente associato a ciascun pericolo e il rischio residuo complessivo devono essere considerati accettabili. I rischi sono eliminati o ridotti con la progettazione e lo sviluppo, per quanto possibile dal punto di vista tecnico. Ove opportuno, per i rischi che non possono essere eliminati si adottano adeguate misure di attenuazione e di controllo. I deployer ricevono le informazioni richieste dall’articolo 13 e, ove opportuno, una formazione.

• art. 9(6)–(8)
  Prove sulla base di metriche definite in anticipo

  I sistemi ad alto rischio sono sottoposti a prova per individuare le misure di gestione dei rischi più appropriate. Le prove garantiscono che funzionino in modo coerente per la finalità prevista e rispettino i requisiti della sezione 2. Sono effettuate, a seconda dei casi, in un qualsiasi momento dello sviluppo e, in ogni caso, prima dell’immissione sul mercato o della messa in servizio. Le prove si basano su metriche e soglie probabilistiche definite precedentemente e adeguate alla finalità prevista. Le procedure di prova possono comprendere prove in condizioni reali (articolo 60).

• art. 9(9)
  Persone di età inferiore a 18 anni e altri gruppi vulnerabili

  I fornitori prestano attenzione, nell’ottica della finalità prevista, all’eventualità che il sistema possa avere un impatto negativo sulle persone di età inferiore a 18 anni e, a seconda dei casi, su altri gruppi vulnerabili.

L’articolo 9 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quale IA in veicoli, aeromobili senza equipaggio, robot e macchine rientra nel regolamento e dove l’articolo 9 non si applica.

• I sistemi autonomi non sono una categoria del regolamento

  Il regolamento non prevede una categoria per i sistemi autonomi. La sua definizione di sistema di IA parla di «livelli di autonomia variabili» (articolo 3, punto 1) e l’articolo 14, paragrafo 3, di un «livello di autonomia». Il regolamento non nomina alcun veicolo a guida autonoma, drone o robot. Questo sito usa «sistemi autonomi» per l’IA in veicoli, aeromobili senza equipaggio, robot e macchine. Le norme applicabili dipendono dal diritto dell’Unione in materia di prodotti che disciplina il prodotto. Le righe seguenti indicano tre modi in cui un sistema di IA può essere ad alto rischio: tramite l’allegato I, sezione B, tramite l’allegato I, sezione A, e tramite l’allegato III, punto 2. Possono applicarsi anche altre disposizioni, ad esempio l’articolo 4 (alfabetizzazione in materia di IA), l’articolo 5 (pratiche vietate), l’articolo 50 (trasparenza), l’articolo 53 (modelli di IA per finalità generali) e gli altri punti dell’allegato III.

• Prodotti della sezione B: veicoli, aeromobili senza equipaggio, sistema ferroviario, equipaggiamento marittimo, macchine

  La sezione B dell’allegato I elenca, ad esempio, i veicoli a motore e i loro rimorchi (regolamenti (UE) 2018/858 e (UE) 2019/2144, punti 18 e 19), i veicoli a motore a due o tre ruote e i quadricicli (punto 14), i veicoli agricoli e forestali (punto 15), il sistema ferroviario (punto 17), l’equipaggiamento marittimo (punto 16), gli aeromobili senza equipaggio e i loro motori, eliche, parti e dispositivi di controllo remoto di cui al regolamento (UE) 2018/1139 (punto 20) e le macchine (regolamento (UE) 2023/1230, punto 21). Il regolamento (UE) 2026/1744 ha spostato le macchine dalla sezione A alla sezione B. Per i sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1 e connessi a tali prodotti si applicano solo l’articolo 6, paragrafo 1, l’articolo 60 bis e gli articoli da 102 a 112. Gli articoli 57, 58 e 59 si applicano solo nella misura in cui i requisiti per i sistemi di IA ad alto rischio siano stati integrati in tale normativa di armonizzazione dell’Unione (articolo 2, paragrafo 2). Gli articoli da 9 a 15, 17, 26 e 99 non figurano tra le disposizioni che si applicano. L’articolo 2, paragrafo 2, si limita ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1; non limita, ad esempio, l’articolo 4 o l’articolo 5. La pagina panoramica sui sistemi autonomi elenca che cosa si applica invece a questi prodotti.

• Prodotti della sezione A: il capo III si applica ai sistemi ad alto rischio

  La sezione A dell’allegato I (punti da 2 a 12) riguarda giocattoli, imbarcazioni da diporto, ascensori, apparecchi e sistemi di protezione destinati a essere utilizzati in atmosfera potenzialmente esplosiva, apparecchiature radio, attrezzature a pressione, impianti a fune, dispositivi di protezione individuale, apparecchi che bruciano carburanti gassosi, dispositivi medici e dispositivi medico-diagnostici in vitro. Un sistema di IA è ad alto rischio ai sensi dell’articolo 6, paragrafo 1 se è destinato a essere utilizzato come componente di sicurezza di tale prodotto, o è esso stesso tale prodotto, e il prodotto deve essere sottoposto a una valutazione della conformità da parte di terzi ai sensi di tale normativa. Una valutazione della conformità da parte di terzi richiesta esclusivamente a causa di rischi diversi da quelli per la salute e la sicurezza, in particolare i rischi relativi alla distribuzione dello spettro radio o alle interferenze elettromagnetiche che non incidono sulla salute e sulla sicurezza, non soddisfa tale condizione (articolo 6, paragrafo 1 quater). I requisiti per questi sistemi si applicano dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). L’articolo 2, paragrafo 13, consente di limitare l’applicazione dei requisiti o degli obblighi specifici di cui agli articoli da 9 a 15 e da 17 a 25, se e nella misura in cui la normativa della sezione A stabilisce requisiti che garantiscono un livello equivalente o superiore di protezione e la limitazione non riduce il livello complessivo di protezione. La Commissione adotta atti delegati in merito entro il 2 agosto 2027.

• Allegato III, punto 2: traffico stradale, fornitura di acqua, gas, riscaldamento o elettricità e infrastrutture digitali

  L’allegato III, punto 2, riguarda i sistemi di IA destinati a essere utilizzati come componenti di sicurezza nella gestione e nel funzionamento delle infrastrutture digitali critiche, del traffico stradale o nella fornitura di acqua, gas, riscaldamento o elettricità. Il testo dell’allegato III non nomina alcun veicolo, aeromobile, drone o robot. Stabilire se un dato sistema sia un componente di sicurezza in uno di questi ambiti è una questione per un giurista. I requisiti per questi usi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c), punto i)).

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema del punto 2 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. Ai sensi dell’articolo 6, paragrafo 3 non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Il regolamento applica questa deroga quando è soddisfatta almeno una delle condizioni seguenti (articolo 6, paragrafo 3, lettere da a) a d)). Il sistema è destinato a eseguire un compito procedurale limitato. Oppure è destinato a migliorare il risultato di un’attività umana precedentemente completata. Oppure è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana. Oppure è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Come queste condizioni si combinino con la verifica del rischio significativo è una questione per un giurista. Il sistema è sempre ad alto rischio se effettua profilazione di persone fisiche. La profilazione è definita dall’articolo 4, punto 4, del GDPR (articolo 3, punto 52). Il fornitore che si avvale dell’eccezione documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio. Deve inoltre registrare il sistema (articolo 6, paragrafo 4, articolo 49, paragrafo 2).

• Sono contemplati solo i componenti di sicurezza

  Un componente di sicurezza è un componente di un prodotto o di un sistema di IA che svolge una funzione di sicurezza per tale prodotto o sistema di IA o il cui guasto o malfunzionamento mette in pericolo la salute e la sicurezza di persone o beni. Un componente svolge una funzione di sicurezza quando la sua finalità prevista è prevenire o attenuare i rischi per la salute e la sicurezza di persone o beni (articolo 3, punto 14). I sistemi di IA utilizzati esclusivamente per aspetti non legati alla sicurezza come assistenza agli utenti, ottimizzazione delle prestazioni, efficienza dei servizi, automazione o praticità o controllo della qualità non sono considerati componenti di sicurezza (articolo 6, paragrafo 1 bis). I sistemi di IA il cui guasto o malfunzionamento metterebbe a rischio la salute e la sicurezza sono considerati componenti di sicurezza (articolo 6, paragrafo 1 ter). Stabilire se una data funzione di controllo, di navigazione o di praticità sia un componente di sicurezza è una questione per un giurista.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio del fornitore (articolo 3, punto 11). Per un componente di sicurezza di un prodotto della sezione A, il fabbricante del prodotto è il fornitore se il sistema è immesso sul mercato insieme al prodotto con il nome o il marchio del fabbricante, o è messo in servizio con tale nome o marchio dopo che il prodotto è stato immesso sul mercato (articolo 25, paragrafo 3). Un gestore di flotte, un gestore di impianti o un’autorità stradale che utilizza un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore in tre casi. Appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi. Apporta una modifica sostanziale a tale sistema, che lo lascia ad alto rischio. Oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1). Il fornitore che aveva inizialmente immesso il sistema sul mercato o lo aveva messo in servizio non è più considerato fornitore di quel determinato sistema e deve cooperare strettamente con il nuovo fornitore (articolo 25, paragrafo 2). Ciò non vale se il fornitore iniziale ha chiaramente specificato che il suo sistema non deve essere trasformato in un sistema di IA ad alto rischio.

• Riutilizzo dei processi di rischio richiesti dal diritto sui prodotti

  Se un prodotto contiene un sistema di IA cui si applicano il regolamento e la normativa della sezione A, i fornitori possono integrare i necessari processi di prova e di comunicazione, le informazioni e la documentazione nella documentazione e nelle procedure già esistenti in conformità a tale normativa (articolo 8, paragrafo 2). Per i fornitori soggetti a requisiti relativi ai processi interni di gestione dei rischi ai sensi di altre pertinenti disposizioni del diritto dell’Unione, gli aspetti di cui all’articolo 9, paragrafi da 1 a 9, possono far parte delle procedure previste da tale diritto o essere combinati con esse (articolo 9, paragrafo 10). Il regolamento non nomina alcun diritto di questo tipo. Stabilire se un dato diritto rilevi è una questione per un giurista. La Commissione pubblica orientamenti sull’articolo 8, paragrafo 2, sull’articolo 9, paragrafo 10, e sull’articolo 17, paragrafo 3, entro il 1º agosto 2027 (articolo 96, paragrafo 1, lettera g)).

• Date

  Sezione A: i requisiti del capo III, sezioni da 1 a 3, si applicano ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1, dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). Allegato III, punto 2: dal 2 dicembre 2027 (lettera c), punto i)). Sezione B: gli articoli da 9 a 15 non hanno una data perché non si applicano (articolo 2, paragrafo 2); gli articoli da 102 a 110 si applicano dal 27 luglio 2026 (lettera d)). Un sistema immesso sul mercato o messo in servizio prima della data di applicazione è coperto solo se in seguito subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce norme che dispongano in quale misura possono essere inflitte sanzioni amministrative pecuniarie ad autorità pubbliche e organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8). Per i prodotti della sezione B, l’articolo 99 non figura tra le disposizioni che l’articolo 2, paragrafo 2, elenca come applicabili.

• Portata e limiti del regolamento

  Il regolamento si applica ai fornitori e ai deployer che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettera c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA quando e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati, con o senza modifiche, esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi di IA o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio. La prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento. Tale esclusione non vale se sono immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio, o se rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12). Il regolamento non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10).

• Nessun elenco di rischi, regola sul dominio operativo o valori di prova

  L’articolo 9 non nomina rischi, metriche o valori di soglia per veicoli, aeromobili senza equipaggio, robot o macchine, e il regolamento non usa termini come dominio di progettazione operativa. Il fornitore individua i rischi del proprio sistema, anche in condizioni di uso improprio ragionevolmente prevedibile, e fissa le metriche e le soglie adeguate alla finalità prevista (articolo 9, paragrafi 2 e 8). Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione pratica dei requisiti e degli obblighi di cui agli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)) e sulla relazione del regolamento con la normativa dell’allegato I (lettera e)).

• Esempio: un guasto di un sensore nel controllore di un ascensore

  Esempio, non un requisito del regolamento: il fornitore di una funzione di sicurezza basata sull’IA per un ascensore potrebbe elencare il rischio che il guasto di un sensore venga letto come porta chiusa. Potrebbe verificare tale guasto con una metrica fissata prima della prova e registrare il risultato.

• Esempio: registrare la valutazione del rischio residuo

  Esempio, non un requisito del regolamento: il fornitore potrebbe registrare, per ogni pericolo individuato, la misura adottata e il motivo per cui ha ritenuto accettabile il rischio residuo (articolo 9, paragrafo 5).

• Articolo 9: sistema di gestione dei rischi per l'IA ad alto rischio

  L’articolo 9 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA sistemi autonomi: conformità

  La panoramica sui sistemi autonomi: i tre modi in cui un sistema può essere ad alto rischio per veicoli, aeromobili senza equipaggio, robot e macchine, e le altre disposizioni che possono applicarsi.

• Articolo 10 per i sistemi autonomi: dati e governance dei dati

  Sistemi autonomi e articolo 10: set di dati, esame dei bias e categorie particolari di dati personali.

• Articolo 72: monitoraggio successivo all'immissione sul mercato

  Il monitoraggio successivo all’immissione sul mercato, i cui dati alimentano l’analisi dei rischi dell’articolo 9, paragrafo 2, lettera c).