Articolo 15 per i sistemi autonomi: accuratezza, robustezza e cibersicurezza

L’articolo 15 fissa requisiti di progettazione per il fornitore. Non indica alcun valore di accuratezza per alcun settore.

• art. 15(1)
  Livello adeguato, per tutto il ciclo di vita

  I sistemi di IA ad alto rischio devono essere progettati e sviluppati in modo da raggiungere un adeguato livello di accuratezza, robustezza e cibersicurezza e da funzionare in modo coerente in tal senso per tutto il loro ciclo di vita.

• art. 15(2)
  I parametri di riferimento li promuove la Commissione

  La Commissione promuove, se del caso, lo sviluppo di parametri di riferimento e di metodologie di misurazione, in cooperazione con portatori di interessi quali le autorità di metrologia e di analisi comparativa. Non è un obbligo del fornitore.

• art. 15(3)
  Dichiarare livelli e metriche

  I livelli di accuratezza e le metriche di accuratezza pertinenti devono essere dichiarati nelle istruzioni per l’uso che accompagnano il sistema.

• art. 15(4)
  Resilienza agli errori e circuiti di feedback

  I sistemi devono essere il più resilienti possibile rispetto a errori, guasti o incongruenze che possono verificarsi nel sistema o nell’ambiente in cui opera, in particolare a causa dell’interazione con persone fisiche o altri sistemi. Devono essere adottate misure tecniche e organizzative; ridondanza tecnica, piani di backup o di sicurezza intrinseca sono citati come opzioni. Un sistema che continua ad apprendere dopo l’immissione sul mercato deve essere sviluppato in modo da eliminare o ridurre il più possibile il rischio che output distorti influenzino input futuri (circuiti di feedback).

• art. 15(5)
  Cibersicurezza contro terzi non autorizzati

  I sistemi devono essere resilienti ai tentativi di terzi non autorizzati di alterarne l’uso, gli output o le prestazioni sfruttando le vulnerabilità. Le soluzioni tecniche comprendono, se del caso, misure contro l’avvelenamento dei dati, l’avvelenamento del modello, gli esempi avversari o l’elusione del modello, gli attacchi alla riservatezza e le carenze del modello.

L’articolo 15 vincola solo i sistemi di IA ad alto rischio. Le righe seguenti mostrano quali sistemi autonomi raggiunge e quali no.

• «Sistemi autonomi» non è una categoria del regolamento

  Il regolamento non ha una categoria «sistemi autonomi»; la sua definizione di sistema di IA si riferisce a un funzionamento con livelli di autonomia variabili (articolo 3, punto 1). Questo sito usa la parola per l’IA di veicoli, droni, robot e macchine e per l’IA che aiuta a gestire il traffico stradale. Questa IA può essere ad alto rischio attraverso tre vie, e la via decide quali norme per l’alto rischio si applicano: l’allegato I, sezione B (articolo 2, paragrafo 2 limita le norme a pochi articoli), l’allegato I, sezione A (i requisiti del capo III dal 2 agosto 2028, se il sistema è ad alto rischio ai sensi dell’articolo 6, paragrafo 1) e l’allegato III, punto 2 (i requisiti del capo III dal 2 dicembre 2027). Altre norme non dipendono dalla via: gli articoli 4 e 5, l’articolo 50, l’articolo 53 per i fornitori di modelli e gli altri punti dell’allegato III. L’articolo 2, paragrafo 2 limita solo i sistemi di IA ad alto rischio ai sensi dell’articolo 6, paragrafo 1 in prodotti della sezione B. Individuate prima la vostra via ad alto rischio.

• Veicoli, aeromobili, ferrovie, equipaggiamento marittimo e macchine: allegato I, sezione B

  La sezione B dell’allegato I elenca, tra l’altro, i veicoli a motore (regolamenti (UE) 2018/858 e 2019/2144), i veicoli a due o tre ruote (regolamento (UE) n. 168/2013), i veicoli agricoli e forestali (regolamento (UE) n. 167/2013), il sistema ferroviario (direttiva (UE) 2016/797), l’equipaggiamento marittimo (direttiva 2014/90/UE), gli aeromobili senza equipaggio e i loro motori, eliche, parti e dispositivi di controllo remoto, nella misura in cui il regolamento (UE) 2018/1139 li riguarda, e le macchine (regolamento (UE) 2023/1230, spostato dalla sezione A alla sezione B dal regolamento (UE) 2026/1744). Per un sistema di IA ad alto rischio ai sensi dell’articolo 6, paragrafo 1 che riguarda un prodotto di questo tipo si applicano solo l’articolo 6, paragrafo 1, l’articolo 60 bis e gli articoli da 102 a 112 (articolo 2, paragrafo 2); gli articoli 57, 58 e 59 si applicano solo nella misura in cui i requisiti per i sistemi di IA ad alto rischio sono stati integrati in tale normativa di armonizzazione dell’Unione. Gli articoli da 9 a 15, 17 e 26 non ne fanno parte. In compenso, gli articoli da 102 a 109 aggiungono a otto di questi atti una regola secondo cui la Commissione tiene conto dei requisiti del capo III, sezione 2, quando adotta gli atti da essi indicati per i sistemi di IA. Per le macchine, l’articolo 3, punto 1, del regolamento (UE) 2026/1744 impone alla Commissione di adottare atti delegati che aggiungono requisiti di salute e sicurezza per tali sistemi di IA, riflettendo il capo III, sezione 2, e gli articoli 17, 19, 72 e 73; tali atti devono applicarsi al più tardi dal 2 agosto 2028.

• Prodotti della sezione A e allegato III, punto 2: si applica il capo III

  Due agganci attivano i requisiti del capo III. Primo: un sistema di IA è ad alto rischio ai sensi dell’articolo 6, paragrafo 1 se è destinato a essere utilizzato come componente di sicurezza di un prodotto disciplinato dalla normativa dell’allegato I, o è esso stesso un tale prodotto, e tale prodotto deve essere sottoposto a una valutazione della conformità da parte di terzi ai sensi di tale normativa. La sezione A (punti da 2 a 12) riguarda, per esempio, ascensori, impianti a fune, imbarcazioni da diporto e dispositivi medici; il capo III si applica a tali sistemi dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). Un componente di sicurezza è un componente che svolge una funzione di sicurezza o il cui guasto o malfunzionamento mette a rischio la salute e la sicurezza di persone o beni (articolo 3, punto 14); l’IA usata solo per aspetti non legati alla sicurezza, come l’ottimizzazione delle prestazioni, l’automazione o la comodità, non lo è, mentre lo è l’IA il cui guasto metterebbe a rischio la salute e la sicurezza (articolo 6, paragrafi 1 bis e 1 ter). Un prodotto sottoposto a valutazione da parte di terzi solo per rischi diversi da quelli per la salute e la sicurezza, come l’uso dello spettro radio o interferenze elettromagnetiche senza effetti sulla salute e sulla sicurezza, non soddisfa tale condizione (articolo 6, paragrafo 1 quater); ciò riguarda, per esempio, le apparecchiature radio (punto 6). Secondo: l’allegato III, punto 2, riguarda i sistemi di IA destinati a essere utilizzati come componenti di sicurezza nella gestione e nel funzionamento di infrastrutture digitali critiche, del traffico stradale o della fornitura di acqua, gas, riscaldamento o elettricità; il capo III si applica a essi dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Secondo la sua formulazione, il punto 2 nomina la gestione e il funzionamento del traffico stradale, non i veicoli.

• Fornitore e deployer

  Il fornitore sviluppa il sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). Per un sistema di IA ad alto rischio che è un componente di sicurezza di un prodotto della sezione A, il fabbricante del prodotto è il fornitore se il sistema è immesso sul mercato insieme al prodotto con il suo nome o marchio, oppure è messo in servizio con tale nome o marchio dopo l’immissione del prodotto sul mercato (articolo 25, paragrafo 3). L’articolo 15 è un obbligo di progettazione del fornitore. Chi gestisce una flotta, un impianto o il traffico e si limita a usare il sistema è un deployer (articolo 3, punto 4) e non ha obblighi ai sensi dell’articolo 15; un deployer diventa fornitore nei casi dell’articolo 25, paragrafo 1.

• Date

  I sistemi dell’allegato III, punto 2, devono rispettare il capo III dal 2 dicembre 2027, quelli della sezione A dal 2 agosto 2028 (articolo 113, lettera c)). Per i sistemi della sezione B non si applica alcuna data agli articoli da 9 a 15, 17 e 26, perché tali articoli non si applicano loro; secondo l’articolo 113, lettera c), punto ii), il capo III, sezioni da 1 a 3, di cui fa parte l’articolo 6, si applica ai sistemi dell’allegato I dal 2 agosto 2028, e gli articoli da 102 a 110 si applicano dal 27 luglio 2026 (articolo 113, lettera c), punto ii), e lettera d)). Un sistema immesso sul mercato o messo in servizio prima della data di applicazione del capo III è coperto solo se dopo subisce modifiche significative della progettazione; in ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  La violazione degli obblighi dei fornitori (articolo 16) e dei deployer (articolo 26) può essere punita con sanzioni amministrative pecuniarie fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso (articolo 99, paragrafo 6). Lo stesso massimale vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ogni Stato membro stabilisce le norme sulla misura in cui possono essere imposte sanzioni amministrative pecuniarie alle autorità e agli organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8). L’articolo 99 non figura tra le disposizioni che, secondo l’articolo 2, paragrafo 2, si applicano ai sistemi di IA ad alto rischio ai sensi dell’articolo 6, paragrafo 1, in prodotti della sezione B.

• Limiti dell’ambito di applicazione del regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, o immettono sul mercato modelli di IA per finalità generali nell’Unione, indipendentemente da dove siano stabiliti (articolo 2, paragrafo 1, lettera a)), e ai fornitori e ai deployer stabiliti in un paese terzo quando l’output del sistema di IA è utilizzato nell’Unione (lettera c)). Non si applica ai settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale; non si applica nemmeno ai sistemi di IA utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi o modelli di IA, compreso il loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica neppure alle attività di ricerca, prova e sviluppo precedenti all’immissione sul mercato o alla messa in servizio di un sistema o modello; le prove in condizioni reali non rientrano in tale esclusione (articolo 2, paragrafo 8). Non si applica ai sistemi di IA rilasciati con licenza libera e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o come sistemi di IA che rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessun valore di accuratezza per i sistemi autonomi

  L’articolo 15 non indica per alcun settore una metrica di accuratezza, un valore minimo, un metodo di prova o una norma, né per i sistemi autonomi. Il fornitore dichiara i livelli e le metriche pertinenti (articolo 15, paragrafo 3). Le norme armonizzate i cui riferimenti sono pubblicati nella Gazzetta ufficiale danno una presunzione di conformità nella misura in cui coprono i requisiti (articolo 40, paragrafo 1); un certificato di cibersicurezza pubblicato ai sensi del regolamento (UE) 2019/881 la dà per i requisiti di cibersicurezza nella misura in cui li copre (articolo 42, paragrafo 2). I sistemi che rientrano nell’ambito di applicazione del regolamento (UE) 2024/2847 e soddisfano le condizioni dell’articolo 12, paragrafo 1, di tale regolamento si considerano conformi ai requisiti di cibersicurezza dell’articolo 15 (articolo 42, paragrafo 3). La Commissione elabora orientamenti sull’applicazione dei requisiti e degli obblighi degli articoli da 8 a 15 e degli articoli 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Le norme settoriali e le regole di omologazione non sono obblighi del regolamento

  Il regolamento non nomina alcuna norma ISO, UNECE o altra norma settoriale. Le regole di accuratezza, robustezza o cibersicurezza che un prodotto della sezione B deve rispettare sono stabilite dalla sua normativa settoriale, non dall’articolo 15; il regolamento lascia impregiudicati gli altri atti giuridici dell’Unione in materia di protezione dei consumatori e sicurezza dei prodotti (articolo 2, paragrafo 9). La Commissione elabora orientamenti sul rapporto del regolamento con la normativa di armonizzazione dell’Unione elencata nell’allegato I e con altre norme pertinenti del diritto dell’Unione (articolo 96, paragrafo 1, lettera e)).

• Sezione A: i requisiti possono essere limitati (articolo 2, paragrafo 13)

  Per i sistemi di IA ad alto rischio di cui all’articolo 6, paragrafo 1, l’applicazione di requisiti o obblighi specifici degli articoli da 9 a 15 e da 17 a 25 può essere limitata, nella misura in cui la normativa di armonizzazione dell’Unione elencata nella sezione A dell’allegato I preveda requisiti o obblighi che offrono un livello di protezione equivalente o superiore e la limitazione non riduca il livello complessivo di protezione previsto dal regolamento (articolo 2, paragrafo 13). La Commissione deve adottare, entro il 2 agosto 2027, atti delegati che specificano i sistemi interessati, i requisiti che possono essere limitati, le condizioni e la portata. Secondo la nostra lettura dell’articolo 2, paragrafo 13, il regolamento non dice di per sé quali requisiti siano limitati per un dato prodotto della sezione A; devono farlo gli atti delegati; rivolgetevi a un consulente legale.

• Esempio: metriche dichiarate per un componente di gestione del traffico

  Esempio, non un requisito del regolamento: il fornitore di un componente di sicurezza per la gestione del traffico stradale potrebbe dichiarare quali metriche di accuratezza ha misurato e in quali condizioni di strada, sensori e meteo.

• Esempio: documentare il comportamento in caso di guasto

  Esempio, non un requisito del regolamento: un fornitore potrebbe documentare che cosa fa il sistema quando un sensore si guasta o i suoi dati in ingresso non sono plausibili, per esempio cedendo il controllo a una logica senza IA, come un modo per descrivere i piani di sicurezza intrinseca menzionati all’articolo 15, paragrafo 4.

• Articolo 15 regolamento IA: accuratezza, robustezza e cibersicurezza

  L’articolo 15 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA sistemi autonomi: conformità

  La panoramica sui sistemi autonomi: quali agganci del regolamento si applicano a veicoli, aeromobili, macchine e IA del traffico.

• Articolo 17 per i sistemi autonomi: sistema di gestione della qualità

  Sistemi autonomi e articolo 17: il sistema di gestione della qualità e chi è il fornitore.

• Sistemi di IA ad alto rischio dell'allegato I: la via della sicurezza dei prodotti

  Allegato I: quali sistemi di IA in prodotti regolamentati sono ad alto rischio, con le sezioni A e B.