Articolo 10 per i sistemi autonomi: dati e governance dei dati

L’articolo 10 stabilisce obblighi per il fornitore. Non nomina alcun volume di dati, valore di accuratezza o periodo di conservazione.

• art. 10(1), (6)
  Set di dati che rispettano i criteri di qualità

  I sistemi di IA ad alto rischio che addestrano modelli di IA con dati sono sviluppati sulla base di set di dati di addestramento, convalida e prova. Tali set di dati soddisfano i criteri di qualità di cui ai paragrafi 2, 3 e 4 e all’articolo 4 bis, paragrafo 1, ogniqualvolta siano utilizzati. Per i sistemi che non addestrano modelli, queste disposizioni si applicano solo ai set di dati di prova.

• art. 10(2)
  Pratiche di governance e gestione dei dati

  I set di dati sono soggetti a pratiche di governance e gestione dei dati adeguate alla finalità prevista. Tali pratiche riguardano in particolare le scelte progettuali, i processi di raccolta dei dati e l’origine dei dati e, per i dati personali, la finalità originaria della raccolta. Riguardano anche le operazioni di preparazione dei dati, quali annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione. Riguardano le ipotesi su ciò che i dati misurano e rappresentano. E riguardano la disponibilità, la quantità e l’adeguatezza dei set di dati necessari, nonché le lacune o carenze dei dati e il modo di colmarle.

• art. 10(2)(f), (g)
  Esaminare le distorsioni, poi individuarle, prevenirle e attenuarle

  Le pratiche comprendono un esame delle possibili distorsioni (lettera f)). Riguarda le distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’Unione, specie laddove gli output di dati influenzano gli input per operazioni future. Le pratiche comprendono anche misure adeguate per individuare, prevenire e attenuare le distorsioni individuate (lettera g)).

• art. 10(3)
  Pertinenti, rappresentativi, per quanto possibile privi di errori

  I set di dati sono pertinenti, sufficientemente rappresentativi e, nella misura del possibile, esenti da errori e completi nell’ottica della finalità prevista. Possiedono le proprietà statistiche appropriate anche, ove applicabile, per quanto riguarda le persone o i gruppi di persone relativamente ai quali il sistema è destinato a essere usato. Queste caratteristiche possono essere soddisfatte a livello di singoli set di dati o di una combinazione degli stessi.

• art. 10(4)
  Adeguati al contesto di utilizzo

  I set di dati tengono conto delle caratteristiche o degli elementi particolari dello specifico ambito geografico, contestuale, comportamentale o funzionale all’interno del quale il sistema è destinato a essere usato. Ciò vale nella misura necessaria per la finalità prevista.

L’articolo 10 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quale IA in veicoli, aeromobili senza equipaggio, robot e macchine rientra nel regolamento e dove l’articolo 10 non si applica.

• I sistemi autonomi non sono una categoria del regolamento

  Il regolamento non prevede una categoria per i sistemi autonomi. La sua definizione di sistema di IA parla di «livelli di autonomia variabili» (articolo 3, punto 1) e l’articolo 14, paragrafo 3, di un «livello di autonomia». Il regolamento non nomina alcun veicolo a guida autonoma, drone o robot. Questo sito usa «sistemi autonomi» per l’IA in veicoli, aeromobili senza equipaggio, robot e macchine. Le norme applicabili dipendono dal diritto dell’Unione in materia di prodotti che disciplina il prodotto. Le righe seguenti indicano tre modi in cui un sistema di IA può essere ad alto rischio: tramite l’allegato I, sezione B, tramite l’allegato I, sezione A, e tramite l’allegato III, punto 2. Possono applicarsi anche altre disposizioni, ad esempio l’articolo 4 (alfabetizzazione in materia di IA), l’articolo 5 (pratiche vietate), l’articolo 50 (trasparenza), l’articolo 53 (modelli di IA per finalità generali) e gli altri punti dell’allegato III.

• Prodotti della sezione B: veicoli, aeromobili senza equipaggio, sistema ferroviario, equipaggiamento marittimo, macchine

  La sezione B dell’allegato I elenca, ad esempio, i veicoli a motore e i loro rimorchi (regolamenti (UE) 2018/858 e (UE) 2019/2144, punti 18 e 19), i veicoli a motore a due o tre ruote e i quadricicli (punto 14), i veicoli agricoli e forestali (punto 15), il sistema ferroviario (punto 17), l’equipaggiamento marittimo (punto 16), gli aeromobili senza equipaggio e i loro motori, eliche, parti e dispositivi di controllo remoto di cui al regolamento (UE) 2018/1139 (punto 20) e le macchine (regolamento (UE) 2023/1230, punto 21). Il regolamento (UE) 2026/1744 ha spostato le macchine dalla sezione A alla sezione B. Per i sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1 e connessi a tali prodotti si applicano solo l’articolo 6, paragrafo 1, l’articolo 60 bis e gli articoli da 102 a 112. Gli articoli 57, 58 e 59 si applicano solo nella misura in cui i requisiti per i sistemi di IA ad alto rischio siano stati integrati in tale normativa di armonizzazione dell’Unione (articolo 2, paragrafo 2). Gli articoli da 9 a 15, 17, 26 e 99 non figurano tra le disposizioni che si applicano. L’articolo 2, paragrafo 2, si limita ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1; non limita, ad esempio, l’articolo 4 o l’articolo 5. La pagina panoramica sui sistemi autonomi elenca che cosa si applica invece a questi prodotti.

• Prodotti della sezione A: il capo III si applica ai sistemi ad alto rischio

  La sezione A dell’allegato I (punti da 2 a 12) riguarda giocattoli, imbarcazioni da diporto, ascensori, apparecchi e sistemi di protezione destinati a essere utilizzati in atmosfera potenzialmente esplosiva, apparecchiature radio, attrezzature a pressione, impianti a fune, dispositivi di protezione individuale, apparecchi che bruciano carburanti gassosi, dispositivi medici e dispositivi medico-diagnostici in vitro. Un sistema di IA è ad alto rischio ai sensi dell’articolo 6, paragrafo 1 se è destinato a essere utilizzato come componente di sicurezza di tale prodotto, o è esso stesso tale prodotto, e il prodotto deve essere sottoposto a una valutazione della conformità da parte di terzi ai sensi di tale normativa. Una valutazione della conformità da parte di terzi richiesta esclusivamente a causa di rischi diversi da quelli per la salute e la sicurezza, in particolare i rischi relativi alla distribuzione dello spettro radio o alle interferenze elettromagnetiche che non incidono sulla salute e sulla sicurezza, non soddisfa tale condizione (articolo 6, paragrafo 1 quater). I requisiti per questi sistemi si applicano dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). L’articolo 2, paragrafo 13, consente di limitare l’applicazione dei requisiti o degli obblighi specifici di cui agli articoli da 9 a 15 e da 17 a 25, se e nella misura in cui la normativa della sezione A stabilisce requisiti che garantiscono un livello equivalente o superiore di protezione e la limitazione non riduce il livello complessivo di protezione. La Commissione adotta atti delegati in merito entro il 2 agosto 2027.

• Allegato III, punto 2: traffico stradale, fornitura di acqua, gas, riscaldamento o elettricità e infrastrutture digitali

  L’allegato III, punto 2, riguarda i sistemi di IA destinati a essere utilizzati come componenti di sicurezza nella gestione e nel funzionamento delle infrastrutture digitali critiche, del traffico stradale o nella fornitura di acqua, gas, riscaldamento o elettricità. Il testo dell’allegato III non nomina alcun veicolo, aeromobile, drone o robot. Stabilire se un dato sistema sia un componente di sicurezza in uno di questi ambiti è una questione per un giurista. I requisiti per questi usi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c), punto i)).

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema del punto 2 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. Ai sensi dell’articolo 6, paragrafo 3 non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Il regolamento applica questa deroga quando è soddisfatta almeno una delle condizioni seguenti (articolo 6, paragrafo 3, lettere da a) a d)). Il sistema è destinato a eseguire un compito procedurale limitato. Oppure è destinato a migliorare il risultato di un’attività umana precedentemente completata. Oppure è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana. Oppure è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Come queste condizioni si combinino con la verifica del rischio significativo è una questione per un giurista. Il sistema è sempre ad alto rischio se effettua profilazione di persone fisiche. La profilazione è definita dall’articolo 4, punto 4, del GDPR (articolo 3, punto 52). Il fornitore che si avvale dell’eccezione documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio. Deve inoltre registrare il sistema (articolo 6, paragrafo 4, articolo 49, paragrafo 2).

• Sono contemplati solo i componenti di sicurezza

  Un componente di sicurezza è un componente di un prodotto o di un sistema di IA che svolge una funzione di sicurezza per tale prodotto o sistema di IA o il cui guasto o malfunzionamento mette in pericolo la salute e la sicurezza di persone o beni. Un componente svolge una funzione di sicurezza quando la sua finalità prevista è prevenire o attenuare i rischi per la salute e la sicurezza di persone o beni (articolo 3, punto 14). I sistemi di IA utilizzati esclusivamente per aspetti non legati alla sicurezza come assistenza agli utenti, ottimizzazione delle prestazioni, efficienza dei servizi, automazione o praticità o controllo della qualità non sono considerati componenti di sicurezza (articolo 6, paragrafo 1 bis). I sistemi di IA il cui guasto o malfunzionamento metterebbe a rischio la salute e la sicurezza sono considerati componenti di sicurezza (articolo 6, paragrafo 1 ter). Stabilire se una data funzione di controllo, di navigazione o di praticità sia un componente di sicurezza è una questione per un giurista.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio del fornitore (articolo 3, punto 11). Per un componente di sicurezza di un prodotto della sezione A, il fabbricante del prodotto è il fornitore se il sistema è immesso sul mercato insieme al prodotto con il nome o il marchio del fabbricante, o è messo in servizio con tale nome o marchio dopo che il prodotto è stato immesso sul mercato (articolo 25, paragrafo 3). Un gestore di flotte, un gestore di impianti o un’autorità stradale che utilizza un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore in tre casi. Appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi. Apporta una modifica sostanziale a tale sistema, che lo lascia ad alto rischio. Oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1). Il fornitore che aveva inizialmente immesso il sistema sul mercato o lo aveva messo in servizio non è più considerato fornitore di quel determinato sistema e deve cooperare strettamente con il nuovo fornitore (articolo 25, paragrafo 2). Ciò non vale se il fornitore iniziale ha chiaramente specificato che il suo sistema non deve essere trasformato in un sistema di IA ad alto rischio.

• Categorie particolari di dati personali: articolo 4 bis

  Oltre al GDPR e alle altre norme applicabili in materia di protezione dei dati, i fornitori di sistemi di IA ad alto rischio possono eccezionalmente trattare categorie particolari di dati personali. Ciò è consentito nella misura strettamente necessaria per il rilevamento e la correzione delle distorsioni ai sensi dell’articolo 10, paragrafo 2, lettere f) e g). Devono essere soddisfatte tutte le condizioni dell’articolo 4 bis, paragrafo 1, lettere da a) a f). Tra queste, che il rilevamento e la correzione delle distorsioni non possano essere realizzati efficacemente mediante il trattamento di altri dati, quali dati sintetici o anonimizzati. Tra queste, anche che i dati siano cancellati dopo la correzione della distorsione o al termine del periodo di conservazione, a seconda di quale delle due condizioni si verifica per prima. L’articolo 4 bis, paragrafo 2, riconosce ai fornitori e ai deployer di altri sistemi di IA, e ai deployer di sistemi ad alto rischio, la stessa facoltà alle stesse condizioni. Non crea alcun obbligo di effettuare il rilevamento e la correzione delle distorsioni.

• Date

  Sezione A: i requisiti del capo III, sezioni da 1 a 3, si applicano ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1, dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). Allegato III, punto 2: dal 2 dicembre 2027 (lettera c), punto i)). Sezione B: gli articoli da 9 a 15 non hanno una data perché non si applicano (articolo 2, paragrafo 2); gli articoli da 102 a 110 si applicano dal 27 luglio 2026 (lettera d)). Un sistema immesso sul mercato o messo in servizio prima della data di applicazione è coperto solo se in seguito subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce norme che dispongano in quale misura possono essere inflitte sanzioni amministrative pecuniarie ad autorità pubbliche e organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8). Per i prodotti della sezione B, l’articolo 99 non figura tra le disposizioni che l’articolo 2, paragrafo 2, elenca come applicabili.

• Portata e limiti del regolamento

  Il regolamento si applica ai fornitori e ai deployer che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettera c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA quando e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati, con o senza modifiche, esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi di IA o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio. La prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento. Tale esclusione non vale se sono immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio, o se rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12). Il regolamento non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10).

• Nessuno standard di dati per i dati dei sensori, di guida o di esercizio

  L’articolo 10 non nomina una dimensione minima dei dati, una distanza, una misura di rappresentatività, una metrica di bias né una fonte di dati ammessa, e nessuna regola sui dati dei sensori. Il fornitore decide che cosa è adeguato alla finalità prevista (articolo 10, paragrafo 2). I sistemi addestrati e sottoposti a prova con dati che riflettono lo specifico ambito geografico, comportamentale, contestuale o funzionale di utilizzo previsto si presumono conformi all’articolo 10, paragrafo 4 (articolo 42, paragrafo 1). Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione pratica dei requisiti e degli obblighi di cui agli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)) e sulla relazione del regolamento con la normativa dell’allegato I (lettera e)).

• Esempio: dati che coprono l’ambiente di esercizio

  Esempio, non un requisito del regolamento: il fornitore di una funzione di sicurezza basata sull’IA per un impianto a fune potrebbe verificare se i propri dati di addestramento coprono le condizioni meteorologiche e i carichi in cui il sistema è destinato a essere utilizzato (articolo 10, paragrafo 4).

• Esempio: registrare l’origine dei dati e le lacune

  Esempio, non un requisito del regolamento: il fornitore potrebbe registrare da dove provengono i dati dei sensori e come sono state trattate le lacune. L’articolo 10, paragrafo 2, lettere b) e h), richiedono i processi di raccolta dei dati e la loro origine, nonché l’individuazione delle lacune e il modo di colmarle.

• Articolo 10: governance dei dati per l'IA ad alto rischio

  L’articolo 10 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA sistemi autonomi: conformità

  La panoramica sui sistemi autonomi: i tre modi in cui un sistema può essere ad alto rischio per veicoli, aeromobili senza equipaggio, robot e macchine, e le altre disposizioni che possono applicarsi.

• Articolo 12 per i sistemi autonomi: conservazione delle registrazioni e log

  Sistemi autonomi e articolo 12: registrazione automatica e chi conserva i log.

• Regolamento IA vs GDPR: differenze e sovrapposizioni

  Come si sovrappongono il regolamento sull’IA e il GDPR.