Articolo 14 per i sistemi autonomi: sorveglianza umana

L’articolo 14 stabilisce obblighi di progettazione per il fornitore. Non contiene alcuna regola per cui una persona debba riesaminare ogni singola decisione.

• art. 14(1)
  Supervisione efficace da parte di persone fisiche

  I sistemi di IA ad alto rischio sono progettati e sviluppati, anche con strumenti di interfaccia uomo-macchina adeguati, in modo tale da poter essere efficacemente supervisionati da persone fisiche durante il periodo in cui sono in uso.

• art. 14(2)
  Obiettivo: prevenire o ridurre al minimo i rischi

  La sorveglianza umana mira a prevenire o ridurre al minimo i rischi per la salute, la sicurezza o i diritti fondamentali che possono emergere quando il sistema è utilizzato conformemente alla sua finalità prevista o in condizioni di uso improprio ragionevolmente prevedibile. Ciò vale in particolare qualora tali rischi persistano nonostante l’applicazione degli altri requisiti.

• art. 14(3)
  Misure commisurate a rischi, autonomia e contesto

  Le misure di sorveglianza sono commisurate ai rischi, al livello di autonomia e al contesto di utilizzo. Sono garantite da misure che il fornitore integra nel sistema, ove tecnicamente possibile, da misure che il fornitore individua come adatte a essere attuate dal deployer, oppure da entrambe.

• art. 14(4)(a)–(c)
  Comprendere, monitorare e interpretare

  Il sistema è fornito in modo che le persone incaricate della sorveglianza abbiano la possibilità, ove opportuno e proporzionato, di comprenderne le capacità e i limiti e di monitorarne il funzionamento. Ciò include l’individuazione e la gestione di anomalie, disfunzioni e prestazioni inattese. Devono anche poter restare consapevoli della possibile tendenza a fare automaticamente affidamento o a fare eccessivo affidamento sull’output («distorsione dell’automazione»), in particolare per i sistemi che forniscono informazioni o raccomandazioni per decisioni che devono essere prese da persone fisiche. E devono poter interpretare correttamente l’output.

• art. 14(4)(d), (e)
  Decidere di non usare, ignorare, annullare o fermare

  Le persone incaricate della sorveglianza devono poter decidere, in qualsiasi situazione particolare, di non usare il sistema oppure di ignorare, annullare o ribaltare il suo output. Devono anche poter intervenire sul suo funzionamento o interromperlo mediante un pulsante di «arresto» o una procedura analoga. Tale procedura deve consentire al sistema di arrestarsi in condizioni di sicurezza.

L’articolo 14 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quale IA in veicoli, aeromobili senza equipaggio, robot e macchine rientra nel regolamento e dove l’articolo 14 non si applica.

• I sistemi autonomi non sono una categoria del regolamento

  Il regolamento non prevede una categoria per i sistemi autonomi. La sua definizione di sistema di IA parla di «livelli di autonomia variabili» (articolo 3, punto 1) e l’articolo 14, paragrafo 3, di un «livello di autonomia». Il regolamento non nomina alcun veicolo a guida autonoma, drone o robot. Questo sito usa «sistemi autonomi» per l’IA in veicoli, aeromobili senza equipaggio, robot e macchine. Le norme applicabili dipendono dal diritto dell’Unione in materia di prodotti che disciplina il prodotto. Le righe seguenti indicano tre modi in cui un sistema di IA può essere ad alto rischio: tramite l’allegato I, sezione B, tramite l’allegato I, sezione A, e tramite l’allegato III, punto 2. Possono applicarsi anche altre disposizioni, ad esempio l’articolo 4 (alfabetizzazione in materia di IA), l’articolo 5 (pratiche vietate), l’articolo 50 (trasparenza), l’articolo 53 (modelli di IA per finalità generali) e gli altri punti dell’allegato III.

• Prodotti della sezione B: veicoli, aeromobili senza equipaggio, sistema ferroviario, equipaggiamento marittimo, macchine

  La sezione B dell’allegato I elenca, ad esempio, i veicoli a motore e i loro rimorchi (regolamenti (UE) 2018/858 e (UE) 2019/2144, punti 18 e 19), i veicoli a motore a due o tre ruote e i quadricicli (punto 14), i veicoli agricoli e forestali (punto 15), il sistema ferroviario (punto 17), l’equipaggiamento marittimo (punto 16), gli aeromobili senza equipaggio e i loro motori, eliche, parti e dispositivi di controllo remoto di cui al regolamento (UE) 2018/1139 (punto 20) e le macchine (regolamento (UE) 2023/1230, punto 21). Il regolamento (UE) 2026/1744 ha spostato le macchine dalla sezione A alla sezione B. Per i sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1 e connessi a tali prodotti si applicano solo l’articolo 6, paragrafo 1, l’articolo 60 bis e gli articoli da 102 a 112. Gli articoli 57, 58 e 59 si applicano solo nella misura in cui i requisiti per i sistemi di IA ad alto rischio siano stati integrati in tale normativa di armonizzazione dell’Unione (articolo 2, paragrafo 2). Gli articoli da 9 a 15, 17, 26 e 99 non figurano tra le disposizioni che si applicano. L’articolo 2, paragrafo 2, si limita ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1; non limita, ad esempio, l’articolo 4 o l’articolo 5. La pagina panoramica sui sistemi autonomi elenca che cosa si applica invece a questi prodotti.

• Prodotti della sezione A: il capo III si applica ai sistemi ad alto rischio

  La sezione A dell’allegato I (punti da 2 a 12) riguarda giocattoli, imbarcazioni da diporto, ascensori, apparecchi e sistemi di protezione destinati a essere utilizzati in atmosfera potenzialmente esplosiva, apparecchiature radio, attrezzature a pressione, impianti a fune, dispositivi di protezione individuale, apparecchi che bruciano carburanti gassosi, dispositivi medici e dispositivi medico-diagnostici in vitro. Un sistema di IA è ad alto rischio ai sensi dell’articolo 6, paragrafo 1 se è destinato a essere utilizzato come componente di sicurezza di tale prodotto, o è esso stesso tale prodotto, e il prodotto deve essere sottoposto a una valutazione della conformità da parte di terzi ai sensi di tale normativa. Una valutazione della conformità da parte di terzi richiesta esclusivamente a causa di rischi diversi da quelli per la salute e la sicurezza, in particolare i rischi relativi alla distribuzione dello spettro radio o alle interferenze elettromagnetiche che non incidono sulla salute e sulla sicurezza, non soddisfa tale condizione (articolo 6, paragrafo 1 quater). I requisiti per questi sistemi si applicano dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). L’articolo 2, paragrafo 13, consente di limitare l’applicazione dei requisiti o degli obblighi specifici di cui agli articoli da 9 a 15 e da 17 a 25, se e nella misura in cui la normativa della sezione A stabilisce requisiti che garantiscono un livello equivalente o superiore di protezione e la limitazione non riduce il livello complessivo di protezione. La Commissione adotta atti delegati in merito entro il 2 agosto 2027.

• Allegato III, punto 2: traffico stradale, fornitura di acqua, gas, riscaldamento o elettricità e infrastrutture digitali

  L’allegato III, punto 2, riguarda i sistemi di IA destinati a essere utilizzati come componenti di sicurezza nella gestione e nel funzionamento delle infrastrutture digitali critiche, del traffico stradale o nella fornitura di acqua, gas, riscaldamento o elettricità. Il testo dell’allegato III non nomina alcun veicolo, aeromobile, drone o robot. Stabilire se un dato sistema sia un componente di sicurezza in uno di questi ambiti è una questione per un giurista. I requisiti per questi usi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c), punto i)).

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema del punto 2 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. Ai sensi dell’articolo 6, paragrafo 3 non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Il regolamento applica questa deroga quando è soddisfatta almeno una delle condizioni seguenti (articolo 6, paragrafo 3, lettere da a) a d)). Il sistema è destinato a eseguire un compito procedurale limitato. Oppure è destinato a migliorare il risultato di un’attività umana precedentemente completata. Oppure è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana. Oppure è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Come queste condizioni si combinino con la verifica del rischio significativo è una questione per un giurista. Il sistema è sempre ad alto rischio se effettua profilazione di persone fisiche. La profilazione è definita dall’articolo 4, punto 4, del GDPR (articolo 3, punto 52). Il fornitore che si avvale dell’eccezione documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio. Deve inoltre registrare il sistema (articolo 6, paragrafo 4, articolo 49, paragrafo 2).

• Sono contemplati solo i componenti di sicurezza

  Un componente di sicurezza è un componente di un prodotto o di un sistema di IA che svolge una funzione di sicurezza per tale prodotto o sistema di IA o il cui guasto o malfunzionamento mette in pericolo la salute e la sicurezza di persone o beni. Un componente svolge una funzione di sicurezza quando la sua finalità prevista è prevenire o attenuare i rischi per la salute e la sicurezza di persone o beni (articolo 3, punto 14). I sistemi di IA utilizzati esclusivamente per aspetti non legati alla sicurezza come assistenza agli utenti, ottimizzazione delle prestazioni, efficienza dei servizi, automazione o praticità o controllo della qualità non sono considerati componenti di sicurezza (articolo 6, paragrafo 1 bis). I sistemi di IA il cui guasto o malfunzionamento metterebbe a rischio la salute e la sicurezza sono considerati componenti di sicurezza (articolo 6, paragrafo 1 ter). Stabilire se una data funzione di controllo, di navigazione o di praticità sia un componente di sicurezza è una questione per un giurista.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio del fornitore (articolo 3, punto 11). Per un componente di sicurezza di un prodotto della sezione A, il fabbricante del prodotto è il fornitore se il sistema è immesso sul mercato insieme al prodotto con il nome o il marchio del fabbricante, o è messo in servizio con tale nome o marchio dopo che il prodotto è stato immesso sul mercato (articolo 25, paragrafo 3). Un gestore di flotte, un gestore di impianti o un’autorità stradale che utilizza un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore in tre casi. Appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi. Apporta una modifica sostanziale a tale sistema, che lo lascia ad alto rischio. Oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1). Il fornitore che aveva inizialmente immesso il sistema sul mercato o lo aveva messo in servizio non è più considerato fornitore di quel determinato sistema e deve cooperare strettamente con il nuovo fornitore (articolo 25, paragrafo 2). Ciò non vale se il fornitore iniziale ha chiaramente specificato che il suo sistema non deve essere trasformato in un sistema di IA ad alto rischio.

• Il deployer affida la sorveglianza a persone competenti

  I deployer affidano la sorveglianza umana a persone fisiche che dispongono della competenza, della formazione e dell’autorità necessarie nonché del sostegno necessario (articolo 26, paragrafo 2). Gli obblighi dei paragrafi 1 e 2 lasciano impregiudicati gli altri obblighi dei deployer previsti dal diritto dell’Unione o nazionale e la libertà del deployer di organizzare le proprie risorse e attività al fine di attuare le misure di sorveglianza umana indicate dal fornitore (articolo 26, paragrafo 3).

• Date

  Sezione A: i requisiti del capo III, sezioni da 1 a 3, si applicano ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 1, dal 2 agosto 2028 (articolo 113, lettera c), punto ii)). Allegato III, punto 2: dal 2 dicembre 2027 (lettera c), punto i)). Sezione B: gli articoli da 9 a 15 non hanno una data perché non si applicano (articolo 2, paragrafo 2); gli articoli da 102 a 110 si applicano dal 27 luglio 2026 (lettera d)). Un sistema immesso sul mercato o messo in servizio prima della data di applicazione è coperto solo se in seguito subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce norme che dispongano in quale misura possono essere inflitte sanzioni amministrative pecuniarie ad autorità pubbliche e organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8). Per i prodotti della sezione B, l’articolo 99 non figura tra le disposizioni che l’articolo 2, paragrafo 2, elenca come applicabili.

• Portata e limiti del regolamento

  Il regolamento si applica ai fornitori e ai deployer che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettera c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA quando e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati, con o senza modifiche, esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi di IA o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio. La prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento. Tale esclusione non vale se sono immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio, o se rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12). Il regolamento non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10).

• Nessun livello di autonomia, regola sull’operatore remoto o sull’organico

  Il regolamento non definisce livelli di autonomia e non usa termini come operatore remoto. Non contiene alcuna regola sull’organico degli operatori, sui tempi di reazione o sull’approvazione di ogni azione del sistema da parte di una persona. L’articolo 14 richiede che il sistema possa essere supervisionato efficacemente, mediante misure commisurate ai rischi, al livello di autonomia e al contesto di utilizzo (articolo 14, paragrafo 3). Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione pratica dei requisiti e degli obblighi di cui agli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)) e sulla relazione del regolamento con la normativa dell’allegato I (lettera e)).

• Esempio: mostrare a chi sorveglia che cosa ha attivato un’azione

  Esempio, non un requisito del regolamento: il fornitore di un componente di sicurezza per il traffico stradale potrebbe mostrare alla persona incaricata quale input ha attivato un’azione. Potrebbe anche prevedere un modo per interrompere la funzione; l’articolo 14, paragrafo 4, lettera e), richiede una procedura che consenta al sistema di arrestarsi in condizioni di sicurezza.

• Esempio: osservare l’eccessivo affidamento

  Esempio, non un requisito del regolamento: un deployer potrebbe monitorare con quale frequenza il personale accetta la raccomandazione del sistema senza modificarla, per vedere se vi fa affidamento in modo automatico (distorsione dell’automazione, articolo 14, paragrafo 4, lettera b)).

• Articolo 14 regolamento IA: sorveglianza umana e pulsante di arresto

  L’articolo 14 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA sistemi autonomi: conformità

  La panoramica sui sistemi autonomi: i tre modi in cui un sistema può essere ad alto rischio per veicoli, aeromobili senza equipaggio, robot e macchine, e le altre disposizioni che possono applicarsi.

• Articolo 9 per i sistemi autonomi: sistema di gestione dei rischi

  Sistemi autonomi e articolo 9: il sistema di gestione dei rischi.

• Articolo 26: obblighi del deployer per l'IA ad alto rischio

  L’articolo 26 per tutti i settori, compreso l’affidamento della sorveglianza umana di cui all’articolo 26, paragrafo 2.