Skip to main content

Articolo 14 regolamento IA: sorveglianza umana e pulsante di arresto

L’articolo 14 richiede che i sistemi di IA ad alto rischio consentano una sorveglianza umana efficace. Questa guida tratta le capacità necessarie, il pulsante di arresto e i modelli di sorveglianza comuni.

I fornitori di sistemi di IA ad alto rischio devono progettarli in modo che persone fisiche possano sorvegliarli efficacemente mentre sono in uso (articolo 14).

Chi esercita la sorveglianza deve poter, in modo adeguato e proporzionato, comprendere il sistema, monitorarlo, ignorarne l’output e arrestarlo. Questo riguarda i sistemi immessi sul mercato o messi in servizio nell’UE. Si applica dal 2 dicembre 2027 (allegato III) e dal 2 agosto 2028 (allegato I). Le sanzioni arrivano a 15 milioni di EUR o al 3 % del fatturato mondiale annuo, se superiore (articolo 99(4)). Prossimo passo: elencare i controlli che il sistema offre a queste persone.

Chi sorveglia deve poter comprendere, monitorare, ignorare e arrestare il sistema

L’articolo 14(4) elenca cinque capacità che il sistema deve consentire, in modo adeguato e proporzionato. Il fornitore integra alcune misure nel sistema e ne individua altre che il deployer deve attuare (articolo 14(3)).

Comprendere e monitorare

Chi sorveglia può comprendere debitamente le capacità e i limiti del sistema e monitorarne il funzionamento, anche per individuare e affrontare anomalie, disfunzioni e prestazioni inattese (articolo 14(4), lettera a)).

Restare consapevoli e interpretare correttamente

Chi sorveglia resta consapevole della distorsione dell’automazione, la tendenza a fare troppo affidamento sull’output del sistema, e può interpretare correttamente l’output (articolo 14(4), lettere b) e c)).

Ignorare e arrestare

Chi sorveglia può decidere di non usare il sistema o di ignorare, annullare o ribaltare il suo output. Può anche intervenire sul funzionamento del sistema o interromperlo con un pulsante di «arresto» o una procedura analoga che consenta di arrestarlo in condizioni di sicurezza (articolo 14(4), lettere d) ed e)).

Verifica da parte di due persone per l’identificazione biometrica remota

Per i sistemi dell’allegato III, punto 1, lettera a), il deployer può agire sulla base di un’identificazione solo dopo che almeno due persone l’hanno verificata e confermata separatamente (articolo 14(5)). Queste persone devono avere la competenza, la formazione e l’autorità necessarie. Il requisito non vale per contrasto, migrazione, controllo delle frontiere e asilo, quando il diritto dell’Unione o nazionale lo ritiene sproporzionato.

Chi sorveglia deve poter portare il sistema a un arresto sicuro

L’articolo 14(4), lettera e), richiede un pulsante di «arresto» o una procedura analoga che consenta a chi sorveglia di interrompere il sistema e di arrestarlo in condizioni di sicurezza. Il regolamento non prescrive come; i tre punti seguenti sono scelte progettuali.

Arresto di emergenza

Preveda un comando che arresti il sistema in condizioni di sicurezza e verifichi che funzioni anche durante errori di sistema. Una soluzione possibile: non accettare nuove richieste e lasciar terminare quelle in corso.

Modalità di ripiego

Decida cosa succede dopo un arresto: indirizzare i casi a revisori umani, usare valori predefiniti basati su regole o sospendere del tutto. Documenti e provi il ripiego.

Log di arresti e interventi

Registri ogni arresto e intervento con ora, operatore, motivo e stato del sistema. È una scelta progettuale che le fornisce prove di come ha funzionato la sorveglianza.

Le misure di sorveglianza devono corrispondere a rischio, autonomia e contesto

L’articolo 14(3) richiede misure di sorveglianza proporzionate ai rischi, al livello di autonomia e al contesto d’uso del sistema. I tre modelli seguenti sono termini progettuali comuni, non termini del regolamento.

Human-in-the-loop

Una persona approva ogni decisione prima che produca effetti. È adatto alle decisioni con conseguenze gravi.

Human-on-the-loop

Il sistema funziona da solo; una persona lo monitora e può intervenire in qualsiasi momento.

Human-in-command

Una persona stabilisce i limiti e le condizioni d’uso e può ignorare qualsiasi decisione o spegnere il sistema.

L’articolo 14 si applica solo ai sistemi di IA ad alto rischio

Un sistema è ad alto rischio se rientra in un settore dell’allegato III, salvo che si applichi un’esenzione dell’articolo 6(3). Un sistema che effettua la profilazione di persone fisiche è sempre ad alto rischio. Lo è anche se è un prodotto dell’allegato I che richiede una valutazione della conformità da parte di terzi, o un suo componente di sicurezza (articolo 6). I fornitori sono coperti quando immettono un sistema sul mercato dell’UE o lo mettono in servizio nell’UE, ovunque siano stabiliti (articolo 2(1), lettera a)). Anche i fornitori e i deployer di paesi terzi sono coperti quando l’output del sistema è utilizzato nell’UE (articolo 2(1), lettera c)). I sistemi ad alto rischio legati a prodotti disciplinati dalla normativa dell’allegato I, sezione B, sono esclusi da l’articolo 14 (articolo 2(2)). Per i prodotti dell’allegato I, sezione A, alcuni requisiti possono essere limitati (articolo 2(13)). Ciò riguarda gli articoli da 9 a 15 e da 17 a 25, se la normativa settoriale offre una protezione equivalente o superiore. Gli atti delegati attesi entro il 2 agosto 2027 preciseranno quali. Il regolamento esclude gli usi militari, di difesa e di sicurezza nazionale e i sistemi sviluppati unicamente per la ricerca scientifica (articolo 2(3) e (6)). Esclude anche la ricerca e le prove prima dell’immissione sul mercato (articolo 2(8)). I sistemi già immessi sul mercato o in servizio prima della data di applicazione sono coperti solo dopo modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111(2)).

Domande frequenti: supervisori, dashboard, responsabilità e sanzioni

Chi può essere supervisore umano?

Una persona fisica con la competenza, la formazione e l’autorità necessarie, oltre al sostegno di cui ha bisogno. Il deployer affida la sorveglianza a tali persone (articolo 26(2)), e il sistema deve consentire loro di comprenderlo, ignorarne l’output e arrestarlo (articolo 14(4)).

Basta una dashboard?

No. Una dashboard sostiene il monitoraggio (articolo 14(4), lettera a)), ma chi sorveglia deve anche poter ignorare o ribaltare l’output e arrestare il sistema (articolo 14(4), lettere d) ed e)). Affianchi alla dashboard dei comandi.

Chi è responsabile, il fornitore o il deployer?

Entrambi. Il fornitore individua le misure di sorveglianza prima di immettere il sistema sul mercato o di metterlo in servizio. Le integra se tecnicamente fattibile, le individua perché le attui il deployer, oppure fa entrambe le cose (articolo 14(3)). Il deployer affida la sorveglianza a persone competenti e usa il sistema secondo le istruzioni per l’uso (articolo 26(1) e (2)).

Quali sono le sanzioni e il limite è più basso per le PMI?

Per i fornitori (articolo 16) e i deployer (articolo 26), le sanzioni arrivano fino a 15 milioni di EUR o al 3 % del fatturato mondiale annuo, se superiore (articolo 99(4)). Per le PMI, comprese le start-up, e per le piccole imprese a media capitalizzazione il limite è il minore dei due importi (articolo 99(6) e (6 bis)). Gli Stati membri stabiliscono le norme sulle sanzioni (articolo 99(1)).

Da leggere dopo: gestione dei rischi, conservazione delle registrazioni e obblighi dei deployer

Scanara prepara evidenze dai vostri repository

Scanara legge i vostri repository GitHub collegati ed esegue scansioni basate su regole per individuare pattern comuni di IA e machine learning. Può non rilevare il codice non standard. Separatamente genera bozze di documentazione a partire da modelli e dalle vostre risposte alle valutazioni, come evidenze per il vostro lavoro di conformità. La classificazione la decidete voi.