Regolamento IA forze dell'ordine: conformità

art. 5, par. 1, lett. d

Valutazione del rischio di reato basata solo sulla profilazione

Sono vietati i sistemi di IA che effettuano valutazioni del rischio di persone fisiche al fine di valutare o prevedere il rischio che una persona commetta un reato, sulla base unicamente della profilazione o della valutazione dei suoi tratti e delle sue caratteristiche della personalità. Il divieto non si applica ai sistemi che supportano la valutazione umana del coinvolgimento di una persona in un'attività criminosa, già basata su fatti oggettivi e verificabili direttamente connessi a un'attività criminosa (articolo 5, paragrafo 1, lettera d).

art. 5, par. 1, lett. e

Banche dati di riconoscimento facciale tramite scraping non mirato

Sono vietati i sistemi di IA che creano o ampliano banche dati di riconoscimento facciale mediante scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso (articolo 5, paragrafo 1, lettera e).

art. 5, par. 1, lett. h, art. 5, par. 2, art. 5, par. 3

Identificazione biometrica remota «in tempo reale»

L'uso di tali sistemi in spazi accessibili al pubblico a fini di attività di contrasto è vietato, salvo che e nella misura in cui sia strettamente necessario per: (i) la ricerca mirata di specifiche vittime di sottrazione, tratta di esseri umani o sfruttamento sessuale, nonché la ricerca di persone scomparse; (ii) la prevenzione di una minaccia specifica, sostanziale e imminente per la vita o l'incolumità fisica delle persone fisiche o di una minaccia reale e attuale o reale e prevedibile di un attacco terroristico; (iii) la localizzazione o l'identificazione di una persona sospettata di un reato di cui all'allegato II, punibile con una pena o una misura di sicurezza privative della libertà di durata massima di almeno quattro anni (articolo 5, paragrafo 1, lettera h). L'uso si limita a confermare l'identità della persona specificamente interessata ed è autorizzato solo se l'autorità ha effettuato una valutazione d'impatto sui diritti fondamentali a norma dell'articolo 27 e ha registrato il sistema a norma dell'articolo 49; in casi di urgenza debitamente giustificati, la registrazione può seguire senza indebito ritardo (articolo 5, paragrafo 2). Ogni uso richiede l'autorizzazione preventiva di un'autorità giudiziaria o di un'autorità amministrativa indipendente la cui decisione sia vincolante; in una situazione di urgenza debitamente giustificata, l'uso può iniziare e l'autorizzazione deve essere richiesta entro 24 ore; se è respinta, l'uso cessa e i dati sono cancellati (articolo 5, paragrafo 3). Ogni uso è notificato all'autorità di vigilanza del mercato e all'autorità nazionale per la protezione dei dati (articolo 5, paragrafo 4). Uno Stato membro può decidere se prevedere tale uso (articolo 5, paragrafo 5).

art. 5, par. 1, lett. g

Categorizzazione biometrica: un'esclusione per l'attività di contrasto

Il divieto dei sistemi di categorizzazione biometrica che deducono o inferiscono la razza, le opinioni politiche, l'appartenenza sindacale, le convinzioni religiose o filosofiche, la vita sessuale o l'orientamento sessuale non riguarda l'etichettatura o il filtraggio di insiemi di dati biometrici acquisiti legalmente, quali le immagini, sulla base di dati biometrici, né la categorizzazione di dati biometrici nel settore delle attività di contrasto (articolo 5, paragrafo 1, lettera g).

art. 5, par. 1

Il resto dell'articolo 5

L'articolo 5, paragrafo 1 vieta anche le tecniche subliminali o manipolative (lettera a), lo sfruttamento delle vulnerabilità (lettera b), determinati contenuti intimi o abusivi generati (lettere ba e bb), il punteggio sociale (lettera c) e la deduzione di emozioni nei luoghi di lavoro e negli istituti di istruzione, con un'eccezione per motivi medici o di sicurezza (lettera f). Non sono specifici delle forze dell'ordine; vedere la pagina sull'articolo 5.

art. 3, par. 46

Le forze dell'ordine nel regolamento

Il regolamento non prevede un regime settoriale generale per l'attività di contrasto; il punto 6 dell'allegato III è l'area ad alto rischio intitolata «Attività di contrasto». Il regolamento definisce l'attività di contrasto come le attività svolte dalle autorità di contrasto, o per loro conto, per la prevenzione, l'indagine, l'accertamento o il perseguimento di reati o l'esecuzione di sanzioni penali, incluse la salvaguardia contro le minacce alla sicurezza pubblica e la prevenzione delle stesse (articolo 3, paragrafo 46). Gli usi ad alto rischio sono elencati nell'allegato III: il punto 6 per l'attività di contrasto e il punto 1 per la biometria, ciascuno «nella misura in cui il loro uso è consentito dal pertinente diritto dell'Unione o nazionale».

All. III, 6

Allegato III, punto 6: le cinque voci

Ogni voce riguarda i sistemi utilizzati da autorità di contrasto o per loro conto, o da istituzioni, organi, uffici e agenzie dell'Unione a sostegno di tali autorità. (a) Valutare il rischio che una persona fisica diventi vittima di reati. (b) Poligrafi o strumenti analoghi. (c) Valutare l'affidabilità degli elementi probatori nel corso delle indagini o del perseguimento di reati. (d) Valutare il rischio che una persona fisica commetta un reato o reiteri il reato, non basandosi unicamente sulla profilazione (di cui all'articolo 3, paragrafo 4 della direttiva (UE) 2016/680), o valutare i tratti e le caratteristiche della personalità o il comportamento criminale pregresso di persone fisiche o gruppi. (e) Profilazione di persone fisiche (di cui all'articolo 3, paragrafo 4 della direttiva (UE) 2016/680) nel corso dell'accertamento, dell'indagine o del perseguimento di reati.

All. III, 1

Allegato III, punto 1: biometria

Il punto 1 comprende (a) i sistemi di identificazione biometrica remota, esclusi i sistemi di verifica biometrica il cui unico scopo è confermare che una determinata persona fisica è la persona che dichiara di essere; (b) i sistemi di categorizzazione biometrica in base ad attributi o caratteristiche sensibili o protetti, basata sulla deduzione di tali attributi o caratteristiche; (c) i sistemi di riconoscimento delle emozioni.

art. 5, par. 1, lett. d, art. 6, par. 3

Polizia predittiva e analisi della criminalità

Il regolamento non usa nessuno dei due termini, e il allegato III, punto 6 non contiene alcuna voce sull'analisi della criminalità. È vietato valutare o prevedere il rischio che una persona fisica commetta un reato sulla base unicamente della profilazione o della valutazione dei suoi tratti e delle sue caratteristiche della personalità (articolo 5, paragrafo 1, lettera d). Il divieto non si applica ai sistemi che supportano la valutazione umana del coinvolgimento di una persona in un'attività criminosa, già basata su fatti oggettivi e verificabili direttamente connessi a un'attività criminosa. Un sistema dell'allegato III che effettua la profilazione di persone fisiche è sempre considerato ad alto rischio (articolo 6, paragrafo 3). Se uno strumento che lavora su aree anziché su persone corrisponda a una voce dipende dalla sua finalità prevista.

All. III, 7, all. III, 8, lett. a

Voci vicine: punti 7 e 8, lettera a

Il punto 7 riguarda la gestione della migrazione, dell'asilo e del controllo delle frontiere: poligrafi e strumenti analoghi, valutazioni dei rischi posti da persone che entrano o sono entrate nel territorio di uno Stato membro, supporto all'esame delle domande di asilo, visto e permesso di soggiorno, e rilevamento, riconoscimento o identificazione di persone, escluso il controllo dei documenti di viaggio. Il punto 8, lettera a, riguarda i sistemi usati da un'autorità giudiziaria o per suo conto per assisterla nella ricerca e nell'interpretazione dei fatti e del diritto e nell'applicazione del diritto a una serie concreta di fatti, o usati in modo analogo nella risoluzione alternativa delle controversie.

art. 3, par. 3, art. 3, par. 4, art. 25, par. 1

Fornitore e deployer

Il fornitore è una persona fisica o giuridica, un'autorità pubblica, un'agenzia o un altro organismo che sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, paragrafo 3). Il deployer è una tale persona o un tale organismo che utilizza un sistema di IA sotto la propria autorità, tranne nell'ambito di un'attività personale non professionale (articolo 3, paragrafo 4). Un'autorità di polizia che acquista un sistema è deployer. Diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già sul mercato, ne apporta una modifica sostanziale che lo lascia ad alto rischio, o cambia la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

art. 16, art. 43, par. 1

Fornitori

I fornitori garantiscono che il sistema rispetti i requisiti della sezione 2, tra cui gli articoli da 9 a 15; dispongono di un sistema di gestione della qualità conforme all'articolo 17; garantiscono che la procedura di valutazione della conformità dell'articolo 43 sia svolta prima dell'immissione sul mercato o della messa in servizio; redigono una dichiarazione UE di conformità, appongono la marcatura CE e si registrano a norma dell'articolo 49, paragrafo 1 (articolo 16). Per i sistemi dell'allegato III, punto 1, il fornitore sceglie il controllo interno (allegato VI) o la procedura dell'allegato VII se sono state applicate norme armonizzate o specifiche comuni. Quando si applica la procedura dell'allegato VII e il sistema deve essere messo in servizio da autorità di contrasto, di immigrazione o di asilo o da istituzioni, organi e organismi dell'Unione, l'autorità di vigilanza del mercato di cui all'articolo 74, paragrafo 8 o 9 agisce come organismo notificato (articolo 43, paragrafo 1). I sistemi dei punti da 2 a 8 seguono il controllo interno (articolo 43, paragrafo 2).

art. 26, art. 49, par. 3

Deployer come le autorità di polizia

I deployer adottano misure adeguate per usare il sistema secondo le istruzioni per l'uso (articolo 26, paragrafo 1), affidano la sorveglianza a persone competenti, formate e dotate di autorità (articolo 26, paragrafo 2), conservano i log sotto il loro controllo (articolo 26, paragrafo 6) e informano le persone fisiche oggetto di decisioni; per l'uso a fini di attività di contrasto si applica l'articolo 13 della direttiva (UE) 2016/680 (articolo 26, paragrafo 11). I deployer che sono autorità pubbliche o istituzioni, organi, uffici e agenzie dell'Unione si registrano prima dell'uso e non devono usare un sistema non registrato (articolo 26, paragrafo 8); lo stesso vale per le persone che agiscono per loro conto (articolo 49, paragrafo 3). Per l'identificazione biometrica remota a posteriori nella ricerca mirata di una persona sospettata o condannata, chiedono l'autorizzazione ex ante, o senza indebito ritardo ed entro 48 ore al massimo, a un'autorità giudiziaria o amministrativa la cui decisione sia vincolante e soggetta a controllo giurisdizionale, salvo che per l'identificazione iniziale di un potenziale sospettato basata su fatti oggettivi e verificabili direttamente connessi al reato (articolo 26, paragrafo 10).

art. 27, par. 1, art. 27, par. 2

Valutazione d'impatto sui diritti fondamentali

Prima di utilizzare un sistema ad alto rischio di cui all'articolo 6, paragrafo 2, ad eccezione di quelli del punto 2 dell'allegato III, i deployer che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici, e i deployer di sistemi dei punti 5, lettere b e c, effettuano una valutazione dell'impatto sui diritti fondamentali (articolo 27, paragrafo 1). L'obbligo si applica al primo uso; il deployer può, in casi analoghi, basarsi su valutazioni precedenti (articolo 27, paragrafo 2).

art. 49, par. 4, art. 74, par. 8

Registrazione e vigilanza

I sistemi ad alto rischio dei punti 1, 6 e 7 dell'allegato III nei settori dell'attività di contrasto, della migrazione, dell'asilo e della gestione del controllo delle frontiere sono registrati in una sezione sicura non pubblica della banca dati dell'UE; solo la Commissione e le autorità nazionali di cui all'articolo 74, paragrafo 8 vi hanno accesso (articolo 49, paragrafo 4). Per i sistemi del punto 1 usati a fini di attività di contrasto, gestione delle frontiere e giustizia e democrazia, e per i punti 6, 7 e 8, gli Stati membri designano come autorità di vigilanza del mercato le autorità di controllo della protezione dei dati competenti ai sensi del regolamento (UE) 2016/679 (GDPR) o della direttiva (UE) 2016/680, o un'altra autorità designata alle stesse condizioni degli articoli da 41 a 44 della direttiva (UE) 2016/680 (articolo 74, paragrafo 8).

art. 46, par. 2, art. 46, par. 3

Uso urgente senza autorizzazione

In una situazione di urgenza debitamente giustificata per motivi eccezionali di pubblica sicurezza, o in caso di minaccia specifica, sostanziale e imminente per la vita o l'incolumità fisica delle persone fisiche, le autorità di contrasto o le autorità di protezione civile possono mettere in servizio uno specifico sistema ad alto rischio senza l'autorizzazione dell'autorità di vigilanza del mercato di cui all'articolo 46, paragrafo 1, purché tale autorizzazione sia richiesta durante o dopo l'uso senza indebito ritardo. Se è rifiutata, l'uso cessa con effetto immediato e tutti i risultati e gli output sono immediatamente scartati (articolo 46, paragrafo 2). L'autorità di vigilanza del mercato non è tenuta a informare la Commissione e gli altri Stati membri sui dati operativi sensibili relativi alle attività delle autorità di contrasto (articolo 46, paragrafo 3).

art. 113, lett. c i, art. 111, par. 2

Date

I requisiti per i sistemi ad alto rischio dell'allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c, punto i). Un sistema ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se da allora subisce modifiche significative della sua progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2). I divieti dell'articolo 5, paragrafo 1, lettere d, e, g e h, si applicano dal 2 febbraio 2025 (articolo 113, lettera a).

art. 2, par. 3, art. 2, par. 6, art. 2, par. 8

Limiti dell'ambito di applicazione

Il regolamento non si applica ai settori che non rientrano nell'ambito di applicazione del diritto dell'Unione, né ai sistemi di IA quando e nella misura in cui sono utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica alle autorità pubbliche di paesi terzi né alle organizzazioni internazionali che utilizzano sistemi di IA nell'ambito della cooperazione internazionale o di accordi di cooperazione di polizia e giudiziaria con l'Unione o con uno o più Stati membri, a condizione che tale paese terzo o organizzazione internazionale offra garanzie adeguate per la protezione dei diritti e delle libertà fondamentali (articolo 2, paragrafo 4). Non si applica ai sistemi o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6), né alle attività di ricerca, prova o sviluppo precedenti all'immissione sul mercato o alla messa in servizio di un sistema; le prove in condizioni reali non sono coperte da tale esclusione (articolo 2, paragrafo 8). Non si applica ai sistemi di IA rilasciati con licenza libera e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o come sistema di IA che rientra nell'articolo 5 o nell'articolo 50 (articolo 2, paragrafo 12).

art. 99, art. 100

Sanzioni

Violazione di un divieto dell'articolo 5: fino a 35 milioni di EUR o, se l'autore è un'impresa, fino al 7 % del fatturato mondiale totale annuo dell'esercizio precedente, se superiore (articolo 99, paragrafo 3). Violazione degli obblighi dei fornitori dell'articolo 16, dei deployer dell'articolo 26 o di trasparenza dell'articolo 50: fino a 15 milioni di EUR o, per un’impresa, al 3 %, se superiore (articolo 99, paragrafo 4). Informazioni inesatte, incomplete o fuorvianti fornite in risposta a una richiesta a organismi notificati o ad autorità nazionali competenti: fino a 7,5 milioni di EUR o all'1 %, se superiore (articolo 99, paragrafo 5). Per le PMI, comprese le start-up, ciascuna sanzione arriva al massimo a tali percentuali o a tale importo, se inferiore (articolo 99, paragrafo 6); per le piccole imprese a media capitalizzazione ciò vale per le sanzioni dei paragrafi 4 e 5 (articolo 99, paragrafo 6a). Ogni Stato membro stabilisce in quale misura possono essere imposte sanzioni alle autorità pubbliche (articolo 99, paragrafo 8). Il Garante europeo della protezione dei dati può imporre alle istituzioni, agli organi e agli organismi dell'Unione sanzioni fino a 1,5 milioni di EUR per la violazione dell'articolo 5 e fino a 750 000 EUR per gli altri requisiti (articolo 100).

All. III, 6, lett. b

Esempio: uno strumento di tipo poligrafo

Esempio: uno strumento che le autorità di polizia usano come poligrafo o strumento analogo negli interrogatori rientra nel allegato III, punto 6, lettera b.

All. III, 6, lett. c

Esempio: uno strumento di valutazione dell'affidabilità degli elementi probatori

Esempio: un sistema che la polizia usa per valutare l'affidabilità degli elementi probatori in un'indagine rientra nel allegato III, punto 6, lettera c.

All. III, 6, lett. d

Esempio: uno strumento per il rischio di recidiva

Esempio: uno strumento che valuta il rischio di recidiva senza basarsi unicamente sulla profilazione rientra nel allegato III, punto 6, lettera d; quello che si basa unicamente sulla profilazione o sui tratti della personalità ricade nel divieto dell'articolo 5, paragrafo 1, lettera d, a meno che si limiti a supportare una valutazione umana basata su fatti oggettivi e verificabili direttamente connessi a un'attività criminosa.