Articolo 12, registrazioni per l'IA delle forze dell'ordine: regolamento IA

art. 12, par. 1, art. 12, par. 2

I log e la loro finalità

I sistemi ad alto rischio devono consentire tecnicamente la registrazione automatica degli eventi (log) per tutta la durata di vita del sistema (articolo 12, paragrafo 1). Le capacità di registrazione devono consentire di registrare eventi pertinenti per: (a) individuare situazioni che possono far sì che il sistema presenti un rischio ai sensi dell'articolo 79, paragrafo 1 o dare luogo a una modifica sostanziale; (b) agevolare il monitoraggio successivo all'immissione sul mercato di cui all'articolo 72; (c) monitorare il funzionamento del sistema di cui all'articolo 26, paragrafo 5 (articolo 12, paragrafo 2). Il livello di tracciabilità deve essere adeguato alla finalità prevista.

art. 12, par. 3

Log minimi per l'identificazione biometrica remota

Per i sistemi di cui all'allegato III, punto 1, lettera a, le capacità di registrazione forniscono almeno: (a) il periodo di ciascun uso, con data e ora di inizio e di fine; (b) la banca dati di riferimento con cui il sistema ha confrontato i dati di input; (c) i dati di input per i quali la ricerca ha prodotto una corrispondenza; (d) l'identificazione delle persone fisiche coinvolte nella verifica dei risultati, di cui all'articolo 14, paragrafo 5 (articolo 12, paragrafo 3).

art. 19, par. 1, art. 21, par. 2

Fornitori: conservazione e accesso

I fornitori conservano i log generati automaticamente dai loro sistemi ad alto rischio, nella misura in cui siano sotto il loro controllo, per un periodo adeguato alla finalità prevista di almeno sei mesi, salvo diversa disposizione del diritto dell'Unione o nazionale applicabile, in particolare del diritto dell'Unione in materia di protezione dei dati personali (articolo 19, paragrafo 1). Su richiesta motivata di un'autorità competente, danno a quest'ultima accesso a tali log, a seconda dei casi (articolo 21, paragrafo 2).

art. 3, par. 46

Le forze dell'ordine nel regolamento

Il regolamento non prevede un regime settoriale generale per l'attività di contrasto; il punto 6 dell'allegato III è l'area ad alto rischio intitolata «Attività di contrasto». Il regolamento definisce l'attività di contrasto come le attività svolte dalle autorità di contrasto, o per loro conto, per la prevenzione, l'indagine, l'accertamento o il perseguimento di reati o l'esecuzione di sanzioni penali, incluse la salvaguardia contro le minacce alla sicurezza pubblica e la prevenzione delle stesse (articolo 3, paragrafo 46). Gli usi ad alto rischio sono elencati nell'allegato III: il punto 6 per l'attività di contrasto e il punto 1 per la biometria, ciascuno «nella misura in cui il loro uso è consentito dal pertinente diritto dell'Unione o nazionale».

art. 26, par. 6

Autorità di polizia come deployer: conservazione

Un deployer, come un'autorità di polizia, conserva i log generati automaticamente dal sistema, nella misura in cui siano sotto il suo controllo, per un periodo adeguato alla finalità prevista di almeno sei mesi, salvo diversa disposizione del diritto dell'Unione o nazionale, in particolare del diritto dell'Unione in materia di protezione dei dati personali (articolo 26, paragrafo 6).

art. 26, par. 10

Identificazione biometrica remota a posteriori: fascicolo di polizia e relazioni

A prescindere dalla finalità o dal deployer, ogni uso di un sistema ad alto rischio di identificazione biometrica remota a posteriori deve essere documentato nel pertinente fascicolo di polizia. Deve essere messo a disposizione dell'autorità di vigilanza del mercato e dell'autorità nazionale per la protezione dei dati su richiesta, escludendo la divulgazione di dati operativi sensibili relativi alle attività di contrasto. I deployer presentano inoltre a tali autorità relazioni annuali sul loro uso; le relazioni possono essere aggregate per coprire più di un impiego (articolo 26, paragrafo 10).

art. 26, par. 5, art. 72, par. 2

Dati operativi sensibili

L'obbligo di monitoraggio e informazione dell'articolo 26, paragrafo 5 non riguarda i dati operativi sensibili dei deployer che sono autorità di contrasto. La stessa esclusione si applica al monitoraggio successivo all'immissione sul mercato da parte del fornitore (articolo 72, paragrafo 2).

art. 12

Catena di custodia e ammissibilità

Il regolamento non contiene alcuna regola sulla catena di custodia né sull'ammissibilità dei log come prova. Non disciplina tali questioni.

art. 3, par. 3, art. 3, par. 4, art. 25, par. 1

Fornitore e deployer

Il fornitore è una persona fisica o giuridica, un'autorità pubblica, un'agenzia o un altro organismo che sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, paragrafo 3). Il deployer è una tale persona o un tale organismo che utilizza un sistema di IA sotto la propria autorità, tranne nell'ambito di un'attività personale non professionale (articolo 3, paragrafo 4). Un'autorità di polizia che acquista un sistema è deployer. Diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già sul mercato, ne apporta una modifica sostanziale che lo lascia ad alto rischio, o cambia la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

art. 113, lett. c i, art. 111, par. 2

Date

I requisiti per i sistemi ad alto rischio dell'allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c, punto i). Un sistema ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se da allora subisce modifiche significative della sua progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2). I divieti dell'articolo 5, paragrafo 1, lettere d, e, g e h, si applicano dal 2 febbraio 2025 (articolo 113, lettera a).

art. 2, par. 3, art. 2, par. 6, art. 2, par. 8

Limiti dell'ambito di applicazione

Il regolamento non si applica ai settori che non rientrano nell'ambito di applicazione del diritto dell'Unione, né ai sistemi di IA quando e nella misura in cui sono utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica alle autorità pubbliche di paesi terzi né alle organizzazioni internazionali che utilizzano sistemi di IA nell'ambito della cooperazione internazionale o di accordi di cooperazione di polizia e giudiziaria con l'Unione o con uno o più Stati membri, a condizione che tale paese terzo o organizzazione internazionale offra garanzie adeguate per la protezione dei diritti e delle libertà fondamentali (articolo 2, paragrafo 4). Non si applica ai sistemi o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6), né alle attività di ricerca, prova o sviluppo precedenti all'immissione sul mercato o alla messa in servizio di un sistema; le prove in condizioni reali non sono coperte da tale esclusione (articolo 2, paragrafo 8). Non si applica ai sistemi di IA rilasciati con licenza libera e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o come sistema di IA che rientra nell'articolo 5 o nell'articolo 50 (articolo 2, paragrafo 12).

art. 99, par. 4, lett. a, art. 99, par. 8

Sanzioni per i fornitori

Un fornitore che viola gli obblighi dell'articolo 16, tra cui quello di garantire che il sistema rispetti i requisiti della sezione 2 (articolo 16, lettera a), è esposto a una sanzione amministrativa pecuniaria fino a 15 milioni di EUR o, se l'autore della violazione è un'impresa, fino al 3 % del fatturato mondiale totale annuo dell'esercizio precedente, se superiore (articolo 99, paragrafo 4, lettera a). Per le PMI, comprese le start-up, ciascuna sanzione arriva al massimo a tali percentuali o a tale importo, se inferiore (articolo 99, paragrafo 6); lo stesso vale per le piccole imprese a media capitalizzazione (articolo 99, paragrafo 6a; articolo 3, paragrafo 14b). Ogni Stato membro stabilisce in quale misura possono essere imposte sanzioni alle autorità e agli organismi pubblici istituiti nel suo territorio (articolo 99, paragrafo 8).

art. 12, par. 3

Esempio: uno strumento di ricerca facciale

Esempio: uno strumento di ricerca facciale rientrante nell'allegato III, punto 1, lettera a registra per ogni interrogazione l'ora di inizio e di fine, la banca dati di riferimento consultata, i dati di input che hanno prodotto una corrispondenza e la persona che ha verificato il risultato. Sono i quattro elementi dell'articolo 12, paragrafo 3.

art. 12, par. 1

Una scelta di progettazione, non un requisito del regolamento

Una scelta di progettazione comune, non un requisito del regolamento: scrivere i log in uno spazio di archiviazione che gli operatori del sistema non possono modificare, così da potersi fidare in seguito delle registrazioni.