Articolo 17 per le attività di contrasto: sistema di gestione della qualità

Il regolamento non prevede un regime settoriale generale per l'attività di contrasto; il punto 6 dell'allegato III è l'area ad alto rischio intitolata «Attività di contrasto». Le definisce come le attività svolte dalle autorità di contrasto, o per loro conto, a fini di prevenzione, indagine, accertamento o perseguimento di reati o esecuzione di sanzioni penali, incluse la salvaguardia contro le minacce alla sicurezza pubblica e la prevenzione delle stesse (art. 3, punto 46). Un’autorità di contrasto è un’autorità pubblica competente per tali compiti o un altro organismo incaricato dal diritto di uno Stato membro di esercitare l’autorità pubblica a tali fini (art. 3, punto 45).

L’allegato III, punto 6 classifica come ad alto rischio cinque usi da parte delle autorità di contrasto o per loro conto, o da parte di istituzioni, organi, uffici o agenzie dell’Unione a sostegno di tali autorità, nella misura in cui il loro uso è consentito dal pertinente diritto dell’Unione o nazionale: valutare il rischio che una persona diventi vittima di reati (a); poligrafi e strumenti analoghi (b); valutare l’affidabilità delle prove (c); valutare il rischio che una persona commetta o reiteri un reato, non basandosi unicamente sulla profilazione, o valutare tratti e caratteristiche della personalità o comportamenti criminali pregressi (d); e la profilazione nel corso dell’accertamento, dell’indagine o del perseguimento di reati (e). Il regolamento non contiene una voce per l’analisi criminale o la polizia predittiva in quanto tali.

Il lavoro di polizia può rientrare anche nell’allegato III, punto 1 (identificazione biometrica remota, categorizzazione biometrica in base ad attributi sensibili o protetti, riconoscimento delle emozioni) e nell’allegato III, punto 7 (migrazione, asilo e gestione del controllo delle frontiere). Entrambi i punti pongono la stessa condizione: il loro uso deve essere consentito dal pertinente diritto dell’Unione o nazionale. L’allegato III, punto 8, lett. a) riguarda i sistemi utilizzati da un’autorità giudiziaria o per suo conto.

Il regolamento non si applica ai sistemi di IA usati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (art. 2, par. 3). Alcuni usi delle attività di contrasto sono vietati, e non ad alto rischio, dal 2 febbraio 2025 (art. 113, lett. a)): una valutazione del rischio che una persona commetta un reato basata esclusivamente sulla profilazione o sui tratti della personalità, a meno che non sostenga soltanto una valutazione umana già basata su fatti oggettivi e verificabili direttamente connessi a un’attività criminosa (art. 5, par. 1, lett. d)); le banche dati di riconoscimento facciale create tramite scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso (art. 5, par. 1, lett. e)); e l’identificazione biometrica remota «in tempo reale» in spazi accessibili al pubblico, a meno che non sia strettamente necessaria per uno degli obiettivi elencati all’art. 5, par. 1, lett. h) e nel rispetto dell’art. 5, parr. 2-7. Il regolamento non si applica nemmeno ai settori che non rientrano nell’ambito di applicazione del diritto dell’Unione (art. 2, par. 3); alle autorità pubbliche di paesi terzi e alle organizzazioni internazionali che usano sistemi di IA nell’ambito della cooperazione internazionale o di accordi di cooperazione delle attività di contrasto e giudiziaria con l’Unione o con uno o più Stati membri, purché siano offerte garanzie adeguate per la tutela dei diritti e delle libertà fondamentali (art. 2, par. 4); né ai sistemi di IA rilasciati con licenza libera e open source, a meno che non siano immessi sul mercato o messi in servizio come sistemi ad alto rischio o rientrino nell’articolo 5 o 50 (art. 2, par. 12). Le persone fisiche che usano un sistema nel corso di un’attività puramente personale e non professionale sono escluse dagli obblighi dei deployer (art. 2, par. 10).

L’articolo 17 non contiene alcuna regola specifica per le attività di contrasto. I fornitori di sistemi ad alto rischio devono predisporre un sistema di gestione della qualità. È documentato in modo sistematico e ordinato sotto forma di politiche, procedure e istruzioni scritte (art. 17, par. 1).

Il regolamento elenca 13 aspetti, le lettere da a) a m), che il sistema comprende almeno: una strategia per la conformità normativa, comprese le procedure di valutazione della conformità e di gestione delle modifiche; procedure di progettazione, sviluppo, controllo della qualità, esame, prova e convalida; specifiche tecniche, comprese le norme; la gestione dei dati; il sistema di gestione dei rischi di cui all’articolo 9; il monitoraggio successivo all’immissione sul mercato di cui all’articolo 72; la segnalazione degli incidenti gravi di cui all’articolo 73; la comunicazione con autorità, organismi notificati, altri operatori e clienti; la tenuta dei registri; la gestione delle risorse, compresa la sicurezza dell’approvvigionamento; e un quadro di responsabilità (art. 17, par. 1).

L’attuazione è proporzionata alle dimensioni dell’organizzazione del fornitore, in particolare se è una PMI, comprese le start-up, o una piccola impresa a media capitalizzazione (art. 3, punto 14b). I fornitori devono comunque rispettare il grado di rigore e il livello di protezione necessari affinché i loro sistemi ad alto rischio siano conformi al regolamento (art. 17, par. 2).

L’art. 16, par. c pone il sistema di gestione della qualità a carico dei fornitori. Un deployer di polizia non ha alcun obbligo ai sensi dell’articolo 17. Un’autorità di contrasto che fa sviluppare un sistema e lo mette in servizio con il proprio nome è un fornitore (art. 3, punto 3). Lo è anche un deployer considerato fornitore ai sensi dell’art. 25, par. 1.

Il sistema di gestione della qualità comprende un sistema di monitoraggio successivo all’immissione sul mercato (art. 17, par. 1, lett. h)). Tale sistema raccoglie dati sulle prestazioni dei sistemi ad alto rischio durante tutta la loro vita, ma l’obbligo non riguarda i dati operativi sensibili dei deployer che sono autorità di contrasto (art. 72, par. 2).

Per i punti da 2 a 8 dell’allegato III, compreso il punto 6, il fornitore applica il controllo interno di cui all’allegato VI, nel quale verifica che il proprio sistema di gestione della qualità sia conforme all’articolo 17 (art. 43, par. 2, allegato VI, punto 2). Per il punto 1, il controllo interno è possibile solo se sono state applicate norme armonizzate o specifiche comuni; altrimenti si applica l’allegato VII, che comprende l’esame del sistema di gestione della qualità (art. 43, par. 1). Ai sensi dell’allegato VII, quando il sistema è destinato a essere messo in servizio da autorità di contrasto, di immigrazione o di asilo, o da istituzioni, organi, uffici o agenzie dell’Unione, l’autorità di vigilanza del mercato di cui all’art. 74, par. 8 o al art. 74, par. 9 funge da organismo notificato. In deroga all’articolo 43, un’autorità di vigilanza del mercato può autorizzare specifici sistemi di IA ad alto rischio per motivi eccezionali, tra cui la sicurezza pubblica (art. 46, par. 1); le autorità di contrasto dispongono di una via d’urgenza all’art. 46, par. 2.

Il capo III, sezioni da 1 a 3, si applica ai sistemi di IA classificati ad alto rischio a norma dell’articolo 6, paragrafo 2, e dell’allegato III a decorrere dal 2 dicembre 2027 (art. 113, lett. c), punto i)). I sistemi ad alto rischio immessi sul mercato o messi in servizio prima di tale data sono coperti solo se, da tale data, subiscono modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (art. 111, par. 2). I sistemi di IA che sono componenti dei sistemi IT su larga scala istituiti dagli atti giuridici elencati nell’allegato X, e che sono stati immessi sul mercato o messi in servizio prima del 2 agosto 2027, devono essere resi conformi entro il 31 dicembre 2030 (art. 111, par. 1).

I fornitori devono avere un sistema di gestione della qualità (art. 16, par. c) e l’art. 99, par. 4, lett. a) riguarda gli obblighi dei fornitori a norma dell’articolo 16. Le sanzioni di cui all’art. 99, par. 4 arrivano fino a 15 milioni di EUR o, se l’autore del reato è un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore. Per le PMI, comprese le start-up (art. 99, par. 6), e le piccole imprese a media capitalizzazione (art. 3, punto 14b, art. 99, par. 6a), ogni sanzione arriva fino all’importo inferiore tra i due.

Ogni Stato membro stabilisce le norme sulla misura in cui possono essere imposte sanzioni amministrative pecuniarie alle autorità e agli organismi pubblici stabiliti in tale Stato membro (art. 99, par. 8). Alle istituzioni, agli organi e agli organismi dell’Unione il Garante europeo della protezione dei dati può imporre sanzioni fino a 750 000 EUR per violazioni diverse da quelle di cui all’art. 5 (art. 100, par. 3).