Articolo 15 per la biometria: accuratezza, robustezza e cibersicurezza

L’articolo 15 fissa requisiti di progettazione per il fornitore. Non indica alcun valore di accuratezza per alcun settore.

• art. 15(1)
  Livello adeguato, per tutto il ciclo di vita

  I sistemi di IA ad alto rischio devono essere progettati e sviluppati in modo da raggiungere un adeguato livello di accuratezza, robustezza e cibersicurezza e da funzionare in modo coerente in tal senso per tutto il loro ciclo di vita.

• art. 15(2)
  I parametri di riferimento li promuove la Commissione

  La Commissione promuove, se del caso, lo sviluppo di parametri di riferimento e di metodologie di misurazione, in cooperazione con portatori di interessi quali le autorità di metrologia e di analisi comparativa. Non è un obbligo del fornitore.

• art. 15(3)
  Dichiarare livelli e metriche

  I livelli di accuratezza e le metriche di accuratezza pertinenti devono essere dichiarati nelle istruzioni per l’uso che accompagnano il sistema.

• art. 15(4)
  Resilienza agli errori e circuiti di feedback

  I sistemi devono essere il più resilienti possibile rispetto a errori, guasti o incongruenze che possono verificarsi nel sistema o nell’ambiente in cui opera, in particolare a causa dell’interazione con persone fisiche o altri sistemi. Devono essere adottate misure tecniche e organizzative; ridondanza tecnica, piani di backup o di sicurezza intrinseca sono citati come opzioni. Un sistema che continua ad apprendere dopo l’immissione sul mercato deve essere sviluppato in modo da eliminare o ridurre il più possibile il rischio che output distorti influenzino input futuri (circuiti di feedback).

• art. 15(5)
  Cibersicurezza contro terzi non autorizzati

  I sistemi devono essere resilienti ai tentativi di terzi non autorizzati di alterarne l’uso, gli output o le prestazioni sfruttando le vulnerabilità. Le soluzioni tecniche comprendono, se del caso, misure contro l’avvelenamento dei dati, l’avvelenamento del modello, gli esempi avversari o l’elusione del modello, gli attacchi alla riservatezza e le carenze del modello.

L’articolo 15 vincola solo i fornitori di sistemi di IA ad alto rischio. Le righe seguenti mostrano dove l’IA biometrica diventa ad alto rischio.

• La biometria è un settore limitato dell’allegato III

  L’allegato III ha un settore intitolato «Biometria», limitato alle lettere da a) a c) e agli usi consentiti dal pertinente diritto dell’Unione o nazionale (allegato III, punto 1). Il regolamento non ha un regime della biometria più ampio. Questo sito considera biometria anche i divieti dell’articolo 5, paragrafo 1, lettere da e) a h).

• Allegato III, punto 1: biometria

  L’allegato III, punto 1, elenca tre tipi di sistemi di IA, nella misura in cui il loro uso è consentito dal pertinente diritto dell’Unione o nazionale: a) i sistemi di identificazione biometrica remota, il che non include i sistemi di IA destinati a essere utilizzati per la verifica biometrica la cui unica finalità è confermare che una determinata persona fisica è la persona che dichiara di essere; b) i sistemi di IA destinati a essere utilizzati per la categorizzazione biometrica in base ad attributi o caratteristiche sensibili o protetti ovvero sulla base di quanto inferito in merito a tali attributi o caratteristiche; c) i sistemi di IA destinati a essere utilizzati per il riconoscimento delle emozioni. I sistemi di verifica biometrica descritti alla lettera a) non sono elencati al punto 1. Gli altri sistemi dell’allegato III non sono ad alto rischio quando si applica l’articolo 6, paragrafo 3; rivolgetevi a un legale per sapere come si combinano le sue condizioni. Un sistema che effettua la profilazione di persone fisiche è sempre ad alto rischio. Il fornitore che ritiene un sistema dell’allegato III non ad alto rischio deve documentare la valutazione prima che il sistema sia immesso sul mercato o messo in servizio e registrarlo ai sensi dell’articolo 49, paragrafo 2 (articolo 6, paragrafo 4).

• La verifica non è identificazione remota

  La verifica biometrica è la verifica automatizzata, uno-a-uno, compresa l’autenticazione, dell’identità delle persone fisiche mediante il confronto dei loro dati biometrici con dati biometrici forniti in precedenza (articolo 3, punto 36). Un sistema di identificazione biometrica remota identifica persone fisiche, senza il loro coinvolgimento attivo, in genere a distanza, confrontando i loro dati biometrici con quelli contenuti in una banca dati di riferimento (articolo 3, punto 41). Il regolamento non elenca tipi di prodotto; classificate ogni sistema in base a queste definizioni e alla sua finalità prevista (articolo 3, punto 12).

• Regole aggiuntive per il fornitore sull’identificazione remota

  Due delle regole del fornitore specifiche per i sistemi dell’allegato III, punto 1, lettera a), sono queste. Le capacità di registrazione devono fornire come minimo il periodo di ciascun uso, la banca dati di riferimento con cui sono stati confrontati i dati di input, i dati di input per i quali la ricerca ha prodotto una corrispondenza e l’identificazione delle persone fisiche che hanno partecipato alla verifica dei risultati (articolo 12, paragrafo 3). Le misure di sorveglianza umana devono inoltre garantire che non sia intrapresa alcuna azione o decisione sulla base dell’identificazione, a meno che questa non sia stata verificata e confermata separatamente da almeno due persone fisiche dotate della competenza, della formazione e dell’autorità necessarie; ciò non si applica ai sistemi utilizzati a fini di contrasto, migrazione, controllo delle frontiere o asilo quando il diritto dell’Unione o nazionale ritiene sproporzionata l’applicazione di tale requisito (articolo 14, paragrafo 5).

• Fornitore e deployer

  Il fornitore, per esempio un produttore di software di riconoscimento facciale, sviluppa il sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome (articolo 3, punto 3). Un’impresa, un’autorità pubblica o un altro organismo che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, ne apporta una modifica sostanziale che lo lascia ad alto rischio, o modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1); nel primo caso, accordi contrattuali possono ripartire diversamente gli obblighi. Il regolamento non si applica agli obblighi dei deployer che sono persone fisiche che usano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10).

• Date

  I sistemi dell’allegato III, punto 1, devono rispettare questi obblighi dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se dopo subisce modifiche significative della progettazione; in ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2); ciò non vale per i componenti dell’allegato X indicati di seguito. I sistemi di IA che sono componenti dei sistemi IT su larga scala elencati nell’allegato X e che sono stati immessi sul mercato o messi in servizio prima del 2 agosto 2027 devono essere resi conformi entro il 31 dicembre 2030 (articolo 111, paragrafo 1). I divieti dell’articolo 5, paragrafo 1, lettere da e) a h), si applicano dal 2 febbraio 2025; l’eccezione dell’articolo 113, lettera a), non li riguarda. Gli articoli 43 e 49 si trovano nel capo III, sezione 5, che l’articolo 113 non nomina in nessuna delle sue lettere. L’articolo 113 non indica una data propria per essi; rivolgetevi a un legale per sapere da quando vincolano i fornitori di sistemi dell’allegato III.

• Sanzioni

  La violazione degli obblighi dei fornitori (articolo 16) e dei deployer (articolo 26) può essere punita con sanzioni amministrative pecuniarie fino a 15 milioni di EUR o, se l’autore della violazione è un’impresa, fino al 3 % del suo fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso (articolo 99, paragrafo 6); lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ogni Stato membro decide in che misura possono essere inflitte sanzioni alle autorità pubbliche e agli organismi pubblici stabiliti nel proprio territorio (articolo 99, paragrafo 8).

• Limiti dell’ambito di applicazione

  Il regolamento non si applica ai settori che non rientrano nell’ambito di applicazione del diritto dell’Unione (articolo 2, paragrafo 3, prima frase). Non si applica ai sistemi di IA nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati, con o senza modifiche, esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3, seconda frase). Non si applica alle autorità pubbliche di un paese terzo né alle organizzazioni internazionali che utilizzano sistemi di IA nell’ambito della cooperazione internazionale o di accordi di contrasto e di cooperazione giudiziaria con l’Unione o con uno o più Stati membri, a condizione che offrano garanzie adeguate per la protezione dei diritti e delle libertà fondamentali (articolo 2, paragrafo 4). Non si applica ai sistemi o modelli di IA, compresi i loro output, sviluppati e messi in servizio specificamente e unicamente a fini di ricerca e sviluppo scientifico (articolo 2, paragrafo 6), né alle attività di ricerca, prova e sviluppo prima che un sistema sia immesso sul mercato o messo in servizio; le prove in condizioni reali non sono coperte da tale esclusione (articolo 2, paragrafo 8). Non si applica ai sistemi di IA rilasciati con licenza libera e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o rientrino negli articoli 5 o 50 (articolo 2, paragrafo 12).

• Nessun valore di accuratezza né metodo di prova per la biometria

  L’articolo 15 non indica alcuna metrica di accuratezza, valore minimo, metodo di prova o norma per i sistemi biometrici né per alcun altro settore. Il fornitore dichiara i livelli e le metriche pertinenti (articolo 15, paragrafo 3). La documentazione tecnica deve inoltre descrivere le metriche usate per misurare accuratezza, robustezza e conformità, nonché gli impatti potenzialmente discriminatori (allegato IV, punto 2, lettera g)).

• Presunzioni di conformità

  Il regolamento non nomina da sé alcuna norma. I sistemi conformi a norme armonizzate i cui riferimenti sono pubblicati nella Gazzetta ufficiale sono presunti conformi ai requisiti della sezione 2, nella misura in cui tali norme li coprono (articolo 40, paragrafo 1). Un certificato di cibersicurezza o una dichiarazione di conformità ai sensi del regolamento (UE) 2019/881, pubblicati nella Gazzetta ufficiale, danno una presunzione per i requisiti di cibersicurezza dell’articolo 15 (articolo 42, paragrafo 2); i sistemi rientranti nel regolamento (UE) 2024/2847 che soddisfano le condizioni del suo articolo 12, paragrafo 1, sono considerati conformi a tali requisiti (articolo 42, paragrafo 3). La Commissione elabora orientamenti sull’applicazione dei requisiti e degli obblighi di cui agli articoli da 8 a 15 e agli articoli 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: indicare come è stata misurata l’accuratezza

  Esempio, non un requisito del regolamento: il fornitore di un sistema di identificazione biometrica remota potrebbe indicare, accanto a ciascuna metrica di accuratezza dichiarata, i dati e le condizioni di prova con cui è stata misurata. L’articolo 15, paragrafo 3, richiede solo i livelli e le metriche di accuratezza pertinenti.

• Articolo 15 regolamento IA: accuratezza, robustezza e cibersicurezza

  L’articolo 15 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA biometria: guida alla conformità

  Il quadro d’insieme sulla biometria: come il regolamento raggiunge l’identificazione biometrica remota, la categorizzazione biometrica e il riconoscimento delle emozioni.

• Articolo 17 per la biometria: sistema di gestione della qualità

  IA biometrica e articolo 17: sistema di gestione della qualità, valutazione della conformità, date e ruoli.

• Allegato III in dettaglio: le 8 categorie ad alto rischio

  Come l’allegato III rende ad alto rischio i sistemi di IA, compresa la biometria.