Articolo 13 per l’IA biometrica: trasparenza e istruzioni per l’uso

L’articolo 13 riguarda le informazioni che un fornitore dà ai deployer. Non è un obbligo di informazione verso le persone riprese da un sistema.

• art. 13(1)
  Sufficientemente trasparente per interpretare l’output

  I sistemi di IA ad alto rischio sono progettati e sviluppati in modo tale da garantire che il loro funzionamento sia sufficientemente trasparente da consentire ai deployer di interpretare l’output del sistema e utilizzarlo adeguatamente. Sono garantiti un tipo e un livello di trasparenza adeguati, che consentano di conseguire il rispetto dei pertinenti obblighi del fornitore e del deployer di cui alla sezione 3.

• art. 13(2)
  Istruzioni per l’uso in un formato appropriato

  I sistemi di IA ad alto rischio sono accompagnati da istruzioni per l’uso, in un formato appropriato digitale o non digitale. Contengono informazioni concise, complete, corrette e chiare che siano pertinenti, accessibili e comprensibili per i deployer.

• art. 13(3)(a)–(b)
  Identità del fornitore, capacità e limiti

  Le istruzioni per l’uso devono contenere almeno l’identità e i dati di contatto del fornitore e, se del caso, del suo rappresentante autorizzato. Devono descrivere le caratteristiche, le capacità e i limiti di prestazione del sistema, compresi i seguenti elementi. La finalità prevista. Il livello di accuratezza, comprese le metriche, di robustezza e di cibersicurezza rispetto al quale il sistema è stato sottoposto a prova e convalidato e che ci si può attendere, nonché qualsiasi circostanza nota e prevedibile che possa incidere su tale livello. Qualsiasi circostanza nota o prevedibile che possa comportare rischi per la salute e la sicurezza o per i diritti fondamentali. Se del caso, le capacità e le caratteristiche tecniche del sistema di fornire informazioni pertinenti per spiegare il suo output. Se opportuno, le sue prestazioni per quanto riguarda specifiche persone o gruppi di persone sui quali il sistema è destinato a essere usato. Se opportuno, le specifiche per i dati di input o qualsiasi altra informazione pertinente sui set di dati di addestramento, convalida e prova utilizzati. Se del caso, le informazioni per consentire ai deployer di interpretare l’output del sistema e utilizzarlo adeguatamente.

• art. 13(3)(c)–(f)
  Modifiche, sorveglianza umana, risorse e log

  Le istruzioni per l’uso devono contenere anche quanto segue. Le modifiche apportate al sistema e alle sue prestazioni che sono state predeterminate dal fornitore al momento della valutazione iniziale della conformità, se presenti. Le misure di sorveglianza umana di cui all’articolo 14, comprese le misure tecniche poste in essere per facilitare l’interpretazione degli output da parte dei deployer. Le risorse computazionali e hardware necessarie, la durata prevista del sistema e le misure di manutenzione e cura necessarie, compresa la loro frequenza, per garantire il corretto funzionamento del sistema, anche per quanto riguarda gli aggiornamenti software. Se del caso, una descrizione dei meccanismi inclusi nel sistema che consentono ai deployer di raccogliere, conservare e interpretare correttamente i log in conformità dell’articolo 12.

L’articolo 13 vincola solo i sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA biometrica è ad alto rischio, chi è vincolato e dove si trovano gli obblighi verso le persone interessate.

• L’allegato III contiene un ambito «Biometria», limitato a tre tipi di sistemi

  L’allegato III contiene un ambito «Biometria», nella misura in cui il pertinente diritto dell’Unione o nazionale ne permette l’uso. L’ambito si limita al punto 1, lettere da a) a c); il regolamento non ha un regime più ampio per la biometria. La parola «biometria» di questo sito indica questi sistemi. La lettera a) del punto 1 riguarda i sistemi di identificazione biometrica remota. Non vi rientrano i sistemi di IA destinati a essere utilizzati per la verifica biometrica la cui unica finalità è confermare che una determinata persona fisica è la persona che dice di essere. La lettera b) riguarda i sistemi di IA destinati a essere utilizzati per la categorizzazione biometrica in base ad attributi o caratteristiche sensibili o protetti basati sulla deduzione di tali attributi o caratteristiche. La lettera c) riguarda i sistemi di IA destinati a essere utilizzati per il riconoscimento delle emozioni. Un sistema di identificazione biometrica remota identifica persone fisiche senza il loro coinvolgimento attivo, in genere a distanza, confrontando i dati biometrici di una persona con quelli contenuti in una banca dati di riferimento (articolo 3, punto 41). La verifica biometrica è la verifica automatizzata «uno a uno», compresa l’autenticazione, dell’identità di persone fisiche mediante il confronto dei loro dati biometrici con dati biometrici forniti in precedenza (articolo 3, punto 36). Un sistema biometrico non elencato al punto 1 è ad alto rischio solo se lo contempla un altro punto dell’allegato III o l’allegato I.

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nell’allegato III, punto 1, è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. Ai sensi dell’articolo 6, paragrafo 3 non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Il regolamento applica questa deroga quando è soddisfatta almeno una delle condizioni seguenti (articolo 6, paragrafo 3, lettere da a) a d)). Il sistema è destinato a eseguire un compito procedurale limitato. Oppure è destinato a migliorare il risultato di un’attività umana precedentemente completata. Oppure è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana. Oppure è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Come queste condizioni si combinino con la verifica del rischio significativo è una questione per un giurista. Il sistema è sempre ad alto rischio se effettua profilazione di persone fisiche. La profilazione è definita dall’articolo 4, punto 4, del GDPR (articolo 3, punto 52). Stabilire se un dato sistema biometrico la effettui è anch’essa una questione per un giurista. Il fornitore che si avvale dell’eccezione documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio. Deve inoltre registrare il sistema (articolo 6, paragrafo 4, articolo 49, paragrafo 2). A prescindere da ciò, il punto 1, lettera a), stesso esclude i sistemi di IA destinati a essere utilizzati per la verifica biometrica la cui unica finalità è confermare che una determinata persona fisica è la persona che dice di essere.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio del fornitore (articolo 3, punto 11). Un’impresa o un’autorità pubblica che sviluppa un sistema biometrico e lo mette in servizio con il proprio nome è quindi un fornitore. Un’impresa o un’autorità pubblica che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore in tre casi. Appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi. Apporta una modifica sostanziale a tale sistema, che lo lascia ad alto rischio. Oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1). Il fornitore che aveva inizialmente immesso il sistema sul mercato o lo aveva messo in servizio non è più considerato fornitore di quel determinato sistema e deve cooperare strettamente con il nuovo fornitore (articolo 25, paragrafo 2). Ciò non vale se il fornitore iniziale ha chiaramente specificato che il suo sistema non deve essere trasformato in un sistema di IA ad alto rischio.

• Gli obblighi di informare le persone interessate si trovano in altri articoli

  L’articolo 13 riguarda le informazioni ai deployer. Non stabilisce alcuna norma su cartelli, avvisi o messaggi a schermo per le persone riprese da un sistema biometrico. I deployer di sistemi di IA ad alto rischio di cui all’allegato III che prendono decisioni o assistono nel prendere decisioni relative a persone fisiche informano tali persone che sono soggette all’uso del sistema (articolo 26, paragrafo 11). I deployer di un sistema di riconoscimento delle emozioni o di un sistema di categorizzazione biometrica informano le persone fisiche che vi sono esposte del funzionamento del sistema e trattano i dati personali conformemente alla normativa sulla protezione dei dati (articolo 50, paragrafo 3). Tale obbligo non si applica ai sistemi di questo tipo la cui legge consente l’uso per accertare, prevenire o indagare reati, fatte salve garanzie adeguate per i diritti e le libertà dei terzi e conformemente al diritto dell’Unione. Il diritto dell’Unione in materia di protezione dei dati continua ad applicarsi (articolo 2, paragrafo 7).

• Date

  I requisiti per questi usi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se in seguito subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2). Questa regola non copre i sistemi di cui all’articolo 111, paragrafo 1.

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce norme che dispongano in quale misura possono essere inflitte sanzioni amministrative pecuniarie ad autorità pubbliche e organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8).

• Portata e limiti del regolamento

  Il regolamento si applica ai fornitori e ai deployer che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettera c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi di IA o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio. La prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento. Tale esclusione non vale se sono immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio, o se rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12). Non si applica ai sistemi di IA nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati, con o senza modifica, esclusivamente per scopi militari, di difesa o di sicurezza nazionale, indipendentemente dal tipo di entità che svolge tali attività (articolo 2, paragrafo 3). Non si applica alle autorità pubbliche di un paese terzo né alle organizzazioni internazionali che rientrano nel suo ambito di applicazione a norma dell’articolo 2, paragrafo 1, laddove utilizzino i sistemi di IA nel quadro della cooperazione o di accordi internazionali per la cooperazione delle autorità di contrasto e giudiziarie con l’Unione o con uno o più Stati membri, a condizione che tale paese terzo o organizzazione internazionale fornisca garanzie adeguate per quanto riguarda la protezione dei diritti e delle libertà fondamentali delle persone (articolo 2, paragrafo 4). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). Il diritto dell’Unione in materia di protezione dei dati personali, della vita privata e della riservatezza delle comunicazioni si applica ai dati personali trattati in relazione ai diritti e agli obblighi stabiliti dal regolamento. Fatti salvi l’articolo 4 bis e l’articolo 59, il regolamento lascia impregiudicati il regolamento (UE) 2016/679, il regolamento (UE) 2018/1725, la direttiva 2002/58/CE e la direttiva (UE) 2016/680 (articolo 2, paragrafo 7).

• Nessun valore di accuratezza né elenco di gruppi specifici per la biometria

  L’articolo 13, paragrafo 3, richiede che le istruzioni indichino il livello di accuratezza e le relative metriche e, se opportuno, le prestazioni riguardo a specifiche persone o gruppi di persone. Non nomina per i sistemi biometrici alcun valore di accuratezza, alcuna metrica né alcun elenco di gruppi. Il regolamento stesso non nomina alcuna norma. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione dei requisiti e degli obblighi di cui agli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: una guida per le persone che verificano le corrispondenze

  Esempio, non un requisito del regolamento: per le persone che devono verificare una corrispondenza ai sensi dell’articolo 14, paragrafo 5, il fornitore potrebbe aggiungere una breve guida su come leggere una corrispondenza e in quali circostanze è meno affidabile.

• Esempio: versionare le istruzioni per l’uso

  Esempio, non un requisito del regolamento: un fornitore potrebbe versionare le istruzioni per l’uso e annotare quale versione accompagna quale rilascio del sistema, così che un deployer possa verificare che cosa valeva al momento di un determinato utilizzo.

• Articolo 13 regolamento IA: trasparenza e istruzioni per l’uso

  L’articolo 13 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA biometria: guida alla conformità

  Il quadro della biometria: che cosa copre il regolamento, che cosa vieta e le norme specifiche per la biometria.

• Articolo 14 per l’IA biometrica: sorveglianza umana

  L’IA biometrica e l’articolo 14: sorveglianza umana e verifica da parte di due persone per l’identificazione remota.

• Articolo 15 regolamento IA: accuratezza, robustezza e cibersicurezza

  L’articolo 15 per tutti i settori: i livelli di accuratezza che l’articolo 13, paragrafo 3, chiede ai fornitori di indicare.