Articolo 13 per l’IA fintech: trasparenza e istruzioni per l’uso

L’articolo 13 stabilisce obblighi del fornitore nei confronti del deployer. Non impone di spiegare una decisione a un richiedente o a un cliente.

• art. 13(1)
  Trasparenza che consente ai deployer di interpretare gli output

  I sistemi di IA ad alto rischio sono progettati e sviluppati in modo che il loro funzionamento sia sufficientemente trasparente da consentire ai deployer di interpretare l’output e utilizzarlo adeguatamente. Sono garantiti un tipo e un livello di trasparenza adeguati, che consentano al fornitore e al deployer di rispettare i loro obblighi di cui alla sezione 3.

• art. 13(2)
  Istruzioni per l’uso

  I sistemi ad alto rischio sono accompagnati da istruzioni per l’uso, in un formato appropriato digitale o non digitale. Contengono informazioni concise, complete, corrette e chiare, pertinenti, accessibili e comprensibili per i deployer.

• art. 13(3)(a), (b)
  Contenuto minimo: fornitore, prestazioni e limiti

  Le istruzioni contengono almeno l’identità e i dati di contatto del fornitore, nonché le caratteristiche, le capacità e i limiti delle prestazioni del sistema. Tra queste figura la finalità prevista. Figura il livello di accuratezza che ci si può attendere, comprese le metriche, di robustezza e cibersicurezza rispetto al quale il sistema è stato sottoposto a prova e convalidato, e le circostanze note che possono incidervi. Figurano le circostanze note o prevedibili che possono comportare rischi per la salute, la sicurezza o i diritti fondamentali. Se del caso o ove opportuno, figurano anche le capacità tecniche di spiegare l’output, le prestazioni per persone o gruppi specifici, le specifiche per i dati di input e le informazioni che consentono ai deployer di interpretare l’output.

• art. 13(3)(c)–(f)
  Modifiche, sorveglianza, risorse e log

  Le istruzioni indicano inoltre le modifiche predeterminate dal fornitore al momento della valutazione iniziale della conformità, se presenti, e le misure di sorveglianza umana di cui all’articolo 14. Indicano le risorse computazionali e di hardware necessarie, la durata prevista e le misure di manutenzione, compresi gli aggiornamenti software. Se del caso, descrivono i meccanismi che consentono ai deployer di raccogliere, conservare e interpretare i log in conformità dell’articolo 12.

L’articolo 13 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA fintech diventa ad alto rischio.

• Fintech non è una categoria del regolamento

  Il regolamento non ha una categoria fintech. Questo sito usa la parola per l’IA che rientra nel regolamento attraverso due usi dell’allegato III, punto 5. Il punto 5, lettera b), riguarda i sistemi di IA destinati a essere utilizzati per valutare l’affidabilità creditizia delle persone fisiche o per stabilire il loro merito di credito. Fa eccezione per i sistemi di IA utilizzati allo scopo di individuare frodi finanziarie. Il punto 5, lettera c), riguarda i sistemi di IA destinati a essere utilizzati per la valutazione dei rischi e la determinazione dei prezzi in relazione a persone fisiche nel caso di assicurazioni sulla vita e assicurazioni sanitarie. Il punto 5 non nomina il rilevamento delle frodi, i controlli antiriciclaggio o di conoscenza del cliente (KYC), il trading algoritmico, la consulenza automatizzata (robo-advice), le assicurazioni non vita, la gestione dei sinistri né le decisioni di credito riguardanti persone giuridiche. Un sistema per uno di questi usi è ad alto rischio solo se lo contempla un altro punto dell’allegato III oppure l’allegato I.

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nel punto 5, lettera b), o nel punto 5, lettera c), è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. Ai sensi dell’articolo 6, paragrafo 3 non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Il regolamento applica questa deroga quando è soddisfatta almeno una delle condizioni seguenti (articolo 6, paragrafo 3, lettere da a) a d)). Il sistema è destinato a eseguire un compito procedurale limitato. Oppure è destinato a migliorare il risultato di un’attività umana precedentemente completata. Oppure è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana. Oppure è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Come queste condizioni si combinino con la verifica del rischio significativo è una questione per un giurista. Il sistema è sempre ad alto rischio se effettua profilazione di persone fisiche. La profilazione è definita dall’articolo 4, punto 4, del GDPR (articolo 3, punto 52). Stabilire se un dato sistema di scoring o di determinazione dei prezzi la effettui è anch’essa una questione per un giurista. Il fornitore che si avvale dell’eccezione documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio. Deve inoltre registrare il sistema (articolo 6, paragrafo 4, articolo 49, paragrafo 2).

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio del fornitore (articolo 3, punto 11). Una banca o un’impresa di assicurazione che sviluppa un sistema e lo mette in servizio con il proprio nome è quindi un fornitore. Una banca o un’impresa di assicurazione che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore in tre casi. Appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi. Apporta una modifica sostanziale a tale sistema, che lo lascia ad alto rischio. Oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1). Il fornitore che aveva inizialmente immesso il sistema sul mercato o lo aveva messo in servizio non è più considerato fornitore di quel determinato sistema e deve cooperare strettamente con il nuovo fornitore (articolo 25, paragrafo 2). Ciò non vale se il fornitore iniziale ha chiaramente specificato che il suo sistema non deve essere trasformato in un sistema di IA ad alto rischio.

• Spiegare una decisione a un richiedente non rientra nell’articolo 13

  L’articolo 86, paragrafo 1, riconosce un diritto alla spiegazione. Si applica quando un deployer adotta una decisione sulla base dell’output di un sistema ad alto rischio dell’allegato III, tranne il punto 2. La decisione deve produrre effetti giuridici o incidere in modo analogo significativamente sulla persona, in un modo che essa ritenga avere un impatto negativo sulla sua salute, sulla sua sicurezza o sui suoi diritti fondamentali. La persona ha allora il diritto di ottenere dal deployer spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata. Il diritto non si applica quando eccezioni o limitazioni derivano dal diritto dell’Unione o nazionale, in linea con il diritto dell’Unione (articolo 86, paragrafo 2). Si applica solo nella misura in cui il diritto non sia altrimenti previsto dal diritto dell’Unione (articolo 86, paragrafo 3). I deployer di sistemi dell’allegato III che adottano decisioni o assistono nell’adozione di decisioni riguardanti persone fisiche devono inoltre informarle che sono soggette all’uso del sistema (articolo 26, paragrafo 11).

• Date

  I requisiti per questi usi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, terzo comma, lettera c), punto i)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se in seguito subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce norme che dispongano in quale misura possono essere inflitte sanzioni amministrative pecuniarie ad autorità pubbliche e organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8).

• Portata e limiti del regolamento

  Il regolamento si applica ai fornitori e ai deployer che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettera c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio. La prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento. Tale esclusione non vale se sono immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio, o se rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessun formato di informativa specifico per il fintech

  Il regolamento non nomina alcun formato, modello o formulazione per le istruzioni per l’uso nel credito o nelle assicurazioni. Il fornitore decide come presentare gli elementi richiesti dall’articolo 13, paragrafo 3. Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione pratica dei requisiti e degli obblighi di cui agli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: contenuto per un sistema di scoring creditizio

  Esempio, non un requisito del regolamento: le istruzioni per l’uso di un sistema di scoring creditizio potrebbero indicare i dati di cui il modello ha bisogno e la popolazione su cui ne è stata misurata l’accuratezza. Potrebbero anche indicare i casi in cui il suo output non dovrebbe essere usato da solo.

• Esempio: dati di input controllati dal deployer

  Esempio, non un requisito del regolamento: le istruzioni per l’uso potrebbero elencare gli input lato banca da cui il modello dipende, così che il deployer che controlla i dati di input possa rispettare l’articolo 26, paragrafo 4.

• Articolo 13 regolamento IA: trasparenza e istruzioni per l’uso

  L’articolo 13 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA fintech: guida alla conformità

  Panoramica sul fintech: come il regolamento raggiunge l’IA per lo scoring creditizio e per le assicurazioni.

• Articolo 14 per l’IA fintech: sorveglianza umana

  IA fintech e articolo 14: sorveglianza da parte di persone fisiche e ciò che il regolamento non richiede.

• Allegato III in dettaglio: le 8 categorie ad alto rischio

  Le categorie dell’allegato III, compreso il punto 5 su scoring creditizio e assicurazioni sulla vita e sanitarie.