Articolo 10 per l’IA fintech: dati e governance dei dati

L’articolo 10 stabilisce obblighi per il fornitore. Non nomina alcun volume di dati, valore di accuratezza o periodo di conservazione.

• art. 10(1), (6)
  Set di dati che rispettano i criteri di qualità

  I sistemi di IA ad alto rischio che addestrano modelli di IA con dati sono sviluppati sulla base di set di dati di addestramento, convalida e prova. Tali set di dati soddisfano i criteri di qualità di cui ai paragrafi 2, 3 e 4 e all’articolo 4 bis, paragrafo 1, ogniqualvolta siano utilizzati. Per i sistemi che non addestrano modelli, queste disposizioni si applicano solo ai set di dati di prova.

• art. 10(2)
  Pratiche di governance e gestione dei dati

  I set di dati sono soggetti a pratiche di governance e gestione dei dati adeguate alla finalità prevista. Tali pratiche riguardano in particolare le scelte progettuali, i processi di raccolta dei dati e l’origine dei dati e, per i dati personali, la finalità originaria della raccolta. Riguardano anche le operazioni di preparazione dei dati, quali annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione. Riguardano le ipotesi su ciò che i dati misurano e rappresentano. E riguardano la disponibilità, la quantità e l’adeguatezza dei set di dati necessari, nonché le lacune o carenze dei dati e il modo di colmarle.

• art. 10(2)(f), (g)
  Esaminare le distorsioni, poi individuarle, prevenirle e attenuarle

  Le pratiche comprendono un esame delle possibili distorsioni (lettera f)). Riguarda le distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’Unione, specie laddove gli output di dati influenzano gli input per operazioni future. Le pratiche comprendono anche misure adeguate per individuare, prevenire e attenuare le distorsioni individuate (lettera g)).

• art. 10(3)
  Pertinenti, rappresentativi, per quanto possibile privi di errori

  I set di dati sono pertinenti, sufficientemente rappresentativi e, nella misura del possibile, esenti da errori e completi nell’ottica della finalità prevista. Possiedono le proprietà statistiche appropriate anche, ove applicabile, per quanto riguarda le persone o i gruppi di persone relativamente ai quali il sistema è destinato a essere usato. Queste caratteristiche possono essere soddisfatte a livello di singoli set di dati o di una combinazione degli stessi.

• art. 10(4)
  Adeguati al contesto di utilizzo

  I set di dati tengono conto delle caratteristiche o degli elementi particolari dello specifico ambito geografico, contestuale, comportamentale o funzionale all’interno del quale il sistema è destinato a essere usato. Ciò vale nella misura necessaria per la finalità prevista.

L’articolo 10 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA fintech diventa ad alto rischio.

• Fintech non è una categoria del regolamento

  Il regolamento non ha una categoria fintech. Questo sito usa la parola per l’IA che rientra nel regolamento attraverso due usi dell’allegato III, punto 5. Il punto 5, lettera b), riguarda i sistemi di IA destinati a essere utilizzati per valutare l’affidabilità creditizia delle persone fisiche o per stabilire il loro merito di credito. Fa eccezione per i sistemi di IA utilizzati allo scopo di individuare frodi finanziarie. Il punto 5, lettera c), riguarda i sistemi di IA destinati a essere utilizzati per la valutazione dei rischi e la determinazione dei prezzi in relazione a persone fisiche nel caso di assicurazioni sulla vita e assicurazioni sanitarie. Il punto 5 non nomina il rilevamento delle frodi, i controlli antiriciclaggio o di conoscenza del cliente (KYC), il trading algoritmico, la consulenza automatizzata (robo-advice), le assicurazioni non vita, la gestione dei sinistri né le decisioni di credito riguardanti persone giuridiche. Un sistema per uno di questi usi è ad alto rischio solo se lo contempla un altro punto dell’allegato III oppure l’allegato I.

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nel punto 5, lettera b), o nel punto 5, lettera c), è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. Ai sensi dell’articolo 6, paragrafo 3 non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Il regolamento applica questa deroga quando è soddisfatta almeno una delle condizioni seguenti (articolo 6, paragrafo 3, lettere da a) a d)). Il sistema è destinato a eseguire un compito procedurale limitato. Oppure è destinato a migliorare il risultato di un’attività umana precedentemente completata. Oppure è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana. Oppure è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Come queste condizioni si combinino con la verifica del rischio significativo è una questione per un giurista. Il sistema è sempre ad alto rischio se effettua profilazione di persone fisiche. La profilazione è definita dall’articolo 4, punto 4, del GDPR (articolo 3, punto 52). Stabilire se un dato sistema di scoring o di determinazione dei prezzi la effettui è anch’essa una questione per un giurista. Il fornitore che si avvale dell’eccezione documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio. Deve inoltre registrare il sistema (articolo 6, paragrafo 4, articolo 49, paragrafo 2).

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio del fornitore (articolo 3, punto 11). Una banca o un’impresa di assicurazione che sviluppa un sistema e lo mette in servizio con il proprio nome è quindi un fornitore. Una banca o un’impresa di assicurazione che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un deployer diventa fornitore in tre casi. Appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi. Apporta una modifica sostanziale a tale sistema, che lo lascia ad alto rischio. Oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1). Il fornitore che aveva inizialmente immesso il sistema sul mercato o lo aveva messo in servizio non è più considerato fornitore di quel determinato sistema e deve cooperare strettamente con il nuovo fornitore (articolo 25, paragrafo 2). Ciò non vale se il fornitore iniziale ha chiaramente specificato che il suo sistema non deve essere trasformato in un sistema di IA ad alto rischio.

• Categorie particolari di dati personali: articolo 4 bis

  Oltre al GDPR e alle altre norme applicabili in materia di protezione dei dati, i fornitori di sistemi di IA ad alto rischio possono eccezionalmente trattare categorie particolari di dati personali. Ciò è consentito nella misura strettamente necessaria per il rilevamento e la correzione delle distorsioni ai sensi dell’articolo 10, paragrafo 2, lettere f) e g). Devono essere soddisfatte tutte le condizioni dell’articolo 4 bis, paragrafo 1, lettere da a) a f). Tra queste, che il rilevamento e la correzione delle distorsioni non possano essere realizzati efficacemente mediante il trattamento di altri dati, quali dati sintetici o anonimizzati. Tra queste, anche che i dati siano cancellati dopo la correzione della distorsione o al termine del periodo di conservazione, a seconda di quale delle due condizioni si verifica per prima. L’articolo 4 bis, paragrafo 2, riconosce ai fornitori e ai deployer di altri sistemi di IA, e ai deployer di sistemi ad alto rischio, la stessa facoltà alle stesse condizioni. Non crea alcun obbligo di effettuare il rilevamento e la correzione delle distorsioni.

• Date

  I requisiti per questi usi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, terzo comma, lettera c), punto i)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se in seguito subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce norme che dispongano in quale misura possono essere inflitte sanzioni amministrative pecuniarie ad autorità pubbliche e organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8).

• Portata e limiti del regolamento

  Il regolamento si applica ai fornitori e ai deployer che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettera c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi o modelli di IA, ivi compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio. La prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento. Tale esclusione non vale se sono immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio, o se rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessuno standard sui dati per il fintech

  L’articolo 10 non nomina alcuna dimensione minima dei dati, misura di rappresentatività, metrica delle distorsioni o fonte di dati accettata per i prestiti o le assicurazioni. Il fornitore decide che cosa è adeguato alla finalità prevista (articolo 10, paragrafo 2). Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). I sistemi addestrati e sottoposti a prova con dati che riflettono lo specifico ambito geografico, comportamentale, contestuale o funzionale di utilizzo previsto si presumono conformi all’articolo 10, paragrafo 4 (articolo 42, paragrafo 1). La Commissione elabora orientamenti sull’applicazione pratica dei requisiti e degli obblighi di cui agli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: esame delle distorsioni per lo scoring creditizio

  Esempio, non un requisito del regolamento: il fornitore di un sistema di scoring creditizio potrebbe confrontare i tassi di approvazione e di errore tra i gruppi di richiedenti presenti nel set di dati. Potrebbe documentare quali gruppi i dati rappresentano in misura insufficiente.

• Esempio: decisioni passate come etichette di addestramento

  Esempio, non un requisito del regolamento: un modello può essere addestrato su decisioni passate di concessione di credito o di sottoscrizione assicurativa. Il fornitore potrebbe verificare prima dell’addestramento se tali decisioni contengano distorsioni, come richiede l’articolo 10, paragrafo 2, lettera f), con l’esame delle possibili distorsioni.

• Articolo 10: governance dei dati per l'IA ad alto rischio

  L’articolo 10 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA fintech: guida alla conformità

  Panoramica sul fintech: come il regolamento raggiunge l’IA per lo scoring creditizio e per le assicurazioni.

• Articolo 12 per l’IA fintech: conservazione delle registrazioni e log

  IA fintech e articolo 12: registrazione automatica e chi conserva i log.

• Regolamento IA vs GDPR: differenze e sovrapposizioni

  Come si sovrappongono il regolamento sull’IA e il GDPR.