Articolo 15 per l’IA fintech: accuratezza, robustezza e cibersicurezza

L’articolo 15 fissa requisiti di progettazione per il fornitore. Non indica alcun valore di accuratezza per alcun settore.

• art. 15(1)
  Livello adeguato, per tutto il ciclo di vita

  I sistemi di IA ad alto rischio devono essere progettati e sviluppati in modo da raggiungere un adeguato livello di accuratezza, robustezza e cibersicurezza e da funzionare in modo coerente in tal senso per tutto il loro ciclo di vita.

• art. 15(2)
  I parametri di riferimento li promuove la Commissione

  La Commissione promuove, se del caso, lo sviluppo di parametri di riferimento e di metodologie di misurazione, in cooperazione con portatori di interessi quali le autorità di metrologia e di analisi comparativa. Non è un obbligo del fornitore.

• art. 15(3)
  Dichiarare livelli e metriche

  I livelli di accuratezza e le metriche di accuratezza pertinenti devono essere dichiarati nelle istruzioni per l’uso che accompagnano il sistema.

• art. 15(4)
  Resilienza agli errori e circuiti di feedback

  I sistemi devono essere il più resilienti possibile rispetto a errori, guasti o incongruenze che possono verificarsi nel sistema o nell’ambiente in cui opera, in particolare a causa dell’interazione con persone fisiche o altri sistemi. Devono essere adottate misure tecniche e organizzative; ridondanza tecnica, piani di backup o di sicurezza intrinseca sono citati come opzioni. Un sistema che continua ad apprendere dopo l’immissione sul mercato deve essere sviluppato in modo da eliminare o ridurre il più possibile il rischio che output distorti influenzino input futuri (circuiti di feedback).

• art. 15(5)
  Cibersicurezza contro terzi non autorizzati

  I sistemi devono essere resilienti ai tentativi di terzi non autorizzati di alterarne l’uso, gli output o le prestazioni sfruttando le vulnerabilità. Le soluzioni tecniche comprendono, se del caso, misure contro l’avvelenamento dei dati, l’avvelenamento del modello, gli esempi avversari o l’elusione del modello, gli attacchi alla riservatezza e le carenze del modello.

L’articolo 15 vincola solo i sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA fintech diventa ad alto rischio.

• «Fintech» non è una categoria del regolamento

  Il regolamento non ha una categoria «fintech». Questo sito usa la parola per l’IA che rientra nel regolamento attraverso due agganci dell’allegato III: il punto 5, lettera b), affidabilità creditizia e merito di credito delle persone fisiche, e il punto 5, lettera c), valutazione dei rischi e determinazione dei prezzi nelle assicurazioni sulla vita e sanitarie. La lettera b) esclude il rilevamento delle frodi. Il punto 5 dell’allegato III non menziona i controlli antiriciclaggio, il trading algoritmico, la consulenza robotizzata, le assicurazioni diverse da quelle sulla vita e sanitarie né la valutazione del credito delle persone giuridiche. Un sistema può comunque essere ad alto rischio in base a un altro punto dell’allegato III.

• Allegato III, punto 5, lettere b) e c)

  L’allegato III, punto 5, lettera b), riguarda i sistemi di IA destinati a essere utilizzati per valutare l’affidabilità creditizia delle persone fisiche o per stabilire il loro merito di credito, a eccezione dei sistemi di IA utilizzati allo scopo di individuare frodi finanziarie. La lettera c) riguarda i sistemi di IA destinati a essere utilizzati per la valutazione dei rischi e la determinazione dei prezzi in relazione a persone fisiche nel caso di assicurazioni sulla vita e assicurazioni sanitarie. Ai sensi dell’articolo 6, paragrafo 2, i sistemi di IA di cui all’allegato III sono considerati ad alto rischio. Il fornitore che ritiene che un tale sistema non sia ad alto rischio ai sensi dell’articolo 6, paragrafo 3 deve documentare la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio, e registrarlo a norma dell’articolo 49, paragrafo 2. La deroga non si applica mai quando il sistema esegue profilazione di persone fisiche. Per profilazione si intende la profilazione quale definita all’articolo 4, punto 4), del regolamento (UE) 2016/679 (articolo 3, punto 52); il regolamento non dice se un determinato sistema di scoring esegua profilazione.

• Fornitore e deployer

  Il fornitore sviluppa il sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome (articolo 3, punto 3); può essere un produttore di software o una banca che sviluppa un sistema per uso proprio. Una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che usa un sistema sotto la propria autorità, come una banca, un’impresa di assicurazione o un finanziatore, è un deployer (articolo 3, punto 4). Un deployer diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, ne apporta una modifica sostanziale che lo lascia ad alto rischio, o modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

• Date

  L’allegato III, punto 5, lettere b) e c), si applica dal 2 dicembre 2027 (articolo 113, paragrafo 3, lettera c)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se dopo subisce modifiche significative della progettazione; in ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2).

• Sanzioni

  La violazione degli obblighi dei fornitori (articolo 16) e dei deployer (articolo 26) può essere punita con sanzioni amministrative pecuniarie fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso (articolo 99, paragrafo 6). Lo stesso massimale vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ogni Stato membro stabilisce le norme sulla misura in cui possono essere imposte sanzioni amministrative pecuniarie alle autorità e agli organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8).

• Limiti dell’ambito di applicazione del regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, o immettono sul mercato modelli di IA per finalità generali nell’Unione, indipendentemente da dove siano stabiliti (articolo 2, paragrafo 1, lettera a)), e ai fornitori e ai deployer stabiliti in un paese terzo quando l’output del sistema di IA è utilizzato nell’Unione (lettera c)). Non si applica ai settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale; non si applica nemmeno ai sistemi di IA utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3).

• Nessun valore di accuratezza per il fintech

  L’articolo 15 non indica per alcun settore una metrica di accuratezza, un valore minimo, un metodo di prova o una norma, né per il credit scoring o le assicurazioni. Il fornitore dichiara i livelli e le metriche pertinenti (articolo 15, paragrafo 3). Le norme armonizzate i cui riferimenti sono pubblicati nella Gazzetta ufficiale danno una presunzione di conformità nella misura in cui coprono i requisiti (articolo 40, paragrafo 1); un certificato di cibersicurezza pubblicato ai sensi del regolamento (UE) 2019/881 la dà per i requisiti di cibersicurezza nella misura in cui li copre (articolo 42, paragrafo 2). I sistemi che rientrano nell’ambito di applicazione del regolamento (UE) 2024/2847 e soddisfano le condizioni dell’articolo 12, paragrafo 1, di tale regolamento si considerano conformi ai requisiti di cibersicurezza dell’articolo 15 (articolo 42, paragrafo 3). La Commissione elabora orientamenti sull’applicazione dei requisiti e degli obblighi degli articoli da 8 a 15 e degli articoli 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: metriche per un modello di credit scoring

  Esempio, non un requisito del regolamento: il fornitore di un modello di credit scoring potrebbe dichiarare quali metriche di accuratezza ha misurato e indicare la popolazione di richiedenti e il periodo su cui sono state misurate.

• Esempio: prove su errori e attacchi

  Esempio, non un requisito del regolamento: un fornitore potrebbe provare il sistema con input corrotti o fuori intervallo e con esempi avversari, e conservare i risultati.

• Articolo 15 regolamento IA: accuratezza, robustezza e cibersicurezza

  L’articolo 15 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA fintech: guida alla conformità

  Il quadro sul fintech: come il regolamento raggiunge l’IA per credito e assicurazioni.

• Articolo 17 per l’IA fintech: sistema di gestione della qualità

  L’IA fintech e l’articolo 17: i 13 aspetti e la regola per gli istituti finanziari.

• Allegato III in dettaglio: le 8 categorie ad alto rischio

  Gli otto ambiti dell’allegato III, tra cui il credit scoring e le assicurazioni sulla vita e sanitarie.