Articolo 15 per l’IA nell’istruzione: accuratezza, robustezza e cibersicurezza

L’articolo 15 fissa requisiti di progettazione per il fornitore. Non indica alcun valore di accuratezza per alcun settore.

• art. 15(1)
  Livello adeguato, per tutto il ciclo di vita

  I sistemi di IA ad alto rischio devono essere progettati e sviluppati in modo da raggiungere un adeguato livello di accuratezza, robustezza e cibersicurezza e da funzionare in modo coerente in tal senso per tutto il loro ciclo di vita.

• art. 15(2)
  I parametri di riferimento li promuove la Commissione

  La Commissione promuove, se del caso, lo sviluppo di parametri di riferimento e di metodologie di misurazione, in cooperazione con portatori di interessi quali le autorità di metrologia e di analisi comparativa. Non è un obbligo del fornitore.

• art. 15(3)
  Dichiarare livelli e metriche

  I livelli di accuratezza e le metriche di accuratezza pertinenti devono essere dichiarati nelle istruzioni per l’uso che accompagnano il sistema.

• art. 15(4)
  Resilienza agli errori e circuiti di feedback

  I sistemi devono essere il più resilienti possibile rispetto a errori, guasti o incongruenze che possono verificarsi nel sistema o nell’ambiente in cui opera, in particolare a causa dell’interazione con persone fisiche o altri sistemi. Devono essere adottate misure tecniche e organizzative; ridondanza tecnica, piani di backup o di sicurezza intrinseca sono citati come opzioni. Un sistema che continua ad apprendere dopo l’immissione sul mercato deve essere sviluppato in modo da eliminare o ridurre il più possibile il rischio che output distorti influenzino input futuri (circuiti di feedback).

• art. 15(5)
  Cibersicurezza contro terzi non autorizzati

  I sistemi devono essere resilienti ai tentativi di terzi non autorizzati di alterarne l’uso, gli output o le prestazioni sfruttando le vulnerabilità. Le soluzioni tecniche comprendono, se del caso, misure contro l’avvelenamento dei dati, l’avvelenamento del modello, gli esempi avversari o l’elusione del modello, gli attacchi alla riservatezza e le carenze del modello.

L’articolo 15 vincola solo i sistemi di IA ad alto rischio. Le righe seguenti mostrano dove l’IA per l’istruzione diventa ad alto rischio.

• Dove si colloca l’istruzione nel regolamento

  Il regolamento non ha un regime settoriale per l’istruzione. Questo sito usa «istruzione» per l’IA impiegata in scuole, università, formazione professionale ed esami. Questa IA rientra nel regolamento tramite l’allegato III, punto 3, intitolato «Istruzione e formazione professionale», e tramite il divieto di inferire emozioni negli istituti di istruzione (articolo 5, paragrafo 1, lettera f)). Il punto 3 non nomina il rilevamento del plagio, la previsione dell’abbandono, le piattaforme di apprendimento adattivo, i cruscotti di apprendimento né i chatbot amministrativi; l’appartenenza di un sistema al punto 3 dipende dalla finalità prevista (articolo 3, punto 12). Un sistema può essere ad alto rischio anche ai sensi di un altro punto dell’allegato III.

• Allegato III, punto 3: quattro usi

  L’allegato III, punto 3 riguarda i sistemi di IA destinati a essere utilizzati: a) per determinare l’accesso, l’ammissione o l’assegnazione di persone fisiche agli istituti di istruzione e formazione professionale a tutti i livelli; b) per valutare i risultati dell’apprendimento, anche nei casi in cui tali risultati sono utilizzati per orientare il processo di apprendimento di persone fisiche in istituti di istruzione o formazione professionale a tutti i livelli; c) per valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere, nel contesto o all’interno di tali istituti; d) per monitorare e rilevare comportamenti vietati degli studenti durante le prove, nel contesto o all’interno di tali istituti. Ai sensi dell’articolo 6, paragrafo 2, i sistemi di IA di cui all’allegato III sono considerati ad alto rischio. Il fornitore che ritiene che un tale sistema non sia ad alto rischio ai sensi dell’articolo 6, paragrafo 3 deve documentare la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio, e registrarlo a norma dell’articolo 49, paragrafo 2. La deroga non si applica mai quando il sistema esegue profilazione di persone fisiche. Per profilazione si intende la profilazione quale definita all’articolo 4, punto 4), del regolamento (UE) 2016/679 (articolo 3, punto 52).

• Fornitore e deployer

  Il fornitore sviluppa il sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome (articolo 3, punto 3); può essere un fornitore di tecnologie educative o un’università che sviluppa un sistema per uso proprio. Una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che usa un sistema sotto la propria autorità, come una scuola, un’università o un ente esaminatore, è un deployer (articolo 3, punto 4). Un deployer diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, ne apporta una modifica sostanziale che lo lascia ad alto rischio, o modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

• Date

  L’allegato III, punto 3 si applica dal 2 dicembre 2027 (articolo 113, lettera c)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se, da tale data, la sua progettazione subisce modifiche significative. Nello stesso paragrafo, la frase «in ogni caso» prevede che i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati dalle autorità pubbliche adottino le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2). Il regolamento non dice se ciò riguardi anche i sistemi immessi sul mercato dopo il 2 dicembre 2027; rivolgetevi a un consulente legale.

• Sanzioni

  La violazione degli obblighi dei fornitori (articolo 16) e dei deployer (articolo 26) può essere punita con sanzioni amministrative pecuniarie fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso (articolo 99, paragrafo 6). Lo stesso massimale vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ogni Stato membro stabilisce le norme sulla misura in cui possono essere imposte sanzioni amministrative pecuniarie alle autorità e agli organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8).

• Limiti dell’ambito di applicazione del regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, o immettono sul mercato modelli di IA per finalità generali nell’Unione, indipendentemente da dove siano stabiliti (articolo 2, paragrafo 1, lettera a)), e ai fornitori e ai deployer stabiliti in un paese terzo quando l’output del sistema di IA è utilizzato nell’Unione (lettera c)). Non si applica ai settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale; non si applica nemmeno ai sistemi di IA utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi o modelli di IA, compreso il loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica neppure alle attività di ricerca, prova e sviluppo precedenti all’immissione sul mercato o alla messa in servizio di un sistema o modello; le prove in condizioni reali non rientrano in tale esclusione (articolo 2, paragrafo 8). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). Non si applica ai sistemi di IA rilasciati con licenza libera e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o come sistemi di IA che rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessun valore di accuratezza per l’istruzione

  L’articolo 15 non indica per alcun settore una metrica di accuratezza, un valore minimo, un metodo di prova o una norma, né per i sistemi di ammissione, valutazione o monitoraggio delle prove. Il fornitore dichiara i livelli e le metriche pertinenti (articolo 15, paragrafo 3). Le norme armonizzate i cui riferimenti sono pubblicati nella Gazzetta ufficiale danno una presunzione di conformità nella misura in cui coprono i requisiti (articolo 40, paragrafo 1); un certificato di cibersicurezza pubblicato ai sensi del regolamento (UE) 2019/881 la dà per i requisiti di cibersicurezza nella misura in cui li copre (articolo 42, paragrafo 2). I sistemi che rientrano nell’ambito di applicazione del regolamento (UE) 2024/2847 e soddisfano le condizioni dell’articolo 12, paragrafo 1, di tale regolamento si considerano conformi ai requisiti di cibersicurezza dell’articolo 15 (articolo 42, paragrafo 3). La Commissione elabora orientamenti sull’applicazione dei requisiti e degli obblighi degli articoli da 8 a 15 e degli articoli 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: metriche per un modello di valutazione

  Esempio, non un requisito del regolamento: il fornitore di un sistema che valuta i risultati dell’apprendimento potrebbe dichiarare quali metriche di accuratezza ha misurato e indicare la popolazione di studenti e il tipo di valutazione su cui sono state misurate.

• Esempio: circuiti di retroazione

  Esempio, non un requisito del regolamento: il fornitore di un sistema che continua ad apprendere dopo l’immissione sul mercato (articolo 15, paragrafo 4) potrebbe verificare se gli output che rientrano come input successivi modificano i risultati per determinati gruppi di studenti, e conservare i risultati.

• Articolo 15 regolamento IA: accuratezza, robustezza e cibersicurezza

  L’articolo 15 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA edtech: conformità istruzione

  Il quadro dell’istruzione: come il regolamento raggiunge l’IA in scuole, università e formazione.

• Articolo 17 per l’IA nell’istruzione: sistema di gestione della qualità

  IA per l’istruzione e articolo 17: i 13 aspetti e chi è il fornitore.

• Allegato III in dettaglio: le 8 categorie ad alto rischio

  Gli otto ambiti dell’allegato III, tra cui istruzione e formazione professionale.