Articolo 10 per l’IA per l’istruzione: dati e governance dei dati

L’articolo 10 stabilisce obblighi per il fornitore. Non nomina alcun set di dati per l’istruzione, livello di rappresentazione o tasso di errore.

• art. 10(1)
  Set di dati che rispettano i criteri di qualità

  I sistemi ad alto rischio che utilizzano tecniche che prevedono l’uso di dati per l’addestramento di modelli di IA devono essere sviluppati sulla base di set di dati di addestramento, convalida e prova che soddisfano i criteri di qualità di cui ai paragrafi 2, 3 e 4 dell’articolo 10 e all’articolo 4 bis, paragrafo 1, ogniqualvolta siano utilizzati tali set di dati.

• art. 10(2)
  Pratiche di governance e gestione dei dati

  I set di dati sono soggetti a pratiche adeguate alla finalità prevista. Tali pratiche riguardano in particolare: a) le scelte progettuali pertinenti; b) i processi di raccolta dei dati e l’origine dei dati e, per i dati personali, la finalità originaria della raccolta; c) le operazioni di preparazione dei dati, quali annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione; d) la formulazione di ipotesi su ciò che i dati si presume che misurino e rappresentino; e) una valutazione della disponibilità, della quantità e dell’adeguatezza dei set di dati necessari; f) un esame atto a valutare le possibili distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’Unione, specie laddove gli output di dati influenzano gli input per operazioni future; g) misure adeguate per individuare, prevenire e attenuare le distorsioni individuate conformemente alla lettera f); h) l’individuazione di lacune o carenze pertinenti nei dati tali da pregiudicare il rispetto del regolamento e il modo in cui possono essere colmate.

• art. 10(3)
  Pertinenti, rappresentativi, per quanto possibile privi di errori

  I set di dati devono essere pertinenti, sufficientemente rappresentativi e, nella misura del possibile, esenti da errori e completi nell’ottica della finalità prevista. Devono possedere le proprietà statistiche appropriate anche, ove applicabile, per quanto riguarda le persone o i gruppi di persone relativamente ai quali il sistema è destinato a essere usato. Queste caratteristiche possono essere soddisfatte a livello di singoli set di dati o di una combinazione degli stessi.

• art. 10(4)
  L’ambito di utilizzo

  I set di dati devono tenere conto, nella misura necessaria per la finalità prevista, delle caratteristiche o degli elementi particolari dello specifico ambito geografico, contestuale, comportamentale o funzionale all’interno del quale il sistema è destinato a essere usato.

• art. 10(6)
  Sistemi non addestrati con dati

  Per i sistemi ad alto rischio che non utilizzano tecniche che prevedono l’addestramento di modelli di IA, i paragrafi 2, 3 e 4 dell’articolo 10 e l’articolo 4 bis, paragrafo 1, si applicano solo ai set di dati di prova.

L’articolo 10 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA per l’istruzione diventa ad alto rischio e chi ha l’obbligo.

• Il regolamento non prevede un regime generale per l’istruzione

  Il regolamento non prevede un regime generale per l’istruzione. L’allegato III, punto 3, è l’area ad alto rischio intitolata «Istruzione e formazione professionale». Questo sito usa la parola istruzione per l’IA che rientra nel regolamento attraverso tale punto. Il punto 3 elenca quattro usi. a) I sistemi di IA destinati a essere utilizzati per determinare l’accesso, l’ammissione o l’assegnazione di persone fisiche agli istituti di istruzione e formazione professionale a tutti i livelli. b) I sistemi di IA destinati a essere utilizzati per valutare i risultati dell’apprendimento, anche nei casi in cui tali risultati sono utilizzati per orientare il processo di apprendimento di persone fisiche. c) I sistemi di IA destinati a essere utilizzati per valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere. d) I sistemi di IA destinati a essere utilizzati per monitorare e rilevare comportamenti vietati degli studenti durante le prove. Ciascun uso è legato agli istituti di istruzione e formazione professionale a tutti i livelli. Il punto 3 non nomina come tali il rilevamento di plagio o di testi generati dall’IA, la previsione dell’abbandono scolastico, le dashboard di apprendimento, i chatbot amministrativi o l’apprendimento adattivo. Un sistema per uno di questi usi è ad alto rischio solo se la sua finalità prevista corrisponde a uno dei quattro usi, oppure se lo contempla un altro punto dell’allegato III o l’allegato I.

• Inferenza delle emozioni negli istituti di istruzione: vietata, con eccezione per motivi medici o di sicurezza

  L’articolo 5, paragrafo 1, lettera f), vieta l’immissione sul mercato, la messa in servizio per tale finalità specifica o l’uso di sistemi di IA per inferire le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione, tranne laddove l’uso del sistema di IA sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza. Il divieto si applica dal 2 febbraio 2025 (articolo 113, lettera a)). È un divieto, non un uso ad alto rischio: l’eccezione non crea alcun obbligo e non è un punto di aggancio dell’allegato III. Una violazione è soggetta a sanzioni amministrative pecuniarie fino a 35 milioni di EUR o, per un’impresa, fino al 7 % del fatturato mondiale totale annuo, se superiore (articolo 99, paragrafo 3). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6).

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nel punto 3 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. In deroga a tale disposizione, un sistema dell’allegato III non è ad alto rischio ai sensi dell’articolo 6, paragrafo 3 se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Ciò vale quando è soddisfatta almeno una di quattro condizioni: a) il sistema è destinato a eseguire un compito procedurale limitato; b) è destinato a migliorare il risultato di un’attività umana precedentemente completata; c) è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana; oppure d) è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Un sistema dell’allegato III è sempre ad alto rischio se effettua profilazione di persone fisiche (articolo 3, punto 52, articolo 4, punto 4, del GDPR). Il fornitore che ritiene che il proprio sistema dell’allegato III non sia ad alto rischio documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio e lo registra (articolo 6, paragrafo 4, articolo 49, paragrafo 2). Stabilire se un dato sistema per l’istruzione effettui profilazione è una questione per un giurista.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio (articolo 3, punto 11). Una scuola, un’università o un ente d’esame che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un’università che sviluppa un sistema e lo mette in servizio per uso proprio con il proprio nome è quindi un fornitore. Un deployer diventa fornitore di un sistema ad alto rischio in tre casi: appone il proprio nome o marchio su un sistema già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi; apporta una modifica sostanziale che lascia il sistema ad alto rischio; oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

• Categorie particolari di dati personali per il rilevamento delle distorsioni

  L’articolo 4 bis, paragrafo 1 prevede che, nella misura strettamente necessaria a garantire il rilevamento e la correzione delle distorsioni in conformità dell’articolo 10, paragrafo 2, lettere f) e g), i fornitori di sistemi ad alto rischio possano eccezionalmente trattare categorie particolari di dati personali, fatte salve le tutele adeguate. Tutte le sei condizioni di cui alle lettere da a) a f) devono essere soddisfatte, oltre al diritto applicabile in materia di protezione dei dati. L’articolo 4 bis, paragrafo 2 prevede che anche i fornitori e i deployer di altri sistemi e modelli di IA e i deployer di sistemi ad alto rischio possano farlo, nella misura in cui il trattamento è strettamente necessario a tale scopo e sono applicate tutte le condizioni e le garanzie del paragrafo 1. L’ultimo periodo dell’articolo 4 bis, paragrafo 2, prevede che tale paragrafo non crea alcun obbligo di rilevare e correggere tali distorsioni.

• Date

  Il capo III, sezioni da 1 a 3, che comprendono gli articoli da 9 a 15, 17, 26 e 27, si applica ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 2, e dell’allegato III dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se, a decorrere da tale data, subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi ad alto rischio destinati a essere utilizzati dalle autorità pubbliche adottano le misure necessarie per conformarsi ai requisiti e agli obblighi di cui al regolamento entro il 2 agosto 2030 (articolo 111, paragrafo 2). Il regolamento non dice se ciò valga anche per i sistemi immessi sul mercato o messi in servizio dopo il 2 dicembre 2027; è una questione per un giurista.

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce in quale misura possono essere inflitte sanzioni pecuniarie ad autorità pubbliche e organismi pubblici (articolo 99, paragrafo 8).

• Sistemi e usi esclusi dal regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, indipendentemente dal fatto che siano stabiliti o ubicati nell’Unione o in un paese terzo, e ai fornitori e ai deployer di sistemi di IA che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettere a) e c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA se e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati con o senza modifiche esclusivamente per scopi militari, di difesa o di sicurezza nazionale, né ai sistemi di IA che non sono immessi sul mercato o messi in servizio nell’Unione, qualora l’output sia utilizzato nell’Unione esclusivamente per tali scopi (articolo 2, paragrafo 3). Non si applica ai sistemi di IA o ai modelli di IA, compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio; la prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento, a meno che non siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o rientrino nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessuna regola sui dati specifica per l’istruzione

  L’articolo 10 non nomina alcun set di dati per l’istruzione, alcuna quota di studenti per gruppo né alcun tasso di errore. Il fornitore decide che cosa è pertinente e sufficientemente rappresentativo per la finalità prevista. Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). I sistemi addestrati e sottoposti a prova con dati che riflettono lo specifico ambito geografico, comportamentale, contestuale o funzionale di utilizzo previsto si presumono conformi all’articolo 10, paragrafo 4 (articolo 42, paragrafo 1).

• Esempio: l’ambito di un sistema di ammissione

  Esempio, non un requisito del regolamento: il fornitore di un sistema di ammissione potrebbe registrare da quali istituti, regioni e tipi di scuola provengono i suoi dati di addestramento e confrontarli con gli ambiti indicati nella sua finalità prevista (articolo 10, paragrafo 4).

• Esempio: esame delle distorsioni per un sistema di valutazione

  Esempio, non un requisito del regolamento: il fornitore di un sistema che valuta i risultati dell’apprendimento potrebbe esaminare se i suoi dati di addestramento siano sbilanciati verso una lingua o un tipo di scuola e registrare le misure adottate per individuare, prevenire e attenuare tale distorsione (articolo 10, paragrafo 2, lettere f) e g)).

• Articolo 10: governance dei dati per l'IA ad alto rischio

  L’articolo 10 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA edtech: conformità istruzione

  Panoramica sull’istruzione: come il regolamento raggiunge l’IA per l’ammissione, la valutazione dei risultati, la valutazione del livello e il monitoraggio delle prove.

• Articolo 12 per l’IA per l’istruzione: conservazione delle registrazioni

  IA per l’istruzione e articolo 12: registrazione automatica degli eventi e conservazione dei log.

• Articolo 6: classificazione dei sistemi IA ad alto rischio

  Come l’articolo 6 classifica i sistemi di IA ad alto rischio, compresa l’eccezione dell’articolo 6, paragrafo 3.