Regolamento IA edtech: conformità istruzione

Il regolamento non prevede un regime generale per l’istruzione. Questo sito usa la parola per l’IA che rientra nel regolamento attraverso l’allegato III, punto 3, intitolato «Istruzione e formazione professionale», e attraverso le regole seguenti.

• Accesso e ammissione: allegato III, punto 3, lettera a)

  I sistemi di IA destinati a essere utilizzati per determinare l’accesso, l’ammissione o l’assegnazione di persone fisiche agli istituti di istruzione e formazione professionale a tutti i livelli sono ad alto rischio.

• Risultati dell’apprendimento: allegato III, punto 3, lettera b)

  I sistemi di IA destinati a essere utilizzati per valutare i risultati dell’apprendimento, anche nei casi in cui tali risultati sono utilizzati per orientare il processo di apprendimento di persone fisiche, sono ad alto rischio.

• Livello di istruzione: allegato III, punto 3, lettera c)

  I sistemi di IA destinati a essere utilizzati per valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere sono ad alto rischio.

• Monitoraggio durante le prove: allegato III, punto 3, lettera d)

  I sistemi di IA destinati a essere utilizzati per monitorare e rilevare comportamenti vietati degli studenti durante le prove sono ad alto rischio. Ciascuno dei quattro usi è legato agli istituti di istruzione e formazione professionale a tutti i livelli. Il punto 3, lettera d), nomina le prove.

• Usi che il punto 3 non nomina

  Il punto 3 non nomina come tali il rilevamento di plagio o di testi generati dall’IA, la previsione dell’abbandono scolastico, le dashboard di apprendimento, i chatbot amministrativi o l’apprendimento adattivo. Un sistema per uno di questi usi è ad alto rischio solo se la sua finalità prevista corrisponde a una delle lettere da a) a d) del punto 3, oppure se lo contempla un altro punto dell’allegato III o l’allegato I.

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nel punto 3 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. In deroga a tale disposizione, un sistema dell’allegato III non è ad alto rischio ai sensi dell’articolo 6, paragrafo 3 se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Ciò vale quando è soddisfatta almeno una di quattro condizioni: a) il sistema è destinato a eseguire un compito procedurale limitato; b) è destinato a migliorare il risultato di un’attività umana precedentemente completata; c) è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana; oppure d) è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Un sistema dell’allegato III è sempre ad alto rischio se effettua profilazione di persone fisiche (articolo 3, punto 52, articolo 4, punto 4, del GDPR). Il fornitore che ritiene che il proprio sistema dell’allegato III non sia ad alto rischio documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio e lo registra (articolo 6, paragrafo 4, articolo 49, paragrafo 2). Stabilire se un dato sistema per l’istruzione effettui profilazione è una questione per un giurista.

• Inferenza delle emozioni negli istituti di istruzione: vietata, con eccezione per motivi medici o di sicurezza

  L’articolo 5, paragrafo 1, lettera f), vieta l’immissione sul mercato, la messa in servizio per tale finalità specifica o l’uso di sistemi di IA per inferire le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione, tranne laddove l’uso del sistema di IA sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza. Il divieto si applica dal 2 febbraio 2025 (articolo 113, lettera a)). È un divieto, non un uso ad alto rischio: l’eccezione non crea alcun obbligo e non è un punto di aggancio dell’allegato III. Una funzione di un sistema per l’istruzione che inferisce le emozioni degli studenti rientra nella lettera f), a meno che non si applichi l’eccezione. Una violazione è soggetta a sanzioni amministrative pecuniarie fino a 35 milioni di EUR o, per un’impresa, fino al 7 % del fatturato mondiale totale annuo, se superiore (articolo 99, paragrafo 3). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6).

• Altre regole del regolamento che possono riguardare l’IA per l’istruzione

  L’articolo 4 richiede ai fornitori e ai deployer di sistemi di IA di adottare misure per sostenere l’alfabetizzazione in materia di IA del loro personale e di altre persone che si occupano del funzionamento e dell’utilizzo dei sistemi di IA per loro conto; il capo I si applica dal 2 febbraio 2025. L’articolo 50 stabilisce obblighi di trasparenza per i fornitori e i deployer di determinati sistemi di IA; non nomina alcun caso di istruzione e si applica dalla data generale di applicazione, il 2 agosto 2026. L’articolo 53 stabilisce obblighi per i fornitori di modelli di IA per finalità generali; non nomina alcun caso di istruzione.

Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio (articolo 3, punto 11). Una scuola, un’università o un ente d’esame che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un’università che sviluppa un sistema e lo mette in servizio per uso proprio con il proprio nome è quindi un fornitore. Un deployer diventa fornitore di un sistema ad alto rischio in tre casi: appone il proprio nome o marchio su un sistema già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi; apporta una modifica sostanziale che lascia il sistema ad alto rischio; oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

Il fornitore di un sistema ad alto rischio per l’istruzione ha gli obblighi di progettazione seguenti. Ciascuna pagina collegata sotto «Pagine sugli articoli per l’istruzione» ne tratta uno.

• art. 9
  Sistema di gestione dei rischi

  Un processo iterativo continuo lungo il ciclo di vita, con prove sulla base di metriche definite precedentemente e attenzione alle persone di età inferiore a 18 anni.

• art. 10
  Dati e governance dei dati

  Set di dati di addestramento, convalida e prova che soddisfano i criteri di qualità, con esame delle distorsioni e pratiche di governance dei dati.

• art. 12
  Conservazione delle registrazioni

  Il sistema consente a livello tecnico la registrazione automatica degli eventi (log) per tutta la sua durata.

• art. 13
  Trasparenza e istruzioni per l’uso

  Funzionamento sufficientemente trasparente da consentire ai deployer di interpretare l’output, con istruzioni per l’uso che contengono almeno gli elementi dell’articolo 13, paragrafo 3.

• art. 14
  Sorveglianza umana

  Progettazione che consente una supervisione efficace da parte di persone fisiche mentre il sistema è in uso.

• art. 15
  Accuratezza, robustezza e cibersicurezza

  Un livello adeguato di accuratezza, robustezza e cibersicurezza durante l’intero ciclo di vita; i livelli di accuratezza e le relative metriche sono dichiarati nelle istruzioni per l’uso. I deployer non hanno alcun obbligo ai sensi dell’articolo 15.

• art. 17
  Sistema di gestione della qualità

  Un sistema di gestione della qualità documentato. La sua attuazione è proporzionata alle dimensioni dell’organizzazione del fornitore, in particolare per le PMI e le piccole imprese a media capitalizzazione, che devono in ogni caso rispettare il grado di rigore richiesto (articolo 17, paragrafo 2).

• art. 43(2), 47–49
  Valutazione della conformità e registrazione

  Per i sistemi di cui ai punti da 2 a 8 dell’allegato III, tra cui il punto 3, il fornitore segue la procedura di valutazione della conformità basata sul controllo interno (allegato VI), senza organismo notificato (articolo 43, paragrafo 2). Redige la dichiarazione di conformità UE (articolo 47), appone la marcatura CE (articolo 48) e registra sé stesso e il sistema nella banca dati dell’UE (articolo 49, paragrafo 1) prima di immettere il sistema sul mercato o metterlo in servizio.

• art. 26(1)–(3)
  Usare secondo le istruzioni, affidare la sorveglianza

  I deployer adottano idonee misure tecniche e organizzative per utilizzare il sistema conformemente alle istruzioni per l’uso e affidano la sorveglianza umana a persone fisiche che dispongono della competenza, della formazione e dell’autorità necessarie nonché del sostegno necessario. Tali obblighi lasciano impregiudicati gli altri obblighi dei deployer previsti dal diritto dell’Unione o nazionale (articolo 26, paragrafi da 1 a 3).

• art. 26(4)–(6)
  Dati di input, monitoraggio e log

  Nella misura in cui il deployer esercita il controllo sui dati di input, garantisce che siano pertinenti e sufficientemente rappresentativi alla luce della finalità prevista. Monitora il funzionamento del sistema sulla base delle istruzioni per l’uso e, qualora i deployer abbiano motivo di ritenere che l’uso conforme alle istruzioni possa comportare un rischio ai sensi dell’articolo 79, paragrafo 1, ne informano senza indebito ritardo il fornitore o il distributore e la pertinente autorità di vigilanza del mercato e sospendono l’uso. Conserva i log sotto il suo controllo per almeno sei mesi, salvo diversa disposizione del diritto dell’Unione o nazionale (articolo 26, paragrafi da 4 a 6).

• art. 26(8)
  Autorità pubbliche: registrazione

  I deployer che sono autorità pubbliche, o istituzioni, organi e organismi dell’Unione, rispettano gli obblighi di registrazione di cui all’articolo 49 e non utilizzano un sistema che non sia stato registrato nella banca dati dell’UE (articolo 26, paragrafo 8, articolo 49, paragrafo 3).

• art. 26(9)
  Valutazione d’impatto sulla protezione dei dati, ove applicabile

  Se del caso, i deployer usano le informazioni fornite a norma dell’articolo 13 per adempiere al loro obbligo di effettuare una valutazione d’impatto sulla protezione dei dati a norma dell’articolo 35 del GDPR (articolo 26, paragrafo 9). Se tale obbligo esista è deciso dal diritto in materia di protezione dei dati.

• art. 26(11)
  Informare le persone interessate

  Fatto salvo l’articolo 50, i deployer di sistemi ad alto rischio dell’allegato III che adottano decisioni o assistono nell’adozione di decisioni che riguardano persone fisiche le informano che sono soggette all’uso del sistema (articolo 26, paragrafo 11). Questo è l’obbligo di informazione del regolamento nei confronti degli studenti. Non è l’articolo 50, paragrafo 1.

• art. 27
  Valutazione d’impatto sui diritti fondamentali

  Prima di utilizzare un sistema ad alto rischio, i deployer che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici effettuano una valutazione dell’impatto sui diritti fondamentali e ne notificano i risultati all’autorità di vigilanza del mercato; nel caso di cui all’articolo 46, paragrafo 1, i deployer possono essere esentati da tale obbligo di notifica. L’obbligo esclude l’allegato III, punto 2, e comprende il punto 3 (articolo 27, paragrafi 1 e 3). Il regolamento non nomina alcuna scuola o università; se una determinata istituzione sia un organismo di diritto pubblico o un ente privato che fornisce servizi pubblici è una questione di diritto nazionale e per un giurista.

• art. 86
  Diritto alla spiegazione

  Qualsiasi persona interessata oggetto di una decisione adottata dal deployer sulla base dell’output di un sistema dell’allegato III (ad eccezione del punto 2), che produca effetti giuridici o in modo analogo incida significativamente su tale persona in un modo che essa ritenga avere un impatto negativo sulla sua salute, sulla sua sicurezza o sui suoi diritti fondamentali, ha il diritto di ottenere dal deployer spiegazioni chiare e significative (articolo 86).

• art. 4
  Alfabetizzazione in materia di IA del personale

  I deployer adottano misure per sostenere l’alfabetizzazione in materia di IA del loro personale e di altre persone che si occupano del funzionamento e dell’utilizzo dei sistemi di IA per loro conto. L’obbligo non impone loro di garantire un livello specifico di alfabetizzazione in materia di IA per alcuna persona (articolo 4).

• Date

  Il capo III, sezioni da 1 a 3, che comprendono gli articoli da 9 a 15, 17, 26 e 27, si applica ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 2, e dell’allegato III dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se, a decorrere da tale data, subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi ad alto rischio destinati a essere utilizzati dalle autorità pubbliche adottano le misure necessarie per conformarsi ai requisiti e agli obblighi di cui al regolamento entro il 2 agosto 2030 (articolo 111, paragrafo 2). Il regolamento non dice se ciò valga anche per i sistemi immessi sul mercato o messi in servizio dopo il 2 dicembre 2027; è una questione per un giurista.

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce in quale misura possono essere inflitte sanzioni pecuniarie ad autorità pubbliche e organismi pubblici (articolo 99, paragrafo 8).

• Sistemi e usi esclusi dal regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, indipendentemente dal fatto che siano stabiliti o ubicati nell’Unione o in un paese terzo, e ai fornitori e ai deployer di sistemi di IA che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettere a) e c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA se e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati con o senza modifiche esclusivamente per scopi militari, di difesa o di sicurezza nazionale, né ai sistemi di IA che non sono immessi sul mercato o messi in servizio nell’Unione, qualora l’output sia utilizzato nell’Unione esclusivamente per tali scopi (articolo 2, paragrafo 3). Non si applica ai sistemi di IA o ai modelli di IA, compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio; la prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento, a meno che non siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o rientrino nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessun valore specifico per l’istruzione

  Oltre all’allegato III, punto 3, e all’articolo 5, paragrafo 1, lettera f), il regolamento non contiene regole specifiche per l’istruzione. Non nomina alcun valore di accuratezza, periodo di conservazione oltre il minimo di sei mesi, frequenza delle prove o soglia di distorsione per l’istruzione. Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione degli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)) e sulle pratiche vietate (articolo 96, paragrafo 1, lettera b)).

• Chi è un organismo di diritto pubblico

  L’articolo 27, paragrafo 1, e l’articolo 26, paragrafo 8, si applicano agli organismi di diritto pubblico, agli enti privati che forniscono servizi pubblici e alle autorità pubbliche. Il regolamento non definisce questi termini per le scuole o le università. Il diritto nazionale decide come è classificata un’istituzione.

• Strumenti che non sono nominati

  Se un controllo antiplagio, un predittore dell’abbandono scolastico o uno strumento di apprendimento adattivo sia ad alto rischio dipende dalla sua finalità prevista, stabilita dal fornitore, letta rispetto al punto 3, lettere da a) a d). Il regolamento non fornisce alcun elenco di tali strumenti.

Una pagina per ciascun articolo di maggiore rilievo per fornitori e deployer dell’istruzione.

• Articolo 9 per l’IA per l’istruzione: sistema di gestione dei rischi

  Sistema di gestione dei rischi, comprese le persone di età inferiore a 18 anni.

• Articolo 10 per l’IA per l’istruzione: dati e governance dei dati

  Set di dati, esame delle distorsioni e categorie particolari di dati personali.

• Articolo 12 per l’IA per l’istruzione: conservazione delle registrazioni

  Registrazione automatica degli eventi e conservazione dei log.

• Articolo 13 per l’IA per l’istruzione: trasparenza e informazioni ai deployer

  Istruzioni per l’uso e informazioni ai deployer.

• Articolo 14 per l’IA per l’istruzione: sorveglianza umana

  Sorveglianza umana fin dalla progettazione e ruolo del deployer.

• Articolo 15 per l’IA nell’istruzione: accuratezza, robustezza e cibersicurezza

  Accuratezza, robustezza e cibersicurezza.

• Articolo 17 per l’IA nell’istruzione: sistema di gestione della qualità

  Sistema di gestione della qualità per i fornitori.

• Articolo 26 nell’istruzione: obblighi dei deployer

  Che cosa devono fare i deployer di sistemi ad alto rischio.

• Articolo 50 per l’IA nell’istruzione: trasparenza e informativa

  Obblighi di trasparenza per determinati sistemi di IA.

• Articolo 53 nell’istruzione: obblighi dei fornitori di modelli di IA per finalità generali

  Obblighi dei fornitori di modelli di IA per finalità generali.

• Allegato III in dettaglio: le 8 categorie ad alto rischio

  Tutte le otto aree dell’allegato III, compreso il punto 3 su istruzione e formazione professionale.

• Articolo 6: classificazione dei sistemi IA ad alto rischio

  Come l’articolo 6 classifica i sistemi di IA ad alto rischio, compresa l’eccezione dell’articolo 6, paragrafo 3.

• Articolo 27: valutazione d'impatto sui diritti fondamentali

  La valutazione d’impatto sui diritti fondamentali per i deployer che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici.

• Pratiche IA vietate: articolo 5 del regolamento IA

  Le pratiche vietate dell’articolo 5, compreso il divieto di inferire le emozioni negli istituti di istruzione.