Articolo 13 per l’IA per l’istruzione: trasparenza e informazioni ai deployer

L’articolo 13 stabilisce obblighi per il fornitore. Il destinatario è il deployer, ad esempio una scuola, un’università o un ente d’esame.

• art. 13(1)
  Sufficientemente trasparenti da interpretare l’output

  I sistemi ad alto rischio devono essere progettati e sviluppati in modo che il loro funzionamento sia sufficientemente trasparente da consentire ai deployer di interpretare l’output del sistema e utilizzarlo adeguatamente. Devono essere garantiti un tipo e un livello di trasparenza adeguati, che consentano di conseguire il rispetto dei pertinenti obblighi del fornitore e del deployer di cui alla sezione 3.

• art. 13(2)
  Istruzioni per l’uso

  I sistemi ad alto rischio devono essere accompagnati da istruzioni per l’uso, in un formato appropriato digitale o non digitale. Esse comprendono informazioni concise, complete, corrette e chiare che siano pertinenti, accessibili e comprensibili per i deployer.

• art. 13(3)(a)–(c)
  Identità, prestazioni e rischi

  Le istruzioni contengono almeno: a) l’identità e i dati di contatto del fornitore e, ove applicabile, del suo rappresentante autorizzato; b) le caratteristiche, le capacità e i limiti delle prestazioni, tra cui i) la finalità prevista, ii) il livello di accuratezza che ci si può attendere, comprese le metriche, di robustezza e cibersicurezza di cui all’articolo 15 rispetto al quale il sistema è stato sottoposto a prova e convalidato, e qualsiasi circostanza nota e prevedibile che possa avere un impatto su tale livello, e iii) qualsiasi circostanza nota o prevedibile connessa all’uso del sistema che possa comportare rischi per la salute e la sicurezza o per i diritti fondamentali di cui all’articolo 9, paragrafo 2; c) le eventuali modifiche apportate al sistema e alle sue prestazioni, che sono state predeterminate dal fornitore al momento della valutazione iniziale della conformità.

• art. 13(3)(b)(iv)–(vii)
  Elementi che dipendono dal sistema

  Fanno parte della lettera b), con le condizioni poste dal regolamento stesso: iv) se del caso, le capacità e caratteristiche tecniche del sistema connesse alla fornitura di informazioni pertinenti per spiegarne l’output; v) ove opportuno, le sue prestazioni per quanto riguarda le persone o i gruppi di persone specifici sui quali il sistema è destinato a essere utilizzato; vi) ove opportuno, le specifiche per i dati di input o qualsiasi altra informazione pertinente in termini di set di dati di addestramento, convalida e prova, tenendo conto della finalità prevista; vii) se del caso, informazioni che consentano ai deployer di interpretare l’output e di usarlo in modo opportuno.

• art. 13(3)(d)–(f)
  Sorveglianza, risorse e log

  Le istruzioni contengono inoltre: d) le misure di sorveglianza umana di cui all’articolo 14, comprese le misure tecniche poste in essere per facilitare l’interpretazione degli output da parte dei deployer; e) le risorse computazionali e di hardware necessarie, la durata prevista del sistema e tutte le misure di manutenzione e cura necessarie, compresa la relativa frequenza, anche per quanto riguarda gli aggiornamenti software; f) se del caso, una descrizione dei meccanismi inclusi nel sistema che consentono ai deployer di raccogliere, conservare e interpretare correttamente i log in conformità dell’articolo 12.

L’articolo 13 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA per l’istruzione diventa ad alto rischio e a chi devono arrivare le informazioni.

• Il regolamento non prevede un regime generale per l’istruzione

  Il regolamento non prevede un regime generale per l’istruzione. L’allegato III, punto 3, è l’area ad alto rischio intitolata «Istruzione e formazione professionale». Questo sito usa la parola istruzione per l’IA che rientra nel regolamento attraverso tale punto. Il punto 3 elenca quattro usi. a) I sistemi di IA destinati a essere utilizzati per determinare l’accesso, l’ammissione o l’assegnazione di persone fisiche agli istituti di istruzione e formazione professionale a tutti i livelli. b) I sistemi di IA destinati a essere utilizzati per valutare i risultati dell’apprendimento, anche nei casi in cui tali risultati sono utilizzati per orientare il processo di apprendimento di persone fisiche. c) I sistemi di IA destinati a essere utilizzati per valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere. d) I sistemi di IA destinati a essere utilizzati per monitorare e rilevare comportamenti vietati degli studenti durante le prove. Ciascun uso è legato agli istituti di istruzione e formazione professionale a tutti i livelli. Il punto 3 non nomina come tali il rilevamento di plagio o di testi generati dall’IA, la previsione dell’abbandono scolastico, le dashboard di apprendimento, i chatbot amministrativi o l’apprendimento adattivo. Un sistema per uno di questi usi è ad alto rischio solo se la sua finalità prevista corrisponde a uno dei quattro usi, oppure se lo contempla un altro punto dell’allegato III o l’allegato I.

• Inferenza delle emozioni negli istituti di istruzione: vietata, con eccezione per motivi medici o di sicurezza

  L’articolo 5, paragrafo 1, lettera f), vieta l’immissione sul mercato, la messa in servizio per tale finalità specifica o l’uso di sistemi di IA per inferire le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione, tranne laddove l’uso del sistema di IA sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza. Il divieto si applica dal 2 febbraio 2025 (articolo 113, lettera a)). È un divieto, non un uso ad alto rischio: l’eccezione non crea alcun obbligo e non è un punto di aggancio dell’allegato III. Una violazione è soggetta a sanzioni amministrative pecuniarie fino a 35 milioni di EUR o, per un’impresa, fino al 7 % del fatturato mondiale totale annuo, se superiore (articolo 99, paragrafo 3). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6).

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nel punto 3 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. In deroga a tale disposizione, un sistema dell’allegato III non è ad alto rischio ai sensi dell’articolo 6, paragrafo 3 se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Ciò vale quando è soddisfatta almeno una di quattro condizioni: a) il sistema è destinato a eseguire un compito procedurale limitato; b) è destinato a migliorare il risultato di un’attività umana precedentemente completata; c) è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana; oppure d) è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Un sistema dell’allegato III è sempre ad alto rischio se effettua profilazione di persone fisiche (articolo 3, punto 52, articolo 4, punto 4, del GDPR). Il fornitore che ritiene che il proprio sistema dell’allegato III non sia ad alto rischio documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio e lo registra (articolo 6, paragrafo 4, articolo 49, paragrafo 2). Stabilire se un dato sistema per l’istruzione effettui profilazione è una questione per un giurista.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio (articolo 3, punto 11). Una scuola, un’università o un ente d’esame che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un’università che sviluppa un sistema e lo mette in servizio per uso proprio con il proprio nome è quindi un fornitore. Un deployer diventa fornitore di un sistema ad alto rischio in tre casi: appone il proprio nome o marchio su un sistema già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi; apporta una modifica sostanziale che lascia il sistema ad alto rischio; oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

• Informazioni agli studenti: articolo 26, paragrafo 11, e articolo 86, non articolo 13

  L’articolo 13 non richiede alcuna comunicazione agli studenti o ai genitori. Ai sensi dell’articolo 26, paragrafo 11, fatto salvo l’articolo 50, i deployer dei sistemi ad alto rischio di cui all’allegato III che adottano decisioni o assistono nell’adozione di decisioni che riguardano persone fisiche devono informarle che sono soggette all’uso del sistema di IA ad alto rischio. L’articolo 86, paragrafo 1 riconosce a qualsiasi persona interessata oggetto di una decisione adottata dal deployer sulla base dell’output di un sistema dell’allegato III (ad eccezione del punto 2), che produca effetti giuridici o in modo analogo incida significativamente su tale persona in un modo che essa ritenga avere un impatto negativo sulla sua salute, sulla sua sicurezza o sui suoi diritti fondamentali, il diritto di ottenere dal deployer spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata. L’articolo 86, paragrafi 2 e 3 stabilisce eccezioni. L’articolo 85 consente a qualsiasi persona fisica o giuridica che abbia motivo di ritenere che vi sia stata una violazione del regolamento di presentare un reclamo alla pertinente autorità di vigilanza del mercato.

• Date

  Il capo III, sezioni da 1 a 3, che comprendono gli articoli da 9 a 15, 17, 26 e 27, si applica ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 2, e dell’allegato III dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se, a decorrere da tale data, subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi ad alto rischio destinati a essere utilizzati dalle autorità pubbliche adottano le misure necessarie per conformarsi ai requisiti e agli obblighi di cui al regolamento entro il 2 agosto 2030 (articolo 111, paragrafo 2). Il regolamento non dice se ciò valga anche per i sistemi immessi sul mercato o messi in servizio dopo il 2 dicembre 2027; è una questione per un giurista.

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce in quale misura possono essere inflitte sanzioni pecuniarie ad autorità pubbliche e organismi pubblici (articolo 99, paragrafo 8).

• Sistemi e usi esclusi dal regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, indipendentemente dal fatto che siano stabiliti o ubicati nell’Unione o in un paese terzo, e ai fornitori e ai deployer di sistemi di IA che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettere a) e c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA se e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati con o senza modifiche esclusivamente per scopi militari, di difesa o di sicurezza nazionale, né ai sistemi di IA che non sono immessi sul mercato o messi in servizio nell’Unione, qualora l’output sia utilizzato nell’Unione esclusivamente per tali scopi (articolo 2, paragrafo 3). Non si applica ai sistemi di IA o ai modelli di IA, compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio; la prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento, a meno che non siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o rientrino nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Nessun contenuto specifico per l’istruzione nelle istruzioni

  L’articolo 13, paragrafo 3, è lo stesso elenco per ogni settore. Il regolamento non dice quali gruppi di studenti debbano essere coperti dalle informazioni sulle prestazioni; dice «ove opportuno» (articolo 13, paragrafo 3, lettera b), punto v)). Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1). La Commissione elabora orientamenti sull’applicazione degli articoli da 8 a 15, 25 e 26 (articolo 96, paragrafo 1, lettera a)).

• Esempio: finalità prevista nelle istruzioni

  Esempio, non un requisito del regolamento: per un sistema che assiste il personale nella classificazione delle domande, le istruzioni potrebbero indicare nella finalità prevista a che cosa è destinato l’output, in modo che il deployer possa utilizzarlo adeguatamente (articolo 13, paragrafo 3, lettera b), punto i)).

• Esempio: circostanze note per il monitoraggio delle prove

  Esempio, non un requisito del regolamento: per un sistema che rileva comportamenti vietati durante le prove, le istruzioni potrebbero indicare le circostanze note che possono incidere sull’accuratezza, come le condizioni in cui è stato sottoposto a prova e convalidato (articolo 13, paragrafo 3, lettera b), punto ii)).

• Articolo 13 regolamento IA: trasparenza e istruzioni per l’uso

  L’articolo 13 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA edtech: conformità istruzione

  Panoramica sull’istruzione: come il regolamento raggiunge l’IA per l’ammissione, la valutazione dei risultati, la valutazione del livello e il monitoraggio delle prove.

• Articolo 14 per l’IA per l’istruzione: sorveglianza umana

  IA per l’istruzione e articolo 14: sorveglianza umana fin dalla progettazione.

• Articolo 26: obblighi del deployer per l'IA ad alto rischio

  Che cosa devono fare i deployer di sistemi di IA ad alto rischio, compresa l’informazione delle persone interessate.