Articolo 13: trasparenza per l'IA educativa — EU AI Act
Come la trasparenza dell'articolo 13 dell'EU AI Act si applica all'IA educativa — divulgazione adeguata all'età, trasparenza dei voti e spiegabilità delle ammissioni.
L'articolo 13 dell'EU AI Act richiede che i sistemi di IA ad alto rischio siano sufficientemente trasparenti affinché i deployer possano interpretare gli output e utilizzarli in modo appropriato. Nell'istruzione, la trasparenza tutela i diritti degli studenti e dei genitori, consentendo al contempo agli educatori di prendere decisioni informate. Ai sensi dell'Allegato III, Sezione 3, i sistemi di IA che determinano l'accesso o l'ammissione agli istituti di istruzione, valutano i risultati dell'apprendimento o valutano il livello di istruzione adeguato per una persona sono classificati come ad alto rischio e soggetti alla totalità degli obblighi di trasparenza dell'articolo 13.
Questa pagina spiega come i requisiti di trasparenza dell'articolo 13 si applichino specificamente all'IA dell'istruzione — dall'ammissione alla valutazione — comprese la divulgazione adeguata all'età, l'orientamento degli insegnanti, la notifica ai genitori e quali violazioni a livello di codice Scanara rileva nei sistemi di IA per l'istruzione.
Quali sistemi di IA dell'istruzione devono essere trasparenti?
IA per l'ammissione e l'iscrizione
I sistemi di IA che selezionano, classificano o filtrano i candidati per gli istituti di istruzione devono spiegare quali criteri hanno determinato le decisioni di ammissione. “Il nostro sistema ti ha ritenuto non idoneo” senza motivazione non è conforme all'articolo 13(1).
Valutazione e assegnazione di voti assistite dall'IA
I sistemi che assegnano punteggi a saggi, esami o compiti devono essere trasparenti riguardo ai criteri di valutazione e alla ponderazione utilizzati. Gli insegnanti devono comprendere i limiti del modello per utilizzare correttamente le raccomandazioni di valutazione dell'IA anziché trattarle come verdetti definitivi.
Percorso di apprendimento e raccomandazione di contenuti
I sistemi di IA che raccomandano materiali didattici, adeguano i livelli di difficoltà o personalizzano i programmi devono essere trasparenti riguardo alle basi delle raccomandazioni, in particolare quando incidono sulla progressione formativa o sull'orientamento di uno studente.
Rilevamento del plagio e dell'integrità accademica
Gli strumenti di IA che rilevano il plagio o i contenuti generati dall'IA devono fornire spiegazioni trasparenti sul motivo per cui un contenuto è stato segnalato. Gli studenti accusati di disonestà accademica devono avere accesso al ragionamento alla base della determinazione dell'IA, non solo a un punteggio di somiglianza.
Sistemi di rischio e allerta precoce per gli studenti
L'IA che prevede il rischio di abbandono scolastico, le difficoltà di apprendimento o le preoccupazioni comportamentali deve fornire agli educatori indicatori interpretabili che spieghino le basi della previsione, consentendo un intervento mirato anziché una segnalazione opaca.
Principali obblighi di trasparenza per l'istruzione
L'articolo 13 richiede istruzioni per l'uso che consentano ai deployer di interpretare in modo appropriato gli output dell'IA. Per l'IA dell'istruzione, ciò significa che le istruzioni devono essere comprensibili per insegnanti, amministratori e — in modo cruciale — per i genitori dei minori, non solo per il personale tecnico. La trasparenza adeguata all'età è una sfida distintiva in questo settore.
Trasparenza adeguata all'età per i minori
Quando i sistemi di IA trattano dati di minori, la trasparenza deve essere rivolta ai genitori o ai tutori legali, non solo agli amministratori dell'istituto. Le istruzioni per l'uso devono essere comprensibili per genitori privi di formazione tecnica, spiegando cosa fa l'IA, come incide sull'istruzione del loro figlio e quali diritti hanno.
Gli insegnanti devono comprendere i limiti del modello
L'articolo 13(1) richiede che gli output siano interpretabili dai deployer. Gli insegnanti devono comprendere che le raccomandazioni di valutazione dell'IA non sono infallibili — le istruzioni devono documentare i tassi di accuratezza, i bias noti (lingua, riferimenti culturali, stile di scrittura) e i casi in cui il giudizio umano dovrebbe prevalere sulla valutazione dell'IA.
Gli studenti e i genitori devono essere informati
L'articolo 50(1) richiede che le persone fisiche che interagiscono con un sistema di IA siano informate di tale fatto. Gli studenti e i genitori devono essere informati quando l'IA è utilizzata nelle decisioni di ammissione, valutazione o collocamento formativo. La notifica deve essere tempestiva — prima o al momento della decisione influenzata dall'IA.
Gli istituti devono spiegare le decisioni assistite dall'IA
In caso di contestazione, gli istituti devono poter spiegare perché è stata presa una decisione assistita dall'IA. L'articolo 22 del GDPR conferisce alle persone il diritto di contestare le decisioni automatizzate con effetti significativi — il collocamento formativo e la valutazione soddisfano chiaramente questo criterio. La trasparenza dell'articolo 13 consente all'istituto di fornire tale spiegazione.
Sovrapposizioni normative
La trasparenza dell'IA dell'istruzione si interseca con la protezione dei dati dei minori, il diritto antidiscriminazione e le normative nazionali in materia di istruzione. L'articolo 13 deve essere coordinato con questi obblighi sovrapposti.
Articoli 13/14 e articolo 22 del GDPR — Dati dei minori
Il GDPR richiede un linguaggio chiaro e semplice quando si forniscono informazioni ai minori (Considerando 58). Le informazioni sul trattamento da parte dell'IA dei dati dei minori devono essere adeguate all'età. L'articolo 22 del GDPR conferisce il diritto di contestare le decisioni automatizzate — le decisioni dell'IA educativa che incidono sulla progressione di un minore costituiscono decisioni con “effetti significativi analoghi”.
Linee guida del Consiglio d'Europa sull'IA nell'istruzione
Le linee guida del Consiglio d'Europa sull'IA e l'istruzione sottolineano la trasparenza come principio fondamentale, richiedendo che l'IA educativa sia comprensibile da tutte le parti interessate, compresi studenti, genitori ed educatori. Queste linee guida non vincolanti orientano l'attuazione nazionale e integrano i requisiti vincolanti dell'articolo 13.
Diritto nazionale dell'istruzione e regolamenti d'esame
Molti Stati membri dell'UE dispongono di normative che disciplinano l'equità degli esami, i ricorsi sui voti e la trasparenza delle ammissioni. Quando l'IA è utilizzata in questi processi, gli obblighi nazionali di trasparenza esistenti (ad es. il diritto di rivedere gli elaborati d'esame e di comprendere i criteri di valutazione) devono essere estesi per includere informazioni specifiche sull'IA relative al ruolo del sistema.
Raccomandazione dell'UNESCO sull'etica dell'IA
La Raccomandazione dell'UNESCO sull'etica dell'IA evidenzia l'istruzione come area prioritaria che richiede trasparenza, in particolare per quanto riguarda i bias algoritmici nella valutazione e il potenziale dell'IA di rafforzare le disuguaglianze educative. Questi principi orientano lo spirito dell'attuazione dell'articolo 13 nell'istruzione.
Violazioni comuni rilevate da Scanara
Valutazione dell'IA senza trasparenza dei criteri
Endpoint di valutazione che restituiscono punteggi o voti senza una spiegazione di accompagnamento su quali criteri di valutazione abbiano contribuito al risultato. L'articolo 13(1) richiede output interpretabili — Scanara segnala le API di valutazione che restituiscono solo punteggi numerici senza spiegazione a livello di griglia.
Assenza di divulgazione dell'IA nelle interfacce rivolte agli studenti
Piattaforme di apprendimento e strumenti di valutazione che utilizzano l'IA senza informare gli studenti o i genitori. Scanara rileva pagine rivolte agli studenti ed endpoint API che avviano l'elaborazione dell'IA senza un componente di divulgazione o un meccanismo di notifica.
Rifiuto dell'ammissione senza spiegazione dei fattori
Endpoint di decisione di ammissione che restituiscono stati di rifiuto senza spiegare quali fattori abbiano contribuito alla decisione. I candidati e i loro genitori devono poter comprendere le basi di una decisione di ammissione assistita dall'IA ai sensi dell'articolo 13 e dell'articolo 22 del GDPR.
Istruzioni per l'uso prive della sezione sui limiti
Documentazione di sistema che descrive le capacità di valutazione dell'IA senza documentare i limiti noti, come il bias linguistico, la gestione dei riferimenti culturali o il degrado dell'accuratezza per formati di consegna non standard. L'articolo 13(3)(b)(i) richiede la divulgazione dei limiti e degli usi impropri prevedibili.
Lista di controllo di conformità all'articolo 13 per l'istruzione
Rendere interpretabili le valutazioni dell'IA per gli educatori
Assicurarsi che gli insegnanti possano comprendere le basi delle raccomandazioni di valutazione dell'IA, compresi quali criteri abbiano contribuito al punteggio e come siano stati ponderati. Fornire trasparenza a livello di griglia accanto a ogni output di valutazione dell'IA.
Informare gli studenti e i genitori sull'uso dell'IA
Informare gli studenti e i genitori quando l'IA è utilizzata nell'ammissione, nella valutazione o nel collocamento formativo. Per i minori, le notifiche devono essere rivolte ai genitori con un linguaggio chiaro e non tecnico.
Fornire istruzioni per l'uso adeguate all'età
Documentare le capacità del sistema, i limiti e l'uso previsto con un linguaggio comprensibile per genitori privi di formazione tecnica. Includere metriche di accuratezza, bias noti e indicazioni su quando il giudizio dell'educatore dovrebbe prevalere sulle raccomandazioni dell'IA.
Consentire la contestazione delle decisioni dell'IA
Assicurarsi che la trasparenza fornita ai sensi dell'articolo 13 sia sufficiente affinché gli studenti e i genitori possano contestare le decisioni assistite dall'IA. L'istituto deve poter spiegare il contributo dell'IA a qualsiasi decisione che incida sulla progressione formativa.
Divulgare l'accuratezza e i limiti della valutazione
Riferire l'accuratezza della valutazione, l'affidabilità tra valutatori con i correttori umani e le variazioni di prestazione note tra i profili demografici degli studenti, le lingue e i formati di consegna. Documentare le condizioni in cui la valutazione dell'IA può essere meno affidabile.
Domande frequenti
Risorse correlate
Articolo 13: Trasparenza
Requisiti completi dell'articolo 13 in tutti i settori.
IA dell'istruzione — Hub settoriale
Guida completa alla conformità all'EU AI Act per i sistemi di IA dell'istruzione.
Articolo 12: Conservazione dei registri per l'istruzione
Requisiti di registrazione e conservazione dei registri per l'IA dell'istruzione.
Articolo 14: Sorveglianza umana per l'istruzione
Obblighi di sorveglianza umana per i sistemi di IA dell'istruzione.
Come aiuta Scanara
Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.