Articolo 26: obblighi del deployer per l'IA educativa
Come gli obblighi del deployer dell'articolo 26 del regolamento UE sull'IA si applicano a scuole e università — formazione dei docenti, notifica ai genitori, minori e FRIA.
L'articolo 26 del regolamento UE sull'IA stabilisce obblighi per i deployer — le organizzazioni che utilizzano sistemi di IA ad alto rischio sviluppati da terzi. Nell'istruzione, i deployer sono scuole, università, commissioni d'esame e autorità educative che acquistano da fornitori edtech strumenti basati sull'IA per la valutazione degli studenti, l'apprendimento adattivo, il rilevamento del plagio o la selezione delle ammissioni. Questi istituti si assumono la responsabilità diretta della conformità riguardo alle modalità di utilizzo degli strumenti di IA nei contesti educativi, anche se non hanno costruito la tecnologia.
I deployer dell'istruzione affrontano obblighi rafforzati perché i loro sistemi di IA riguardano bambini e giovani — interessati vulnerabili ai sensi del GDPR. Una DPIA è obbligatoria quando si impiega l'IA in contesti educativi che coinvolgono minori, e i genitori o i tutori devono essere informati degli strumenti di IA utilizzati nell'istruzione del loro figlio. Questa pagina spiega cosa richiede l'articolo 26 agli istituti di istruzione, come interagisce con il diritto della protezione dei dati e dell'istruzione e quali lacune di conformità rileva Scanara.
Chi è deployer nell'istruzione?
Scuole e circoscrizioni scolastiche
Scuole primarie e secondarie che impiegano strumenti basati sull'IA per la valutazione degli studenti, l'analisi dell'apprendimento o il monitoraggio comportamentale. Le circoscrizioni scolastiche che acquistano piattaforme di IA in modo centralizzato sono deployer con obblighi ai sensi dell'articolo 26 per tutte le scuole che utilizzano tali strumenti.
Università e istruzione superiore
Università che utilizzano l'IA di terzi per il punteggio delle ammissioni, la correzione automatizzata dei temi, il rilevamento del plagio (ad esempio, Turnitin) o le piattaforme di apprendimento adattivo. Ogni istituto che impiega questi strumenti è un deployer, indipendentemente dal fatto che l'acquisto sia stato centralizzato.
Organismi di esame e certificazione
Organizzazioni che utilizzano l'IA per il punteggio automatizzato degli esami, la sorveglianza o la valutazione di certificazione. Questi deployer prendono decisioni ad alto impatto sul rendimento scolastico e devono garantire una solida sorveglianza umana della valutazione assistita dall'IA.
Ministeri e autorità dell'istruzione
Enti pubblici per l'istruzione che impiegano l'IA per l'analisi del rendimento scolastico, l'allocazione delle risorse o i sistemi di allerta precoce per il rischio di abbandono scolastico. In quanto enti di diritto pubblico, questi deployer devono effettuare una FRIA prima dell'impiego.
Piattaforme di apprendimento online
Istituti di istruzione che utilizzano sistemi di tutoraggio basati sull'IA di terzi, motori di apprendimento adattivo o sistemi di raccomandazione personalizzata di fornitori edtech commerciali. L'istituto che concede in licenza la piattaforma per l'uso degli studenti è il deployer.
Principali obblighi del deployer per l'istruzione
L'articolo 26 impone ai deployer di utilizzare i sistemi di IA conformemente alle istruzioni del fornitore, di assegnare la sorveglianza umana e di monitorare le operazioni. Per l'istruzione, questi obblighi hanno un peso aggiuntivo perché gli individui interessati sono spesso bambini con una capacità limitata di comprendere o contestare le decisioni dell'IA.
Formazione degli insegnanti sugli strumenti di IA
I deployer devono affidare la sorveglianza umana a persone dotate della competenza, della formazione e dell'autorità necessarie. Nell'istruzione, ciò significa che gli insegnanti devono essere formati per utilizzare gli strumenti di IA in modo appropriato, individuare quando l'output dell'IA è errato e ignorare le raccomandazioni dell'IA. La formazione deve coprire le capacità specifiche e i limiti noti del sistema di IA.
Informazione di genitori e tutori
Per gli strumenti di IA utilizzati con i minori, i genitori o i tutori legali devono essere informati dei sistemi di IA impiegati nell'istruzione del loro figlio. Ciò include la finalità dell'IA, quali dati tratta e come gli output dell'IA vengono utilizzati nelle decisioni educative. Ciò va oltre l'articolo 26 fino ai requisiti del GDPR sui dati dei minori.
Valutazione d'impatto sui diritti fondamentali
Le scuole pubbliche e le autorità educative devono effettuare una FRIA prima di impiegare l'IA ad alto rischio. La valutazione deve esaminare gli impatti sui diritti dei bambini all'istruzione, alla non discriminazione, allo sviluppo e alla partecipazione. Anche le scuole private che forniscono un'istruzione finanziata con fondi pubblici possono essere tenute a effettuare una FRIA.
Monitoraggio dell'uso adeguato all'età
I deployer devono monitorare le operazioni del sistema di IA sulla base delle istruzioni del fornitore. Nell'istruzione, ciò include la verifica che lo strumento di IA sia adeguato alla fascia d'età e al livello cognitivo degli studenti e che non produca output dannosi, fuorvianti o inappropriati sul piano dello sviluppo.
Sovrapposizioni normative
I deployer dell'istruzione devono rispettare il regolamento UE sull'IA insieme alle tutele del GDPR sui dati dei minori, alle leggi nazionali sull'istruzione e agli orientamenti del Consiglio d'Europa sull'IA nell'istruzione. La sovrapposizione crea un obbligo di conformità stratificato.
GDPR art. 8 — Dati dei minori
Il GDPR prevede tutele specifiche per i dati personali dei minori, compresi i requisiti di consenso dei genitori per i servizi della società dell'informazione. L'impiego di un'IA che tratta i dati degli studenti attiva queste tutele insieme agli obblighi del deployer di cui all'articolo 26. I meccanismi di consenso devono essere progettati per essere compresi dai genitori e, se del caso, dagli studenti stessi.
GDPR art. 35 — DPIA per interessati vulnerabili
Una DPIA è obbligatoria quando si trattano dati di minori o si utilizzano nuove tecnologie in contesti educativi. È distinta dalla FRIA del regolamento sull'IA, ma affronta questioni sovrapposte. I deployer dell'istruzione dovrebbero effettuare entrambe le valutazioni in parallelo, garantendo che ciascun requisito normativo sia affrontato distintamente.
Leggi nazionali sull'istruzione
Gli Stati membri dispongono di leggi sull'istruzione che disciplinano gli standard di valutazione, i diritti degli studenti e i diritti di informazione dei genitori. Alcune giurisdizioni limitano il processo decisionale automatizzato nella valutazione scolastica o richiedono approvazioni specifiche prima di impiegare la tecnologia nelle aule. Questi requisiti si sovrappongono all'articolo 26.
Orientamenti del Consiglio d'Europa sull'IA nell'istruzione
Il Consiglio d'Europa ha pubblicato orientamenti sull'IA nell'istruzione che pongono l'accento sulla trasparenza, sull'autonomia dello studente e sulla valorizzazione degli insegnanti. Sebbene non giuridicamente vincolanti, questi orientamenti informano le buone prassi e possono influenzare il modo in cui le autorità di controllo interpretano gli obblighi del deployer di cui all'articolo 26 nei contesti educativi.
Violazioni comuni rilevate da Scanara
Nessuna configurazione di registrazione per gli eventi di IA edtech
Strumenti di IA per la valutazione o l'apprendimento adattivo impiegati senza infrastruttura di registrazione che acquisisca gli input, gli output e le decisioni dell'IA. Scanara segnala gli impieghi educativi in cui non esiste una pista di controllo per le decisioni di valutazione o profilazione degli studenti assistite dall'IA.
IA di terzi impiegata senza documentazione FRIA
Scuole pubbliche o autorità educative che impiegano strumenti di IA senza una valutazione d'impatto documentata sui diritti fondamentali. Scanara rileva gli impieghi di IA ad alto rischio in contesti di istruzione pubblica in cui non è stata registrata alcuna FRIA prima dell'uso a contatto con gli studenti.
Ruolo di sorveglianza umana non assegnato formalmente
Strumenti di IA per la valutazione o l'esame impiegati senza designare formalmente quali insegnanti o membri del personale accademico riesaminano gli output dell'IA prima delle decisioni con conseguenze. Scanara identifica gli impieghi in cui nessuna assegnazione di ruolo collega gli educatori formati alle responsabilità di sorveglianza dell'IA.
Nessuna informazione ai genitori per l'uso dell'IA con i minori
Strumenti di IA che trattano i dati degli studenti impiegati senza informazione documentata ai genitori o ai tutori. Scanara segnala gli impieghi in contesti dell'istruzione primaria e secondaria in cui non è stato implementato alcun meccanismo di informazione o consenso dei genitori per l'utilizzo del sistema di IA.
Lista di controllo per la conformità all'articolo 26 per l'istruzione
Utilizzo conforme alle istruzioni per l'uso
Verificare che gli strumenti di IA siano utilizzati nell'ambito dichiarato dal fornitore — fasce d'età, materie e tipi di valutazione corretti. Documentare qualsiasi uso al di fuori dell'ambito previsto.
Formazione e sorveglianza degli insegnanti
Formare gli insegnanti sulle capacità e sui limiti degli strumenti di IA. Assegnare formalmente ruoli di sorveglianza con autorità documentata per ignorare gli output dell'IA nelle decisioni di valutazione e profilazione degli studenti.
Segnalazione degli incidenti
Stabilire un flusso di lavoro per segnalare i malfunzionamenti dell'IA al fornitore edtech e all'autorità competente. Includere criteri su cosa costituisce un incidente grave in un contesto educativo.
Registrazione operativa
Configurare la registrazione per le decisioni di valutazione assistite dall'IA e l'analisi dell'apprendimento. Conservare i registri per i ricorsi accademici, l'ispezione normativa e le richieste di informazioni dei genitori.
Valutazione d'impatto sui diritti fondamentali
Effettuare una FRIA prima di impiegare l'IA in contesti di istruzione pubblica. Affrontare i diritti dei bambini all'istruzione, alla non discriminazione, allo sviluppo e alla partecipazione.
Domande frequenti
Risorse correlate
Articolo 26: obblighi del deployer
Requisiti completi per i deployer dell'articolo 26 in tutti i settori.
IA dell'istruzione — hub di settore
Guida completa alla conformità al regolamento UE sull'IA per i sistemi di IA dell'istruzione.
Articolo 9: gestione dei rischi per l'istruzione
Requisiti del sistema di gestione dei rischi per deployer e fornitori di IA dell'istruzione.
Articolo 13: trasparenza per l'istruzione
Obblighi di trasparenza e di informazione per i sistemi di IA dell'istruzione.
Come aiuta Scanara
Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.