Articolo 12 per l’IA per l’istruzione: conservazione delle registrazioni

L’articolo 12 è un obbligo di progettazione del fornitore. Non rende il deployer responsabile della progettazione dei log.

• art. 12(1)
  Registrazione automatica degli eventi per tutta la durata

  I sistemi di IA ad alto rischio devono consentire a livello tecnico la registrazione automatica degli eventi (log) per la durata del ciclo di vita del sistema.

• art. 12(2)
  Tracciabilità per tre scopi

  Per garantire un livello di tracciabilità del funzionamento del sistema adeguato alla sua finalità prevista, le capacità di registrazione devono consentire la registrazione di eventi pertinenti per: a) l’individuazione di situazioni che possono far sì che il sistema presenti un rischio ai sensi dell’articolo 79, paragrafo 1 o determinare una modifica sostanziale; b) l’agevolazione del monitoraggio successivo all’immissione sul mercato di cui all’articolo 72; e c) il monitoraggio del funzionamento del sistema di cui all’articolo 26, paragrafo 5.

• art. 12(3)
  Contenuto minimo dei log: solo allegato III, punto 1, lettera a)

  L’articolo 12, paragrafo 3, stabilisce il contenuto minimo dei log per i sistemi ad alto rischio di cui all’allegato III, punto 1, lettera a). Non si applica al punto 3. L’articolo 12 non nomina alcun campo dei log per i sistemi per l’istruzione.

L’articolo 12 si applica solo ai sistemi di IA ad alto rischio. Le righe seguenti mostrano quando l’IA per l’istruzione diventa ad alto rischio e chi conserva i log.

• Il regolamento non prevede un regime generale per l’istruzione

  Il regolamento non prevede un regime generale per l’istruzione. L’allegato III, punto 3, è l’area ad alto rischio intitolata «Istruzione e formazione professionale». Questo sito usa la parola istruzione per l’IA che rientra nel regolamento attraverso tale punto. Il punto 3 elenca quattro usi. a) I sistemi di IA destinati a essere utilizzati per determinare l’accesso, l’ammissione o l’assegnazione di persone fisiche agli istituti di istruzione e formazione professionale a tutti i livelli. b) I sistemi di IA destinati a essere utilizzati per valutare i risultati dell’apprendimento, anche nei casi in cui tali risultati sono utilizzati per orientare il processo di apprendimento di persone fisiche. c) I sistemi di IA destinati a essere utilizzati per valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere. d) I sistemi di IA destinati a essere utilizzati per monitorare e rilevare comportamenti vietati degli studenti durante le prove. Ciascun uso è legato agli istituti di istruzione e formazione professionale a tutti i livelli. Il punto 3 non nomina come tali il rilevamento di plagio o di testi generati dall’IA, la previsione dell’abbandono scolastico, le dashboard di apprendimento, i chatbot amministrativi o l’apprendimento adattivo. Un sistema per uno di questi usi è ad alto rischio solo se la sua finalità prevista corrisponde a uno dei quattro usi, oppure se lo contempla un altro punto dell’allegato III o l’allegato I.

• Inferenza delle emozioni negli istituti di istruzione: vietata, con eccezione per motivi medici o di sicurezza

  L’articolo 5, paragrafo 1, lettera f), vieta l’immissione sul mercato, la messa in servizio per tale finalità specifica o l’uso di sistemi di IA per inferire le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione, tranne laddove l’uso del sistema di IA sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza. Il divieto si applica dal 2 febbraio 2025 (articolo 113, lettera a)). È un divieto, non un uso ad alto rischio: l’eccezione non crea alcun obbligo e non è un punto di aggancio dell’allegato III. Una violazione è soggetta a sanzioni amministrative pecuniarie fino a 35 milioni di EUR o, per un’impresa, fino al 7 % del fatturato mondiale totale annuo, se superiore (articolo 99, paragrafo 3). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6).

• L’articolo 6, paragrafo 3, può escludere un sistema dall’allegato III

  Un sistema rientrante nel punto 3 è ad alto rischio ai sensi dell’articolo 6, paragrafo 2. In deroga a tale disposizione, un sistema dell’allegato III non è ad alto rischio ai sensi dell’articolo 6, paragrafo 3 se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale. Ciò vale quando è soddisfatta almeno una di quattro condizioni: a) il sistema è destinato a eseguire un compito procedurale limitato; b) è destinato a migliorare il risultato di un’attività umana precedentemente completata; c) è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana; oppure d) è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III. Un sistema dell’allegato III è sempre ad alto rischio se effettua profilazione di persone fisiche (articolo 3, punto 52, articolo 4, punto 4, del GDPR). Il fornitore che ritiene che il proprio sistema dell’allegato III non sia ad alto rischio documenta la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio e lo registra (articolo 6, paragrafo 4, articolo 49, paragrafo 2). Stabilire se un dato sistema per l’istruzione effettui profilazione è una questione per un giurista.

• Fornitore e deployer

  Il fornitore sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). La messa in servizio comprende la fornitura per uso proprio (articolo 3, punto 11). Una scuola, un’università o un ente d’esame che usa un sistema sotto la propria autorità è un deployer (articolo 3, punto 4). Un’università che sviluppa un sistema e lo mette in servizio per uso proprio con il proprio nome è quindi un fornitore. Un deployer diventa fornitore di un sistema ad alto rischio in tre casi: appone il proprio nome o marchio su un sistema già immesso sul mercato, fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi; apporta una modifica sostanziale che lascia il sistema ad alto rischio; oppure modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

• Fornitore: progettazione e conservazione dei log sotto il suo controllo

  Il fornitore progetta la capacità di registrazione (articolo 12). I fornitori di sistemi ad alto rischio conservano inoltre i log di cui all’articolo 12, paragrafo 1, generati automaticamente dai loro sistemi, nella misura in cui tali log sono sotto il loro controllo, per un periodo adeguato alla finalità prevista di almeno sei mesi, salvo diversamente disposto dal diritto dell’Unione o nazionale applicabile, in particolare dal diritto dell’Unione in materia di protezione dei dati personali (articolo 19, paragrafo 1).

• Deployer: conservazione dei log sotto il suo controllo

  I deployer di sistemi ad alto rischio conservano i log generati automaticamente dal sistema, nella misura in cui tali log sono sotto il loro controllo, per un periodo adeguato alla finalità prevista di almeno sei mesi, salvo diversamente disposto dal diritto dell’Unione o nazionale applicabile, in particolare dal diritto dell’Unione in materia di protezione dei dati personali (articolo 26, paragrafo 6). I deployer monitorano inoltre il funzionamento del sistema sulla base delle istruzioni per l’uso (articolo 26, paragrafo 5).

• Date

  Il capo III, sezioni da 1 a 3, che comprendono gli articoli da 9 a 15, 17, 26 e 27, si applica ai sistemi di IA classificati come ad alto rischio ai sensi dell’articolo 6, paragrafo 2, e dell’allegato III dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se, a decorrere da tale data, subisce modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi ad alto rischio destinati a essere utilizzati dalle autorità pubbliche adottano le misure necessarie per conformarsi ai requisiti e agli obblighi di cui al regolamento entro il 2 agosto 2030 (articolo 111, paragrafo 2). Il regolamento non dice se ciò valga anche per i sistemi immessi sul mercato o messi in servizio dopo il 2 dicembre 2027; è una questione per un giurista.

• Sanzioni

  I fornitori devono garantire che i loro sistemi ad alto rischio rispettino i requisiti della sezione 2 del capo III, che comprende gli articoli da 9 a 15 (articolo 16, lettera a)). La violazione degli obblighi dei fornitori di cui all’articolo 16 o degli obblighi dei deployer di cui all’articolo 26 può essere punita con sanzioni amministrative pecuniarie. La sanzione arriva fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4, lettere a) ed e)). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso tra i due (articolo 99, paragrafo 6). Lo stesso vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ciascuno Stato membro stabilisce in quale misura possono essere inflitte sanzioni pecuniarie ad autorità pubbliche e organismi pubblici (articolo 99, paragrafo 8).

• Sistemi e usi esclusi dal regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, indipendentemente dal fatto che siano stabiliti o ubicati nell’Unione o in un paese terzo, e ai fornitori e ai deployer di sistemi di IA che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione (articolo 2, paragrafo 1, lettere a) e c)). Non si applica a settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale (articolo 2, paragrafo 3). Non si applica ai sistemi di IA se e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati con o senza modifiche esclusivamente per scopi militari, di difesa o di sicurezza nazionale, né ai sistemi di IA che non sono immessi sul mercato o messi in servizio nell’Unione, qualora l’output sia utilizzato nell’Unione esclusivamente per tali scopi (articolo 2, paragrafo 3). Non si applica ai sistemi di IA o ai modelli di IA, compresi i loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica alle attività di ricerca, prova o sviluppo relative a un sistema prima della sua immissione sul mercato o messa in servizio; la prova in condizioni reali non rientra in tale esclusione (articolo 2, paragrafo 8). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). I sistemi di IA rilasciati con licenza libera e open source sono esclusi dal regolamento, a meno che non siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o rientrino nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Che cosa l’articolo 12 non stabilisce

  L’articolo 12 nomina gli scopi della capacità di registrazione, non i campi. Non dice che i log devono essere immodificabili, che ogni decisione o voto deve essere registrato né che deve essere registrata una versione del modello o della griglia di valutazione. Il regolamento stesso non nomina alcuna norma armonizzata. I sistemi ad alto rischio conformi alle norme armonizzate pubblicate nella Gazzetta ufficiale dell’Unione europea si presumono conformi ai requisiti della sezione 2, nella misura in cui tali norme li contemplano (articolo 40, paragrafo 1).

• Esempio: eventi in un sistema di monitoraggio delle prove

  Esempio, non un requisito del regolamento: il fornitore di un sistema che rileva comportamenti vietati durante le prove potrebbe registrare l’inizio e la fine di ogni utilizzo e ogni allerta generata, perché tali eventi possono essere rilevanti per individuare i rischi e per il monitoraggio successivo all’immissione sul mercato (articolo 12, paragrafo 2, lettere a) e b)).

• Conservazione e diritto in materia di protezione dei dati

  Il regolamento fissa un minimo di almeno sei mesi per i log sotto il controllo di fornitori e deployer e prevede che il diritto dell’Unione o nazionale possa disporre diversamente, in particolare il diritto dell’Unione in materia di protezione dei dati personali. Per quanto tempo possano essere conservati i log contenenti dati personali degli studenti è quindi deciso anche da tale diritto.

• Articolo 12 regolamento IA: conservazione delle registrazioni e log

  L’articolo 12 per tutti i settori: requisiti, date e sanzioni.

• Regolamento IA edtech: conformità istruzione

  Panoramica sull’istruzione: come il regolamento raggiunge l’IA per l’ammissione, la valutazione dei risultati, la valutazione del livello e il monitoraggio delle prove.

• Articolo 13 per l’IA per l’istruzione: trasparenza e informazioni ai deployer

  IA per l’istruzione e articolo 13: istruzioni per l’uso e informazioni ai deployer.

• Articolo 26: obblighi del deployer per l'IA ad alto rischio

  Che cosa devono fare i deployer di sistemi di IA ad alto rischio, compresa la conservazione dei log e l’informazione delle persone interessate.