Articolo 17 per l’IA nell’istruzione: sistema di gestione della qualità

Il sistema deve essere documentato in modo sistematico e ordinato sotto forma di politiche, procedure e istruzioni scritte. Il regolamento elenca 13 aspetti, da a) a m). Il nostro raggruppamento qui sotto mostra prima a) e tre aspetti collegati ad altri obblighi del regolamento, poi gli altri nove.

• art. 17(1)(a)
  Strategia per la conformità normativa

  Una strategia per la conformità normativa, compresa l’osservanza delle procedure di valutazione della conformità e delle procedure per la gestione delle modifiche del sistema.

• art. 17(1)(g)
  Sistema di gestione dei rischi

  Il sistema di gestione dei rischi di cui all’articolo 9.

• art. 17(1)(h)
  Monitoraggio successivo all’immissione sul mercato

  L’istituzione, l’attuazione e il mantenimento di un sistema di monitoraggio successivo all’immissione sul mercato a norma dell’articolo 72.

• art. 17(1)(i)
  Comunicazione di incidenti gravi

  Le procedure relative alla comunicazione di un incidente grave a norma dell’articolo 73.

• art. 17(1)(b)–(f), (j)–(m)
  Gli altri nove aspetti

  Progettazione e controllo della progettazione; sviluppo, controllo e garanzia della qualità; procedure di esame, prova e convalida; specifiche tecniche e norme; gestione dei dati; comunicazione con autorità, organismi notificati e altri; conservazione delle registrazioni; gestione delle risorse; un quadro di responsabilità.

• art. 17(2)
  Proporzionato alle dimensioni, non alla protezione

  L’attuazione deve essere proporzionata alle dimensioni dell’organizzazione del fornitore, in particolare se è una PMI, comprese le start-up, o una piccola impresa a media capitalizzazione. I fornitori devono comunque rispettare il grado di rigore e il livello di protezione necessari per la conformità dei loro sistemi di IA ad alto rischio.

L’articolo 17 vincola solo i fornitori di sistemi di IA ad alto rischio. Le righe seguenti mostrano dove l’IA per l’istruzione diventa ad alto rischio e chi è il fornitore.

• Dove si colloca l’istruzione nel regolamento

  Il regolamento non ha un regime settoriale per l’istruzione. Questo sito usa «istruzione» per l’IA impiegata in scuole, università, formazione professionale ed esami. Questa IA rientra nel regolamento tramite l’allegato III, punto 3, intitolato «Istruzione e formazione professionale», e tramite il divieto di inferire emozioni negli istituti di istruzione (articolo 5, paragrafo 1, lettera f)). Il punto 3 non nomina il rilevamento del plagio, la previsione dell’abbandono, le piattaforme di apprendimento adattivo, i cruscotti di apprendimento né i chatbot amministrativi; l’appartenenza di un sistema al punto 3 dipende dalla finalità prevista (articolo 3, punto 12). Un sistema può essere ad alto rischio anche ai sensi di un altro punto dell’allegato III.

• Allegato III, punto 3: quattro usi

  L’allegato III, punto 3 riguarda i sistemi di IA destinati a essere utilizzati: a) per determinare l’accesso, l’ammissione o l’assegnazione di persone fisiche agli istituti di istruzione e formazione professionale a tutti i livelli; b) per valutare i risultati dell’apprendimento, anche nei casi in cui tali risultati sono utilizzati per orientare il processo di apprendimento di persone fisiche in istituti di istruzione o formazione professionale a tutti i livelli; c) per valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere, nel contesto o all’interno di tali istituti; d) per monitorare e rilevare comportamenti vietati degli studenti durante le prove, nel contesto o all’interno di tali istituti. Ai sensi dell’articolo 6, paragrafo 2, i sistemi di IA di cui all’allegato III sono considerati ad alto rischio. Il fornitore che ritiene che un tale sistema non sia ad alto rischio ai sensi dell’articolo 6, paragrafo 3 deve documentare la propria valutazione prima che il sistema sia immesso sul mercato o messo in servizio, e registrarlo a norma dell’articolo 49, paragrafo 2. La deroga non si applica mai quando il sistema esegue profilazione di persone fisiche. Per profilazione si intende la profilazione quale definita all’articolo 4, punto 4), del regolamento (UE) 2016/679 (articolo 3, punto 52).

• Fornitore e deployer

  Il fornitore sviluppa il sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome (articolo 3, punto 3); può essere un fornitore di tecnologie educative o un’università che sviluppa un sistema per uso proprio. Una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che usa un sistema sotto la propria autorità, come una scuola, un’università o un ente esaminatore, è un deployer (articolo 3, punto 4). Un deployer diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, ne apporta una modifica sostanziale che lo lascia ad alto rischio, o modifica la finalità prevista di un sistema non ad alto rischio in modo che lo diventi (articolo 25, paragrafo 1).

• Date

  L’allegato III, punto 3 si applica dal 2 dicembre 2027 (articolo 113, lettera c)). Un sistema immesso sul mercato o messo in servizio prima di tale data è coperto solo se, da tale data, la sua progettazione subisce modifiche significative. Nello stesso paragrafo, la frase «in ogni caso» prevede che i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati dalle autorità pubbliche adottino le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111, paragrafo 2). Il regolamento non dice se ciò riguardi anche i sistemi immessi sul mercato dopo il 2 dicembre 2027; rivolgetevi a un consulente legale.

• Sanzioni

  La violazione degli obblighi dei fornitori (articolo 16) e dei deployer (articolo 26) può essere punita con sanzioni amministrative pecuniarie fino a 15 milioni di EUR o, per un’impresa, fino al 3 % del fatturato mondiale totale annuo dell’esercizio precedente, se superiore (articolo 99, paragrafo 4). Per le PMI, comprese le start-up, ogni sanzione arriva al massimo all’importo più basso (articolo 99, paragrafo 6). Lo stesso massimale vale per le piccole imprese a media capitalizzazione (articolo 3, punto 14 ter, articolo 99, paragrafo 6 bis). Ogni Stato membro stabilisce le norme sulla misura in cui possono essere imposte sanzioni amministrative pecuniarie alle autorità e agli organismi pubblici istituiti in tale Stato membro (articolo 99, paragrafo 8).

• Limiti dell’ambito di applicazione del regolamento

  Il regolamento si applica ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell’Unione, o immettono sul mercato modelli di IA per finalità generali nell’Unione, indipendentemente da dove siano stabiliti (articolo 2, paragrafo 1, lettera a)), e ai fornitori e ai deployer stabiliti in un paese terzo quando l’output del sistema di IA è utilizzato nell’Unione (lettera c)). Non si applica ai settori che non rientrano nell’ambito di applicazione del diritto dell’Unione e non pregiudica le competenze degli Stati membri in materia di sicurezza nazionale; non si applica nemmeno ai sistemi di IA utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2, paragrafo 3). Il regolamento non si applica ai sistemi o modelli di IA, compreso il loro output, specificamente sviluppati e messi in servizio al solo scopo di ricerca e sviluppo scientifici (articolo 2, paragrafo 6). Non si applica neppure alle attività di ricerca, prova e sviluppo precedenti all’immissione sul mercato o alla messa in servizio di un sistema o modello; le prove in condizioni reali non rientrano in tale esclusione (articolo 2, paragrafo 8). Non si applica agli obblighi dei deployer che sono persone fisiche che utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2, paragrafo 10). Non si applica ai sistemi di IA rilasciati con licenza libera e open source, a meno che siano immessi sul mercato o messi in servizio come sistemi di IA ad alto rischio o come sistemi di IA che rientrano nell’articolo 5 o 50 (articolo 2, paragrafo 12).

• Sistemi di gestione della qualità settoriali

  I fornitori soggetti a obblighi riguardanti sistemi di gestione della qualità o una funzione equivalente ai sensi del diritto settoriale dell’Unione possono includere gli aspetti dell’articolo 17, paragrafo 1, nel sistema di gestione della qualità previsto da tale diritto (articolo 17, paragrafo 3).

• Nessuna norma indicata, nessuna regola per l’istruzione

  Il regolamento non indica alcuna norma o certificazione per il sistema di gestione della qualità e non ha una regola specifica per l’istruzione. L’articolo 17, paragrafo 1, lettera e) rinvia alle specifiche tecniche, comprese le norme, da applicare e, quando le norme armonizzate pertinenti non sono applicate integralmente o non coprono tutti i requisiti del capo III, sezione 2 (articoli da 8 a 15), ai mezzi da utilizzare per garantire che il sistema li rispetti.

• La conservazione per dieci anni è nell’articolo 18

  L’obbligo di conservare la documentazione del sistema di gestione della qualità per dieci anni dopo l’immissione sul mercato o la messa in servizio del sistema è nell’articolo 18, paragrafo 1, non nell’articolo 17.

• Esempio: una tabella dei 13 aspetti

  Esempio, non un requisito del regolamento: un fornitore potrebbe elencare i 13 aspetti in una tabella e indicare il documento interno che copre ciascuno.

• Articolo 17 regolamento IA: sistema di gestione qualità

  L’articolo 17 per tutti i settori: i 13 aspetti, la proporzionalità e le sanzioni.

• Regolamento IA edtech: conformità istruzione

  Il quadro dell’istruzione: come il regolamento raggiunge l’IA in scuole, università e formazione.

• Articolo 15 per l’IA nell’istruzione: accuratezza, robustezza e cibersicurezza

  IA per l’istruzione e articolo 15: accuratezza, robustezza, cibersicurezza, date e ruoli.

• Allegato III in dettaglio: le 8 categorie ad alto rischio

  Gli otto ambiti dell’allegato III, tra cui istruzione e formazione professionale.