KI-Verordnung: checklist per fornitori e deployer
Checklist degli obblighi nell’ordine delle loro date di applicazione, dalle pratiche vietate agli obblighi per l’alto rischio.
Fornitori e deployer di sistemi di IA nell’UE possono usare questa checklist nell’ordine delle date di applicazione del regolamento. Parte dalle pratiche vietate, che si applicano dal 2 febbraio 2025. Finisce con gli obblighi per l’alto rischio, che si applicano dal 2 dicembre 2027 (allegato III) e dal 2 agosto 2028 (allegato I).
L’articolo 2 elenca esclusioni. Le sanzioni per le pratiche vietate arrivano a 35 milioni di EUR o al 7 % del fatturato mondiale annuo, se superiore (articolo 99(3)). Per la maggior parte degli altri obblighi arrivano a 15 milioni di EUR o al 3 %, se superiore (articolo 99(4)). Prossimo passo: iniziare dalla fase 1.
Fase 1: pratiche vietate e alfabetizzazione in materia di IA
Si applica dal 2 febbraio 2025. I divieti su certi contenuti intimi e abusivi si applicano dal 2 dicembre 2026.
- Verifichi se uno dei suoi sistemi di IA corrisponde a una pratica vietata dell’articolo 5, paragrafo 1, per esempio manipolazione dannosa, punteggio sociale, scraping non mirato di immagini facciali o inferenza delle emozioni sul lavoro e nell’istruzione.
- Fermi e documenti ogni sistema che corrisponde a una pratica vietata, tenendo conto delle eccezioni dell’articolo 5.
- Verifichi i sistemi che generano o manipolano immagini, video o audio realistici delle parti intime o di attività sessualmente esplicite di una persona identificabile senza il suo consenso (articolo 5, paragrafo 1, lettera ba)), e il materiale di cui all’articolo 2, lettere c) ed e), della direttiva 2011/93/UE, salvo che si applichi una difesa «senza diritto» ai sensi del diritto nazionale (lettera bb)). Il divieto si applica solo se questa è la finalità del sistema o un risultato ragionevolmente prevedibile che adeguate salvaguardie non impediscono (articolo 5, paragrafo 1a).
- Adotti misure per promuovere l’alfabetizzazione in materia di IA del suo personale e di altre persone che gestiscono o usano sistemi di IA per suo conto (articolo 4).
Fase 2: modelli di IA per finalità generali
Si applica dal 2 agosto 2025 ai fornitori di modelli di IA per finalità generali. I modelli immessi sul mercato prima devono conformarsi entro il 2 agosto 2027.
- Verifichi se fornisce un modello di IA per finalità generali: un modello di IA con significativa generalità, in grado di svolgere con competenza un’ampia gamma di compiti distinti (articolo 3, punto 63).
- Rediga e tenga aggiornata la documentazione tecnica del modello e fornisca informazioni ai fornitori a valle (articolo 53, paragrafo 1, lettere a) e b)).
- Predisponga una politica per rispettare il diritto d’autore dell’Unione (articolo 53, paragrafo 1, lettera c)).
- Pubblichi una sintesi sufficientemente dettagliata dei contenuti usati per l’addestramento (articolo 53, paragrafo 1, lettera d)).
- Verifichi se il modello presenta un rischio sistemico, che comporta ulteriori obblighi (articoli 51 e 55).
Fase 3: obblighi di trasparenza (articolo 50)
Si applicano dal 2 agosto 2026. I fornitori di sistemi che generano contenuti sintetici e sono stati immessi sul mercato prima devono rispettare l’articolo 50, paragrafo 2, entro il 2 dicembre 2026.
- Faccia in modo che i sistemi di IA che interagiscono direttamente con le persone le informino che interagiscono con un sistema di IA, salvo che sia ovvio (articolo 50, paragrafo 1).
- Marchi i contenuti audio, immagine, video e testo sintetici in formato leggibile da macchina, così che siano rilevabili come generati artificialmente, per quanto tecnicamente fattibile (articolo 50, paragrafo 2). Si applicano le eccezioni di quel paragrafo.
- Informi le persone esposte a un sistema di riconoscimento delle emozioni o di categorizzazione biometrica (articolo 50, paragrafo 3).
- Renda noti i deepfake e i testi generati dall’IA pubblicati per informare il pubblico su questioni di interesse pubblico, salve le eccezioni dell’articolo 50, paragrafo 4.
Fase 4: obblighi per l’alto rischio dei fornitori
Si applicano dal 2 dicembre 2027 (allegato III) e dal 2 agosto 2028 (allegato I). I sistemi immessi sul mercato o messi in servizio prima di queste date sono coperti solo dopo modifiche significative della progettazione (articolo 111(2)).
- Faccia l’inventario di tutti i sistemi di IA e classifichi ciascuno rispetto all’articolo 6 e agli allegati III e I. Documenti la valutazione se si avvale dell’articolo 6, paragrafo 3 (articolo 6, paragrafo 4).
- Istituisca un sistema di gestione del rischio che operi per tutto il ciclo di vita (articolo 9).
- Applichi la governance dei dati ai dati di addestramento, convalida e prova e li esamini per possibili distorsioni (articolo 10).
- Rediga prima dell’immissione sul mercato o della messa in servizio una documentazione tecnica con almeno gli elementi dell’allegato IV e la tenga aggiornata (articolo 11).
- Faccia registrare automaticamente gli eventi al sistema (log) e conservi i log sotto il suo controllo per almeno sei mesi, salvo diversa disposizione di altre norme (articoli 12 e 19).
- Fornisca istruzioni per l’uso, così che i deployer possano interpretare l’output (articolo 13).
- Progetti la sorveglianza umana in modo che le persone possano, in modo adeguato e proporzionato, intervenire sul sistema o interromperlo, per esempio con un pulsante di arresto o una procedura analoga (articolo 14).
- Raggiunga e verifichi un livello adeguato di accuratezza, robustezza e cibersicurezza (articolo 15).
- Istituisca un sistema di gestione della qualità (articolo 17).
- Completi la valutazione della conformità prima dell’immissione sul mercato o della messa in servizio e di nuovo dopo una modifica sostanziale (articolo 43).
- Rediga la dichiarazione di conformità UE e apponga la marcatura CE (articoli 47 e 48).
- Registri il sistema (articolo 49) e conservi la documentazione per dieci anni dopo l’immissione sul mercato o la messa in servizio (articolo 18).
Fase 5: obblighi dei deployer di sistemi ad alto rischio
Si applicano dal 2 dicembre 2027 (allegato III) e dal 2 agosto 2028 (allegato I).
- Usi il sistema secondo le sue istruzioni per l’uso (articolo 26, paragrafo 1).
- Affidi la sorveglianza umana a persone fisiche con la competenza, la formazione, l’autorità e il sostegno necessari (articolo 26, paragrafo 2).
- Nella misura in cui controlla i dati di input, garantisca che siano pertinenti e sufficientemente rappresentativi rispetto alla finalità prevista (articolo 26, paragrafo 4).
- Monitori il funzionamento sulla base delle istruzioni per l’uso. Se ha motivo di ritenere che l’uso conforme alle istruzioni possa presentare un rischio ai sensi dell’articolo 79(1), informi senza indebito ritardo il fornitore o il distributore e l’autorità di vigilanza del mercato e sospenda l’uso (articolo 26, paragrafo 5).
- Conservi i log sotto il suo controllo per almeno sei mesi, salvo diversa disposizione di altre norme (articolo 26, paragrafo 6).
- Deployer che sono datori di lavoro: prima di mettere in servizio o usare il sistema sul luogo di lavoro, informi i rappresentanti dei lavoratori e i lavoratori interessati (articolo 26, paragrafo 7).
- Informi le persone fisiche destinatarie di decisioni adottate o assistite da sistemi dell’allegato III (articolo 26, paragrafo 11).
- Usi le informazioni dell’articolo 13 per una valutazione d’impatto sulla protezione dei dati, ove richiesta (articolo 26, paragrafo 9), e valuti l’impatto sui diritti fondamentali dove si applica l’articolo 27.
Fase 6: obblighi continui
Gli articoli 72 e 73 non sono elencati nell’articolo 113, lettere da a) a d), e si applicano quindi dalla data generale di applicazione, il 2 agosto 2026. Come ciò si concili con le date per l’alto rischio è una questione per il consulente legale. Gli obblighi dei deployer qui sotto seguono le date per l’alto rischio.
- I fornitori gestiscono il sistema di monitoraggio successivo all’immissione sul mercato, basato su un piano di monitoraggio (articolo 72).
- I fornitori segnalano un incidente grave all’autorità di vigilanza del mercato immediatamente dopo aver stabilito un nesso causale, o la ragionevole probabilità di un nesso, tra il sistema e l’incidente e, in ogni caso, non oltre 15 giorni dalla conoscenza. Si applicano termini più brevi: non oltre 10 giorni dalla conoscenza di un decesso e non oltre 2 giorni in caso di infrazione diffusa o di grave e irreversibile perturbazione di un’infrastruttura critica (articolo 73, paragrafi da 2 a 4).
- Dopo una modifica sostanziale, i fornitori aggiornano la documentazione tecnica e ripetono la valutazione della conformità (articoli 11 e 43(4)).
- Dopo un incidente grave, i deployer informano prima il fornitore, poi l’importatore o il distributore e le autorità di vigilanza del mercato (articolo 26, paragrafo 5).
- Ripeta i controlli su codice e documenti prima di ogni rilascio e conservi i rapporti come prova. Una scansione superata non dimostra la conformità.
Esclusioni, sistemi più vecchi e massimali delle sanzioni
Il regolamento non si applica ai sistemi di IA usati esclusivamente per scopi militari, di difesa o di sicurezza nazionale (articolo 2(3)). Non si applica ai sistemi di IA sviluppati e messi in servizio specificamente e al solo scopo di ricerca e sviluppo scientifici (articolo 2(6)), né alla ricerca, alle prove o allo sviluppo prima dell’immissione sul mercato o della messa in servizio, salvo le prove in condizioni reali (articolo 2(8)). I sistemi con licenze libere e open source sono esclusi, salvo che siano immessi sul mercato o messi in servizio come sistemi ad alto rischio o rientrino nell’articolo 5 o 50 (articolo 2(12)). Le persone fisiche che usano un sistema in un’attività puramente personale e non professionale non sono vincolate come deployer (articolo 2(10)). Per i sistemi ad alto rischio legati a prodotti disciplinati dalla normativa dell’allegato I, sezione B, come veicoli a motore, aviazione, ferrovie, attrezzature marittime, veicoli agricoli e macchinari, si applicano solo l’articolo 6(1), l’articolo 60a e gli articoli da 102 a 112. Gli articoli da 57 a 59 si applicano solo nella misura in cui tale normativa integra i requisiti (articolo 2(2)).
I sistemi ad alto rischio immessi sul mercato o messi in servizio prima della data di applicazione sono coperti solo dopo modifiche significative della progettazione. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111(2)).
Per le PMI, ogni sanzione arriva al massimo alla percentuale o all’importo più bassi (articolo 99(6)). Per le piccole imprese a media capitalizzazione (articolo 3, punto 14b) lo stesso massimale vale per le sanzioni dell’articolo 99, paragrafi 4 e 5 (articolo 99(6a)). Il livello da 15 milioni di EUR copre anche gli obblighi di fornitori e operatori dell’articolo 25, paragrafi 2 e 4 (articolo 99(4), lettera da)).
Da leggere dopo: sistemi ad alto rischio e requisiti per ruolo
KI-Verordnung: sistemi di IA ad alto rischio
Quali sistemi di IA sono ad alto rischio, quali requisiti rispettano i fornitori e chi vigila in Germania.
KI-Verordnung: requisiti per ruolo
Che cosa devono fare fornitori, deployer, importatori e distributori, compresi gli obblighi di documentazione, gestione del rischio e trasparenza.
Scanara prepara evidenze dai vostri repository
Scanara legge i vostri repository GitHub collegati ed esegue scansioni basate su regole per individuare pattern comuni di IA e machine learning. Può non rilevare il codice non standard. Separatamente genera bozze di documentazione a partire da modelli e dalle vostre risposte alle valutazioni, come evidenze per il vostro lavoro di conformità. La classificazione la decidete voi.