Articolo 15: accuratezza e robustezza per l'IA HR

Come accuratezza e robustezza dell'articolo 15 dell'EU AI Act si applicano all'IA HR — parità demografica, impatto negativo e resilienza alla manipolazione dei CV.

Pubblicato 2 aprile 2026

L'articolo 15 del regolamento europeo sull'IA impone che i sistemi di IA ad alto rischio raggiungano livelli adeguati di accuratezza, robustezza e cibersicurezza durante l'intero ciclo di vita. Nella tecnologia HR, l'accuratezza non è solo una metrica tecnica — è un requisito di equità. Un sistema di reclutamento basato sull'IA che raggiunge un'accuratezza complessiva dell'85 % ma solo del 60 % per uno specifico gruppo demografico non è conforme. Ai sensi dell'allegato III, sezione 4, i sistemi di IA utilizzati nell'occupazione, nella gestione dei lavoratori e nell'accesso al lavoro autonomo — compresi il reclutamento, la preselezione, il filtraggio e la valutazione dei candidati — sono classificati come ad alto rischio.

Questa pagina spiega come gli obblighi di accuratezza, robustezza e cibersicurezza dell'articolo 15 si applichino specificamente alla tecnologia HR — dalla preselezione dei curriculum alla valutazione delle prestazioni — comprese la parità di accuratezza demografica, l'analisi dell'impatto negativo, la robustezza contro la manipolazione dei candidati, la calibrazione dei punteggi e quali violazioni a livello di codice Scanara rileva nei sistemi di IA HR.

Metriche di accuratezza per i sistemi di IA della tecnologia HR

Parità di accuratezza demografica

L'accuratezza deve essere convalidata separatamente per ciascun gruppo demografico. Un'accuratezza complessiva dell'85 % con un'accuratezza del 60 % per uno specifico gruppo demografico non è conforme. L'articolo 15 impone che le disparità di prestazione tra i gruppi protetti siano individuate, dichiarate e attenuate — e non nascoste dietro metriche aggregate.

Rapporto di impatto negativo

Il rapporto tra i tassi di selezione dei diversi gruppi demografici deve essere monitorato in modo continuo. La regola dei 4/5 (ampiamente adottata dalle linee guida dell'EEOC statunitense e sempre più richiamata nei contesti dell'UE) fornisce un parametro di riferimento: se il tasso di selezione di un gruppo protetto scende al di sotto dell'80 % del tasso del gruppo più selezionato, il sistema richiede un'indagine e una correzione.

Calibrazione dei punteggi

I punteggi dei candidati assegnati dall'IA devono essere ben calibrati: un punteggio di 70/100 dovrebbe corrispondere a candidati realmente pressoché equivalenti per idoneità. Punteggi mal calibrati — in cui tra un 70 e un 80 non vi è alcuna differenza significativa nelle prestazioni lavorative reali — minano la dichiarazione di accuratezza richiesta dall'articolo 15 e traggono in inganno i responsabili delle assunzioni che si affidano agli output dell'IA.

Validità predittiva

I sistemi di assunzione basati sull'IA devono dimostrare che le loro previsioni sono correlate ai risultati reali delle prestazioni lavorative. Un sistema che prevede con accuratezza quali candidati supereranno i colloqui ma non quali avranno successo nel ruolo ha una validità predittiva limitata. L'articolo 15 impone che l'accuratezza dichiarata rifletta risultati concreti, non metriche surrogate.

Principali obblighi di accuratezza e robustezza per la tecnologia HR

L'articolo 15 impone che i sistemi di IA ad alto rischio siano resilienti a errori, guasti e incoerenze. Nella tecnologia HR, ciò comprende la robustezza contro la manipolazione dei candidati (manipolazione del curriculum), il concept drift con l'evolversi dei mercati del lavoro e un punteggio coerente per input equivalenti.

Robustezza contro la manipolazione del curriculum

I candidati possono sfruttare il sistema mediante il riempimento di parole chiave, trucchi di formattazione o formulazioni strategiche? L'articolo 15 impone la resilienza contro input specificamente progettati per manipolare l'output del sistema. Un sistema di preselezione che classifica un curriculum riempito di parole chiave notevolmente più in alto di un curriculum equivalente nei contenuti non è robusto.

Monitoraggio del concept drift

Un modello addestrato su schemi di assunzione di un determinato periodo del mercato del lavoro può avere prestazioni scadenti al mutare delle condizioni di mercato. L'articolo 15 impone l'accuratezza lungo l'intero ciclo di vita, il che significa un monitoraggio continuo delle prestazioni — e non solo una convalida prima della distribuzione. Il rilevamento del drift deve attivare una riconvalida o un riaddestramento del modello.

Riproducibilità del punteggio

Profili di candidati identici presentati in momenti diversi o attraverso canali diversi devono ricevere punteggi coerenti. L'articolo 15 impone prestazioni costanti per input identici — un sistema che valuta lo stesso curriculum in modo diverso il lunedì rispetto al venerdì o tramite formati di caricamento diversi non è conforme.

Resilienza alla manipolazione da parte di terzi

L'articolo 15 impone la resilienza ai tentativi di terzi di alterare le prestazioni del sistema. In ambito HR, ciò comprende la protezione contro la manipolazione da parte di agenzie di reclutamento, servizi di redazione di curriculum o candidature generate dall'IA progettate per ingannare il sistema di punteggio.

Sovrapposizioni normative

I requisiti di accuratezza e robustezza della tecnologia HR si intersecano con il diritto in materia di discriminazione nell'occupazione, la regolamentazione sulla protezione dei dati e i quadri di responsabilità algoritmica. La sola conformità all'articolo 15 è insufficiente — questi obblighi sovrapposti devono essere affrontati congiuntamente.

Direttive sulla parità di trattamento

Le direttive dell'UE sulla parità di trattamento vietano la discriminazione nell'occupazione fondata sul sesso, sull'origine razziale o etnica, sulla religione, sulla disabilità, sull'età o sull'orientamento sessuale. Le disparità di accuratezza tra questi gruppi protetti non sono solo questioni di conformità all'articolo 15, ma potenziali violazioni del diritto fondamentale del lavoro dell'UE.

Articolo 22 del GDPR — Processo decisionale automatizzato

L'articolo 22 del GDPR limita le decisioni basate unicamente sul trattamento automatizzato che producono effetti significativi. Le decisioni in materia di occupazione rientrano in tale ambito. I requisiti di accuratezza dell'articolo 15 integrano le garanzie del GDPR — decisioni di assunzione automatizzate inaccurate sono doppiamente problematiche in entrambi i quadri.

Quadri di responsabilità algoritmica

Le linee guida emergenti dell'UE in materia di responsabilità algoritmica impongono alle organizzazioni di documentare l'accuratezza, l'equità e l'affidabilità dei sistemi di IA utilizzati nell'occupazione. L'obbligo dell'articolo 15 di dichiarare i livelli di accuratezza è in linea con tali quadri e fornisce la base tecnica per la rendicontazione della responsabilità.

Linee guida equivalenti a quelle dell'EEOC

Sebbene la regola dei 4/5 abbia origine dalle linee guida dell'EEOC statunitense, le autorità di regolamentazione dell'UE fanno sempre più riferimento a soglie di impatto negativo analoghe nei contesti di assunzione algoritmica. I requisiti di parità di accuratezza dell'articolo 15 saranno probabilmente valutati rispetto a parametri di riferimento comparabili nella prassi applicativa dell'UE.

Violazioni comuni rilevate da Scanara

Accuratezza solo aggregata senza stratificazione demografica

Pipeline di valutazione che calcolano solo l'accuratezza complessiva senza scomporre le prestazioni per gruppo demografico. Scanara segnala il codice di valutazione privo di metriche stratificate — l'articolo 15 impone che l'accuratezza sia convalidata e dichiarata per tutti i gruppi protetti, e non riportata come un unico dato aggregato.

Nessun test di robustezza contro gli attacchi avversari per gli input dei curriculum

Pipeline CI/CD prive di test di robustezza contro gli attacchi avversari per gli input dei candidati. Scanara segnala i flussi di valutazione che non vengono testati contro curriculum riempiti di parole chiave, manipolazione del formato o candidature generate dall'IA specificamente progettate per ingannare il sistema di punteggio.

Modello distribuito senza rilevamento del concept drift

Modelli di IA HR distribuiti senza un monitoraggio continuo del concept drift al mutare dei mercati del lavoro e dei bacini di candidati. Scanara rileva le pipeline di punteggio prive di meccanismi di rilevamento del drift, di allarmi di degrado delle prestazioni o di fattori scatenanti di riconvalida pianificati.

Metriche di prestazione non incluse nella documentazione

Distribuzioni in cui le metriche di accuratezza, i rapporti di impatto negativo e i risultati di calibrazione non sono inclusi nella scheda del modello o nelle istruzioni per l'uso. L'articolo 15 impone che i livelli di accuratezza e le metriche di prestazione attese siano dichiarati nella documentazione di accompagnamento.

Lista di controllo per la conformità all'articolo 15 per la tecnologia HR

Art. 15(1)

Raggiungere la parità di accuratezza demografica

Convalidare l'accuratezza per tutti i gruppi demografici protetti. Assicurarsi che nessun gruppo presenti un'accuratezza significativamente inferiore a quella della popolazione complessiva. Dichiarare le metriche stratificate nelle istruzioni per l'uso.

Art. 15(2)

Garantire la robustezza contro la manipolazione dei candidati

Testare la resilienza contro la manipolazione del curriculum, il riempimento di parole chiave, la manipolazione del formato e le candidature generate dall'IA. Documentare le soglie di robustezza e i vettori di manipolazione noti.

Art. 15(3)

Monitorare e affrontare il concept drift

Attuare un monitoraggio continuo delle prestazioni con rilevamento del drift. Attivare una riconvalida quando le condizioni del mercato del lavoro, i bacini di candidati o le distribuzioni dei punteggi cambiano in modo significativo.

Art. 15(4)

Mantenere la cibersicurezza dei sistemi di punteggio

Proteggere i sistemi di punteggio basati sull'IA dalla modifica non autorizzata dei dati di addestramento, dei parametri del modello o degli algoritmi di punteggio. Attuare controlli di integrità e controlli di accesso per tutti i componenti.

Art. 15(5)

Garantire la calibrazione dei punteggi e la riproducibilità

Verificare che i punteggi dell'IA siano ben calibrati rispetto alle prestazioni lavorative reali e che profili di candidati identici ricevano punteggi coerenti nel tempo e tra i canali di presentazione.

Domande frequenti

Come aiuta Scanara

Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.