Skip to main content

Articolo 12: conservazione dei registri per l'IA HR

Come l'articolo 12 dell'EU AI Act si applica all'IA HR — conservazione dei registri delle decisioni sui candidati, dati occupazionali e audit degli organismi di parità.

L'articolo 12 dell'EU AI Act impone ai sistemi di IA ad alto rischio di registrare automaticamente gli eventi rilevanti per l'individuazione dei rischi e la garanzia della tracciabilità. L'IA per le risorse umane — classificata ad alto rischio ai sensi dell'allegato III, sezione 4 quando utilizzata per il reclutamento, la selezione dei candidati, la valutazione delle prestazioni o le decisioni di promozione — deve registrare ogni decisione occupazionale influenzata dall'IA con un livello di dettaglio sufficiente per rispondere agli audit degli organismi per la parità, alle richieste di accesso ai dati dei candidati e ai procedimenti dinanzi ai tribunali del lavoro.

La sfida della conservazione dei registri per l'IA delle risorse umane è che ogni decisione registrata incide potenzialmente sui mezzi di sussistenza di una persona. I candidati e i dipendenti hanno il diritto, ai sensi dell'articolo 15 del GDPR, di richiedere i propri dati, comprese le informazioni sul processo decisionale automatizzato. La vostra infrastruttura di registrazione deve catturare cosa ha valutato l'IA, quali fattori hanno determinato il punteggio e la decisione umana adottata — strutturando al contempo i registri per consentire un recupero efficiente per le richieste di accesso. Questa pagina spiega gli obblighi di registrazione specifici, i requisiti di conservazione e le violazioni a livello di codice che Scanara rileva.

Cosa deve essere registrato per i sistemi di IA delle risorse umane?

Esiti della valutazione dei candidati

Ogni punteggio, classifica o raccomandazione di candidato generato dall'IA deve essere registrato con: marca temporale, versione del modello, l'esito della valutazione e quali fattori hanno contribuito maggiormente alla decisione. Ciò consente di ricostruire il motivo per cui un determinato candidato è stato avanzato o respinto.

Importanza delle caratteristiche per decisione

Registrate le caratteristiche chiave che hanno determinato ogni decisione di valutazione — non solo il punteggio finale. Quando un organismo per la parità richiede una spiegazione del motivo per cui un candidato è stato respinto, dovete essere in grado di identificare i fattori specifici (corrispondenza delle competenze, ponderazione dell'esperienza, risultati delle valutazioni) che hanno determinato l'esito.

Registrazioni delle decisioni umane e delle deroghe

Registrate se un selezionatore o un responsabile delle assunzioni ha accettato, modificato o derogato alla raccomandazione dell'IA. L'articolo 14 richiede una sorveglianza umana significativa — i vostri registri devono dimostrare che sono gli esseri umani a prendere le decisioni occupazionali finali e non a limitarsi ad avallare gli esiti dell'IA.

Versione della banca dati di riferimento

L'articolo 12(1) richiede la registrazione della banca dati di riferimento rispetto alla quale sono stati verificati i dati di input. Per l'IA delle risorse umane, ciò significa annotare la versione del modello dei requisiti della posizione, la versione della tassonomia delle competenze ed eventuali set di dati di riferimento utilizzati per la calibrazione al momento di ogni decisione.

Periodi di utilizzo del sistema

Registrate i periodi durante i quali il sistema di selezione dell'IA è stato attivo per ogni campagna di reclutamento. Se il sistema è stato aggiornato o ricalibrato a metà campagna, registrate la transizione per consentire un confronto equo tra i candidati valutati sotto diverse versioni del modello.

Principali obblighi di conservazione dei registri per le risorse umane

La registrazione dell'IA delle risorse umane deve bilanciare i requisiti di conservazione del diritto del lavoro con i principi di minimizzazione dei dati del GDPR. La tensione fondamentale è che gli organismi per la parità possono indagare sulle decisioni di assunzione anni dopo, mentre il GDPR richiede che i dati personali non siano conservati più a lungo del necessario.

Conservazione: prevale il diritto del lavoro

L'AI Act richiede un minimo di 6 mesi. Le legislazioni nazionali contro la discriminazione nel lavoro richiedono in genere una conservazione dei documenti di reclutamento di 1–2 anni (in linea con i requisiti equivalenti all'EEOC negli Stati membri dell'UE). La minimizzazione dei dati del GDPR limita la conservazione al periodo applicabile più breve — conservate i registri per la durata prescritta dalla legge, quindi eliminateli.

Richieste di accesso dei candidati

Ai sensi dell'articolo 15 del GDPR, i candidati possono richiedere tutti i dati conservati sul loro conto, comprese le informazioni sul processo decisionale automatizzato. I registri devono essere strutturati in modo che una richiesta di accesso di un candidato possa essere soddisfatta in modo efficiente — indicizzate per identificativo del candidato e assicuratevi che il recupero dei registri non richieda una ricerca manuale in file non strutturati.

Pista di controllo per gli organismi per la parità

Gli organismi nazionali per la parità che indagano su una potenziale discriminazione nelle assunzioni tramite IA richiederanno i registri decisionali. I registri devono essere strutturati per dimostrare che le decisioni non si basavano su caratteristiche protette — e devono mostrare la decisione umana accanto alla raccomandazione dell'IA per ogni candidato.

Coerenza tra le campagne

Quando lo stesso sistema di IA è utilizzato in più campagne di reclutamento, i registri devono catturare le modifiche della versione del modello e le ricalibrazioni. Un'indagine che confronta gli esiti tra le campagne deve poter determinare se le differenze siano attribuibili a modifiche del modello o alla variazione del bacino di candidati.

Sovrapposizioni normative

La conservazione dei registri dell'IA delle risorse umane si colloca all'intersezione tra il diritto del lavoro, la protezione dei dati e la normativa antidiscriminazione. La conformità all'articolo 12 deve tenere conto degli obblighi sovrapposti provenienti da molteplici quadri che impongono ciascuno i propri requisiti di documentazione e conservazione.

Articolo 15 del GDPR — Diritti di accesso degli interessati

I candidati e i dipendenti hanno il diritto di accedere alle informazioni sul processo decisionale automatizzato, comprese “informazioni significative sulla logica utilizzata” e “l'importanza e le conseguenze previste”. I registri decisionali dell'IA devono essere strutturati per generare spiegazioni leggibili dall'uomo in risposta alle richieste di accesso entro il termine di risposta di 30 giorni previsto dal GDPR.

Direttive sulla parità di trattamento

Le direttive dell'UE sulla parità di trattamento (2006/54/CE, 2000/78/CE) vietano la discriminazione nel lavoro. Quando l'onere della prova si sposta sul datore di lavoro nelle cause per discriminazione, i registri decisionali dell'IA diventano la prova principale per dimostrare un processo decisionale non discriminatorio. I registri devono catturare un contesto sufficiente per confutare le accuse di impatto sproporzionato.

Legislazioni nazionali sulla conservazione dei dati occupazionali

Gli Stati membri dell'UE impongono periodi di conservazione variabili per i documenti occupazionali. La Germania richiede 6 mesi per i dati dei candidati respinti (AGG §15(4)), la Francia richiede 5 anni per i documenti relativi alle cause per discriminazione e i Paesi Bassi richiedono da 4 settimane a 1 anno a seconda del contesto. La vostra politica di conservazione dei registri deve tenere conto del diritto nazionale applicabile più rigoroso.

Diritti di consultazione del comitato aziendale

Nelle giurisdizioni con consultazione obbligatoria del comitato aziendale (Germania, Paesi Bassi, Austria), i registri del sistema di IA potrebbero dover essere accessibili ai rappresentanti dei lavoratori. L'architettura di registrazione deve supportare un accesso limitato per l'esame del comitato aziendale, mantenendo al contempo la riservatezza di ogni candidato.

Violazioni comuni rilevate da Scanara

Registrazione con print() invece di JSON strutturato

Codice di valutazione dei candidati che utilizza istruzioni print o console.log per la registrazione delle decisioni invece di eventi JSON strutturati. I registri di testo non strutturato non possono essere interrogati in modo affidabile per le richieste di accesso dei candidati, gli audit degli organismi per la parità o il monitoraggio automatizzato — in violazione dei requisiti di tracciabilità dell'articolo 12.

Versione del modello mancante negli eventi di valutazione

Endpoint di selezione dell'IA che registrano i punteggi dei candidati senza annotare la versione del modello, la versione dell'algoritmo di valutazione o i parametri di configurazione. Quando un organismo per la parità indaga su decisioni di sei mesi prima, deve essere possibile determinare quale versione del modello ha prodotto ciascun punteggio.

Registri scritti su disco locale senza conservazione

Scrittura dei registri delle decisioni di assunzione dell'IA su archiviazione effimera o su disco locale senza un meccanismo di conservazione duraturo. Le cause per discriminazione nel lavoro possono essere intentate fino a 2 anni dopo la decisione — i registri archiviati su infrastruttura effimera non sopravvivranno a sostegno della difesa del datore di lavoro.

Nessuna marca temporale sugli eventi di inferenza dell'IA

Eventi di valutazione dei candidati privi di marche temporali ISO 8601. L'ordinamento temporale è essenziale per stabilire quando ciascun candidato è stato valutato, se le versioni del modello sono cambiate a metà campagna e se la sequenza delle decisioni mostra schemi che richiedono un'indagine.

Lista di controllo per la conformità all'articolo 12 per le risorse umane

Art. 12(1)

Registrare ogni decisione occupazionale influenzata dall'IA

Assicuratevi che ogni punteggio di selezione, classifica e raccomandazione generi un evento di registro strutturato con marca temporale, versione del modello, riferimento di input, punteggio di esito e fattori contributivi.

Art. 12(2)

Abilitare il monitoraggio dei bias dai registri

Strutturate i registri per supportare il monitoraggio automatizzato dell'impatto sproporzionato tra le caratteristiche protette. Includete i tassi di superamento aggregati per gruppo demografico ove giuridicamente consentito.

Art. 12(4)

Registrare i decisori umani

Registrate l'identità dei selezionatori e dei responsabili delle assunzioni che hanno esaminato gli esiti dell'IA, compresa la loro decisione finale. Mantenete il collegamento tra la raccomandazione dell'IA e l'azione umana per ogni candidato.

GDPR

Supportare le richieste di accesso dei candidati

Indicizzate i registri per identificativo del candidato per consentire un evasione efficiente delle richieste di accesso. Assicuratevi che il recupero dei registri possa produrre una sintesi decisionale specifica per il candidato entro il termine di risposta di 30 giorni previsto dal GDPR.

Retention

Applicare periodi di conservazione specifici per giurisdizione

Configurate le politiche di conservazione per giurisdizione: minimo 6 mesi (Germania AGG), fino a 5 anni (cause per discriminazione in Francia). Automatizzate l'eliminazione alla scadenza della conservazione per conformarvi alla minimizzazione dei dati del GDPR.

Domande frequenti

Risorse correlate


Come aiuta Scanara

Scanara automatizza la conformità al Regolamento sull'IA dal codice al dossier. Connetti i tuoi repo GitHub e ottieni report di conformità in pochi minuti.