Articolo 14: sorveglianza umana per l'IA HR

La sorveglianza è un obbligo di progettazione del fornitore. Il regolamento non fissa ore di formazione né una regola su chi prende la decisione finale di assunzione.

• Sorveglianza efficace fin dalla progettazione

  I sistemi di IA ad alto rischio devono essere progettati, anche con strumenti di interfaccia uomo-macchina adeguati, in modo che le persone fisiche possano sorvegliarli efficacemente durante l’uso. La sorveglianza mira a prevenire o ridurre al minimo i rischi per la salute, la sicurezza o i diritti fondamentali (articolo 14(1) e (2)).

• Misure adeguate al rischio

  Le misure di sorveglianza devono essere proporzionate ai rischi, al livello di autonomia e al contesto d’uso. Il fornitore le integra nel sistema quando è tecnicamente fattibile, le individua perché le attui il deployer (l’organizzazione che usa il sistema), o fa entrambe le cose (articolo 14(3)).

• Cosa devono poter fare le persone designate

  In modo adeguato e proporzionato, le persone designate devono poter comprendere le capacità e i limiti del sistema e monitorarne il funzionamento. Devono restare consapevoli della distorsione dell’automazione e interpretare correttamente l’output. Devono poter decidere di non usare il sistema o di ignorare, annullare o ribaltare il suo output. Devono poter intervenire sul funzionamento o interrompere il sistema con un pulsante di «arresto» o una procedura analoga che lo porti a fermarsi in condizioni di sicurezza (articolo 14(4)).

• Distorsione dell’automazione

  La distorsione dell’automazione è la possibile tendenza a fare affidamento automaticamente, o eccessivamente, sull’output di un sistema di IA ad alto rischio. Conta in particolare per i sistemi che forniscono informazioni o raccomandazioni per decisioni che devono essere prese da persone fisiche (articolo 14(4), lettera b)).

• La verifica da parte di due persone non è una regola HR

  La verifica separata da parte di almeno due persone fisiche si applica solo ai sistemi dell’allegato III, punto 1, lettera a), l’identificazione biometrica remota (articolo 14(5)). Non si applica ai sistemi dell’allegato III, punto 4.

La tecnologia HR non è una categoria del regolamento. Conta l’uso elencato nell’allegato III, punto 4 («Occupazione, gestione dei lavoratori e accesso al lavoro autonomo»).

• Punto 4, lettera a): assunzione e selezione

  Sistemi di IA destinati a essere utilizzati per l’assunzione o la selezione di persone fisiche, in particolare per pubblicare annunci di lavoro mirati, analizzare o filtrare le candidature e valutare i candidati.

• Punto 4, lettera b): rapporti di lavoro

  Sistemi di IA destinati a essere utilizzati per adottare decisioni riguardanti le condizioni dei rapporti di lavoro, la promozione o cessazione dei rapporti contrattuali di lavoro, per assegnare compiti sulla base del comportamento individuale o dei tratti e delle caratteristiche personali o per monitorare e valutare le prestazioni e il comportamento delle persone nell’ambito di tali rapporti di lavoro.

• Esiste un’eccezione, e non copre mai la profilazione

  Un sistema dell’allegato III non è ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale. La deroga si applica solo se è soddisfatta una qualsiasi delle quattro condizioni dell’articolo 6(3), lettere da a) a d). Un sistema che esegue profilazione di persone fisiche è sempre ad alto rischio. Un fornitore che ritiene il proprio sistema non ad alto rischio deve documentare la valutazione prima dell’immissione sul mercato o della messa in servizio (articolo 6(4)). La Commissione doveva fornire orientamenti con esempi pratici entro il 2 febbraio 2026 (articolo 6(5)).

• Lo sviluppatore del software è il fornitore, il datore di lavoro che lo utilizza è un deployer

  Il fornitore è la persona fisica o giuridica, l’autorità pubblica, l’agenzia o altro organismo che sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio (articolo 3, punto 3). I fornitori di sistemi ad alto rischio devono garantire che i loro sistemi siano conformi ai requisiti della sezione 2 (articoli da 8 a 15) (articolo 16, lettera a)). Il deployer è una persona fisica o giuridica, un’autorità pubblica, un’agenzia o altro organismo che utilizza un sistema di IA sotto la propria autorità, salvo che il sistema sia utilizzato nel corso di un’attività personale non professionale (articolo 3, punto 4). Un datore di lavoro che utilizza un sistema HR è un deployer con gli obblighi dell’articolo 26. Un deployer diventa fornitore se appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, vi apporta una modifica sostanziale o modifica la finalità prevista di un sistema in modo che diventi ad alto rischio (articolo 25(1)).

• Date, sistemi precedenti ed esclusioni dall’ambito di applicazione

  I requisiti per i sistemi dell’allegato III si applicano dal 2 dicembre 2027 (articolo 113, lettera c), punto i)). Un sistema di IA ad alto rischio immesso sul mercato o messo in servizio prima di tale data è coperto solo se, a partire da essa, la sua progettazione subisce modifiche significative. In ogni caso, i fornitori e i deployer di sistemi di IA ad alto rischio destinati a essere utilizzati da autorità pubbliche devono adottare le misure necessarie per conformarsi entro il 2 agosto 2030 (articolo 111(2)). Il regolamento non si applica ai settori che esulano dall’ambito di applicazione del diritto dell’Unione (articolo 2(3)), né ai sistemi o modelli di IA, compreso il loro output, sviluppati e messi in servizio specificamente e al solo scopo di ricerca e sviluppo scientifici (articolo 2(6)), né alle attività di ricerca, prova o sviluppo precedenti all’immissione sul mercato o alla messa in servizio di un sistema; le prove in condizioni reali non sono escluse (articolo 2(8)). Non si applica agli obblighi dei deployer che sono persone fisiche e utilizzano sistemi di IA nel corso di un’attività non professionale puramente personale (articolo 2(10)). I sistemi di IA rilasciati con licenze libere e open source sono esclusi, a meno che siano immessi sul mercato o messi in servizio come sistemi ad alto rischio o come sistemi di cui all’articolo 5 o 50 (articolo 2(12)).

• Persone competenti, formate e con autorità

  I deployer affidano la sorveglianza umana a persone fisiche che dispongono della competenza, della formazione e dell’autorità necessarie, nonché del sostegno necessario (articolo 26(2)). L’articolo 14 e l’articolo 26(2) non fissano alcun numero di ore di formazione.

• Uso secondo le istruzioni

  I deployer adottano misure tecniche e organizzative adeguate per utilizzare il sistema conformemente alle sue istruzioni per l’uso (articolo 26(1)) e ne monitorano il funzionamento sulla base di tali istruzioni (articolo 26(5)). Tali obblighi lasciano impregiudicati altri obblighi dei deployer previsti dal diritto dell’Unione o nazionale e la libertà dei deployer di organizzare le proprie risorse e attività per attuare le misure di sorveglianza umana indicate dal fornitore (articolo 26(3)).

• Rischi e incidenti gravi

  Un deployer che ha motivo di ritenere che l’uso del sistema conformemente alle istruzioni possa comportare un rischio ai sensi dell’articolo 79(1) informa senza indebito ritardo il fornitore o il distributore e l’autorità di vigilanza del mercato competente e sospende l’uso. Un incidente grave è comunicato prima al fornitore (articolo 26(5)).

• Nessuna regola sulla decisione finale di assunzione e nessun diritto di ricorso

  L’articolo 14 richiede che le persone incaricate possano decidere di non usare il sistema o di ignorarne, annullarne o ribaltarne l’output (articolo 14(4), lettera d)). Il regolamento non contiene alcuna regola per cui un essere umano debba prendere la decisione finale su un’assunzione o un licenziamento, né una procedura o un termine di ricorso contro tali decisioni. L’articolo 86 dà un diritto alla spiegazione nei casi che descrive, e l’articolo 85 consente di presentare un reclamo all’autorità di vigilanza del mercato, fatti salvi altri ricorsi amministrativi o giurisdizionali. Altre norme, ad esempio quelle sulla protezione dei dati, possono aggiungere regole sulle decisioni automatizzate; il regolamento lascia impregiudicato il diritto in materia di protezione dei dati (articolo 2(7)).

• Gli Stati membri possono mantenere o aggiungere norme più favorevoli ai lavoratori

  Il regolamento non impedisce all’Unione o agli Stati membri di mantenere o introdurre disposizioni legislative, regolamentari o amministrative più favorevoli ai lavoratori in termini di tutela dei loro diritti per quanto riguarda l’uso dei sistemi di IA da parte dei datori di lavoro, né di incoraggiare o consentire l’applicazione di contratti collettivi più favorevoli ai lavoratori (articolo 2(11)). I diritti dei rappresentanti dei lavoratori secondo il diritto nazionale esulano da questa pagina.

• Il regolamento non nomina alcuna norma; esistono norme armonizzate e orientamenti

  Il regolamento stesso non nomina alcuna norma per la sorveglianza umana. Chiede di tenere conto dello stato dell’arte generalmente riconosciuto (articolo 8(1)). I sistemi di IA ad alto rischio conformi a norme armonizzate i cui riferimenti sono pubblicati nella Gazzetta ufficiale si presumono conformi ai requisiti della sezione 2 che tali norme contemplano (articolo 40(1)). La Commissione elabora orientamenti sull’applicazione dei requisiti degli articoli da 8 a 15 (articolo 96(1), lettera a)). Qualsiasi altra norma usata da un fornitore è una scelta di progettazione volontaria.

Sono esempi, non requisiti.

• Esempio: mostrare perché un candidato è classificato così (articolo 14(4), lettere a) e c))

  Lo strumento mostra gli input alla base di una classificazione, così che il selezionatore possa verificarli.

• Esempio: ribaltare l’output (articolo 14(4), lettera d))

  Il selezionatore può far passare al turno successivo un candidato scartato dallo strumento, e lo strumento registra che l’output è stato ribaltato.

• Articolo 14 regolamento IA: sorveglianza umana e pulsante di arresto

  L’articolo come lo formula il regolamento, per tutti i settori.

• Regolamento IA HR: conformità tecnologia HR

  Come il regolamento raggiunge l’IA per l’assunzione, la selezione e la gestione dei lavoratori.

• Articolo 9: gestione dei rischi per l'IA HR — EU AI Act

  La gestione dei rischi per l’intero ciclo di vita per la tecnologia HR.

• Articolo 26 per le tecnologie HR: obblighi dei deployer

  Gli obblighi del datore di lavoro come deployer, compresa l’informazione dei lavoratori.