ETD

• Discriminazione

L’indagine che ho condotto nel presente lavoro di tesi intende esplorare sotto diversi angoli prospettici il fenomeno della integrazione dei sistemi di intelligenza artificiale e di algorithmic management con le realtà aziendali. L’introduzione di queste nuove metodologie digitali sta infatti ridefinendo profondamente l'organizzazione del lavoro e segnando una trasformazione che si manifesta non soltanto sotto il profilo tecnologico ma anche giuridico, etico e sociale.
Prima di entrare nel merito delle dinamiche di gestione e utilizzo di questa metodologia digitale è opportuno fornirne una definizione precisa ed individuarne al tempo stesso la principale criticità insita nella sua applicazione all’interno delle realtà lavorative.
L'algorithmic management (gestione algoritmica) è un approccio alla gestione delle organizzazioni e alla supervisione dei lavoratori che utilizza algoritmi e tecnologie digitali per prendere decisioni e ottimizzare processi operativi. Come accennato è propedeutico a qualsiasi valutazione sulla implementazione pratica di questa metodologia tener di conto di come essa, per sua propria peculiarità, esponga i lavoratori al rischio del fenomeno della discriminazione algoritmica. Ciò si riferisce a situazioni in cui i sistemi e gli algoritmi, spesso utilizzati in contesti di intelligenza artificiale e machine learning, possono presentare o addirittura amplificare bias e ingiustizie sociali. Questo avviene quando i dati di addestramento contengono pregiudizi storici o quando le decisioni algoritmiche sono influenzate da variabili che non dovrebbero essere considerate, come razza, genere o età.
Nel contesto manifatturiero, dove i processi di produzione, logistica e gestione del personale richiedono alti livelli di ottimizzazione, questi strumenti offrono promesse di efficienza che non hanno precedenti nella storia dell’industrializzazione. Tuttavia, la loro solo apparente neutralità matematica nasconde una realtà complessa nella quale le decisioni automatizzate rischiano di cristallizzare e amplificare pregiudizi e discriminazioni preesistenti, rendendo i bias algoritmici un rischio operativo e legale di primo ordine.
Il quadro normativo, con l'AI Act europeo in primis, inizia a riconoscere queste criticità, imponendo obblighi stringenti di trasparenza, di controllo umano e di non-discriminazione. Questo lavoro esplora come il binomio tra algoritmi e lavoro nelle aziende di processo contemporanee sollevi sfide inedite per la dignità dei lavoratori, l'equità dei processi e la stessa conformità legale delle aziende.
L'algorithmic management permea ogni fase della catena del valore, trasformando il tradizionale rapporto di coordinamento e controllo. Si rintracciano esempi di tutto ciò in ogni processo aziendale, in particolare in alcuni settori quali quello della logistica, dei trasporti ma più in generale nella produzione di beni e servizi di ogni genere.
Vedremo ad esempio come nei magazzini di logistica (caso Amazon) gli algoritmi ottimizzano i flussi delle merci, gestiscono gli inventari e, in modo sempre più pervasivo, organizzano il lavoro umano. Nell'ultimo miglio logistico, sistemi automatizzati assegnano in tempo reale consegne, definiscono percorsi e monitorano le prestazioni attraverso metriche continue (come il tempo di consegna o il tasso di errore), premiando o penalizzando automaticamente i lavoratori (caso Deliveroo). La giurisprudenza italiana ha già censurato simili meccanismi, come nel caso di algoritmi che, premiando la disponibilità in orari particolari, penalizzavano indirettamente lavoratori con esigenze familiari o di salute, configurando una vera e propria discriminazione. Anche nel settore Automotive, in particolare nella organizzazione dei piani di produzione, i sistemi evoluti (MES) integrano algoritmi di machine learning per digitalizzare la catena di produzione. Questi sistemi definiscono le priorità di lavoro, ottimizzano i flussi, monitorano le prestazioni di ciascun operaio in tempo reale e specificano come, dove e quando devono essere svolte le attività. Ne deriva che la gestione del lavoro e dei turni diventa un output algoritmico che mira a massimizzare l'efficienza eliminando ogni "tempo morto" e conseguentemente riducendo il costo di ciascuna operazione.
Analoga situazione la si ritrova nella gestione del personale, dove l'IA è utilizzata nelle fasi di reclutamento (con software di screening dei CV), nella valutazione delle performance e nella previsione di fenomeni come il turnover. L'assegnazione di compiti e mansioni può essere determinata da modelli predittivi che analizzano le competenze e le prestazioni storiche dei dipendenti.
Questa pervasività trasforma l'algoritmo da mero strumento a vero e proprio manager digitale, le cui decisioni, spesso opache e finalizzate ad obiettivi di massimizzazione della redditività aziendale, hanno un impatto diretto sulle condizioni di lavoro, la retribuzione, la carriera e perfino la stabilità occupazionale dei dipendenti.
Nel corso dei capitoli che seguiranno vedremo come il rischio fondamentale di questi sistemi risiede nei bias algoritmici, ovvero errori sistematici e ripetibili che producono risultati ingiusti sotto il profilo etico, privilegiando o svantaggiando specifici gruppi di lavoratori. È rilevante far notare come questi bias non siano "errori del software", ma il riflesso di distorsioni e ambiguità presenti nella società e nei processi aziendali che vengono riprodotte e amplificate dall'IA con lo scopo di raggiungere risultati spesso discutibili sia sul piano etico che su quello giuridico.
L’algorithmic management è quindi suscettibile di commettere errori spesso causati da scelte pregiudizievoli che stanno alla base del meccanismo stesso di decisione. Nel corso di questo lavoro saranno descritti alcuni esempi significativi pur essendo consapevole del fatto che la casistica è infinitamente varia e quindi non analizzabile in modo esaustivo in questa sede.
Troveremo esempi di quanto sopra in tutte le fasi della vita aziendale. Ad esempio, già in fase di reclutamento un algoritmo potrebbe scartare CV di candidati over 50 o di donne se i dati storici suggeriscono (erroneamente) una minore longevità in ruoli fisici o una minore presenza in reparti specifici. Nell'organizzazione del lavoro vedremo come un sistema di assegnazione delle turnistiche che premia la "massima flessibilità" discrimina indirettamente i lavoratori con responsabilità di cura (spesso donne). Analoga situazione si ritrova nel merito della valutazione delle performance dove criteri di valutazione basati esclusivamente sulla quantità di output (pezzi prodotti, ordini evasi) potrebbero penalizzare ad esempio i lavoratori con disabilità che, a parità di risultato, impiegano tempi leggermente diversi.
Anche il tema della sicurezza sul lavoro, essendo un argomento ad alta priorità, è fortemente permeato da fenomeni del genere sopra descritto. L'uso di dispositivi indossabili intelligenti e di sistemi di monitoraggio ambientale basati su IA può migliorare effettivamente la prevenzione, tuttavia, se i modelli predittivi di rischio infortunio sono viziati da bias possono creare un falso senso di sicurezza o indirizzare erroneamente le risorse preventive. Inoltre, sistemi di sorveglianza eccessivamente invasivi, giustificati da esigenze di sicurezza, possono ledere la dignità e la privacy dei dipendenti.
L'utilizzo di sistemi discriminatori espone le aziende a contenziosi, sanzioni amministrative e gravi danni d'immagine. Il Regolamento UE sull'intelligenza artificiale (AI Act) classifica esplicitamente ad alto rischio i sistemi di IA utilizzati per la gestione delle risorse umane, imponendo obblighi rigorosi di valutazione di conformità, trasparenza e supervisione umana prima della loro immissione sul mercato e durante l'uso. Violare questi obblighi non è più solo una questione di responsabilità sociale, ma un illecito normativo rilevante.
Di fronte a tutte queste nuove sfide emerge con forza l'esigenza di un governo consapevole e responsabile dell'intelligenza artificiale in azienda. Non si tratta di rifiutare l'innovazione, ma di gestirla affinché sia realmente al servizio delle persone e non viceversa. La risposta non può essere solo tecnica, ma deve passare per un quadro integrato che preveda l’adozione di codici etici specifici, comitati di supervisione multidisciplinari, mantenere registri delle decisioni algoritmiche e sottoporre i sistemi ad audit interni ed esterni periodici, con il coinvolgimento delle parti sociali.
Sostanzialmente deve prevalere il principio che nessuna decisione definitiva con impatto significativo sul lavoratore (licenziamento, promozione, cambiamento di mansioni) può essere affidata al solo algoritmo ma deve sempre interporre una valutazione umana autorevole e con capacità di intervenire e correggere.
L'introduzione dell'intelligenza artificiale e dell'algorithmic management nel diritto del lavoro rappresenta una svolta epocale, in particolare nel tessuto manifatturiero e dei servizi dove efficienza e controllo sono valori storici. Avremo tuttavia modo di rilevare come la promessa di ottimizzazione porta con sé il rischio dei bias algoritmici, che minacciano di automatizzare l'ingiustizia, rendendola sistemica e inappellabile.
La sfida nel prossimo futuro per le aziende, i legislatori, i sindacati e tutta la società è quella di costruire un modello in cui la potenza analitica dell'intelligenza artificiale non soppianti il giudizio umano, in cui l'algoritmo non sia un boss inaccessibile e inappellabile, ma uno strumento trasparente e controllabile, al servizio di una produttività che non sacrifichi l'equità, la dignità e la sicurezza delle persone che quel valore lo creano. Questo è senza dubbio il terreno sul quale il nuovo diritto del lavoro digitale si gioca il proprio ruolo.