Quando si tratta di analisi del personale, la gamma di aree legali toccate si estende dal diritto di protezione dei dati e dal diritto del lavoro alla legge generale sull'uguaglianza di trattamento. Quindi c'è molto che può essere fatto male. I ricercatori dell'organizzazione Algorithmwatch hanno passato due anni a guardare come queste analisi del software devono essere valutate dal dipendente. La conclusione: molte aziende potrebbero agire illegalmente in questo senso.
Alla fine dello scorso anno, il rivenditore di moda online Zalando ha colpito i titoli negativi dopo aver preso di mira i suoi dipendenti con il software per il personale Zonar, che ha sviluppato da solo. Lì avrebbero dovuto valutare i punti di forza e di debolezza dell'altro. Questo porta a una sensazione di sorveglianza, di pressione per le prestazioni e di stress, poiché i dipendenti temono sia per il lavoro che per il fatto che i salari potrebbero essere depressi.
Differenza tra sistemi di gestione del personale e software di analisi del personale
I programmi di analisi del personale sono spesso in una zona grigia legale. Spesso, l'impiegato non sa nemmeno che vengono usati e come viene fatta l'analisi.
Prima di tutto, è necessario chiarire la differenza tra i sistemi classici di gestione del personale e le varianti moderne con l'aggiunta di "analytics". I sistemi precedenti possono fornire informazioni su dati direttamente disponibili come i giorni di formazione dei dipendenti o i gradi finali delle persone nel processo di candidatura. Affermazioni chiaramente definite sono derivate dai dati.
I nuovi sistemi fanno affermazioni aggiuntive la cui connessione con i dati sottostanti non è immediatamente ovvia. Queste affermazioni vanno da valutazioni e raccomandazioni, come suggerimenti personalizzati per ulteriori formazioni o la preselezione di applicazioni, a decisioni automatiche o fortemente predeterminate.
Tra gli altri, programmi come Office 365 Workplace Analytics di Microsoft, Watson Talent Insights di IBM o SAP Success Factors People Analytics possono contribuire a questa analisi. La produttività dei lavoratori può essere registrata in grande dettaglio attraverso l'uso di questo software per ufficio.
Il dilemma è particolarmente chiaro con Microsoft Office, dato che quasi nessuna azienda può farne a meno. Microsoft "Graph" può raccogliere, analizzare ed elaborare dati in background della maggior parte delle applicazioni. Con l'aiuto del programma Office 365 "Workplace Analytics", i supervisori possono creare valutazioni del comportamento lavorativo dei loro dipendenti e vedere, per esempio, chi ha eseguito quali azioni nei programmi Office e quando, chi ha letto quali e-mail e quando, da dove proveniva il rispettivo messaggio e molto altro. Naturalmente, questo permette anche ai dipendenti di essere confrontati tra loro in termini di produttività.
In alcuni stati federali, la protezione dei dipendenti in relazione a tali programmi è già in fase di sperimentazione. Imke Sommer, il commissario per la protezione dei dati dello stato di Brema, è una spina nel fianco di questo tipo di software di analisi e vuole porre fine all'uso improprio.
Il problema dell'IA e i segreti dei produttori di software
"Per proteggere i dipendenti dalle possibilità e soprattutto dal potenziale di controllo immanentemente alto che è associato al software IA e agli algoritmi di autoapprendimento, un'espansione dei diritti esistenti di partecipazione e co-determinazione da parte del legislatore è inevitabile", concorda Peter Wedde, uno specialista in diritto del lavoro e digitalizzazione.
Se l'intelligenza artificiale viene utilizzata anche in questi software di analisi, ci sono ulteriori problemi. Perché per analizzare e prevedere come lavoreranno gli individui o le squadre o se raggiungeranno i loro obiettivi, i fornitori dei sistemi utilizzano metodi statistici di riconoscimento dei modelli e di calcolo delle probabilità, come l'apprendimento automatico o le "reti neurali profonde". I fornitori di solito tengono segreti i modelli e le ipotesi su cui si basano queste previsioni e i dati usati per addestrare i sistemi - di solito sulla base del fatto che hanno bisogno di proteggersi dagli imitatori e che gli impiegati potrebbero manipolare le dichiarazioni fatte dai sistemi se sapessero come funzionano.
Quindi cosa è permesso?
Nello studio "Automated personnel management and co-determination", che è stato finanziato con fondi della Fondazione Hans Böckler, che è vicina ai sindacati, Algorithmwatch arriva alle seguenti conclusioni sulla questione della legalità:
- I dipendenti devono essere individualmente e volontariamente d'accordo quando vengono utilizzate le cosiddette procedure di people analytics. Tuttavia, si può supporre che questo consenso molto spesso non venga dato. In alternativa, il trattamento dei dati dei dipendenti nel contesto della people analytics potrebbe anche essere legittimato da accordi aziendali. Tuttavia, non sono applicabili perché manca un pertinente diritto di codeterminazione.
- I consigli di fabbrica e le aziende devono controllare se l'uso dei sistemi di IA è legalmente conforme. C'è da aspettarsi che in molti casi i datori di lavoro non saranno in grado di fornire informazioni ai dipendenti e ai loro rappresentanti eletti nella misura richiesta dalla legge perché i fornitori di AI non danno queste informazioni.
- Il governo federale deve chiarire per legge che i datori di lavoro devono garantire la trasparenza sui metodi utilizzati anche se i produttori del software non vogliono fornire informazioni.
- I produttori devono sviluppare attivamente e offrire modi per farlo per essere in grado di fornire sia ai dipendenti che ai loro comitati aziendali informazioni adeguate su come funzionano i sistemi basati su AI.
- I consigli di fabbrica devono far valere attivamente i loro diritti di informazione contro i datori di lavoro già nella fase di pianificazione dei sistemi di IA, poiché l'efficacia pratica e l'applicabilità dei loro diritti di codeterminazione si riduce non appena i sistemi vengono introdotti.
- Le aziende e i consigli di fabbrica devono garantire che ci sia una competenza adeguata da parte dei dipendenti e della gestione delle risorse umane per trarre le giuste conclusioni da queste informazioni. I sindacati dovrebbero sostenere questo sia a livello aziendale che politico.
Algorithmwatch, insieme ai rappresentanti dell'Università Tecnica di Braunschweig, ha pubblicato una "Guida alla revisione delle caratteristiche essenziali dei sistemi basati sull'AI per i consigli di fabbrica e altri rappresentanti del personale", che entra nel dettaglio della situazione legale. Questa guida può essere scaricata gratuitamente in formato pdf.