Il Grande Fratello entra in ufficio: il Garante ferma l’IA che valuta lo stress dei dipendenti

Il Garante per la protezione dei dati personali ha inviato un avvertimento a una start-up italiana che utilizza intelligenza artificiale per rilevare il livello di stress psicologico dei lavoratori tramite un plug-in per Slack e Teams. L’Autorità ha evidenziato i rischi legati alla trattazione dei dati sensibili e l'importanza di implementare misure adeguate sin dalla progettazione del servizio. La normativa privacy vieta l'uso di sistemi di IA per analizzare le emozioni nei contesti lavorativi, sottolineando i potenziali effetti discriminatori.

Il Garante per la protezione dei dati personali ha inviato un avvertimento a una start-up italiana che sta sviluppando un plug-in per le piattaforme di messaggistica aziendale Slack e Teams. Questo componente aggiuntivo utilizza intelligenza artificiale e analisi semantica delle chat per rilevare il livello di stress psicologico dei lavoratori.

I datori di lavoro che acquistano il servizio non possono accedere a contenuti puntuali delle comunicazioni analizzate né ai risultati individuali elaborati dal sistema.

Tuttavia, considerando la delicatezza dei dati trattati e la possibilità di fornire report aggregati sul livello di stress dei dipendenti, il Garante ha invitato la società a implementare misure adeguate sin dalla progettazione del servizio. Queste misure devono prevenire qualsiasi rischio di accesso, anche indiretto, a informazioni relative alla sfera emotiva dei lavoratori.

La normativa privacy, lo Statuto dei lavoratori e il Regolamento europeo sull’intelligenza artificiale vietano l’uso di sistemi di IA per dedurre o analizzare le emozioni delle persone nei contesti lavorativi. Pertanto, i datori di lavoro non possono legittimamente acquisire o trattare tali informazioni in modo puntuale, ma anche per generare aggregati, le informazioni puntuali devono essere acquisite in qualche forma.

Il Garante ha anche sottolineato i rischi legati all’impiego di tecnologie basate su modelli linguistici e analisi semantica. Queste tecnologie possono produrre risultati non sempre trasparenti, spiegabili o verificabili, con possibili effetti discriminatori o lesivi dei diritti dei lavoratori.

L’evoluzione dell’intelligenza artificiale, apre scenari sempre più avanzati nel campo dell’analisi comportamentale e psicologica.

In particolare, diverse aziende negli Stati Uniti e in altri mercati extraeuropei, stanno sviluppando strumenti, che possono elaborare grandi quantità di dati digitali generati dai dipendenti – dalle comunicazioni aziendali ai modelli di interazione quotidiana – con l’obiettivo di individuare segnali di stress, burnout o possibili condizioni di disagio psicologico. Queste sono tecnologie che vengono spesso presentate come strumenti di welfare aziendale e prevenzione, ma che inevitabilmente sollevano grandi interrogativi sul rispetto della privacy, sulla libertà e sui limiti del controllo d parte dei datori di lavoro.

In questo contesto, l’intervento del Garante italiano ha rappresentato un chiaro punto di riferimento. La posizione dall’Autorità chiarisce con estrema precisione che la tutela della dignità e dei diritti fondamentali dei lavoratori non è sacrificabile sull’altare dell’innovazione tecnologica. Se da un lato l’intelligenza artificiale offre opportunità per migliorare il lavoro, dall’altro non deve  trasformarsi in uno strumento che possa monitorare, dedurre o classificare lo stato emotivo e mentale delle persone.

Ogni ordinamento giuridico, lo sappiamo bene, ha regole differenti. Ma in Italia il messaggio è chiaro: la valutazione delle emozioni e delle condizioni psicologiche dei lavoratori attraverso sistemi automatizzati non è compatibile con il quadro normativo vigente e non può avere spazio negli uffici.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance