Il welfare aziendale non può diventare una scorciatoia per misurare la fragilità dei lavoratori. È il segnale che arriva dal Garante per la protezione dei dati personali che ha inviato un avvertimento a una start-up sviluppatrice di un plug-in per Slack e Teams capace, tramite intelligenza artificiale e analisi semantica delle chat, di rilevare linguaggio, emozioni e livello di stress dei dipendenti che scelgano volontariamente di utilizzarlo.
La società, secondo le verifiche dell’Autorità, tratta i dati degli utenti come titolare del trattamento. Il datore di lavoro che acquista il servizio non può accedere ai contenuti delle comunicazioni né ai risultati individuali. Può però ricevere report aggregati sul livello di stress. Ed è qui che il tema si fa meno rassicurante: in team piccoli, reparti specialistici o reti commerciali con ruoli riconoscibili, anche un dato aggregato può avvicinarsi troppo alla persona.
Il caso non riguarda solo la privacy. Tocca lo Statuto dei lavoratori, il governo degli strumenti digitali aziendali e l’AI Act, che vieta l’uso di sistemi destinati a dedurre o analizzare le emozioni nei luoghi di lavoro, salvo eccezioni circoscritte. Anche per banche, intermediari finanziari, reti del credito, assicurazioni e fintech il messaggio è operativo: l’adozione di strumenti di IA nei processi interni non può essere derubricata a innovazione organizzativa.
Serve una due diligence vera. Prima dell’attivazione occorre capire quali dati vengono trattati, chi li governa, se esistono categorie particolari di dati, quali soglie impediscono la re-identificazione, come sono costruiti i report, quanto il modello sia spiegabile e quali presìdi evitino usi impropri. Il rischio non è teorico. Un indicatore sullo stress può diventare, anche senza nomi, un’informazione utilizzabile nella gestione del personale o nella lettura del clima interno.
Il tema si collega agli approfondimenti pubblicati da SimplyBiz su “AI Act, il rinvio non basta: per il credito la governance dei modelli resta un dossier aperto” e su “L’AI entra nei processi del credito e delle assicurazioni: SimplyBiz lancia la seconda Survey 2026”. Lo stesso filo attraverserà anche l’evento organizzato da SimplyBiz ed EGG Finance dal titolo “Come l’AI sta trasformando il mercato del Credito — e perché il momento è adesso”, in programma il 16 giugno a Milano, terza tappa del tour dedicato a come l’intelligenza artificiale sta già entrando nei processi delle aziende del Credito e assicurative, ma la governance non può arrivare dopo, quando il sistema è installato.
Il Garante richiama anche i limiti dei modelli linguistici e dell’analisi semantica. Possono produrre risultati opachi, non sempre verificabili, talvolta distorti. In un contesto di lavoro, un errore sulla presunta vulnerabilità emotiva di un dipendente non è un falso positivo qualsiasi. Può incidere su reputazione interna e opportunità professionali.
Per gli operatori vigilati la lezione è semplice, ma scomoda: non tutto ciò che è misurabile deve essere misurato. La prossima frontiera della compliance sull’IA passerà anche da qui, dalla capacità di dire no a strumenti che promettono efficienza ma rischiano di trasformare il benessere aziendale in sorveglianza emotiva.
