Negli ultimi mesi l’Agcm (Autorità garante della concorrenza e del mercato) ha esteso l’azione di vigilanza sulle pratiche commerciali scorrette ai sistemi di intelligenza artificiale generativa. In particolare, si è occupata del rischio delle cosiddette allucinazioni, ossia la produzione di contenuti inesatti o fuorvianti.
A questo riguardo l’Antitrust ha condotto tre istruttorie nei confronti delle società Hangzhou DeepSeek Artificial Intelligence Co. Ltd e Beijing DeepSeek Artificial Intelligence Co. Ltd (Deepseek), Mistral AI SAS (Mistral) e Scaleup Yazilim Hizmetleri Anonim Şirketi, che offre un servizio “chatbot cross-platform” denominato NOVA AI.
Le tre istruttorie si sono concluse con accoglimento degli impegni, senza accertamento di infrazione ai sensi dell’art. 27, comma 7, del Codice del consumo. Le società hanno assunto specifici obblighi per rafforzare la trasparenza informativa sul rischio di allucinazioni dei sistemi offerti, intervenendo sui canali di fruizione dei servizi (siti internet e app) e nelle varie fasi del processo decisionale che precede l’acquisto o la registrazione. Sono stati quindi introdotti disclaimer permanenti nelle interfacce di utilizzo sotto le chat che avvertono, in lingua italiana, della presenza delle allucinazioni, anche con
hyperlink dedicati.
Inoltre è stata integrata e arricchita l’informativa precontrattuale con esplicite avvertenze sui limiti di affidabilità dei contenuti generati e sulla necessità di verificarli.
L’Agcm precisa che nel procedimento relativo a DeepSeek, la società ha anche previsto un investimento tecnologico per mitigare il fenomeno delle allucinazioni, anche se consapevole che – nell’attuale stato tecnologico – non sia possibile eliminarle completamente. Negli impegni relativi a NOVA AI, infine, è stato anche chiarito al consumatore che si tratta di un servizio che offre solo accesso, mediante un’unica interfaccia, ad alcune chatbot (delle quali sono stati dati maggiori dettagli), senza fornire un servizio di aggregazione e di elaborazione delle risposte.
