Il Garante della privacy italiano multa l'azienda del chatbot Replika

L’autorità Garante per la privacy italiana ha comminato una sanzione di 5 milioni di euro alla società statunitense Luka Inc. che gestisce il chatbot Replika e, al contempo, ha avviato una “autonoma istruttoria per verificare il corretto trattamento dei dati personali effettuato dal sistema di intelligenza artificiale generativa alla base del servizio“.

I temi trattati all’interno dell’articolo

Le motivazioni della sanzione

Secondo le motivazioni espresse nella comunicazione pubblica dell’autorità, Luka Inc. ha ripetutamente violato le norme volte a proteggere i dati personali degli utenti non adeguandosi di fatto a quanto richiesto già nel febbraio 2023 quando l’applicazione venne bloccata per il mancato rispetto di alcune norme sulla privacy. In quel caso il garante aveva evidenziato dei rischi specifici per i bambini e, dopo il completamento dell’indagine, è inoltre emerso che Replika non ha una base giuridica per il trattamento dei dati degli utenti e non dispone di un sistema di verifica dell’età per impedire ai bambini di accedere al servizio, tutti elementi che hanno condotto alla multa per il suo sviluppatore Luka Inc.

La startup Replika, lanciata nel 2017 e con sede a San Francisco, offre agli utenti avatar personalizzati in grado di dialogare con loro. Il cosiddetto “amico virtuale” viene inoltre pubblicizzato dall’azienda come un dispositivo in grado di migliorare il benessere emotivo degli utenti.

L’attività del Garante per la privacy

Oltre all’indagine interna, l’autorità italiana ne ha anche avviata una separata volta a verificare se il sistema di intelligenza artificiale generativa di Replika sia conforme alle norme sulla privacy dell’Unione europea, in particolare per quanto riguarda l’addestramento del suo modello linguistico.

Il Garante italiano è una delle autorità pubbliche che registrano il più alto grado di proattività all’interno dell’Unione europea nella valutazione della conformità delle piattaforme AI alle norme nazionali ed europee sulla privacy. Nel 2024 in Italia è stata multata OpenAI per un valore di 15 milioni di euro, dopo che l’anno precedente ChatGPT era stata bloccata per presunta violazione delle norme europee.