Come annunciato dall’azienda negli scorsi giorni, OpenAI ha introdotto la funzione di controllo parentale su ChatGPT per tutelare la salute e la sicurezza degli utenti minorenni dopo che negli scorsi mesi la società è stata chiamata in causa come responsabile per il suicidio di un sedicenne.
Grazie alla nuova funzione, i genitori ora potranno collegare il proprio account a quello dei figli minorenni e personalizzare delle impostazioni per offrire un’esperienza sicura e appropriata all’età dei figli. Come puntualizzato dall’azienda, il controllo parentale si attiverà solo con il consenso dell’account posto sotto controllo dopo che i genitori avranno mandato l’invito ai figli.
Una volta collegati gli account, scatteranno automaticamente delle protezioni come la riduzione dei contenuti grafici e le sfide virali, dei giochi di ruolo a sfondo sessuale e degli ideali di bellezza estremi. In questo contesto, colpisce che l’azienda utilizzi l’espressione “ridurre” al posto di cancellare. Una formulazione che suona come un implicito riconoscimento dell’impossibilità – legata alla natura stessa dei modelli di linguaggio – di risolvere il problema in modo definitivo.
A disposizione dei genitori ci sono poi delle ulteriori opzioni aggiuntive come la disattivazione della memoria del chatbot, della modalità vocale e della generazione di immagini, l’impostazione di determinati orari di pausa e l’esclusione dall’addestramento dei modelli con i dati dei propri figli.
OpenAI ha anche introdotto un sistema di notifiche sull’attività dei figli, sviluppato con l’ausilio di esperti di salute mentale e adolescenza. In momenti di particolare necessità ed emergenza, OpenAI si riserva la possibilità di contattare i genitori per informarli sullo stato in cui si trovano i propri figli. In merito poi alla discussa possibilità di contattare le autorità in casi particolarmente gravi, l’azienda ha precisato di essere al lavoro per “individuare la procedura e le circostanze più appropriate”.
Elemento rilevante è la precisazione che, in ogni caso, la privacy degli utenti sarà rispettata e i genitori non potranno avere accesso alle chat dei figli.
Meta sotto indagine negli Usa per le interazioni inappropriate della sua AI con minori
La società è stata chiamata in causa da un'inchiesta giornalistica…
