Attraverso un post pubblicato sul blog ufficiale, OpenAI ha annunciato l’introduzione di nuove restrizioni dedicate agli utenti minorenni di ChatGPT. Le modifiche cambieranno il modo in cui il chatbot interagisce con loro. L’azienda ha precisato che si tratta di misure utili al rispetto della privacy e della libertà degli adolescenti, che meritano una “protezione significativa”.
Le novità introdotte riguarderanno due ordine di argomenti, le conversazioni a sfondo sessuale e quelle a tema autolesionismo. ChatGPT sarà istruito a non assecondare più conversazioni di natura sessuale con minorenni e ad evitare atteggiamenti provocanti. Inoltre, da ora in poi, quando un utente minorenne si rivolgerà a ChatGPT immaginando scenari di suicidio, il servizio tenterà di contattare i suoi genitori o, in casi particolarmente gravi, anche la polizia locale. Anche se l’implementazione di queste nuove linee guida rimane piuttosto incerta e fumosa, nel suo blog OpenAI ha precisato che queste segnalazioni verranno fatte tramite il sistema di controllo parentale presente nelle varie funzioni dell’applicazione. Il controllo parentale, che collega gli account dei genitori a quelli dei ragazzi tramite un invito via mail, permetterà ai genitori di ricevere delle notifiche quando un adolescente si trova “in un momento di grave difficoltà“.
Queste novità sono in parte il frutto della controversia legale che sta affrontando OpenAI dopo che i genitori di un adolescente statunitense hanno fatto causa alla società per il suicidio del figlio. OpenAI ha inoltre introdotto un nuovo sistema di controllo che permette ai genitori di attivare dei momenti di “blackout” durante le quali il chatbot non è disponibile all’utilizzo da parte del figlio minorenne. L’azienda ha anche informato di essere al lavoro per sviluppare un sistema in grado di determinare nel lungo termine se un utente sia effettivamente maggiorenne in casi di incertezza sull’età dell’utente.
Si diffondono sempre più i casi di psicosi da intelligenza artificiale
In cui i chatbot, soprattutto ChatGPT, rafforzano o instillano idee…
