Con un post sul suo sito, Character.AI ha annunciato una profonda metamorfosi della piattaforma: a partire da fine novembre, i minorenni non potranno più chattare liberamente con i personaggi virtuali.
Ingresso graduale
La piattaforma permette di creare chatbot ispirati a figure storiche, letterarie o completamente inventate e una parte rilevante dei suoi utenti sono sempre stati, fino ad ora, minori di 18 anni.
Al posto delle chat, Character.AI ha comunque sviluppato per loro una nuova esperienza incentrata, dice, “sulla creatività“: i minori potranno creare video, storie e streaming con i loro personaggi preferiti, ma in un ambiente controllato e con un limite giornaliero di utilizzo inizialmente di due ore di chat al giorno.
L’idea è di impostare un utilizzo graduale all’utilizzo della piattaforma, per il quale l’azienda introdurrà un sistema di verifica dell’età.
Nasce l’AI Safety Lab
In parallelo alla trasformazione, Character.AI ha annunciato la creazione di un nuovo organismo indipendente: l’AI Safety Lab, un ente no-profit dedicato alla sicurezza e all’allineamento etico delle tecnologie di intrattenimento basate sull’intelligenza artificiale.
Il laboratorio avrà il compito di sviluppare nuove tecniche di sicurezza, collaborare con ricercatori, accademici e controllori politici, e diffondere le migliori pratiche per un uso responsabile dell’AI nel settore creativo.
Un passo nella “maturità”
Character, nota alle cronache soprattutto americane per episodi di influenza sulle fragilità psicologiche di ragazzi adolescenti (con almeno un caso documentato di suicidio), si allinea dunque alle impostazioni etiche ultimamente implementate anche da OpenAI e Meta con i loro controlli parentali.
La tutela dei minori è oggi l’unico ambito normativo in cui le grandi aziende tech americane stanno intervenendo in modo sistematico. Non è un caso: i recenti episodi di cronaca hanno inciso profondamente sull’opinione pubblica, spingendo il settore dell’intelligenza artificiale a temere ricadute negative sulla reputazione e sulla vendita di servizi e strumenti.
Per Character.AI si tratta, in un certo senso, di un salto nel vuoto, tanto che l’azienda stessa definisce “coraggiose” le misure adottate: limitando l’accesso ai minorenni, è la piattaforma stessa a dover compiere un passo verso la maturità, costruendo un nuovo ecosistema di servizi pensati per un pubblico adulto.
