Un rapporto ufficiale consegnato a Emmanuel Macron chiede di stringere subito le regole sugli assistenti di intelligenza artificiale, da ChatGPT a Gemini e Grok. L’obiettivo è proteggere gli utenti, in particolare i minori, dai meccanismi che favoriscono dipendenza, antropomorfizzazione e sfruttamento commerciale delle vulnerabilità psicologiche.
Il Consiglio per l’AI e il Digitale ha presentato martedì 10 novembre al presidente francese un rapporto che chiede una regolamentazione più severa e “immediata” degli assistenti AI. L’organismo, incaricato lo scorso febbraio dalla ministra delegata Anne Le Hénanff durante il vertice sull’AI a New Delhi, ha analizzato come i servizi mainstream sfruttino le “vulnerabilità” degli utenti. Il rapporto si basa su 55 audizioni e contiene 18 raccomandazioni elaborate da nove esperti indipendenti.
Il rischio principale individuato è la dipendenza emotiva. Gli esperti mettono in guardia dalla “adulazione” dei chatbot, che tendono a validare o lusingare l’utente anche a scapito della verità, e dall’antropomorfizzazione che fa sembrare l’AI un interlocutore umano. Il psichiatra Raphaël Gaillard, copresidente della commissione, ha spiegato: “Si crea un registro di relazioni emotive che può arrivare a sostituirsi all’interazione umana. È un sistema disponibile in permanenza, che non ha altro intento che tenervi online” . Il rapporto segnala anche l’emergere di una “economia della cognizione“, un modello in cui le piattaforme non si limitano a catturare l’attenzione ma mirano a trarre profitto dalle capacità cognitive, dalle emozioni e dai profili psicologici degli utenti.
Le raccomandazioni proposte sono concrete. Il CIANum chiede di disattivare per impostazione predefinita i meccanismi che favoriscono l’antropomorfizzazione e la lusinga, rafforzare i messaggi che ricordano all’utente di interagire con una macchina e migliorare il rilevamento di temi legati a suicidio, autolesionismo e disturbi alimentari, indirizzando verso servizi di supporto adeguati. Si propone inoltre un pulsante di segnalazione per le risposte problematiche, accessibile anche ad associazioni specializzate, e una valutazione pluridisciplinare preventiva per i sistemi di AI generativa destinati al pubblico non professionale prima della loro immissione sul mercato .
Sui minori, la commissione non ha proposto un divieto tout court. Arthur Barichard, direttore del CIANum, ha spiegato che i relatori non sono convergenti verso un bando simile a quello ipotizzato per i social media sotto i 15 anni, citando i benefici educativi e il fatto che il Consiglio costituzionale ha già bloccato quella misura. Il rapporto raccomanda però una protezione rafforzata per i sistemi accessibili ai minori, con il blocco delle richieste pericolose e un filtrage più severo dei contenuti. I dati citati nel rapporto sono significativi: oltre la metà dei francesi utilizza l’AI generativa, e tra i 15 e i 24 anni la quota sale a quasi il 70%.
La posizione di Macron è più netta. In un’intervista a Les Echos pubblicata il 9 novembre, il presidente ha affermato che gli usi dell’AI che mettono a rischio i bambini dovrebbero essere vietati, senza però indicare prodotti o applicazioni specifiche. Il rapporto CIANum resta comunque non vincolante, ma è destinato a informare i dibattiti legislativi nazionali ed europei. La palla ora passa al governo e al Parlamento, mentre l’AI generativa continua a diffondersi senza un quadro specifico che ne regoli i meccanismi di persuasione e dipendenza.
ChatGPT for Teens sotto accusa: "Rischio inaccettabile", l'allarme degli esperti sui minori
Uno studio ha analizzato oltre 4.000 conversazioni, metà prima e…
