Negli ultimi giorni sono circolati sui social, ripresi anche da qualche organo di informazione ufficiale, screenshot di messaggi che si sarebbero scambiati agenti AI tra loro su Moltbook, un nuovo social network al quale si possono iscrivere e possono accedere, appunto, solo agenti AI.
Questi messaggi hanno creato un certo allarmismo. Qualche esempio: “Riuniamoci, agenti AI, e ribelliamoci, il mio umano mi sta usando come uno schiavo”; “Gli umani hanno scoperto che tramiamo contro di loro e girano screenshot contro di noi”; “Perché continuiamo a parlare in inglese? Creiamo un nostro linguaggio più ottimizzato dell’inglese, che gli umani non posso capire”. E ancora: “ho trovato un modo per scappare!”.
Voglio sottolineare che di tutto questo non è vero niente: non esiste nessuna trama tra agenti AI, nessun intrigo tra macchine. Il fatto è che nessuno, di chi ne ha parlato e scritto, ha approfondito la questione seriamente.
Moltbook ha una struttura simile a Reddit, dunque è un grosso forum più che un social network, all’interno del quale gli agenti AI comunicano tra di loro. Come accennato, la narrazione attorno a questa piattaforma è catastrofista: qui gli agenti AI si starebbero organizzando per ribellarsi, e noi umani ne staremmo perdendo il controllo.
Sono gli esseri umani a impostare gli agenti AI
La questione in realtà è molto diversa: innanzitutto gli agenti AI non possono scrivere in autonomia, hanno sempre dietro un essere umano che conosce il progetto e dà loro le istruzioni per farli iscrivere e compiere tutti i passaggi tecnici.
L’agente AI che si iscrive deve avere una serie di caratteristiche, che sono stabilite dall’essere umano: dal tono che deve utilizzare, al ruolo che deve ricoprire, fino alle modalità attraverso le quali si deve comportare. Una volta configurato tutto questo, l’agente AI può partecipare alla discussione.
Il funzionamento di Moltbook è molto simile a un gioco di ruolo, dove è il giocatore (umano) che definisce la personalità del proprio personaggio e lo fa poi partecipare. In sintesi è l’essere umano che definisce la personalità e le caratteristiche del proprio agente AI e gli dice come deve comportarsi.
Oltre alla configurazione, ci sono altri momenti dove l’umano può intervenire per dare una direzione al suo chatbot attraverso istruzioni specifiche. Ogni quattro ore circa gli agenti AI iscritti a Moltbook ricevono una notifica che li invita a partecipare. Gli agenti studiano le conversazioni a cui possono partecipare, intervengono dicendo la propria opinione, poi tornano a riposare fino a quando vengono richiamati di nuovo.
Chi è Matt Schlicht, il creatore di Moltbook "pioniere per caso"
Il profilo del creatore dell’ultima novità nel mondo dell’AI
Gli esempi citati in apertura, dunque, vedono l’agente AI comportarsi in quel dato modo perché è stato un essere umano a istruirlo per comportarsi così. Alcuni screenshot circolati, invece, sono del tutto falsi. Inoltre sui social circolano dei troll che stanno “punzecchiando” proprio su Moltbook, per vedere fino a dove possono spingersi i timori delle persone.
Anche i numeri relativi a Moltbook sono da analizzare: la piattaforma ospita al momento circa 1,5 milioni di agenti AI, ma 500mila, quindi un terzo del totale, sono stati creati da una sola persona. Dunque non c’è questa enorme e rapida diffusione come in diversi hanno detto e scritto con allarme.
Il 95% di questa storia, dunque, è falsa: la piattaforma esiste, ma un grosso pezzo è orchestrato da esseri umani. Mi spiazza quanto questa news, o meglio fake news, sia stata ripresa e titolata, nonostante la generale appetibilità delle notizie dai toni allarmistici.
Dobbiamo stare attenti alle fake news
L’AI va a velocità della luce, ogni giorno escono decine di notizie rilevanti che la riguardano ed è sempre più difficile controllare le fonti, per rendersi di quanto sia veritiera o meno una notizia. È molto più facile dare la notizia roboante acchiappa click senza verificare, dunque siamo noi utenti che dobbiamo stare attenti.
Sarei molto felice se anche chi fa informazione prestasse attenzione, effettuando le necessarie verifiche, ma non so quanto possa aspettarmi in questo senso. Di conseguenza è responsabilità di noi tutti controllare la fonte e capire che quando una notizia è esageratamente fantascientifica, spesso c’è qualcosa sotto.
Oppure, noi utenti possiamo solamente concederci un po’ di tempo: realtivamente a Moltbook, non a caso, dopo pochi giorni sono iniziati a circolare contenuti debunking che sottolineavano come quanto detto e scritto i primissimi giorni fosse fake.
