Le bot farm entrano in una nuova fase. Non sono più soltanto fabbriche di account falsi usate per moltiplicare post, like e condivisioni. Con l’AI generativa, una rete di profili può produrre testi, immagini, commenti e risposte, simulando comportamenti che a prima vista sembrano umani. È la combinazione fra identità artificiali, coordinamento e produzione su larga scala a rendere le bot farm più difficili da individuare.
Un esempio recente arriva dagli Stati Uniti. Nell’agosto 2026 X ha individuato circa 200 account che, secondo il suo team di sicurezza, facevano parte di una più ampia rete di circa 200 mila account sospetti. I profili pubblicavano contenuti destinati a influenzare il dibattito statunitense sui data center. Una bot farm può generare migliaia di interazioni artificiali senza riuscire a convincere persone reali, e questo rende difficile misurare il suo impatto effettivo.
Il salto tecnologico sta soprattutto nel costo e nella velocità. A settembre 2026 Anthropic ha pubblicato un rapporto sulle attività malevole osservate fra dicembre 2025 e agosto 2026, descrivendo nove operazioni nelle quali Claude sarebbe stato utilizzato per costruire profili falsi, produrre contenuti e organizzare reti di account. In un caso, l’azienda ha individuato una rete collegata a circa 70 siti di notizie fittizie, 70 account X e oltre 250 account usati per amplificare i contenuti. Il sistema aveva prodotto almeno 8.913 articoli in circa 20 lingue. Anthropic sottolinea però che gran parte di quei contenuti aveva ottenuto poco o nessun coinvolgimento autentico. L’automazione può moltiplicare la capacità di pubblicare, ma non garantisce attenzione né un effetto reale sul pubblico o sul dibattito.
La tecnica non nasce con i modelli generativi. Nel luglio 2024 il Dipartimento di Giustizia statunitense annunciò di aver individuato, con la collaborazione di altri Paesi e di X, 968 account riconducibili secondo gli investigatori a una bot farm sostenuta dal governo russo. Gli account utilizzavano profili fittizi, spesso presentati come cittadini statunitensi, e un sistema AI per generare identità e contenuti. Prima si costruisce una falsa identità, poi la si inserisce in una rete e infine si distribuiscono messaggi in modo coordinato. L’AI rende queste operazioni più flessibili, perché può creare biografie, immagini, testi e varianti dello stesso messaggio senza richiedere un lavoro umano proporzionale al numero di account.
Un altro segnale arriva da una ricerca di AI Forensics su TikTok. L’organizzazione ha analizzato 354 account automatizzati in 20 lingue nell’arco di un mese, rilevando oltre 43 mila post realizzati in gran parte con AI e 4,5 miliardi di visualizzazioni. Gli account erano progettati per pubblicare rapidamente e testare il comportamento degli algoritmi, cercando maggiore visibilità attraverso la quantità. La bot farm trasforma l’attenzione in una risorsa industriale, producendo continuamente contenuti e interazioni nella speranza che una parte emerga nei sistemi di raccomandazione. Ciò che appare molto popolare, però, non è necessariamente sostenuto da un numero equivalente di persone reali.
La questione diventa più delicata quando le bot farm entrano nei normali spazi di conversazione. Nel gennaio 2026 una coalizione di ricercatori e altri esperti ha lanciato un allarme sugli “AI bot swarms”, sistemi capaci di imitare tono, linguaggio e abitudini degli utenti. Molte operazioni vengono scoperte prima di raggiungere un pubblico autentico e non tutte riescono a produrre un effetto misurabile. Per gli utenti, il problema non consiste nel presumere che ogni profilo sia falso, ma nel considerare con maggiore cautela ondate improvvise di contenuti, account creati nello stesso periodo e messaggi quasi identici. L’AI non ha inventato le bot farm. Sta però rendendo più economico, rapido e sofisticato il lavoro necessario per farle sembrare umane.
L'AI potrebbe danneggiare i bambini più dei social media: lo dice l'ex responsabile della sicurezza di Google
Tom Siegel, fondatore del team di sicurezza e affidabilità di…
