OpenAI ha bloccato due operazioni di influenza clandestina, una russa e una iraniana, che utilizzavano ChatGPT per creare false identità di giornalisti e gestire un centro di ricerca di facciata, allo scopo di diffondere propaganda anti-ucraina e messaggi geopolitici pilotati. L’azienda di San Francisco ha disattivato un gruppo di account legati ai due Paesi, spiegando che erano usati per sostenere entità di copertura attive nel dibattito internazionale sui conflitti in corso. Il caso conferma quanto sia semplice, per attori statali, sfruttare strumenti di AI disponibili a tutti per condurre campagne di influenza sofisticate su larga scala.
L’operazione iraniana è la più estesa delle due. Ha coinvolto sette falsi profili di giornalisti, ognuno presentato come cittadino di un Paese occidentale, inclusi gli Stati Uniti. Attraverso questi alias sono stati prodotti e proposti articoli di approfondimento a testate di tutto il mondo. «Abbiamo individuato quasi 100 articoli pubblicati o diffusi a nome di queste identità fittizie su circa una dozzina di testate online a livello globale», ha riferito OpenAI, precisando che si trattava di piccoli e medi siti generalmente incentrati su affari internazionali, geopolitica e Medio Oriente.
Le tracce digitali raccontano la doppiezza del progetto. Una delle identità, quella di Ervin B. Hoskins, descritta nella biografia come scrittore freelance statunitense, disponeva di account su X e Instagram. Le informazioni di trasparenza di X indicavano una connessione tramite un’app Android dell’Asia occidentale, mentre Instagram segnalava la provenienza dell’account direttamente dall’Iran. Secondo NPR, la campagna si è concentrata in particolare sulla guerra tra Stati Uniti, Israele e Iran, scoppiata nel 2026, producendo contenuti sia in inglese che in persiano, con una frequenza crescente di pubblicazioni dopo l’inizio del conflitto. Il primo articolo risale a luglio 2025, l’ultimo a ottobre 2026.
L’operazione russa ha seguito uno schema diverso e, secondo OpenAI, ancora più insidioso. Gli agenti di Mosca hanno coinvolto persone ignare in America Latina nella gestione di un think tank denominato Social Research Center, usato per screditare l’Ucraina nella regione e influenzare la politica locale. «Le evidenze disponibili indicano che i dipendenti del SRC in America Latina non erano consapevoli di lavorare per un gruppo russo», ha sottolineato l’azienda, aggiungendo che «si tratta del tentativo più complesso di gestire un’identità di facciata che abbiamo smantellato negli ultimi due anni e mezzo».
La novità più rilevante, per gli esperti di sicurezza informatica, è proprio questa evoluzione. Le campagne di disinformazione non si limitano più a generare testo con la AI, ma la usano per costruire intere organizzazioni fittizie con dipendenti reali e ignari, capaci di produrre autonomamente contenuti originali e credibili. OpenAI pubblica rapporti periodici sulle minacce individuate sulla sua piattaforma, ma il fenomeno riguarda tutto il settore, dato che strumenti simili sono oggi accessibili a chiunque a costo quasi zero. La sfida, come ricordano più di cento organizzazioni che di recente hanno firmato un appello congiunto per rafforzare le difese globali contro le minacce legate alla AI, non è solo tecnologica ma anche editoriale.
Resta aperta la questione della responsabilità. Le testate che hanno pubblicato gli articoli dei falsi giornalisti non sono state accusate di complicità, erano ignare vittime di una frode costruita con cura. Ma il caso mostra il rischio concreto che i sistemi di verifica del giornalismo tradizionale, fondati sulla reputazione dell’autore, possano essere aggirati da identità sintetiche munite di profili social coerenti e biografie plausibili. Per i lettori la lezione è semplice. Prima di fidarsi di una firma, anche autorevole e ben presentata online, conviene verificare chi c’è davvero dietro.
Trump ha accusato l'Iran di manipolare la narrazione del conflitto con l'AI
Secondo Trump Teheran ha diffuso immagini AI per simulare un…
