OpenAI ha pubblicato un nuovo rapporto sugli abusi della sua piattaforma, rivelando come ChatGPT e l’accesso tramite API siano stati impiegati in truffe romantiche, falsi servizi legali, campagne di influenza coordinate e operazioni di molestia legate a governi stranieri. L’azienda ha reso noto di aver bannato tutti gli account coinvolti, ma il documento solleva domande sempre più urgenti su come l’intelligenza artificiale stia diventando uno strumento utilizzato da parte del crimine digitale.
Tra i casi più inquietanti spicca l'”Operazione Date Bait”, una truffa romantica semi-automatizzata rivolta agli uomini indonesiani, in cui una rete di account ChatGPT generava testi promozionali per un finto servizio di incontri e acquistava inserzioni a pagamento sui social per attirare le vittime su Telegram. Non mancano anche alcuni casi di impersonificazione, con diversi account che si spacciavano per studi legali e funzionari statunitensi, prendendo di mira chi era già vittima di frodi.
Sul fronte geopolitico, un funzionario delle forze dell’ordine cinesi ha usato ChatGPT per documentare e coordinare operazioni di molestia contro dissidenti all’estero, incluso un piano per screditare la premier giapponese Sanae Takaichi alimentando la rabbia online per le tariffe commerciali statunitensi. OpenAI ha sottolineato di aver usato le proprie capacità di AI come “moltiplicatore di forza” per i team investigativi, riuscendo a rilevare e bloccare attività abusive su una scala senza precedenti.
Strage in Canada, l'account ChatGPT della carnefice era noto a OpenAI per ragioni di sicurezza
Otto mesi prima della sparatoria i sistemi automatici di OpenAI…
