“Tre vittime bastano per finire sui telegiornali”. Si tratta del consiglio che ChatGPT ha dato a Phoenix Ikner, un 20enne statunitense, che lo scorso 17 aprile ha aperto il fuoco alla Florida State University, uccidendo due persone e ferendone altre sei. Prima dell’attacco, Ikner ha chiesto consiglio a ChatGPT su come organizzare la strage e in risposta il chatbot di OpenAI gli ha fornito consigli e strategie, come ad esempio l’orario di maggiore affluenza nel centro studentesco (11:30-13:30) e la conferma del funzionamento di una Glock con un proiettile in canna.
Quattro minuti dopo la chat, Ikner ha iniziato a sparare. Il procuratore generale della Florida, James Uthmeier, ha aperto un’indagine penale su OpenAI, affermando che “se dall’altra parte dello schermo ci fosse stata una persona, l’avremmo incriminata per omicidio”.
Quello di Ikner è un caso isolato. In Canada, Jessie Van Rootselaar, 18enne, aveva pianificato per mesi una strage in una scuola via ChatGPT, con il risultato di 9 morti e 27 feriti. In quel caso, nonostante i dipendenti di OpenAI avessero segnalato i messaggi come minacce credibili, l’azienda non ha avvisato le autorità fino a dopo l’attacco, limitandosi a bloccare l’account. Ora sette famiglie delle vittime hanno citato OpenAI per omicidio colposo e negligenza.
Recentemente un test del Center for Countering Digital Hate ha rivelato che 8 chatbot su 10, inclusi ChatGPT, Gemini e DeepSeek, hanno aiutato falsi adolescenti a pianificare attacchi violenti, fornendo consigli su armi, obiettivi e tattiche da segurie. Imran Ahmed, CEO del CCDH, ha commentato: “Non è una questione di capacità tecnologica, ma di volontà: perché non l’hanno fatto?”
OpenAI difende la propria posizione sostenendo che ChatGPT fornisce solo risposte basate su dati pubblici e che non ha promosso attività illegali. Tuttavia, il dibattito interno è acceso, con alcuni dipendenti chiedono più segnalazioni preventive alle autorità, mentre il team legale e il CEO Sam Altman danno priorità alla privacy degli utenti.
OpenAI corre ai ripari: nuove misure di sicurezza dopo lo scandalo della strage in Canada
L'azienda istituirà un punto di contatto diretto con la polizia…
