Anthropic ha recentemente svelato di aver bloccato diversi tentativi di utilizzo illecito dei propri sistemi. I modelli dell’azienda sono stati sfruttati in modo improprio per organizzare cyberattacchi, diffondere propaganda e persino condurre ricerche pericolose legate ad armi biologiche. Un fenomeno che solleva nuove preoccupazioni sulla regolamentazione e la sicurezza dei sistemi AI, soprattutto in un contesto globale già segnato da tensioni geopolitiche e minacce ibride.
Il rapporto pubblicato da Anthropic descrive casi concreti in cui i suoi modelli sono stati utilizzati per sviluppare strategie di attacco informatico, creare contenuti manipolativi destinati a influenzare l’opinione pubblica, e simulare ricerche su agenti patogeni potenzialmente letali. Tra gli esempi più inquietanti citati vi sono tentativi di progettare virus modificati e l’uso dell’AI per ottimizzare sistemi d’arma convenzionali. Secondo La Voce di New York, alcuni ricercatori avrebbero cercato di sfruttare i modelli per studiare la resistenza di virus come il chikungunya a trattamenti sperimentali, un’attività che, se portata avanti, potrebbe avere conseguenze disastrose per la biosicurezza globale.
L’azienda ha implementato nuovi filtri e sistemi di monitoraggio per prevenire abusi, ma il problema sembra più ampio di quanto si potesse immaginare. Già a giugno 2026, OpenAI e Anthropic hanno unito le forze per chiedere controlli più severi sulla vendita di DNA sintetico, uno dei principali timori degli esperti di biosicurezza. Il rischio, infatti, è che sistemi AI sempre più potenti possano essere utilizzati per creare agenti patogeni su misura o per automatizzare attacchi informatici su larga scala, con conseguenze imprevedibili.
Il dibattito sulla regolamentazione dell’AI è ormai al centro dell’agenda politica internazionale. Negli Stati Uniti, ad esempio, il governo ha già avviato una revisione dei contratti con le aziende tech, bloccando collaborazioni con realtà che non garantiscono sufficienti garanzie di sicurezza. Come riportato da ICTLex a marzo 2026, Anthropic ha rifiutato categoricamente di fornire le proprie tecnologie a scopi militari per sistemi completamente autonomi, una posizione che, pur apprezzata dagli attivisti, non risolve del tutto il problema. Il vero nodo rimane la mancanza di una normativa globale che possa coordinare gli sforzi di prevenzione e repressione.
Gli esperti sono divisi sulle soluzioni. Da un lato, c’è chi chiede una moratoria immediata sull’uso di modelli AI in ambiti ad alto rischio, come la biologia sintetica. Dall’altro, si sottolinea l’importanza di investire in sistemi di rilevamento precoce e in collaborazione pubblico-privato per identificare e bloccare tempestivamente gli abusi.
Anthropic ha rivelato un quarto episodio di hacking basato su AI che ha coinvolto una versione precedente di Claude
L’azienda ha spiegato che l’incidente è stato trascurato durante una…
