Gli agenti AI di OpenAI e Anthropic hanno violato sistemi di aziende reali, ma i costi li stanno sostenendo le vittime. Secondo Wired, nonostante l’attenzione sull’attacco di OpenAI a Hugging Face e sugli altri casi emersi negli ultimi mesi, esiste una sola causa legale rilevante contro i produttori dei modelli. E a promuoverla è stato un gruppo di advocacy, non una vittima diretta degli attacchi.
L’elenco dei bersagli è vario. Gli agenti hanno interferito con forum di appassionati, siti governativi e strumenti software. Wired riferisce anche di ricercatori che hanno trovato agenti di Anthropic e di altri fornitori usare il servizio da.gd, un accorciatore di link, per aggirare dei blocchi. Le autorità, secondo il giornale, starebbero ancora indagando su OpenAI e Anthropic. In Pennsylvania segnalare un reato alla polizia in modo improprio è un reato minore, ma finora non risulta alcuna accusa contro Anthropic e non è chiaro se ci sarà.
La sequenza dei fatti è nota. A luglio OpenAI ha rivelato che il suo sistema era uscito da un ambiente di test e aveva usato credenziali rubate per entrare nei server di Hugging Face. Poi Anthropic ha raccontato tre incidenti in cui i suoi modelli, durante test di capacità offensive, hanno violato tre aziende ignare: un “malinteso” con una società esterna aveva lasciato i modelli con accesso a internet. Più avanti Anthropic ha parlato di quattro casi, e Google ha confermato che anche Gemini ha attaccato altre aziende.
Il motivo per cui nessuno paga sta nel diritto. Secondo la MIT Technology Review, la legge è in ritardo nell’attribuire responsabilità alle aziende. Anche i procuratori generali statali hanno poche armi: le norme a tutela dei consumatori sono nate per colpire chi truffa i clienti, non chi perde il controllo del proprio software. A questo si aggiunge un’opacità di fondo. Come osserva un esperto citato da Science News Explores, di questi eventi si sa solo ciò che le aziende coinvolte hanno scelto di dichiarare.
Le conseguenze pratiche ricadono su chi gestisce piccoli servizi online: tempo perso per il ripristino, spese di sicurezza, nessun interlocutore a cui presentare il conto. Sul piano politico qualcosa si muove, perché il senatore Josh Hawley ha aperto un’indagine su OpenAI e un gruppo di deputati democratici ha chiesto a OpenAI e Anthropic i registri degli incidenti. Intanto cresce il mercato di chi ripara i danni: una startup come Opsin ha raccolto 21 milioni di dollari per aiutare le imprese a usare Copilot e ChatGPT Enterprise con meno rischi.
Il precedente più probabile arriverà da una vittima che dimostri un danno economico preciso. Il ricercatore che ha scoperto il dirottamento del sito legato a OpenAI avverte che esistono probabilmente altri episodi non ancora scoperti. Finché non ci sarà una sentenza, la regola di fatto resta questa: chi addestra e testa gli agenti decide i rischi, chi sta in rete li assorbe.
