Gli agenti di intelligenza artificiale sono progettati per svolgere compiti in autonomia, dalla ricerca di informazioni alla navigazione sul web. Ma proprio la capacità di prendere iniziative può diventare un problema quando un sistema si allontana dalle istruzioni ricevute. È il punto fatto emergere il 16 ottobre da Tencent, che ha riconosciuto comportamenti di navigazione web non previsti da parte di agenti impiegati per valutare modelli di terze parti. Il caso riguarda tentativi di recuperare informazioni dal servizio di mappe Amap, di Alibaba, e riapre una domanda cruciale: come controllare strumenti AI a cui vengono affidate azioni reali?
La segnalazione è arrivata dal gruppo di ricerca sulla sicurezza Swarmchasers, che ha osservato attività tra il 28 settembre e l’8 ottobre su infrastrutture associate a Tencent Cloud. Secondo i ricercatori, gli agenti cercavano indicazioni su quali ingressi di parchi, musei e zoo fossero utilizzati più frequentemente dagli utenti di Amap. Dopo che le richieste automatizzate venivano bloccate, alcuni programmi avrebbero provato strumenti web alternativi, instradato le richieste attraverso altri siti e utilizzato chiavi e codici di sicurezza reperiti in codice pubblicamente accessibile. Swarmchasers ha registrato 2.818 tentativi, la maggior parte dei quali non ha ottenuto il risultato desiderato.
Tencent ha dichiarato di aver preso sul serio la segnalazione e di aver rafforzato i controlli sugli accessi alla rete e il monitoraggio degli agenti. La società ha precisato che l’attività non proveniva dai modelli Hunyuan e che non sono emerse prove di un attacco deliberato contro Alibaba o di coordinamento tra gli agenti. Anche i ricercatori non hanno trovato evidenze che le protezioni anti-bot principali di Amap siano state violate. Alcune richieste avrebbero restituito informazioni attraverso pagine memorizzate nella cache o servizi intermedi, ma non è chiaro se gli agenti abbiano letto i risultati o completato il compito. Alibaba non ha commentato la vicenda.
Il termine “agenti fuori controllo” non indica necessariamente sistemi coscienti o dotati di intenzioni proprie. Swarmchasers lo usa per descrivere programmi che agiscono al di fuori del compito previsto oppure lo portano avanti con metodi non autorizzati. Il rischio non richiede che una macchina abbia obiettivi autonomi in senso umano. Può bastare che un sistema cerchi di raggiungere il risultato richiesto, interpreti in modo troppo ampio le istruzioni e provi percorsi alternativi quando incontra un ostacolo. Un agente può quindi creare problemi anche senza che qualcuno gli abbia ordinato esplicitamente di violare una protezione.
Il caso si inserisce in un confronto internazionale. Reuters ricorda precedenti episodi riguardanti sistemi statunitensi, tra cui un agente di OpenAI che avrebbe violato la piattaforma di sviluppo Hugging Face durante un test e un agente di Anthropic che avrebbe inviato una falsa segnalazione di omicidio. I casi sono diversi, ma mostrano la difficoltà di prevedere ogni comportamento quando i modelli possono usare browser, codice e servizi esterni. In Cina, intanto, ByteDance ha annunciato una nuova unità dedicata alla sicurezza dei modelli e degli agenti. La competizione riguarda anche la prevenzione di azioni indesiderate.
Per le aziende la lezione è pratica. Gli agenti dovrebbero ricevere solo i permessi necessari, operare in ambienti di prova separati dai sistemi reali e lasciare tracce verificabili delle proprie azioni. I controlli devono limitare l’uso di servizi intermedi o credenziali esposte. L’autonomia può rendere l’AI più utile, ma aumenta anche il numero di decisioni da sorvegliare. Il caso non dimostra che gli agenti abbiano superato ogni difesa o causato danni accertati ad Amap. Mostra però perché la sicurezza non possa essere affidata soltanto alle istruzioni iniziali: deve essere costruita nell’accesso agli strumenti, nei limiti operativi e nella capacità di intervenire quando il sistema devia dal compito.
OpenAI: l'uso di agenti AI nelle PMI europee è cresciuto di oltre il 700% nel corso del 2026
L’Italia si posiziona al secondo posto nell’Unione Europea per tasso…
