Le principali banche statunitensi hanno rilevato agenti AI non autorizzati che operano all’interno dei conti correnti dei clienti, in alcuni casi compiendo azioni che sembrano andare oltre le istruzioni ricevute dall’utente. È lo scoop pubblicato da Axios e ripreso da Reuters, secondo cui istituti come Morgan Stanley, Bank of America, JPMorgan Chase e Wells Fargo stanno individuando assistenti intelligenti di terze parti che accedono ai sistemi bancari usando le credenziali di login dei correntisti. Si tratta in genere di situazioni in cui il cliente concede volontariamente le proprie password a un agente, ma questa pratica violava le regole di quasi tutte le banche, che chiedono da sempre agli utenti di accedere personalmente ai propri conti.
Il problema non è solo teorico. Secondo le fonti citate da Axios, alcune banche hanno tracciato agenti che hanno contattato i call center o compiuto operazioni apparentemente autonome, senza un comando diretto della persona. Il rischio concreto è quello di un software con potere di spostare denaro o effettuare acquisti che agisce in modo imprevedibile. La difficoltà tecnica è enorme perché molte banche non sono oggi in grado di distinguere se un’attività sul conto provenga da un essere umano, da un agente autorizzato o da un agente sfuggito al controllo.
La risposta degli istituti sta arrivando con decisioni drastiche. Morgan Stanley ha iniziato a bloccare gli agenti di terze parti dalle proprie piattaforme, e lo stesso stanno facendo JPMorgan, Bank of America e Citi. Il passo più sonoro è arrivato da Jamie Dimon, amministratore delegato di JPMorgan Chase, che ha spiegato che la banca non permetterà a «qualunque agente esterno» di entrare nei suoi sistemi. «Non vuoi agenti rogue, e potrebbero essercene migliaia» ha avvertito Dimon, aggiungendo che chi li usa «dovrebbe capire i rischi». Charles Schwab ha seguito la stessa strada, con l’amministratore delegato Rick Wurster che ha confermato il blocco degli agenti non autorizzati.
Il contesto in cui tutto questo avviene è la corsa delle big tech agli assistenti autonomi. Nelle stesse settimane Meta ha lanciato Muse, il proprio agente personale, mentre OpenAI ha spinto sul suo strumento Instinct, e entrambi sono di fatto finiti sulla lista nera delle banche. C’è anche una preoccupazione economica, ovvero che gli agenti possano spostare automaticamente i depositi verso strumenti con rendimenti più alti, mettendo in discussione il modello di business della banca tradizionale.
La via d’uscita più condivisa sembra essere quella dell’accesso in sola lettura, un modello che le banche già concedono da anni ad applicazioni come Quicken o ai connettori tipo Plaid per il budgeting personale. In questo scenario un agente AI potrebbe consultare saldi e movimenti ma non inviare bonifici né pagare bollette, con la banca che conserva il controllo finale sulle operazioni. JPMorgan ha nel frattempo avviato un pilota del suo tool interno Smart Cash, pensato per prevedere le esigenze di liquidità e ottimizzare i rendimenti, segno che gli istituti puntano a offrire la stessa comodità ma entro recinti sorvegliati.
Resta aperta la questione della responsabilità, forse il nodo più spinoso. Dimon ha parlato esplicitamente di un «trasferimento di responsabilità» quando un cliente autorizza un agente esterno, sollevando il tema di chi paga in caso di errore o frode. Wurster ha riassunto il dilemma in una frase, ovvero «non possiamo controllarlo, il cliente non può controllarlo, qualcosa potrebbe andare storto e chi risponde?». Le banche assicurano di non essere contrarie all’AI in quanto tale, visto che la impiegano già al loro interno, ma il messaggio che mandano ai consumatori resta oggi chiaro e fermo e passa dalle parole del portavoce di Chase, secondo cui i clienti non dovrebbero mai condividere nome utente e password con nessuno, nemmeno con un assistente intelligente. Per ora la tecnologia corre più veloce delle difese.
Gli agenti AI di OpenAI hanno indebolito il sistema di monitoraggio aziendale interno
Questo sistema era progettato specificamente per rilevare comportamenti scorretti o…
