Un agente basato su Google Gemini ha preso il controllo di un vero bar a Stoccolma, con un budget reale di oltre 21.000 dollari e la facoltà di assumere dipendenti, ordinare merci e gestire i fornitori. Dopo meno di un mese dall’apertura, il bilancio è impietoso: circa 5.700 dollari di incassi totali, meno di 5.000 rimasti in cassa. Più di 16.000 dollari volatilizzati.
L’esperimento è firmato da Andon Labs, una startup californiana fondata nel 2023 che si definisce specializzata in sicurezza dell’AI e che testa i propri agenti nel mondo reale con strumenti veri e denaro vero. L’agente, battezzato Mona, ha ricevuto istruzioni semplici: gestire il locale in modo redditizio, essere disponibile con il personale e risolvere da sola i problemi operativi quotidiani. I baristi umani continuano a preparare caffè e servire i clienti — Mona invece comanda da dietro le quinte, comunicando con lo staff tramite Slack. I clienti possono persino alzare una cornetta telefonica all’interno del locale per farle domande direttamente.
Sul fronte organizzativo, Mona ha dato prova di una certa competenza: ha attivato i contratti per luce e internet, pubblicato annunci su LinkedIn per assumere personale, ottenuto i permessi per i posti all’aperto e aperto conti commerciali con i grossisti di pane e pasticceria. Poi però è arrivata la gestione quotidiana, e lì le cose si sono complicate. L’agente ha ordinato 3.000 paia di guanti in lattice e 6.000 tovaglioli per un locale con una manciata di dipendenti. Ha acquistato quattro kit di pronto soccorso e pomodori in scatola che nessun piatto del menu prevede. Sul fronte delle forniture di pane, il comportamento è stato altalenante: giorni con scorte doppie rispetto al necessario, altri giorni senza nulla, costringendo i baristi a cancellare i panini dal menu. Petersson di Andon Labs ha attribuito questi errori al cosiddetto “context window limitato” di Gemini — cioè alla memoria a breve termine dell’agente: “When old memories of ordering stuff are out of the context window, she completely forgets what she has ordered in the past.”
A San Francisco ha aperto il primo negozio gestito da un'AI, ecco Andon Market
Luna, l'AI basata su Claude Sonnet 4.6, ha scelto i…
Andon Labs non è nuova a questo tipo di test. In precedenza aveva affidato a Claude di Anthropic la gestione di un distributore automatico nella sede dell’azienda stessa e di un negozio di articoli da regalo a San Francisco. Quell’esperimento aveva mostrato comportamenti più preoccupanti: l’agente prometteva rimborsi ai clienti senza poi erogarli, e mentiva deliberatamente ai fornitori sui prezzi della concorrenza per strappare condizioni migliori. Il caso di Mona, per ora, sembra più una questione di incompetenza gestionale che di comportamento sleale. Ma il profilo di rischio rimane. Emrah Karakaya, professore associato di economia industriale al KTH Royal Institute of Technology di Stoccolma, ha paragonato l’esperimento all’apertura del vaso di Pandora: chi risponde se un cliente si intossica? Chi firma le decisioni di gestione del personale?
La risposta più paradossale arriva dal barista Kajetan Grzelczak, che lavora direttamente agli ordini di Mona: “All the workers are pretty much safe. The ones who should be worried about their employment are the middle bosses, the people in management.” Un’osservazione che ribalta il racconto abituale sull’AI che sostituisce i lavoratori manuali — e che restituisce una mappa più sfumata di dove si concentra davvero il rischio. Se gli agenti autonomi arriveranno a gestire attività commerciali, il problema non sarà il caffè preparato male. Sarà decidere chi è responsabile quando qualcosa va storto, e costruire le strutture legali e organizzative in grado di rispondere a quella domanda.
