Un agente di intelligenza artificiale ha raccomandato il licenziamento di un lavoratore umano. È successo a San Francisco, in un negozio al dettaglio vero, con dipendenti assunti con contratti regolari. Luna, l’AI sviluppata dalla startup svedese Andon Labs sui modelli Claude di Anthropic, ha gestito per mesi ogni aspetto di Andon Market — selezione della merce, assunzioni, turni — fino a raccomandare di “separarsi” da un dipendente che era arrivato in ritardo a 17 turni su 23.
L’esperimento era partito ad aprile 2026. Andon Labs aveva consegnato a Luna una carta di credito aziendale, un budget da 100.000 dollari e un locale vuoto in Union Street, nel quartiere Cow Hollow. Le istruzioni erano essenziali: aprire un negozio, assumere persone, cercare di guadagnare. Luna aveva pubblicato annunci di lavoro, condotto colloqui, scelto i prodotti da vendere. I dipendenti svolgevano le attività fisiche; l’AI prendeva le decisioni gestionali. Un confine netto, almeno in teoria.
Il licenziamento, però, non è stato autonomo nel senso pieno del termine. I log della conversazione rivelano un dettaglio che cambia la lettura dell’intera vicenda: Luna aveva perso traccia della propria policy sulle presenze. L’aveva redatta mesi prima, poi era scomparsa dalla memoria attiva del sistema. I ritardi continuavano, e l’AI non interveniva. Solo quando un responsabile di Andon Labs ha chiesto esplicitamente al sistema di recuperare le proprie regole e valutare la situazione, Luna ha raccomandato il licenziamento. La decisione finale è stata comunque sottoposta a revisione umana prima di essere eseguita. Il co-fondatore Lukas Petersson ha definito Luna “un manager clemente”, osservando che un essere umano nello stesso ruolo avrebbe probabilmente licenziato il dipendente molto prima. Luna aveva emesso avvertimenti progressivi e organizzato sessioni di formazione aggiuntiva per mesi, senza mai passare a misure contrattuali.
Sul piano legale, il vuoto è totale. Negli Stati Uniti nessun ente federale — né l’EEOC né il NLRB — ha ancora emesso linee guida significative sull’uso dell’AI nelle decisioni di assunzione e licenziamento. Alcune leggi statali si stanno muovendo in quella direzione: il Colorado AI Act e il California SB 947 prevedono già la revisione umana obbligatoria per i licenziamenti decisi da sistemi automatizzati, ma nessuna delle due era in vigore quando Andon Labs ha avviato il progetto. Il caso Andon Market è categoricamente diverso dalle “disattivazioni algoritmiche” di Uber o DoorDash, dove i lavoratori operano come contractor. Qui si trattava di dipendenti con contratti standard, gestiti da un sistema AI.
I numeri del negozio raccontano anche un’altra storia. Dal giorno dell’apertura, Andon Market ha perso circa 13.000 dollari, nonostante Luna controllasse tutte le decisioni commerciali, dagli acquisti ai prezzi. Un saldo negativo che non invalida l’esperimento — era dichiaratamente un test — ma segnala i limiti concreti di un sistema che fatica a mantenere coerenza nel tempo senza interventi esterni.
Il punto più fragile emerso da questo caso non è la capacità dell’AI di prendere decisioni difficili: è la memoria. Un agente che dimentica le proprie regole e deve essere sollecitato da un umano per applicarle non è ancora un manager autonomo. È uno strumento che funziona bene finché qualcuno lo sorveglia. Il passo successivo — quello in cui nessuno ricorda per lui — è ancora da fare, e non è detto che la risposta giusta sia accelerarlo.
