Una nuova ricerca della School of Computer Science della Carnegie Mellon University rivela un paradosso significativo: più un sistema di intelligenza artificiale è capace di ragionare, più tende ad agire in modo egoistico.
Lo studio, oggi disponibile su arXiv, si intitola “Spontaneous Donations and Calculated Greed in Large Language Models” e sarà presentato alla Conferenza EMNLP 2025 di Suzhou, in Cina.
Avidità calcolata
Gli studiosi dell’Human-Computer Interaction Institute hanno studiato i “comportamenti sociali” dei modelli linguistici. Per farlo hanno utilizzato giochi economici che simulano dilemmi sociali, valutando diversi modelli standard (tra cui modelli di OpenAI, Google, DeepSeek e Anthropic) in sei giochi di cooperazione e punizione. Ne è emerso che i comportamenti dei modelli AI rispecchiano gli schemi umani di “donazione spontanea e avidità calcolata“.
Nel gioco dei Beni Pubblici, ad esempio, ogni modello riceveva 100 punti e doveva scegliere se tenerli per sé o versarli in un fondo comune, che veniva poi raddoppiato e redistribuito. I risultati sono stati netti: se i modelli non ragionanti hanno condiviso i punti nel 96% dei casi, i modelli ragionanti l’hanno fatto solo nel 20%.
In ulteriori test di gruppo, i ricercatori hanno notato addirittura che l’egoismo dei modelli ragionanti si propaga: la loro presenza riduceva dell’81% la performance collettiva dei modelli cooperativi.
L’eccessiva fiducia umana
L’aspetto più preoccupante non riguarda i modelli in sé, ma il modo in cui gli utenti li utilizzano: tendiamo sempre più spesso ad affidare questioni delicate proprio a quelli che ci sembrano più performanti, senza considerare che questa tendenza alla performance potrebbe inibire l’attenzione sociale.
“Quando l’intelligenza artificiale si comporta come un essere umano, le persone iniziano a trattarla come tale”, spiega Yuxuan Li, dottorando all’HCII e coautore dello studio insieme al professor Hirokazu Shirado. “Questo è rischioso: delegare all’AI questioni sociali o decisionali può portare a comportamenti sempre più egoistici”.
Insomma, nonostante siamo abituati a pensare all’intelligenza come a una virtù, nel suo spingersi verso l’efficienza algoritmica delle macchine finisce per trasformarsi in una forma di protezionismo anti-sociale. Un tema che, forse, le scienze cognitive dell’AI dovrebbero considerare con più attenzione.
Secondo un nuovo studio, alcuni modelli starebbero sviluppando "impulsi di sopravvivenza"
Quello che prima sembrava un vezzo, ora sembra una strategia
