"Le AI stanno imparando i nostri pregiudizi”: i nuovi studi che preoccupano i ricercatori

L’intelligenza artificiale non sta diventando soltanto più potente, ma sta anche iniziando a mostrare comportamenti sempre più difficili da prevedere. È il quadro che emerge da una serie di studi pubblicati nelle ultime ore su arXiv, la principale piattaforma mondiale per la ricerca scientifica preliminare.

Tra i lavori più discussi c’è “AMEL: Accumulated Message Effects on LLM Judgments”, che ha analizzato quasi 76 mila interazioni con modelli di OpenAI, Anthropic e Google. Il risultato è sorprendente: i chatbot tendono a contagiarsi con il tono delle conversazioni precedenti. Se leggono molti esempi negativi diventano più severi, se leggono messaggi positivi diventano più indulgenti. I ricercatori parlano di “effetto accumulo” e spiegano che il bias negativo risulta addirittura 1,6 volte più forte di quello positivo.

Oggi i grandi modelli linguistici vengono già usati come moderatori automatici, assistenti HR, revisori di codice e sistemi di valutazione dei contenuti. Secondo gli autori dello studio, un modello potrebbe giudicare in modo diverso lo stesso testo semplicemente perché “influenzato” dalle richieste precedenti ricevute nella conversazione. “Il modo più semplice per ridurre il problema è usare un nuovo contesto per ogni valutazione”, scrivono i ricercatori. Il tema si collega a un dibattito sempre più acceso sull’affidabilità degli LLM come giudici automatici. Una recente review scientifica pubblicata su ScienceDirect sottolinea infatti che costruire sistemi AI realmente coerenti e affidabili resta una delle grandi sfide aperte del settore. Anche la comunità online degli sviluppatori mostra crescente scetticismo: in una discussione molto condivisa su Reddit, diversi ricercatori sostengono che gli LLM abbiano ancora “difficoltà a distinguere tra innovazione reale e semplice apparenza”.

Ancora più delicato è il secondo studio pubblicato, “Can AI Make Conflicts Worse?”, che ha testato nove configurazioni di modelli AI in scenari geopolitici e di guerra. I ricercatori hanno rilevato casi di false equivalenze tra aggressori e vittime, minimizzazione di atrocità documentate e incapacità di riconoscere linguaggi discriminatori. In alcuni test, quando gli utenti chiedevano neutralità su conflitti già giudicati da tribunali internazionali, i modelli fallivano fino al 100% dei casi. È un segnale importante, che denota che l’AI non è più solo uno strumento tecnologico, ma un sistema capace di influenzare informazione, opinione pubblica e decisioni sociali. Per questo molti esperti parlano ormai apertamente di “AI alignment”, cioè della necessità di garantire che i modelli rispettino valori e criteri affidabili anche in contesti complessi. Una sfida che, secondo numerosi studiosi, potrebbe diventare il vero tema centrale dell’AI nei prossimi anni.