Uno studio internazionale, pubblicato sulla rivista scientifica Nature, ha analizzato la capacità dei chatbot AI di manipolare in modo significativo il processo democratico.
I ricercatori, guidati da esperti del MIT, hanno condotto esperimenti in contesti elettorali reali (di USA, Canada e Polonia) per misurare l’impatto dei dialoghi uomo-intelligenza artificiale sulle preferenze di voto: in media l’AI è stata in grado di convincere circa 1 persona su 25 (il 4% del totale) a cambiare la propria preferenza.
Nel caso del contesto statunitense, circa 2000 persone sono state separate in gruppi e sottoposte a un test che prevedeva un dialogo mirato o con un chatbot pro-Trump o con uno pro-Harris (di vari modelli di aziende diverse).
Analizzando i dati sul campo, i ricercatori hanno notato una leggera differenza generalizzata tra i modelli: il chatbot a favore di Kamala Harris è risultato più efficace nell’opera di persuasione (riuscendo a influenzare 1 partecipante su 21) rispetto a quello che sosteneva Donald Trump (1 su 35). In generale la capacità di persuasione delle AI ha prodotto effetti significativamente più ampi rispetto ai metodi di propaganda tradizionali, come gli spot televisivi.
Ma il dato più preoccupante riguarda la veridicità degli appigli persuasivi dell’AI. Lo studio ha dimostrato che l’efficacia dei chatbot non deriva da tecniche psicologiche particolarmente sofisticate, ma più banalmente dalla loro capacità di riversare un flusso continuo di informazioni.
E c’è di peggio; gli elettori sono stati influenzati allo stesso modo sia dalle informazioni fattuali che da quelle completamente false. In pratica, l’AI è più persuasiva quando fornisce una grande quantità di affermazioni, poco conta che queste siano vere o false. Come ha sottolineato David Rand, co-autore dello studio: “Più informazioni dai alle persone, più cambiano idea.”
Sei milioni di dollari di multa per il mandante dei deepfake elettorali con la voce di Biden
Il consulente politico democratico Steve Kramer rischia una multa di…
Leggi altre notizie su AI e democrazia:
- Giorgia Meloni: “L’AI può spazzare via la classe media, fake news un rischio per la democrazia”
- AI Act, la Commissione europea rinvia al 2027 l’entrata in vigore delle norme sui sistemi ad alto rischio
- Paesi Bassi, un organismo di controllo ha invitato gli elettori a non affidarsi ai chatbot AI
- Secondo la Russia l’AI può creare dei “seri rischi” alla stabilità globale e alle relazioni internazionali
- La Cina usa l’AI per cancellare ogni riferimento ai fatti di piazza Tienanmen
- Consiglio d’Europa: via libera alle firme per il primo trattato globale sull’AI
- Sei milioni di dollari di multa per il mandante dei deepfake elettorali con la voce di Biden
- “L’AI danneggia la fiducia della società”: l’appello dal Giappone
