L’intelligenza artificiale sta diventando il principale canale attraverso cui le persone accedono alle informazioni, ma la sua accuratezza è ancora un problema largamente irrisolto. A lanciare l’allarme è Campbell Brown, ex responsabile delle news di Meta e fondatrice di Forum AI, una startup che valuta i modelli di AI su temi complessi come geopolitica, salute mentale e finanza.
Secondo Brown, i modelli attuali più utilizzati, da Gemini a ChatGPT, mostrano molti pregiudizi politici, mancanza di contesto e utilizzano spesso fonti di dubbia attendibilità. “I miei figli rischiano di crescere male se non risolviamo questo problema”, ha dichiarato Brown, sottolineando come solo il 9% degli utenti si fidi davvero dell’AI per raccogliere informazioni sensibili.
Forum AI, che ha raccolto 3 milioni di dollari in finanziamenti, punta a risolvere la questione coinvolgendo persone di calibro internazionale, tra cui Tony Blinken, ex Segretario di Stato USA, e il giornalista e saggista indiano Fareed Zakaria, per addestrare dei sistemi in grado di valutare i modelli con un consenso del 90% rispetto alle visioni e alle opinioni di quegli umani. L’obiettivo è evitare che l’AI ripeta gli errori dei social media, dove l’ottimizzazione per il coinvolgimento ha portato a una disinformazione di massa, pur però mantenendo necessariamente un’allineamento ai valori e alle posizioni di alcune personalità specifiche. Brown non nasconde le criticità: “Le aziende tech parlano di rivoluzioni, ma gli utenti normali ricevono ancora risposte imprecise o fuorvianti”.
La sfida è anche normativa, perché le leggi attuali, come il Colorado AI Act o il NYC Local Law 144, richiedono verifiche di conformità per i pregiudizi, ma più della metà dei sistemi controllati presenta violazioni non rilevate. Secondo uno studio dell’Università di Yale, i chatbot possono influenzare le opinioni politiche degli utenti senza che questi se ne accorgano, a causa di pregiudizi latenti o di prompt non neutri. Brown spera che siano le aziende a spingere per un’AI più trasparente: “In ambiti come credito, assunzioni o sanità, l’errore ha conseguenze legali”. La sua scommessa è che il mercato aziendale, attento ai rischi, possa essere il motore di un cambiamento che la Silicon Valley finora ha trascurato.
Israele ha pagato l'ex stratega digitale di Trump per modellare la narrativa dell'AI in suo favore
Si tratta di Brad Parscale, a cui sarebbe stato offerto…
