L’ex responsabile news di Meta lancia Forum AI: l’obiettivo è rendere i chatbot più trasparenti e obiettivi

Forum AI è una startup che monitora e valuta le risposte dei chatbot di AI su diverse informazioni sensibili

2 min.

L’ex responsabile news di Meta lancia Forum AI: l’obiettivo è rendere i chatbot più trasparenti e obiettivi

L’intelligenza artificiale sta diventando il principale canale attraverso cui le persone accedono alle informazioni, ma la sua accuratezza è ancora un problema largamente irrisolto. A lanciare l’allarme è Campbell Brown, ex responsabile delle news di Meta e fondatrice di Forum AI, una startup che valuta i modelli di AI su temi complessi come geopolitica, salute mentale e finanza.

Secondo Brown, i modelli attuali più utilizzati, da Gemini a ChatGPT, mostrano molti pregiudizi politici, mancanza di contesto e utilizzano spesso fonti di dubbia attendibilità. “I miei figli rischiano di crescere male se non risolviamo questo problema”, ha dichiarato Brown, sottolineando come solo il 9% degli utenti si fidi davvero dell’AI per raccogliere informazioni sensibili.

Forum AI, che ha raccolto 3 milioni di dollari in finanziamenti, punta a risolvere la questione coinvolgendo persone di calibro internazionale, tra cui Tony Blinken, ex Segretario di Stato USA, e il giornalista e saggista indiano Fareed Zakaria, per addestrare dei sistemi in grado di valutare i modelli con un consenso del 90% rispetto alle visioni e alle opinioni di quegli umani. L’obiettivo è evitare che l’AI ripeta gli errori dei social media, dove l’ottimizzazione per il coinvolgimento ha portato a una disinformazione di massa, pur però mantenendo necessariamente un’allineamento ai valori e alle posizioni di alcune personalità specifiche. Brown non nasconde le criticità: “Le aziende tech parlano di rivoluzioni, ma gli utenti normali ricevono ancora risposte imprecise o fuorvianti”.

La sfida è anche normativa, perché le leggi attuali, come il Colorado AI Act o il NYC Local Law 144, richiedono verifiche di conformità per i pregiudizi, ma più della metà dei sistemi controllati presenta violazioni non rilevate. Secondo uno studio dell’Università di Yale, i chatbot possono influenzare le opinioni politiche degli utenti senza che questi se ne accorgano, a causa di pregiudizi latenti o di prompt non neutri. Brown spera che siano le aziende a spingere per un’AI più trasparente: “In ambiti come credito, assunzioni o sanità, l’errore ha conseguenze legali”. La sua scommessa è che il mercato aziendale, attento ai rischi, possa essere il motore di un cambiamento che la Silicon Valley finora ha trascurato.


Articoli simili

Ultime news


La francese OVHcloud ha lanciato 55 nuovi prodotti cloud ospitati su infrastrutture europee

L’azienda sta anche preparando il lancio del suo primo modello…

La francese OVHcloud ha lanciato 55 nuovi prodotti cloud ospitati su infrastrutture europee
Attacco informatico AI alla Commissione UE: compromessi dati personali e rinnovata allerta sulla sicurezza digitale

Sebbene l’istituzione europea ritenga di aver contenuto la maggior parte…

Attacco informatico AI alla Commissione UE: compromessi dati personali e rinnovata allerta sulla sicurezza digitale
OpenAI dà alla NATO i modelli cyber Daybreak: 300 miliardi di token al mese

OpenAI ha annunciato il 17 novembre l'accesso ai modelli di…

OpenAI dà alla NATO i modelli cyber Daybreak: 300 miliardi di token al mese
Ryan Honary usa ChatGPT per i sensori antincendio SensoRy AI a Laguna Beach

Uno studente di Stanford ha trasformato un progetto scolastico in…

Ryan Honary usa ChatGPT per i sensori antincendio SensoRy AI a Laguna Beach
OpenAI testa il nuovo design di ChatGPT mobile con una scheda dedicata a Dots

OpenAI sta provando una nuova interfaccia per l'app mobile di…

OpenAI testa il nuovo design di ChatGPT mobile con una scheda dedicata a Dots

In Evidenza


I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13

La nostra intervista a Luciano Floridi, già professore di filosofia…

I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13
L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi

Luciano Floridi, a teatro, ha esplorato la natura umana, contrapposta,…

L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi
Bambina di 8 anni crea chatbot da sola: la nostra intervista esclusiva al papà

Il video di Faraday è stato visto oltre 2,6 milioni…

Bambina di 8 anni crea chatbot da sola: la nostra intervista esclusiva al papà
Chi fermerà l’AI? Riflessione sull’appello di Musk

Elon Musk e altri mille esperti chiedono una pausa di…

Chi fermerà l’AI? Riflessione sull’appello di Musk

Privacy policy| Cookie policy| Cookie setting| © 2026