Il vincitore del premio Turing Yoshua Bengio, considerato all’unanimità uno dei “padrini” dell’intelligenza artificiale, sarà direttore scientifico per il progetto governativo del Regno Unito Safeguarded AI. L’iniziativa prevede la creazione di un sistema di verifica per la sicurezza dell’intelligenza artificiale impiegata in aree critiche. Il cuore del progetto sarà esso stesso un’intelligenza artificiale in grado di aiutare a prevenire catastrofi monitorando il panorama in ottica safe.
Safeguarded AI sarà sovvenzionato con 59 milioni di sterline nei prossimi quattro anni, finanziato dall’Advanced Research and Invention Agency (ARIA) del Regno Unito, lanciata a gennaio dell’anno scorso per investire in una ricerca scientifica potenzialmente trasformativa.
L’obiettivo di Safeguarded AI è quello di costruire sistemi AI in grado di offrire garanzie quantitative, usando punteggi di rischio e simulazioni di situazioni critiche. “Stiamo correndo verso una nebbia dietro la quale potrebbe esserci un precipizio”, ha puntualizzato Bengio.
