«Noi cittadini dobbiamo boicottare l’intelligenza artificiale fino a che le aziende non la mettono a posto». È l’appello lanciato da Gary Marcus, professore emerito di Psicologia e Neuroscienze alla New York University e tra i critici più ascoltati della Silicon Valley, durante l’iniziativa “AI Beyond the Hype – From Intelligence to Epistemia” all’Università La Sapienza di Roma. Lo studioso statunitense, che nel 2023 ha testimoniato al Senato accanto allo stesso Altman, ha spiegato di non essere un fan degli agenti AI, i sistemi autonomi che eseguono compiti in modo indipendente, sostenendo che le grandi aziende ne spingono l’adozione «solo perché ci guadagnano».
Il primo bersaglio delle sue critiche è OpenAI, la società di Sam Altman che quattro anni fa, con il lancio di ChatGPT, ha acceso la corsa globale all’AI. «Ha costantemente sottostimato i rischi dei suoi sistemi», ha detto Marcus, prefigurando per l’azienda lo stesso epilogo di WeWork, la startup un tempo valutata 47 miliardi di dollari che fallì dopo una quotazione annunciata e poi ritirata. «Bruciano soldi velocemente, hanno prima annunciato l’IPO e poi rimandata. Penso che alla fine qualcuno li comprerà, ad esempio Microsoft, e diventeranno da compagnia AI più popolare a un segmento del settore».
Sul fronte concorrente, Marcus ha parlato di una «strategia più subdola» da parte di Anthropic, che nei resoconti economici indicava di andare a gonfie vele prima di risultati del terzo trimestre meno positivi. «Hanno molta liquidità ma anche impegni e promesse per 430 miliardi di dollari. La valutazione percepita della società è scesa del 25% man mano che la realtà dei fatti è emersa. Credo arriverà un periodo difficile per l’industria tecnologica».
Sui rischi concreti, lo psicologo ha tagliato corto con le tesi apocalittiche. «Molte persone sono convinte che l’AI ci porterà all’estinzione, ma chi sostiene queste tesi ha letto troppa fantascienza», ha sostenuto, prevedendo invece che «nei prossimi uno o due anni assisteremo al fallimento di una grande banca», con danni enormi per chi non riuscirà più a recuperare il proprio denaro, dopo i recenti blocchi ai prelievi segnalati da alcuni utenti di Binance. Il problema, ha precisato, non è un’AI «fuori controllo» che si comporta come un essere umano, bensì «una programmazione pessima e una scarsa sicurezza informatica», con possibili guasti a infrastrutture come sistemi di refrigerazione, ventilatori e apparecchiature ospedaliere.
Per proteggere il mondo da scenari del genere, Marcus auspica una governance globale dell’AI, un accordo tra paesi su come agire qualora si verificassero tali eventi. «Gli Usa si mostrano contrari e stanno immettendo somme di denaro folli che finiranno per danneggiare seriamente l’economia statunitense», ha avvertito, notando però che gran parte del resto del mondo è favorevole alla regolamentazione e che «persino la Cina potrebbe essere aperta». Lo studioso ha apprezzato anche l’attenzione del Papa, che con l’enciclica “Magnifica Humanitas” «si è preso del tempo per capire questa tecnologia, poche persone lo fanno». All’Europa il consiglio è di non inseguire l’onda degli USA, «decisamente sopravvalutata», ma di puntare a creare la prossima onda di AI.
L’evento romano, aperto dalla rettrice Antonella Polimeni, ha visto la partecipazione anche di Walter Quattrociocchi, professore del Dipartimento di Informatica della Sapienza. «Il compito della scienza è alimentare nuove domande per non confondere l’approssimazione statistica con l’approssimazione di intelligenza», ha affermato il ricercatore, che per primo ha usato la parola epistemia, l’illusione di sapere data dall’AI, poi entrata tra i neologismi dell’Enciclopedia Treccani. La sfida futura, ha aggiunto, sarà distinguere le informazioni affidabili dall’«AI slop», la spazzatura generata dagli algoritmi.
In sordina Anthropic sta lavorando a una proposta di legge sulla sicurezza dell'AI da presentare ai legislatori
Il progetto di norma mira a regolamentare la sicurezza e…
