Tutte le volte che qualche voce autorevole dell'AI ha predetto la fine dell'umanità

Stanno rimbalzando in queste ore le dichiarazioni del ricercatore appena dimessosi da Anthropic Jacob Coxon e dell’attuale alignment science dell’azienda Evan Hubinger sugli imminenti rischi esistenziali dell’A. In uno scambio su X, Coxon ha stimato al 10% circa la probabilità che l’AI causi l’estinzione umana entro 10 anni. Hubinger, in risposta, ha confermato queste stime ma ha giustificato l’operato di Anthropic proprio alla luce di questa possibilità catastrofica. Coxon (che ha lavorato non solo in Anthropic ma anche in OpenAI) accusa però indiscriminatamente tutti laboratori di frontiera di muoversi con imprudenza. Ovviamente il suo allarme non riguarda i sistemi commerciali attuali ma scenari di auto-miglioramento ricorsivo verso la superintelligenza. Le società AI, oggi, mirano a creare AI che si costruiscano ed evolvano da sole.

Le sue parole sono eco di dichiarazioni che si susseguono da anni, provenienti da personaggi di spicco rappresentanti delle aziende centrali del mondo AI. Da Musk ad Altman ad Amodei, in tanti hanno avanzato previsioni fondate sui rischi esistenziali dell’AI, spesso chiamate p(doom). La sigla informale per “probability of doom” è, nel gergo tech, proprio la probabilità stimata (soggettiva) che lo sviluppo dell’intelligenza artificiale porti a un esito catastrofico per l’umanità

Ecco dunque una panoramica delle volte in cui qualcuno di autorevole ha predetto la fine del mondo a causa di un’evoluzione incontrollabile dell’intelligenza artificiale.

2020, Toby Ord

Nel libro The Precipice, il filosofo australiano stima un 10% di rischio esistenziale legato all’AI disallineata entro la fine del secolo, come parte di una stima più ampia di rischio esistenziale complessivo (1 su 6 per questo secolo, sommando tutte le fonti di rischio). ChatGPT non è ancora stato rilasciato, è una delle prime voci a sollevare il problema.

Giugno 2022, Joseph Carlsmith

In un paper di ricerca (poi pubblicato anche su arXiv), il ricercatore di Open Philanthropy. stima intorno al 10% la probabilità che un’AI disallineata provochi una catastrofe esistenziale entro il 2070.

Gennaio 2023, Sam Altman

Nell’intervista con Connie Loizos per StrictlyVC, alla domanda “qual è il tuo scenario migliore per l’AI e quale il peggiore?“, risponde: “Il caso peggiore è tipo luci spente per tutti noi; nel breve termine mi preoccupa di più un caso di uso improprio accidentale, non che l’AI si svegli e decida di essere malvagia“. Il CEO di OpenAI è in questo periodo ancora considerato più un guru geniale che un imprenditore con interessi commerciali al primo posto (come è diventato poi) e le sue parole sono prese molto sul serio.

Marzo 2023, Eliezer Yudkowsky

Nell’articolo d’opinione su TIME che ha acceso il dibattito pubblico sul tema, lo scrittore scrive frasi inequivocabili: “Se sbagli al primo tentativo, non hai la possibilità di imparare dai tuoi errori, perché sei morto. Se andiamo avanti su questa strada moriranno tutti, compresi i bambini che non hanno scelto questo e non hanno fatto nulla di male“. Conclude chiedendo lo stop totale allo sviluppo di sistemi più potenti di GPT-4: “Shut it all down.” Yudkowsky, famoso anche per un Ted Talk sull’argomento, è una delle voci in assoluto più catastrofiste e da anni torna ciclicamente sul tema.

Marzo 2023, Future of Life Institute

La famosa lettera corale “Pause Giant AI Experiments” del Future of Life Institute, chiede a tutti i laboratori AI di sospendere per almeno sei mesi l’addestramento di sistemi più potenti di GPT-4, citando il rischio di una perdita di controllo che metta in pericolo l’intera società. Firmata da Musk, Wozniak, Bengio, Stuart Russell, Yuval Noah Harari e altri, con firme salite nel tempo oltre le 30.000 (essendo una petizione online aperta a chiunque). Bill Gates si rifiuta di firmarla; Sam Altman la critica per mancanza di rigore tecnico. Nessun laboratorio si è effettivamente fermato. Anzi, lo stesso Musk ammetterà a giugno di aver firmato senza aspettarsi che qualcuno rispettasse davvero la pausa. Poco dopo, lui stesso fonda xAI.

Aprile 2023, Dan Hendrycks

Il direttore del Center for AI Safety dichiara pubblicamente su X che c’è una probabilità superiore all’80% che l’AI minacci l’umanità.

Aprile 2023, Paul Christiano

Nel podcast Bankless del 28 aprile, l’ex responsabile dell’allineamento dei modelli linguistici in OpenAI (poi a capo dell’US AI Safety Institute) dice: “Nel complesso, forse stiamo parlando di una probabilità del 50/50 di catastrofe poco dopo l’arrivo di sistemi di livello umano“. Nello stesso podcast dà anche una cifra distinta, 10-20%, per lo scenario specifico di “AI takeover”: con la maggior parte degli umani morti.

Perché Jacob Coxon di Anthropic si è dimesso: "Le aziende di AI giocano d'azzardo con le nostre vite"

La sua decisione di dimettersi nasce dalla direzione presa dall’intero…

Maggio 2023, Geoffrey Hinton

In occasione del suo distacco da Google, Hinton rilascia un’intervista al New York Times, riportata anche dal MIT Technology Review. Hinton dice di avere “nuove paure” sulla tecnologia che ha contribuito a creare e che “una parte di lui ora rimpiange il lavoro di una vita“. Approfondisce il ragionamento pochi giorni dopo in un’intervista dal vivo all’evento EmTech Digital del MIT.

Maggio 2023, Center for AI Safety

Sam Altman e Ilya Sutskever (OpenAI), Demis Hassabis (Google DeepMind), Dario Amodei (Anthropic), oltre a Geoffrey Hinton, Yoshua Bengio e altri cento-più accademici e dirigenti firmano una sola breve dichiarazione dal titolo Statement on AI Extinction Risk, ospitata sul sito del Center for AI Safety. Si tratta di una riga sola: “Ridurre il rischio di estinzione causato dall’intelligenza artificiale dovrebbe essere una priorità globale, al pari di altri rischi di portata sociale come le pandemie e la guerra nucleare“.

Luglio 2023, Yoshua Bengio

In un contesto di interviste con più testate, indica un personale “p(doom)” del 20%, legato a una sua stima del 50% di probabilità che si riesca a creare un’AI con capacità paragonabili a quelle umane entro un decennio.

Ottobre 2023, Dario Amodei

Il CEO di Anthropic parla per la prima volta dei pericoli per l’umanità, dando una stima che si posiziona tra il 10 e il 25%, diffusa attraverso interviste e riprese da Axios in pezzi successivi.

Maggio 2024, Jan Leike

Appena dopo essersi dimesso, il 17 maggio, l’ex capo del team Superalignment di OpenAI Jan Leike scrive pubblicamente: “Cultura e processi di sicurezza sono passati in secondo piano rispetto ai prodotti scintillanti” e “costruire macchine più intelligenti degli umani è un’impresa intrinsecamente pericolosa“. Sam Altman risponde pubblicamente ammettendo che Leike aveva “ragione”. In precedenza Leike aveva collocato la propria stima personale di rischi esistenziali in una forchetta ampissima, tra il 10% e il 90%.

Giugno 2024, Elon Musk

Al festival Cannes Lions, in conversazione con il CEO di WPP Mark Read, Musk dice: “Tendo a essere d’accordo con Geoff Hinton, uno dei padri dell’AI, che pensa ci sia una probabilità del 10-20% che accada qualcosa di terribile“. Subito dopo però ribalta il tono, dicendo che il bicchiere è “80% pieno” e prevedendo un’era di abbondanza in cui il lavoro diventa opzionale. Quattro mesi dopo, in una video-intervista a Bloomberg, Musk ribadisce la sua percentuale del 10-20%.

Dicembre 2024, Geoffrey Hinton

In un’intervista a BBC Radio 4, interpellato sul rischio di apocalisse AI, risponde che trova ci sia “tra il 10% e il 20%” di probabilità di estinzione umana entro 30 anni. Un innalzamento rispetto alla stima precedente del 10%, che giustifica con il fatto che l’AI stia progredendo più rapidamente del previsto e con l’insufficienza delle regolamentazioni.

Yampolskiy: "Non ci sono prove che l'AI possa essere controllata"

Secondo lo scienziato Roman Yampolskiy, l'umanità dovrebbe valutare addirittura di…

Aprile 2025, Daniel Kokotajlo

Nella presentazione dello scenario “AI 2027”, che ha coautorato dopo aver lasciato OpenAI, l’ex ricercatore di governance di OpenAI indica una probabilità del 70-80% di rischi irreparabili.

Luglio 2025, Demis Hassabis

Il CEO di Google DeepMind, nel podcast di Lex Fridman (uscito il 31 luglio) si rifiuta di dare una stima specifica perché, sostiene, implicherebbe un livello di precisione che non esiste. Aggiunge però: “Sicuramente non è zero e probabilmente non-trascurabile, il che di per sé dovrebbe far riflettere“.

Agosto 2025, Vitalik Buterin

In una discussione su YouTube, il cofondatore di Ethereum indica una sua probabilità insolitamente precisa del 12% che le AI provochino catastrofi.

Settembre 2025, Eliezer Yudkowsky (di nuovo)

Lo scrittore pubblica il libro “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All“. Il titolo stesso è la dichiarazione centrale: se qualcuno costruisce una superintelligenza artificiale con le tecniche attuali, tutti moriranno. Il libro è diventato un caso editoriale, con endorsement pubblici da parte di alcuni membri della comunità AI safety.

Settembre 2025, Dario Amodei (di nuovo)

All’Axios AI+ DC Summit di Washington, il 17 settembre, alla domanda diretta sulla propria visione, risponde: “C’è un 25% di probabilità che le cose vadano molto, molto male“. Ma, come già Musk, specifica anche il rovescio della medaglia: “Un 75% di probabilità che l’esito sia positivo“. Ribadisce la sua visione in un’intervista ad Axios (la testata la intitola “Anthropic’s warning to the world”) nel gennaio 2026.

febbraio 2026, Mrinank Sharma

Membro dello staff tecnico di Anthropic dal 2023, si dimette con una lettera aperta ai colleghi in cui scrive: “Il mondo è in pericolo. E non solo per l’AI, o le armi biologiche, ma per una serie di crisi interconnesse che si stanno dispiegando proprio in questo momento”. A differenza degli altri, Sharma non è specificamente incentrato sull’AI come unica minaccia, ma la include in un quadro più ampio di rischio sistemico.

Settembre 2026, Jacob Coxon

Ricercatore di pretraining, con tre anni di esperienza sia in OpenAI sia in Anthropic (da cui si dimette). Su X scrive: “Mi sono dimesso oggi da Anthropic. Nessuna delle aziende si sta comportando responsabilmente. Stanno correndo dritte verso una superintelligenza auto-migliorante, giocandosi le nostre vite“. Aggiunge: “Chi costruisce l’AI crede sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non sottovalutate il potere di questa tecnologia, presto saranno sistemi sovrumani in grado di violare qualsiasi cosa“. Il suo post che innesca la risposta del ricercatore di Anthropic Evan Hubinger. Che, pur difendendo l’operato della sua azienda, conferma la previsione di Coxon.