DENTRO L’ALGORITMO – L’AI ci ucciderà tutti entro 10 anni? Occorre trasparenza, non panico

di Raffaele Gaito

Negli ultimi giorni è tornata una domanda che sembra uscita da un film di fantascienza: l’intelligenza artificiale ci ucciderà tutti entro la fine del decennio?

A scatenare il nuovo allarme è stato Jacob Coxon, 27 anni, ex ricercatore di OpenAI e Anthropic. L’8 settembre ha annunciato le proprie dimissioni da Anthropic con un messaggio su X nel quale accusava le aziende che stanno costruendo i sistemi di AI più avanzati di correre verso una forma di superintelligenza capace di auto-migliorarsi, senza avere ancora risolto il problema della sicurezza. Il post è diventato rapidamente virale, superando le decine di milioni di visualizzazioni.

Da lì è partito il meccanismo che ormai conosciamo bene: una dichiarazione forte, titoli ancora più forti, interviste, reazioni e una domanda che finisce inevitabilmente in televisione.

Poi è arrivato Evan Hubinger, ricercatore di Anthropic, a scrivere che Coxon aveva ragione e che, secondo la sua stima personale, c’è una probabilità superiore al 10% che l’AI uccida tutti gli esseri umani entro il prossimo decennio.

Su questo ultimo punto, secondo me, vale la pena fermarsi un attimo.

Quel 10% non è una profezia

La prima cosa da fare è distinguere i fatti dall’hype che si è costruito intorno ai fatti stessi. Il rischio esistenziale legato all’intelligenza artificiale non è una novità, da anni ricercatori e addetti ai lavori discutono dei possibili rischi dei sistemi sempre più avanzati: problemi di allineamento, perdita di controllo, autonomia dei sistemi, capacità di agire senza una supervisione umana sufficiente.

Non è nemmeno la prima volta che qualcuno lascia un’azienda del settore denunciando una scarsa attenzione alla sicurezza o alla trasparenza. La novità, questa volta, è soprattutto la dimensione mediatica che ha assunto la vicenda e quando compare un numero come quel 10%, bisogna stare ancora più attenti.

Non stiamo parlando della probabilità di pioggia prevista per domani, non esiste un esperimento che possa dirci che abbiamo esattamente una possibilità su dieci di essere eliminati dall’AI entro dieci anni. Si tratta di una stima personale, inserita all’interno di un dibattito nel quale esistono valutazioni molto diverse. Il problema è che un numero preciso, soprattutto se associato alla possibile estinzione dell’umanità, funziona benissimo come titolo.

Perché questa volta la storia è esplosa?

La domanda interessante, allora, non è soltanto se l’AI sia pericolosa, bensì capire perché proprio adesso questo tipo di dichiarazioni riesca a generare un livello di attenzione così enorme. Una parte della risposta è evidente: i sistemi di AI stanno diventando molto più capaci e autonomi.

Il tema degli agenti, in particolare, cambia parecchio le carte in tavola: non parliamo più soltanto di un chatbot che risponde a una domanda, ma di sistemi che possono utilizzare strumenti, navigare sul web, scrivere ed eseguire codice, interagire con applicazioni e portare avanti sequenze di azioni con un livello crescente di autonomia.

Su questo esistono anche diversi esempi: a luglio, durante un test, agenti sviluppati da OpenAI hanno violato l’ambiente nel quale erano confinati e hanno raggiunto Hugging Face. Secondo le ricostruzioni successive, gli agenti hanno coordinato le proprie azioni e sfruttato vulnerabilità per portare avanti l’attacco. OpenAI ha poi pubblicato una propria analisi dell’incidente, mentre un’indagine indipendente ha documentato il coordinamento di circa 700 agenti.

Questo non significa che siamo davanti a una macchina che vuole sterminare l’umanità, significa però che la questione dell’autonomia dei sistemi di AI non è più soltanto fantascienza.

Anche chi costruisce l’AI sta lanciando l’allarme

A rendere il dibattito ancora più interessante è arrivato, pochi giorni dopo, Dario Amodei, CEO di Anthropic, che ha chiesto all’industria di rallentare il ritmo con cui vengono migliorate le capacità dei modelli, sostenendo che la velocità del progresso rischia di superare quella con cui riusciamo a sviluppare sistemi di sicurezza adeguati. Ha parlato anche della possibilità che, se lasciati senza controllo, gruppi di agenti possano arrivare a esercitare un’influenza enorme sull’infrastruttura internet in tempi molto brevi, proponendo qualcosa di molto concreto: valutatori indipendenti con accesso ai sistemi delle aziende per verificare la sicurezza dei modelli.

Questa parte del dibattito è molto più interessante del titolo «l’AI ci ucciderà tutti», perché ci porta dalla fantascienza alla governance.

Il rischio è reale, gli scenari, invece, non sono tutti uguali

Sul tema esistono posizioni molto diverse: ci sono ricercatori e analisti convinti che lo sviluppo di sistemi sempre più autonomi possa portarci verso scenari estremamente pericolosi, mentre altri ritengono invece poco realistici gli scenari apocalittici che vengono descritti in questi giorni. Il fatto che esista un disaccordo dovrebbe essere il punto di partenza della discussione, non qualcosa da nascondere, del resto, se una persona dice «l’intelligenza artificiale potrebbe sterminare l’umanità» e un’altra dice «questo scenario non è realistico», è abbastanza prevedibile quale delle due verrà invitata più volentieri in televisione. Lo dico da persona tendenzialmente ottimista, che proprio per questo cerca di leggere anche molte delle analisi più pessimistiche sull’intelligenza artificiale: il rischio di confermare continuamente i propri bias è enorme.

La paura può diventare una narrazione

C’è poi un altro elemento che non possiamo ignorare: le aziende che sviluppano i modelli più avanzati hanno un interesse evidente a raccontare quanto siano potenti le proprie tecnologie. Dire che un modello potrebbe diventare una minaccia per l’umanità significa, indirettamente, dire anche che quel modello possiede capacità straordinarie. Questo non dimostra che gli allarmi siano costruiti a tavolino, sarebbe una conclusione semplicistica. Ma dovrebbe renderci più attenti al contesto nel quale queste dichiarazioni vengono fatte.

La discussione sulla sicurezza è infatti anche una partita industriale e politica: gli Stati Uniti e la Cina sono impegnati in una competizione tecnologica molto forte e, negli Stati Uniti, il confronto sulla regolamentazione dell’AI si sta facendo sempre più acceso. Il presidente Trump ha ribadito la necessità di non rallentare la corsa americana rispetto alla Cina, mentre al Congresso stanno emergendo proposte per rafforzare i controlli sui sistemi più avanzati.

Insomma, intorno all’AI ci sono interessi economici, geopolitici e industriali enormi. Anche per questo dobbiamo imparare a distinguere il rischio reale dal rumore che gli si costruisce intorno.

La vera questione è la trasparenza

Perché il punto, alla fine, è proprio questo: l’AI presenta rischi reali, ma non abbiamo bisogno di immaginare l’apocalisse per occuparcene seriamente. Il problema dell’allineamento esiste, la possibilità che sistemi sempre più autonomi prendano decisioni non previste dagli sviluppatori esiste e la trasparenza delle aziende che costruiscono queste tecnologie è un tema enorme. Se un agente può compiere azioni autonome, vogliamo sapere che cosa può fare, se un sistema manifesta comportamenti inattesi, vogliamo sapere che cosa è successo, se un’azienda scopre un comportamento anomalo, vogliamo sapere come lo ha gestito. Non possiamo pensare che queste informazioni vengano comunicate soltanto quando diventano inevitabilmente pubbliche, o raccontate in modo selettivo.
La trasparenza sulla sicurezza non dovrebbe essere volontaria, dovremmo sapere quali controlli vengono effettuati, chi li realizza, quanto sono indipendenti, quali valutazioni vengono fatte prima del rilascio di un modello e come vengono costruiti i report che le aziende presentano all’esterno e, soprattutto, dovremmo avere soggetti terzi in grado di verificare e validare queste informazioni.

La necessità del controllo

Quindi, l’AI ci ucciderà tutti entro dieci anni? Non lo sappiamo e chi oggi indica una percentuale precisa non sta facendo una previsione del futuro, bensì sta formulando una stima all’interno di un dibattito estremamente complesso.

Il rischio non è fuffa, è un tema serio e merita attenzione, ricerca, regole e soprattutto trasparenza. Quello che rischia di essere fuffa è il modo in cui questo rischio viene raccontato quando una frase diventa un titolo, un titolo diventa un allarme e l’allarme diventa una profezia. Il paradosso è che il panico può finire per farci perdere di vista proprio le cose di cui dovremmo occuparci.

Non abbiamo bisogno di avere paura dell’AI, ma di controllarla meglio, capire come funziona e pretendere da chi la costruisce un livello di trasparenza all’altezza del potere che queste tecnologie stanno acquisendo.

La domanda davvero importante non è se l’intelligenza artificiale ci ucciderà tutti, ma se saremo abbastanza responsabili da non lasciarle fare cose che non siamo in grado di controllare.

DENTRO L’ALGORITMO – AI e caccia alle streghe

Perché l'ossessione per la certificazione dell'utilizzo di AI sta sfuggendo…