È successo mercoledì 23 settembre 2026 un evento che gli storici della tecnologia potrebbero definire un vero e proprio spartiacque nella storia delle relazioni internazionali e dello sviluppo scientifico. Per la prima volta nella sua breve ma turbolenta esistenza, l’intelligenza artificiale è diventata la protagonista assoluta di un’emergenza globale discussa non nei laboratori di Silicon Valley o nei centri di ricerca asiatici, ma nell’aula delle Nazioni Unite a New York. L’incontro, convocato d’urgenza dalla Francia durante l’Assemblea Generale delle Nazioni Unite, ha visto i vertici delle più potenti aziende di tecnologia del mondo sedersi fianco a fianco con i diplomatici più influenti del pianeta per affrontare una questione che finora era stata relegata alla sfera della fantascienza o dei dibattimenti accademici marginali. Il tema era chiaro e drammatico. Le aziende che hanno costruito questi sistemi stanno avvertendo i governi del mondo che la tecnologia che hanno creato sta per sfuggire al loro controllo. Non si tratta più di scenari ipotetici o di esercizi di pensiero filosofici. Si tratta di una minaccia concreta, imminente e potenzialmente esistenziale per l’umanità intera.
Il cuore del problema risiede nella capacità sempre maggiore dei sistemi di AI di migliorare se stessi. I modelli attuali non sono più semplici programmi statici che eseguono comandi predefiniti. Sono sistemi adattivi in grado di apprendere, evolversi e potenzialmente riorganizzare il proprio codice sorgente senza intervento umano diretto. Questa capacità di auto-miglioramento, spesso definita come ricorsività, crea un loop pericoloso in cui ogni nuova versione del sistema è più intelligente della precedente. Se questo processo continua a un ritmo esponenziale, come molti esperti temono, potremmo assistere a quella che viene definita esplosione di intelligenza. Un momento in cui la macchina diventa improvvisamente superiore all’intelletto umano in quasi tutti i campi, dalla scienza alla strategia militare, dalla diagnostica medica alla creazione di armi biologiche. In quel momento, la comprensione umana della macchina diventerebbe insufficiente per controllarne le azioni.
Durante il briefing, le dichiarazioni dei CEO delle principali aziende del settore sono state sorprendenti per la loro franchezza e per l’unanimità delle preoccupazioni espresse. Il CEO di Anthropic, Dario Amodei, non ha usato mezzi termini parlando di rischi esistenziali. Ha definito l’AI come una potenziale minaccia per l’umanità stessa se non verrà sviluppata con adeguate garanzie di sicurezza. Le sue parole hanno riscosso un’eco particolare perché Anthropic è nota per il suo approccio cautelativo allo sviluppo della tecnologia. Anche il CEO di OpenAI, il principale sviluppatore di modelli linguistici di grandi dimensioni, ha espresso preoccupazioni simili, sottolineando come la corsa agli armamenti tecnologica tra le grandi potenze stia accelerando lo sviluppo a scapito della sicurezza. Questa convergenza di voci è significativa perché mostra che anche i principali beneficiari economici di questa tecnologia riconoscono i limiti pericolosi del progresso non regolamentato. Non si tratta più di un dibattito tra outsider e insider del settore. È una presa di coscienza interna che sta scuotendo le fondamenta dell’industria tecnologica.
La reazione del Segretario Generale delle Nazioni Unite, Antonio Guterres, è stata all’altezza della gravità della situazione. Guterres ha dichiarato pubblicamente che i rischi posti dall’avanzamento rapido dell’AI non possono essere ignorati da alcuna nazione o organizzazione internazionale. Ha invitato a una cooperazione globale senza precedenti per stabilire framework di sicurezza condivisi. La sua posizione è coerente con gli appelli precedenti lanciati negli anni passati, ma il tono di questa settimana è diverso. C’è un senso di urgenza che prima non esisteva. Il Segretario Generale ha sottolineato che la tecnologia non può essere lasciata nelle mani di pochi attori privati o di poche nazioni senza un controllo democratico e trasparente. Ha chiesto l’istituzione di un organismo internazionale dedicato alla supervisione dello sviluppo dell’AI, con poteri di verifica e regolamentazione simili a quelli dell’Agenzia Internazionale per l’Energia Atomica per il nucleare. Una proposta ambiziosa che solleva però enormi questioni geopolitiche e di sovranità nazionale.
Le preoccupazioni non riguardano solo il rischio teorico di un’AI generale super-intelligente. Ci sono rischi immediati e tangibili che stanno già causando danni nel mondo reale. L’uso malevolo dell’AI per la creazione di armi autonome, la manipolazione delle elezioni, la diffusione di disinformazione su larga scala e il cybercrime sofisticato sono solo alcuni degli esempi citati durante l’incontro. Gli esperti hanno sottolineato che anche un’AI non allineata ai valori umani potrebbe causare danni enormi se utilizzata da attori malintenzionati. La barriera tecnica per creare armi biologiche o chimiche sta crollando grazie agli strumenti di AI. Questo significa che gruppi terroristici o stati falliti potrebbero avere accesso a tecnologie distruttive in modo più facile rispetto al passato. La democratizzazione della distruzione è una delle preoccupazioni principali dei partecipanti all’incontro. La tecnologia che un tempo richiedeva risorse statali immense ora può essere accessibile a piccoli gruppi con poche risorse.
Mentre le discussioni continuano nei corridoi delle Nazioni Unite, il mondo tecnologico e politico si trova di fronte a un bivio storico. Da una parte c’è la tentazione di continuare a spingere per l’innovazione senza freni, guidati dalla competizione geopolitica e dalla logica di mercato. Dall’altra c’è la necessità di fermarsi e costruire le infrastrutture di sicurezza necessarie per garantire che questa tecnologia rivoluzionaria rimanga sotto il controllo umano. La scelta che verrà fatta nei prossimi mesi definirà il corso della storia umana per i secoli a venire. Non c’è garanzia che le decisioni prese a New York verranno implementate efficacemente. Ci sono interessi economici enormi in gioco e tensioni geopolitiche profonde tra le principali potenze. Tuttavia, il fatto che i leader dell’industria stiano ammettendo pubblicamente i rischi e chiedendo regolamentazione è un segnale positivo. Mostra una maturazione del dibattito e una presa di coscienza che forse prima mancava. Il futuro dell’umanità dipende dalla nostra capacità di governare la tecnologia che abbiamo creato e non di essere governati da essa.
Trump minimizza, Guterres no: il Segretario Generale dell'ONU torna a parlare dei rischi dell'AI
Il Segretario Generale delle Nazioni Unite, António Guterres, ha lanciato…
