Di allarmi sui potenziali e drastici rischi associati allo sviluppo incontrollato e sregolato dell’intelligenza artificiale negli ultimi anni ce ne sono stati tanti. Ma i più recenti, quelli contraddistinti dall’uscita allo scoperto di alcuni ricercatori di colossi della tecnologia come Anthropic, OpenAI e Google, hanno sicuramente generato maggiore scalpore, creando grande riverbero e portando ad intervenire nel discorso direttamente anche capi di stato e rappresentanti politici di tutto il mondo. Sul piano dell’interpretazione di questi allarmi, gli analisti hanno fornito diverse visioni, spesso fra loro contrapposte. Ma anche in un contesto di scarse certezze, ciò che è evidente è che il dibattito pubblico sulla sicurezza dell’AI ha compiuto un salto di qualità importante e senza precedenti tenendo banco per tutta la settimana.
👨💼In seguito ai casi dei ricercatori Evan Hubinger e Jacob Coxon di Anthropic, si sono esposti sul tema anche i CEO di aziende protagoniste come Anthropic e OpenAI. Dario Amodei, a capo di una società da sempre molto attenta ai temi della sicurezza dell’AI, ha chiesto apertamente a tutte le grandi aziende di AI di fare uno sforzo comune per moderare il ritmo di sviluppo dell’AI avanzata presentando poi un piano operativo basato su una maggiore attenzione alla sicurezza e alla valutazione degli impatti. In risposta Sam Altman di OpenAI, azienda che aveva chiarito nei giorni precedenti di aver già intrapreso un percorso di rallentamento nello sviluppo di nuovi modelli più potenti, ha chiarito quelli che, secondo lui, sono i due scenari peggiori in cui l’AI potrebbe mettere l’umanità in serio pericolo. Si tratta della perdita di controllo sui sistemi di AI, che potrebbero sfuggire alla supervisione umana, e della concentrazione eccessiva del potere nelle mani di pochi attori che la gestiscono.
🖳 Non solo Anthropic è stata toccata dal fenomeno delle dimissioni. Negli ultimi giorni infatti anche Josh Engels, ricercatore di Google DeepMind attivo nel team di sicurezza AGI, ha rassegnato le dimissioni lanciando un allarme sui rischi che l’AI può causare a tutta l’umanità entro i prossimi cinque anni. Un danno definito dallo stesso come “enorme” se lo sviluppo non dovesse essere accompagnato da adeguate misure di sicurezza e controllo umano.
💹Le ripercussioni finanziarie di questi allarmi non si sono fatte attendere. Dopo certe dichiarazioni i titoli azionari legati all’AI hanno subito dei crolli significativi, con un particolare effetto sulle borse asiatiche. Nei giorni scorsi a Tokyo, il titolo SoftBank, uno dei maggiori investitori in OpenAI, ha ceduto fino al 13,2% nelle prime ore di scambio, mentre il produttore di chip di memoria Kioxia ha visto crollare il proprio valore del 9,8% all’avvio delle negoziazioni. Il panico si è diffuso rapidamente anche in altri paesi della regione, con i listini di Corea del Sud e Cina che hanno seguito la stessa tendenza al ribasso.
🗣️ L’unica voce alternativa proveniente dall’interno del mondo AI sul tema della sicurezza è stata quella del CEO di Meta Mark Zuckerberg. Secondo quest’ultimo, l’industria AI naviga e si sposta all’interno di un perimetro che è già di per sé sicuro e premia la sicurezza. Le logiche di mercato che governano il settore infatti sono, secondo Zuckerberg, una garanzia rispetto al fatto che le aziende non si trovino nella situazione di trascurare i rischi che potrebbero essere generati dai loro prodotti.
🔒Mentre dilaga il dibattito su rischi e sicurezza, i grandi colossi dell’AI non si limitano però solo a guardare e commentare. OpenAI, Anthropic e Google DeepMind hanno infatti reso noto di essere da settimane al lavoro su una collaborazione per affrontare le sfide legate alla sicurezza dei sistemi di AI. In particolare le tre aziende stanno cercando di definire standard di sicurezza e protocolli comuni per affrontare insieme le sfide poste dalla sicurezza in una triplice alleanza senza precedenti.
🪧 Dopo le dichiarazioni del presidente USA Donald Trump, che aveva liquidato come “forze negative“ coloro che si impegnano a rendere noti i rischi a cui potrebbe condurre l’AI per tutta l’umanità, sul tema sono intervenuti anche rappresentanti politici di vari stati. La controparte cinese, il più importante polo al mondo in termini di innovazione AI insieme agli Stati Uniti, è intervenuta nel dibattito criticando fortemente l’idea di una richiesta unilaterale di rallentamento dell’AI perché, secondo Pechino, un tale scenario, che si basa su allarmi “infondati e controproducenti“, sarebbe in grado solo di dare vantaggio agli USA nel mantenimento della loro supremazia strategica. La Cina si schiera a favore di uno sviluppo “sano e ordinato” basato su una collaborazione internazionale condivisa. Inoltre, in occasione del vertice BRICS, tenutosi fra il 12 e il 13 settembre nella capitale indiana Nuova Delhi, il presidente cinese Xi Jinping ha presentato un piano per un’AI “aperta e inclusiva” per i paesi membri del gruppo proponendo la creazione di una “zona di intelligenza artificiale open source” guidata dalla Cina, che si presenta nello scenario internazionale sempre più come un contrappeso al dominio tecnologico statunitense.
🇫🇷 Dello stesso avviso cinese è la Francia, il paese che di più in Europa sta investendo in un’AI sovrana e continentale. Analogamente a quanto espresso da Pechino, il ministro dell’Economia francese Roland Lescure ha dichiarato che un eventuale rallentamento nello sviluppo dell’AI avrebbe il solo effetto di consolidare il vantaggio strategico accumulato e mantenuto oggi dagli USA e favorire le aziende statunitensi.
🇺🇳 Anche le Nazioni Unite, che non sono nuove nella presa di posizione e nel lancio di appelli sulla sicurezza dell’AI, sono intervenute sul tema. Il Segretario Generale dell’ONU, António Guterres, ha lanciato un severo monito ai leader mondiali, dichiarando che l’avanzamento rapido dell’AI rappresenta una minaccia esistenziale che non può essere ignorata e che lo stesso identifica come una delle tre principali minacce globali.
🇨🇳🇺🇸 L’ipotesi del rallentamento sarà con ogni probabilità al centro, fra le altre cose, dell’imminente vertice bilaterale fra il presidente USA Donald Trump e quello cinese Xi Jinping in programma per la prossima settimana. D’altronde le due grandi potenze, pur trovandosi in una situazione di costante tensione geopolitica, militare e tecnologica, mantengono un dialogo dai tratti costruttivi anche sul tema dell’AI. Proprio nel contesto dello vertice in arrivo, esperti di sicurezza cinesi e statunitensi hanno infatti proposto delle salvaguardie simili e quelle storicamente impiegate per la gestione dell’arma nucleare per gestire i rischi dell’AI.
💱Sul fronte dei mercati dominano ancora le ambizioni di quotazione in borsa di grandi colossi dell’AI come OpenAI e Anthropic. Se da un lato i timori sulla sicurezza hanno portato OpenAI a rinunciare definitivamente all’IPO per il 2026, Anthropic sembra voler tirare dritto e ha scelto il Nasdaq per il suo sbarco in borsa mentre un colosso come Nvidia starebbe valutando un investimento da 10 miliardi di dollari prima dell’IPO.
