Josh Engels, membro del team di sicurezza dell’AGI di Google DeepMind, ha recentemente rassegnato le dimissioni dall’azienda, scatenando un dibattito nel settore tech. Il suo gesto non è passato inosservato, soprattutto perché Engels ha rifiutato offerte di lavoro da parte di concorrenti come Anthropic e OpenAI, due dei principali laboratori di ricerca nel campo dell’AI. La motivazione alla base della sua decisione è tanto netta quanto preoccupante l’AI potrebbe arrecare un “enorme danno” entro i prossimi cinque anni, una previsione che solleva interrogativi sulla velocità con cui questa tecnologia sta evolvendo e sulla capacità delle aziende di gestirne i rischi.
La notizia, riportata da NDTV, ha riacceso il confronto su quale sia il ruolo etico delle grandi aziende tech nello sviluppo dell’AI. Engels non è il primo a lasciare un colosso del settore per questioni legate alla sicurezza. Solo pochi mesi fa, diversi ricercatori di Google e Microsoft avevano espresso preoccupazioni simili, chiedendo una moratoria nello sviluppo di sistemi sempre più potenti. Il timore non riguarda solo la perdita di controllo su sistemi superintelligenti, ma anche l’uso improprio di tecnologie già esistenti, come chatbot capaci di manipolare l’informazione o algoritmi che rafforzano discriminazioni sociali. Secondo quanto riportato da fonti interne, Engels avrebbe sottolineato come le attuali misure di sicurezza siano insufficienti per prevenire conseguenze irreversibili.
Il dibattito non si limita alla sfera privata di Google DeepMind. Esperti del calibro di Yoshua Bengio, uno dei padri fondatori del deep learning e premio Turing, hanno più volte avvertito sui rischi di un’AI non regolamentata. Bengio, intervistato da The Verge lo scorso aprile, aveva dichiarato che “senza un quadro normativo stringente, il progresso tecnologico potrebbe sfuggire di mano”. Anche il filosofo Nick Bostrom, noto per i suoi studi sull’impatto a lungo termine dell’AI, ha ripetutamente messo in guardia: “Il vero pericolo non è che le macchine diventino malvagie, ma che perseguano obiettivi mal definiti in modo estremamente efficiente”. Queste voci autorevoli si uniscono al coro di chi, come Engels, chiede maggiore trasparenza e responsabilità nel settore.
Dalla parte opposta, però, ci sono le aziende che continuano a investire miliardi nello sviluppo dell’AI. Google, Microsoft e Meta hanno tutti recentemente aumentato i loro budget per la ricerca in questo campo, nonostante le critiche. Secondo un rapporto di Bloomberg pubblicato a giugno 2025, il mercato globale dell’AI raggiungerà i 500 miliardi di dollari entro il 2028, trainato soprattutto dall’adozione di sistemi di machine learning in settori come la sanità, la finanza e l’automazione industriale. Le aziende difendono il loro operato sostenendo che l’AI può risolvere problemi globali, dalla diagnosi precoce delle malattie alla riduzione delle emissioni di CO₂. Tuttavia, Engels e altri critici sottolineano come la corsa agli armamenti tecnologici stia distogliendo l’attenzione dai rischi sistemici.
La fuoriuscita di Engels da Google DeepMind potrebbe essere solo la punta dell’iceberg. Secondo fonti anonime citate da Wired, almeno altri tre ricercatori del team AGI avrebbero manifestato l’intenzione di lasciare l’azienda nei prossimi mesi, anche loro per motivi legati alla sicurezza. La domanda che in molti si pongono è se le aziende saranno in grado di autoregolamentarsi o se sarà necessario un intervento governativo.
Il caso di Josh Engels rappresenta un momento di svolta, un campanello d’allarme che costringe il mondo dell’AI a guardarsi allo specchio. Se da un lato la tecnologia promette di rivoluzionare la società, dall’altro solleva interrogativi che non possono più essere ignorati. Che si tratti di prevenire danni immediati o di prepararsi a scenari futuri, una cosa è certa la responsabilità non può più essere delegata solo agli ingegneri e agli scienziati. È tempo che politici, filosofi, cittadini e aziende si siedano insieme a un tavolo per decidere quale futuro vogliamo costruire con l’AI. Perché, come ha scritto Engels in una lettera interna diffusa ai colleghi, “il prezzo dell’innovazione non può essere la nostra stessa sopravvivenza”.
Troppi rischi e crescenti preoccupazioni: OpenAI valuta di rallentare lo sviluppo dell'AI avanzata
La preoccupazione principale riguarda la mancanza di controlli adeguati su sistemi capaci…
