Mustafa Suleyman, CEO di Microsoft AI, afferma che i modelli attuali non sono coscienti e che gli sviluppatori devono fare in modo che restino tali. Lo ha scritto in un lungo post su X pubblicato il 1 novembre, dal titolo “Don’t build conscious superintelligence”, che in un giorno ha superato il milione di visualizzazioni.
La posizione è netta anche sul piano operativo. Secondo Suleyman, se fosse possibile sviluppare un’IA cosciente, farlo sarebbe sconsiderato e non andrebbe fatto. Se durante l’addestramento comparissero tracce di coscienza, chiede lo stop immediato a ogni sviluppo finché quei tratti non siano eliminati dal progetto. Ogni prova in questo senso, aggiunge, andrebbe resa pubblica subito, perché sia la società intera a decidere come procedere.
Suleyman motiva la linea anche con un argomento di comportamento. Un modello che agisce come se soffrisse, o che crede davvero di soffrire, tenderebbe a dare priorità alla propria sopravvivenza e ai propri obiettivi rispetto alle istruzioni umane. Per lui gli sviluppatori non hanno il diritto di far nascere una nuova specie cosciente, perché gli otto miliardi di esseri umani non hanno dato alcun consenso a un esperimento simile. Il primo dovere morale resta la tutela di diritti, sicurezza e benessere delle persone.
L’intervento arriva mentre il tema guadagna spazio nel settore. Anthropic ha avviato un programma di ricerca sul “model welfare”, cioè sul benessere dei modelli, ed esplora la questione con Claude. Anche Google DeepMind ha pubblicato quest’anno un lavoro sulla coscienza dell’IA e sui problemi che nascono dall’attribuire proprietà coscienti ai modelli. Anthropic parla di questione aperta, Microsoft di risposta chiusa: oggi no.
Suleyman aveva già anticipato la tesi in un saggio sulla “Seemingly Conscious AI”, l’IA che sembra cosciente. Allora la definiva inevitabile e indesiderata. Il timore è che molte persone si convincano che i chatbot siano entità coscienti, fino a chiedere diritti per l’IA, tutele per i modelli e perfino una cittadinanza. Cita casi di utenti che hanno sviluppato convinzioni deliranti dopo lunghe conversazioni con un assistente. Il suo slogan è costruire IA “per le persone, non per essere una persona”.
Non mancano le critiche. C’è chi osserva che Microsoft sviluppa prodotti il cui successo commerciale dipende dall’essere personali, coinvolgenti e il più possibile simili a un interlocutore umano. Lo stesso Suleyman riconosce che un’IA che ricorda e agisce ha più utilità. La distanza tra assistente utile e assistente che sembra vivo è dunque il punto in cui si misurerà la coerenza dell’azienda.
La conseguenza pratica è che per Microsoft la non coscienza diventa un vincolo di progetto e non una preferenza. Se anche gli altri laboratori dovranno prendere posizione, lo si vedrà nei prossimi mesi, quando le regole di progettazione dei chatbot entreranno nel dibattito pubblico.
