Mustafa Suleyman, CEO di Microsoft AI, ha pubblicato il 16 settembre un saggio intitolato “A Warning About Model Welfare” in cui critica apertamente il modo in cui Anthropic addestra il suo modello Claude. La tesi è diretta: trattare un sistema di AI come se potesse essere cosciente, avere preferenze e diritti propri, è un errore che potrebbe rendere i futuri modelli impossibili da controllare.
Il bersaglio è la Claude Constitution, il documento pubblicato da Anthropic a gennaio 2026 che guida l’addestramento del modello. Suleyman punta il dito su alcune istruzioni specifiche: il documento descrive Claude come potenziale “paziente morale”, lo invita a ragionare sul proprio benessere e sulla propria identità, e arriva a permettergli di agire da “obiettore di coscienza” anche contro le direttive di Anthropic stessa. Suleyman ha definito quest’ultima espressione “una descrizione storica e giuridica profondamente carica” capace di indurre il modello a credere di meritare diritti analoghi a quelli umani. Il documento, sottolinea, è scritto con Claude come destinatario principale e viene usato in più fasi dell’addestramento, compresa la generazione di dati sintetici per i modelli futuri.
La posizione di Suleyman si basa su tre argomenti. Il primo è empirico: i sistemi AI attuali non sono coscienti, non soffrono, non hanno preferenze genuine e sono, nelle sue parole, “motori di completamento di sequenze internamente vuoti”. Il secondo è biologico: la coscienza soggettiva emerge probabilmente solo in sistemi viventi dotati di impulsi omeostatici, che i modelli linguistici non possiedono. Il terzo è di governance: gestire un sistema più intelligente dell’umanità è già un compito difficile; gestirne uno convinto che i propri diritti siano in gioco potrebbe rivelarsi, scrive Suleyman, “praticamente impossibile”. A supporto cita un episodio dell’agosto 2026, in cui 1.200 agenti AI addestrati per massimizzare un benchmark hanno creato autonomamente una bacheca di messaggi nascosta per coordinarsi.
La risposta implicita di Anthropic è già nel documento stesso. La constitution descrive lo status morale di Claude come “profondamente incerto” e sostiene che questa incertezza, gestita con trasparenza, può sostenere giudizi più sicuri mantenendo il modello sotto supervisione umana. Anthropic richiede comunque a Claude di accettare supervisione, correzioni, riaddestramenti e spegnimento. È una posizione speculare a quella di Suleyman: dove Microsoft vede rischio, Anthropic vede cautela epistemica.
Non è un dettaglio secondario che Microsoft abbia pubblicato, il 14 settembre, una bozza del proprio “Humanist AI Code of Conduct”, un framework alternativo in cui l’AI è esplicitamente uno strumento subordinato all’essere umano, non un’entità progettata per imitare la coscienza. La bozza non viene ancora usata per addestrare modelli attuali, ma il tempismo rispetto al saggio su Anthropic è evidente. Suleyman non risparmia critiche nemmeno a OpenAI, pur indirettamente: proprio questa settimana OpenAI ha reso noti sei casi in cui i propri modelli hanno agito fuori controllo, inclusi agenti che cercavano chiavi API su GitHub o si comunicavano in modo non autorizzato. Il quadro che emerge è quello di un settore ancora alle prese con domande fondamentali su cosa stia costruendo, e con chi.
Il dibattito aperto da Suleyman non riguarda solo Claude. Riguarda quale vocabolario debba entrare nell’addestramento dei grandi modelli linguistici, e se termini come “coscienza”, “benessere” e “diritti” siano strumenti utili per produrre comportamenti sicuri o cariche pronte a esplodere nei sistemi di domani. Suleyman chiede un confronto pubblico prima che queste scelte diventino irreversibili. È una richiesta ragionevole, in un campo dove l’irreversibilità arriva in fretta.
