Nvidia ha rilasciato Nemotron 3.5 Lightning, un modello open source da 30 miliardi di parametri che, secondo l’azienda, può girare su una singola GPU montata in un normale PC. È gratuito, scaricabile e modificabile senza chiedere il permesso a Nvidia. Un posizionamento che segnala con chiarezza dove l’azienda vuole andare.
Sul piano tecnico, il modello adotta un’architettura Mixture-of-Experts con soli 3 miliardi di parametri attivi su 30 totali. Il meccanismo è semplice: un router instrada ogni token verso un sottoinsieme ristretto di “esperti”, così da ottenere la capacità espressiva di un modello grande al costo computazionale di uno piccolo. Nvidia dichiara una velocità di output fino a quattro volte superiore rispetto a modelli concorrenti della stessa classe, con un completamento dei task agentici del 30% più rapido. L’architettura ibrida combina strati Mamba-2, MoE e strati di attenzione selettiva, abbinati a tecniche di speculative decoding per accelerare ulteriormente la generazione del testo.
Il modello è pensato per sistemi multi-agente sempre attivi, dove una parte del carico — code review, monitoraggio degli alert di sicurezza, chiamate a strumenti esterni — viene delegata a modelli specializzati e veloci, mentre i modelli frontier si occupano della pianificazione complessa. Per gestire questo smistamento, Nvidia ha rilasciato in parallelo NeMo Switchyard, una libreria open source di routing che dirige automaticamente ogni richiesta al modello più adatto, senza che gli sviluppatori debbano riscrivere le proprie applicazioni. Aziende come CrowdStrike, CodeRabbit e Harvey hanno già testato e personalizzato il modello sui propri dati proprietari.
Dietro alla scelta open source c’è una logica industriale precisa. I modelli aperti abbassano la barriera d’ingresso e spingono verso un utilizzo più ampio dell’AI — il che si traduce in più GPU vendute. Jensen Huang lo ha detto esplicitamente in luglio: “Free AI should be great for chips.” Nemotron 3.5 Lightning è il primo modello open che Nvidia rilascia da quando il suo CEO ha preso posizione pubblica in favore dei modelli aperti, intervenendo nel dibattito che si era acceso a Washington. La release include pesi, dati di addestramento e ricette di fine-tuning, ed è disponibile su Hugging Face, ModelScope, OpenRouter e sul sito Nvidia. Il modello può girare su RTX PC, DGX Spark e DGX Station, oppure scalare verso data center e cloud.
La famiglia Nemotron si sta strutturando secondo una logica a strati: modelli frontier come Nemotron 3 Ultra per l’orchestrazione, modelli leggeri come Lightning per l’esecuzione ad alto volume. È la stessa architettura che stanno adottando le aziende più avanzate nel deployment di agenti AI in produzione. Se Nvidia riuscirà a posizionarsi come fornitore di riferimento anche sul fronte dei modelli aperti — e non solo dell’hardware — il vantaggio competitivo costruito con i chip potrebbe consolidarsi in modo strutturale lungo tutta la catena del valore.
