L’intero settore AI potrebbe subire un rallentamento nel ritmo di miglioramento delle prestazioni dei propri modelli cosiddetti “ragionanti“. È l’esito di un’analisi condotta da Epoch AI, un istituto di ricerca no-profit che si occupa di intelligenza artificiale. Secondo i risultati del rapporto, già nel giro di un solo anno i progressi derivanti dai modelli di ragionamento potrebbero rallentare.
Questi modelli vengono sviluppati addestrando prima un modello convenzionale su una grande quantità di dati, poi in un secondo momento applicando una tecnica chiamata “apprendimento” per rinforzo, che di fatto fornisce al modello un “feedback” sulle sue soluzioni a problemi difficili. OpenAI ad esempio ha recentemente dichiarato di aver impiegato circa 10 volte più risorse di calcolo per addestrare il modello o3 rispetto al suo predecessore o1, dando una priorità netta all’apprendimento per rinforzo, ma secondo Epoch esiste ancora un limite massimo che può essere dedicato a questo tipo di apprendimento.
Secondo l’analisi, che parte da una serie di ipotesi e si basa in parte sui commenti pubblici dei dirigenti delle aziende di intelligenza artificiale, scalare i modelli di ragionamento potrebbe rivelarsi difficile anche a causa degli elevati costi per la ricerca. “Se la ricerca comporta un costo generale persistente, i modelli di ragionamento potrebbero non essere scalabili come previsto” – scrive Josh You (analista di Epoch) – “la rapida scalabilità del calcolo è potenzialmente un ingrediente molto importante per il progresso dei modelli di ragionamento, quindi vale la pena monitorarlo attentamente“. Si tratta di un’ipotesi che non può che preoccupare molto l’intera industria AI, che negli ultimi anni ha investito enormi risorse nello sviluppo di questo tipo di modelli.
Più i modelli AI sono potenti, più sembrerebbero inclini alle allucinazioni
Tra i molti esempi, o4-mini mostrerebbe un tasso di allucinazione…
