Sam Altman dice di capire i matematici travolti dai risultati prodotti da OpenAI, ma l’azienda non ha intenzione di fermarsi. Lo ha affermato nel podcast Cheeky Pint, uscito giovedì. Alla domanda se OpenAI abbia altre dimostrazioni oltre alle centinaia già pubblicate, il CEO ha risposto con due parole: ce le abbiamo.
Secondo il resoconto di The Verge, Altman ha spiegato che l’azienda ha investito centinaia di milioni di dollari nella matematica e ha altre scoperte in serbo. Il suo argomento è che il valore di nuova conoscenza di base per il pubblico pesa più del disturbo causato dagli annunci. In altre parole, il mondo merita di avere queste scoperte e OpenAI non dovrebbe trattenerle. Altman ha anche ammesso che il ritmo degli esperimenti matematici è sfuggito di mano per un breve periodo, ma ha precisato che lo sforzo era voluto, per mettere alla prova i limiti dei modelli.
Le critiche dei ricercatori sono concrete. I matematici sentiti dal sito americano rimproverano a OpenAI attribuzioni inadeguate, poco contesto e verifiche insufficienti. Ogni rilascio obbliga qualcuno a dedicare ore a controllare e interpretare risultati che nessun collega umano ha firmato. Futurism riporta che la diffusione di centinaia di nuove prove è stata contestata da matematici di primo piano e perfino da un gruppo consultivo di matematica con cui OpenAI stessa si confrontava. Secondo la testata, sarà necessario molto tempo per esaminare tutto il materiale, mentre OpenAI lo usa subito come prova della forza della propria tecnologia.
Il fronte critico è ampio. Una lettera aperta firmata da ventotto medaglie Fields accusa le aziende di IA di usare problemi matematici complessi come semplici banchi di prova. Secondo Futurism, è la prima volta che Altman riconosce in modo diretto l’impatto della sua azienda sulla comunità matematica. Il CEO ha però ammesso che OpenAI deve migliorare il modo in cui presenta e contestualizza i risultati.
C’è anche un problema opposto. Secondo The Verge, matematici e scienziati si sono lamentati di recente perché OpenAI tiene per sé ricerche potenzialmente importanti, dopo l’annuncio di tre risultati di rilievo tra matematica, fisica e informatica. Cioè proprio ciò che Altman dice di non voler fare.
Per i ricercatori il nodo non è più capire se l’IA sappia dimostrare teoremi, ma chi controlla e certifica quello che produce. Se il flusso di OpenAI continua a questa velocità, riviste e commissioni di revisione dovranno decidere se creare canali dedicati alle prove generate da modelli, oppure restare indietro rispetto a chi le produce.
