Nelle ore a cavallo tra il 20 e il 21 febbraio (orario italiano), gli utenti di ChatGPT hanno assistito a un comportamento insolito da parte dei modelli di OpenAI. Migliaia di segnalazioni hanno evidenziato come il bot, per diverse ore, abbia fornito risposte completamente prive di senso, con parole inventate o mixando incomprensibilmente diverse lingue.
Un modello di linguaggio che dimentica cosa sia il linguaggio
Diversi utenti hanno notato e segnalato alla società sviluppatrice dei modelli risposte incoerenti, ripetizioni continue delle medesime parole, lingue alternate, elementi testuali astrusi e conversazioni sconnesse. La sensazione era quella di chattare con un’AI alticcia, incapace di comprendere e/o di comunicare né tantomeno di ‘ragionare’.
Secondo quanto comunicato da OpenAI, il problema sarebbe da ricondurre a un bug software che ha portato ChatGPT a “perdere la cognizione del linguaggio”. Un problema di non poco conto per una tipologia di modelli – la famiglia GPT, alla base del chatbot – nata per l’elaborazione e la generazione del linguaggio naturale (un LLM, modello di linguaggio di grandi dimensioni).
Il perché di un simile errore
Il bug, risolto da OpenAI in meno di mezza giornata, ha colpito anche la versione GPT-4. L’accaduto evidenzia una falla insospettabile per un sistema considerato all’avanguardia nel campo dell’AI conversazionale, ma sottolinea anche la natura stessa dell’AI.
La considerazione, espressa da chi ha notato il malfunzionamento, che il modello non fosse più in grado di ragionare parte dunque da una premessa fallace, ossia che l’intelligenza artificiale – in condizioni normali – esibisca un certo grado di ragionamento. I modelli come GPT sono ‘semplici’ macchine probabilistiche: prevedono, secondo quanto appreso in fase di training, quale token (componente base del linguaggio per come è percepito dall’AI) sia statisticamente più probabile che segua una serie di altri token. Questa concatenazione, informata dall’addestramento, permette la generazione di frasi coerenti al loro interno e rispetto al prompt inserito dall’utente.
In questo caso, un errore avrebbe fatto sì che tali probabilità venissero interpretate in maniera errata, producendo così frasi completamente sconnesse.
La spiegazione di OpenAI
“Il 20 febbraio 2024, un’ottimizzazione dell’esperienza utente ha introdotto un bug relativo al modo in cui il modello elabora il linguaggio.
Gli LLM generano risposte campionando casualmente parole basate in parte sulle probabilità. Il loro ‘linguaggio’ è costituito da numeri che corrispondono a token.
In questo caso il bug era nella fase in cui il modello sceglie questi numeri. Come perdendosi nella traduzione, il modello sceglieva numeri leggermente sbagliati, che producevano sequenze di parole prive di senso. Più tecnicamente, i kernel di inferenza hanno prodotto risultati errati se utilizzati in determinate configurazioni GPU.
Dopo aver identificato la causa di questo incidente, abbiamo implementato una soluzione e confermato che l’incidente è stato risolto”.
Fidarsi è bene… capire che l’intelligenza artificiale non ragiona come noi è meglio
L’accaduto dimostra come, nonostante i rapidi progressi nel campo dell’intelligenza artificiale, i sistemi attuali non siano ovviamente esenti da errori e bug, anche grossolani. E non lo saranno mai.
In generale, comprendere il funzionamento dei modelli che stanno alla base dei chatbot permette di non antropomorfizzarli e di non confondere una performance tecnologica convincente e apparentemente naturale con una prova della loro capacità di ragionamento.
L’AI non è umana, non ragiona come noi e non è onnipotente. Utilizzarla al meglio rende più efficienti compiti ripetitivi e meccanici, in alcuni di essi raggiunge risultati paragonabili o superiori a quelli ottenibili dagli esseri umani e può contribuire nel processo creativo, ma, allo stato dell’arte, la strada da input ad output è diametralmente opposta a quella che caratterizza il funzionamento della mente umana.
