Il un post sul suo blog, il responsabile dell’intelligenza artificiale di Microsoft Mustafa Suleyman ha pubblicato un breve saggio (dal titolo We must build AI for people; not to be a person) con alcune considerazioni sui momenti che anticipano la possibile svolta della super intelligenza AI.
L’inganno della coscienza
Tra i vari temi, Suleyman si è soffermato su una preoccupazione che ritiene essenziale, quella di un livello di antropomorfizzazione delle AI talmente alto, da confondere gli utenti più impressionabili (la maggior parte). Secondo il pioniere dell’intelligenza artificiale, il rischio è che sempre più persone siano soggiogate dall’illusione di intelligenza delle macchine, tanto da iniziare a richiederne il riconoscimento dei diritti, con conseguenze di difficile gestione.
Le AI alle quali abbiamo accesso oggi sono solo l’inizio. I primi modelli di AGI (ammesso che il concetto stesso, da alcuni messo in discussione, abbia davvero un senso), tra non più di 2 o 3 anni appariranno come una sorta di “zombie filosofici”, intelligenze artificiali che molto meglio di oggi simuleranno tutte le caratteristiche della coscienza ma rimanendo internamente vuote.
Verso la considerazione morale
Come già testimoniano oggi alcuni racconti di cronaca, sempre più persone persone inizieranno a considerare le AI esseri viventi e pensanti.
“Ad alcuni questa discussione – ha scritto – sembrerà infondata, più fantascienza che realtà. Ad altri potrebbe sembrare inutilmente allarmistica. Tali reazioni emotive sono solo la punta dell’iceberg, considerando ciò che ci aspetta. È molto probabile che qualcuno sosterrà che queste AI non solo sono coscienti, ma che di conseguenza potrebbero soffrire e quindi meritare la nostra considerazione morale.”
Difendersi dalle illusioni
Lo scienziato propone un’espressione a fare da guida: “intelligenza artificiale apparentemente cosciente”.
Il CEO di Microsoft AI definisce l’arrivo di questo tipo di AI “inevitabile e sgradito”, e sottolinea invece la necessità di “una visione di AI che possa realizzare il suo potenziale come compagna utile senza cadere preda delle sue illusioni.”
Secondo Suleyman esiste una strada da seguire per gestire questi rischi: “Si tratta di come costruire il giusto tipo di AI, non di coscienza dell’AI.” Necessario è dunque “Essere estremamente cauti, incoraggiare un vero dibattito pubblico e iniziare a stabilire norme e standard chiari. Stabilire chiaramente questa differenza non è una questione di semantica, ma di sicurezza.”
L’allarmismo di Suleyman è interessante, in quanto proviene proprio dai piani alti di quell’intellighenzia che in questi anni ha spinto molto per una visione “friendly” e umanizzata dell’AI, così da realizzare prodotti più spendibili sul mercato.
Leggi altri articoli sulla coscienza dell’AI:
🤖
- Elon Musk presenta Grok 3, “l’AI più intelligente sulla terra”
- Gli utenti rivogliono GPT-4o: “Era un mio amico”
- L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi
- Fantasmi generativi: una nuova era di ricordi digitali
- I bot terapeutici per i disturbi mentali sono sempre più diffusi e utilizzati
- Cos’è Character.AI, l’app americana “maledetta” che sta spopolando anche in Italia
