L’azienda di intelligenza artificiale Anthropic ha pubblicato un documento chiamato “Costituzione” per il suo modello Claude. Si tratta di un testo che definisce i principi etici e le regole di comportamento per la macchina intelligente che la società intende sviluppare, un’idea nata per aumentare il livello di trasparenza verso il pubblico e chiarire gli intenti aziendali vista la pericolosità rappresentata dal potenziale arrivo dell’AI generale e della superintelligenza.
I ricercatori di Anthropic pongono la sicurezza in cima alle priorità partendo dall’idea che un’AI non dovrebbe mai ostacolare il controllo umano o agire in modo pericoloso. Seguono poi l’onestà, il rispetto delle persone e l’utilità per gli utenti in linea con le linee guida dell’azienda. Dario Amodei, CEO di Anthropic, ha dichiarato che “i sistemi di AI potrebbero avere un impatto enorme sul mondo, quindi dobbiamo guidarli con principi chiari fin dall’inizio”. L’obiettivo è creare assistenti che aiutino l’uomo senza manipolare e senza forme di paternalismo, informino senza ingannare e rispettino l’autonomia delle persone.
La Costituzione di Claude è anche un esperimento di natura filosofica, un terreno su cui la società è solita condurre ricerche. La domanda chiave che smuove i vertici di Anthropic è se una macchina può essere progettata per avere qualche forma di coscienza morale. L’esempio seguito da Anthropic è qualcosa di innovativo, che in futuro potrebbe ispirare anche le altre società AI nel manifestare pubblicamente con trasparenza i propri intenti.
Più di 1000 personaggi pubblici hanno chiesto lo stop allo sviluppo della superintelligenza artificiale
I firmatari chiedono una revisione dei principi su cui si…
