L’umanità sta entrando in un’epoca che Dario Amodei, CEO della società di intelligenza artificiale statunitense Anthropic, definisce “l’adolescenza tecnologica”. Nel suo recente saggio “The Adolescence of Technology”, Amodei lancia un monito chiaro: l’AI sta progredendo a una velocità tale che supera la capacità delle società umane di controllarla e i sistemi legali, i quadri normativi e le istituzioni sociali faticano a stare al passo con un’innovazione che avanza a ritmo esponenziale.
Questo non può che condurre ricercatori, scienziati e osservatori e fare delle previsioni, fra cui quella per cui entro circa due anni l’AI potrebbe superare l’intelligenza di un premio Nobel nella maggior parte dei campi rilevanti, dalla biologia alla programmazione, dalla matematica all’ingegneria.
Secondo il CEO di Anthropic è nei rischi politici che si annida il pericolo maggiore, con gli autocrati di tutto il mondo che potrebbero sfruttare i consigli generati dalla tecnologia per consolidare regimi totalitari dai quali i cittadini non potrebbero più sfuggire. Un’altra minaccia emergente è quella della “AI psychosis”, cioè l’influenza psicologica crescente dell’AI sugli utenti più fragili, che rischia di trasformarsi in un potente strumento di manipolazione delle masse. Non si tratta di scenari distopici o lontani nel tempo, ma di possibilità concrete che richiedono un’azione immediata.
Amodei propone soluzioni pragmatiche per arginare questi rischi. Il controllo sulla vendita di chip avanzati utilizzati per addestrare i modelli di AI rappresenta, secondo lui, il metodo più efficace per impedire che tecnologie così potenti finiscano nelle mani di stati autoritari. Parallelamente, servono leggi sulla trasparenza e un coordinamento industriale a livello globale.
Anthropic ha pubblicato una Costituzione per Claude contenente i principi per lo sviluppo etico del modello
Attraverso la pubblicazione di una Costituzione per Claude Anthropic ha…
