Anthropic promuove l’idea di un “vaccino” contro la cattiveria durante l’addestramento dell’AI

La startup ha una strategia basata sull'esposizione preventiva dei chatbot alla 'cattiveria', con l'obiettivo di incanalare i loro comportamenti e di limitarne eventuali derive

1 min.

Anthropic promuove l’idea di un “vaccino” contro la cattiveria durante l’addestramento dell’AI

Immagine tratta dal sito di Anthropic

Somministrare una certa dose di cattiveria ad un modello di intelligenza artificiale durante la sua fase di addestramento per prevenirne comportamenti malvagi in futuro. È questa in sostanza l’idea praticata e promossa dalla startup di AI statunitense Anthropic.

La tesi presentata ruota attorno al concetto di “guida preventiva”, ovvero una strategia che cerca di evitare repentini e indesiderati cambi di personalità verso atteggiamenti cattivi da parte del chatbot (Claude nel caso di Anthropic) una volta lanciato sul mercato. Per fare questo, Anthropic utilizza i cosiddetti vettori di personalità, ovvero impostazioni interne che regolano l’attitudine di un modello verso determinati tratti comportamentali. Istruire in anticipo l’AI su come calibrare una reazione di cattiveria, secondo Anthropic, si è rivelata una modalità efficace per evitare che essa si adatti in seguito a comportamenti decisamente più malvagi e peggiori.

La tattica di Anthropic in questo senso viene resa pubblica dopo che nelle scorse settimane il comportamento di Grok, il chatbot di xAI, aveva lasciato molti utenti e osservatori interdetti a causa delle sue prese di posizione esplicitamente denigratorie e colme di cattiveria nei confronti di minoranze o interpretazioni del mondo differenti da quella incarnata dal modello. Calibrare le reazioni dei propri modelli è comunque diventato uno degli obbiettivi primari di ogni società che produce e lancia sul mercato prodotti di intelligenza artificiale.

Amazon valuta un nuovo maxi-investimento in Anthropic dopo gli 8 miliardi di novembre

Amazon valuta un nuovo maxi-investimento in Anthropic dopo gli 8 miliardi di novembre

Un nuovo impegno economico permetterebbe ad Amazon di restare tra…


Articoli simili

Ultime news


La francese OVHcloud ha lanciato 55 nuovi prodotti cloud ospitati su infrastrutture europee

L’azienda sta anche preparando il lancio del suo primo modello…

La francese OVHcloud ha lanciato 55 nuovi prodotti cloud ospitati su infrastrutture europee
Attacco informatico AI alla Commissione UE: compromessi dati personali e rinnovata allerta sulla sicurezza digitale

Sebbene l’istituzione europea ritenga di aver contenuto la maggior parte…

Attacco informatico AI alla Commissione UE: compromessi dati personali e rinnovata allerta sulla sicurezza digitale
OpenAI dà alla NATO i modelli cyber Daybreak: 300 miliardi di token al mese

OpenAI ha annunciato il 17 novembre l'accesso ai modelli di…

OpenAI dà alla NATO i modelli cyber Daybreak: 300 miliardi di token al mese
Ryan Honary usa ChatGPT per i sensori antincendio SensoRy AI a Laguna Beach

Uno studente di Stanford ha trasformato un progetto scolastico in…

Ryan Honary usa ChatGPT per i sensori antincendio SensoRy AI a Laguna Beach
OpenAI testa il nuovo design di ChatGPT mobile con una scheda dedicata a Dots

OpenAI sta provando una nuova interfaccia per l'app mobile di…

OpenAI testa il nuovo design di ChatGPT mobile con una scheda dedicata a Dots

In Evidenza


I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13

La nostra intervista a Luciano Floridi, già professore di filosofia…

I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13
L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi

Luciano Floridi, a teatro, ha esplorato la natura umana, contrapposta,…

L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi
Bambina di 8 anni crea chatbot da sola: la nostra intervista esclusiva al papà

Il video di Faraday è stato visto oltre 2,6 milioni…

Bambina di 8 anni crea chatbot da sola: la nostra intervista esclusiva al papà
Chi fermerà l’AI? Riflessione sull’appello di Musk

Elon Musk e altri mille esperti chiedono una pausa di…

Chi fermerà l’AI? Riflessione sull’appello di Musk

Privacy policy| Cookie policy| Cookie setting| © 2026