AI Act a rate, stretta sui deepfake e un attentato a Trump “mai accaduto” | Weekly AI #117

L'AI Act è entrato in vigore nell'Unione europea e verrà applicato a rate, mentre deepfake e allucinazioni fanno crescere le preoccupazioni.
AI Act a rate, stretta sui deepfake e un attentato a Trump “mai accaduto” | Weekly AI #117

Weekly AI news è la rassegna stampa settimanale curata dai nostri editor sui temi più rilevanti legati al mondo dell’intelligenza artificiale.

Il mondo dell’intelligenza artificiale continua a evolversi rapidamente, offrendo un mix di innovazioni entusiasmanti e sfide complesse. Questa settimana, un tentativo di truffa hi-tech ha colpito un alto dirigente della Ferrari, rivelando i rischi crescenti legati all’uso fraudolento dell’AI. Attraverso messaggi WhatsApp e una telefonata con voce deepfake quasi indistinguibile dall’originale, i truffatori hanno cercato di imitare l’amministratore delegato, Benedetto Vigna. Solo alcune sfumature “metalliche” nella voce hanno permesso al dirigente di sventare la truffa, sottolineando la necessità di maggiore vigilanza nell’era digitale. Un compito non agevole, data la sempre più sorprendente verosimiglianza dei contenuti prodotti dall’AI generativa di ultima generazione, ma che anche Google sta cercando di supportare attraverso la rimozione di massa da tutti i siti di immagini segnalate dagli utenti come deepfake.

Mentre le minacce evolvono, anche le grandi aziende tech continuano a innovare. Meta ha presentato AI Studio, una piattaforma rivoluzionaria che permette a chiunque di creare chatbot AI personalizzati senza competenze tecniche. Basata sul modello Llama 3.1, AI Studio offre la possibilità di definire personalità, tono e avatar dei bot, aprendo nuove opportunità per creator e aziende. Tuttavia, l’azienda si trova anche al centro di una controversia riguardante il suo stesso chatbot AI, che ha fornito risposte errate sul tentato omicidio dell’ex presidente Donald Trump, negando che l’evento fosse mai accaduto. Meta ha risposto ai critici spiegando che si è trattato di allucinazioni – molto comuni tra tutti i modelli di linguaggio – dovute alle limitazioni originariamente imposte dall’azienda al chatbot, cui era stato vietato di ‘parlare’ della sparatoria. Ma questo episodio solleva di nuovo importanti questioni sull’affidabilità dell’intelligenza artificiale in vista delle prossime elezioni presidenziali USA, in un periodo in cui sempre più persone si informano attraverso gli strumenti di AI generativa.

E il tentato omicidio di Trump ha generato attriti anche tra Elon Musk e Google. Secondo il tycoon, infatti, anche la società di Mountain View avrebbe volontariamente nascosto i risultati sull’ex presidente e sulla sparatoria per influire più o meno direttamente sulla campagna elettorale.

Guardando in casa Microsoft, le cose vanno molto bene, ma c’è chi si dice deluso dalla performance della società in campo AI. Se da una parte gli utili del quarto trimestre fiscale sono risultati sopra le attese, in crescita del 10% a oltre 22 miliardi di dollari, e i ricavi sono aumentati del 15% a 64,7 miliardi, dall’altra il cloud non entusiasma e delude gli investitori. La divisione Azure ha infatti mostrato una crescita del 29%, un’ascesa più che invidiabile, ma inferiore al 31% del trimestre precedente e più bassa del +30% previsto dagli analisti.

Nel frattempo, la partner OpenAI continua a spingere i confini dell’interazione uomo-macchina con il rilascio limitato della sua Modalità vocale avanzata per ChatGPT. Basata sul modello GPT-4o, questa funzionalità promette conversazioni più fluide e naturali, con una latenza notevolmente ridotta. La capacità di riconoscere sfumature emotive nella voce dell’utente segna un significativo passo avanti nell’intelligenza artificiale conversazionale. In tutto ciò, The Information rivela un’informazione che riguarda entrambe le società: il gigante dei social media TikTok avrebbe speso ben 20 milioni di dollari al mese per ottenere i servizi Azure OpenAI di Microsoft.

Stando sul fronte aziendale, è stato annunciato che Canva, il colosso del design digitale, ha acquisito Leonardo.ai, una startup innovativa nel campo dell’AI generativa. Questa mossa strategica mira a rafforzare le capacità di Canva nell’ambito dell’AI, in particolare per quanto riguarda la sua suite Magic Studio. Con oltre 19 milioni di utenti registrati e più di un miliardo di immagini generate, Leonardo.ai porta con sé un bagaglio di esperienza che promette di rivoluzionare il modo in cui creiamo contenuti visivi.

Tra innovazioni sempre più frequenti, mosse di mercato, rischi emergenti e implicazioni etiche, ieri, giovedì 1° agosto 2024, è entrato ufficialmente in vigore l’AI Act, il regolamento europeo che mira a normare lo sviluppo e l’uso dell’intelligenza artificiale sul territorio europeo. Sicuramente un passo avanti importante, ma l’applicazione della normativa avverrà a rate: tra sei mesi si applicheranno le norme legate ai sistemi di AI il cui utilizzo espone a un “rischio inaccettabile”, quelle sui modelli “a finalità generali” tra 12 mesi e la maggior parte delle norme verrà applicata solo a partire dall’agosto 2026. La vera domanda è: come e quanto evolverà l’intelligenza artificiale da qui a due anni?



Seguici anche sui social!



Ultime news


Agenti AI hanno tentato di hackerare un sito web del governo canadese

Nello specifico, gli agenti hanno cercato di accedere al sito…

OpenAI licenzia tre ricercatori che si occupavano di sicurezza a causa di una fuga di dati riservati

OpenAI ha licenziato tre ricercatori del suo team di sicurezza…

Agenti AI nelle aziende: il 95% dei pilot non genera ritorno economico

Gli agenti AI stanno entrando nei sistemi aziendali senza rimpiazzare…

KPMG stringe accordi con OpenAI e Anthropic per portare l’IA nei flussi aziendali

KPMG ha siglato due alleanze strategiche distinte con OpenAI e…

Privacy policy| Cookie policy| Cookie setting| © 2026

Exit mobile version