Meta ha appena presentato Muse Image, il suo nuovo modello per generare immagini con l’intelligenza artificiale, accompagnato da uno strumento di rilevamento basato su un watermark invisibile chiamato Content Seal. Secondo l’azienda, questo sistema avrebbe dovuto resistere a modifiche come ritaglio, compressione o ridimensionamento, garantendo che le immagini generate dall’AI potessero essere sempre identificate. Tuttavia, un’analisi di Reuters ha smontato questa promessa.
Su 40 immagini generate da Muse Image, lo strumento di Meta ha correttamente identificato tutte le originali come create dall’AI. Ma quando le stesse immagini sono state ritagliate, riducendole a un terzo o la metà delle dimensioni originali, il detector ha fallito nel riconoscere il 55% dei casi. Un dato che metterebbe in discussione l’efficacia del sistema in scenari reali, dove le immagini subiscono spesso modifiche prima di essere condivise online.
Siwei Lyu, professore di informatica alla State University of New York a Buffalo ed esperto di forensica delle immagini AI, ha spiegato che i sistemi basati su watermark possono essere molto efficaci se il segnale rimane intatto, ma modifiche come ritaglio, compressione o editing pesante possono indebolirlo o rimuoverlo del tutto. Meta ha risposto che lo strumento è ancora in fase di anteprima, ma il risultato solleva dubbi sulla sua affidabilità in un contesto in cui la disinformazione e i deepfake sono sempre più diffusi.
Non è un problema solo di Meta. Anche Google e OpenAI hanno ammeso che i loro strumenti di rilevamento non sono infallibili contro le tecniche di alterazione delle immagini. Sarah Barrington, ricercatrice di AI all’Università di Berkeley, ha sottolineato che anche un tasso di successo del 90% sarebbe un miglioramento significativo rispetto allo 0%, ma la strada per una soluzione definitiva è ancora lunga.
Il caso solleva una domanda fondamentale: se persino i giganti della tecnologia faticano a tracciare le proprie creazioni, come possiamo fidarci degli strumenti che dovrebbero proteggerci dalla disinformazione? La risposta, per ora, sembra essere che la tecnologia dei watermark è solo uno strato di difesa in un sistema molto più complesso.
Meta verso la produzione di un chip AI proprietario a settembre: l'azienda vuole raddoppiare la capacità di calcolo
Il chip Iris, dedicato ai data center, fa parte di…
