L’Antitrust italiana ha chiuso tre indagini contro altrettante aziende di intelligenza artificiale generativa, imponendo loro regole più chiare sulla trasparenza verso gli utenti. Le società coinvolte sono DeepSeek (Cina), Mistral AI (Francia) e Nova AI, il chatbot che funziona su più piattaforme della turca Scaleup Yazilim.
Le istruttorie si sono concluse il 30 aprile con l’accoglimento degli impegni presentati dalle aziende, senza che venisse formalmente accertata alcuna infrazione. Al centro della questione, il fenomeno delle cosiddette “allucinazioni” dell’AI, cioè risposte generate dalla macchine che, pur apparendo coerenti e plausibili, contengono informazioni errate, fuorvianti o completamente inventate.
Le società hanno assunto specifici obblighi per rafforzare la trasparenza informativa, intervenendo sui canali di fruizione dei servizi, siti internet e app, e nelle varie fasi del processo che precede l’acquisto o la registrazione. Sono stati introdotti inoltre degli avvisi permanenti nelle interfacce di utilizzo, sotto le finestre di chat, che avvertono in lingua italiana della presenza delle allucinazioni, anche con link dedicati per approfondire. DeepSeek si è impegnata anche a tradurre integralmente in italiano i termini di utilizzo del servizio, finora disponibili solo in inglese, e a inserire un banner permanente nella pagina di primo accesso con messaggi del tipo “Contenuto generato da AI. Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze”.
L’AGCM ha tracciato una linea di congiunzione tra tutela del consumatore e AI, evidenziando che omettere informazioni sui rischi dell’AI generativa compromette la capacità degli utenti di fare scelte consapevoli, configurando così una pratica commerciale scorretta. DeepSeek ha previsto anche un investimento tecnologico per mitigare il fenomeno delle allucinazioni, pur riconoscendo che, nell’attuale stato della tecnologia, non sia possibile eliminarle completamente. Si tratta di un precedente importante, in attesa che l’AI Act europeo entri pienamente in vigore con i suoi obblighi di trasparenza per tutti i fornitori di sistemi di AI.
Più i modelli AI sono potenti, più sembrerebbero inclini alle allucinazioni
Tra i molti esempi, o4-mini mostrerebbe un tasso di allucinazione…
