Il GPT Store di OpenAI, la piattaforma nata per ospitare e condividere chatbot personalizzati dagli utenti e basati sui modelli GPT, è stata invasa da spam e contenuti software che potrebbero potenzialmente violare il copyright e le regole della società.
L’allarme è scattato a seguito di un’indagine di TechCrunch, che ha rivelato la presenza di chatbot che, presentandosi come tool generativi di immagini nello stile di Disney e Marvel – tra gli altri -, nascondono in realtà il loro reale obiettivo: fungere da canale verso servizi a pagamento di terze parti. Gli stessi si pubblicizzano inoltre come in grado di aggirare gli strumenti di rilevamento dei contenuti AI, facendo sorgere ulteriori dubbi in merito al problema dei deepfake.
Nonostante OpenAI affermi di utilizzare diversi sistemi di moderazione utili a filtrare simili tool, l’azienda sembra avere concrete difficoltà nel mantenimento di un adeguato controllo sulla qualità dei contenuti presenti nel suo GPT Store. La ‘supervisione’ garantita dalla società potrebbe dunque non essere sufficiente.
