La Food and Drug Administration (FDA) statunitense ha da poco aperto all’utilizzo di un modello di intelligenza artificiale interno, ma alcuni membri o ex membri dell’organizzazione sono piuttosto allarmati dai risultati di questa decisione.
Il modello si chiama Elsa ed è stato introdotto dall’organizzazione all’inizio di giugno 2025. Il suo compito principale è quello di assistere i professionisti nel processo di revisione scientifica e apportare una maggiore efficienza operativa. La FDA è infatti quell’organismo che negli Stati Uniti si occupa della tutela della salute pubblica attraverso la regolamentazione e il controllo di alimenti, farmaci, cosmetici, dispositivi medici e altri prodotti.
Di recente, come riporta la Cnn, 6 fra funzionari ed ex funzionari della FDA hanno però lanciato l’allarme sulle prestazioni di Elsa. Secondo le testimonianze, il modello presenta allucinazioni che rischiano di portare all’approvazione di farmaci potenzialmente pericolosi. Spesso, ad esempio, Elsa cita studi inesistenti per giustificare le proprie conclusioni. Le affermazioni non sono state smentite dal responsabile dell’intelligenza artificiale della FDA Jeremy Walsh, che ha però puntualizzato che non esiste alcun obbligo di utilizzo di Elsa per i dipendenti dell’organizzazione.
I modelli AI non avvertono più gli utenti di fare attenzione ai loro consigli medici
Un'indagine evidenzia la progressiva scomparsa dei disclaimer medici dai principali…
