OpenAI ha annunciato che investirà in una startup che ha l’obiettivo di impedire ad utenti malintenzionati di utilizzare l’intelligenza artificiale per creare armi biologiche. La società si chiama Red Queen Bio e nel round di finanziamento iniziale, in cui OpenAI è stato il principale finanziatore, ha ottenuto 15 milioni di dollari.
Red Queen Bio si presenta come “un’azienda di biosicurezza basata su AI” e la sua missione è quella di produrre degli strumenti di difesa “alla stessa velocità” con cui si riproducono i rischi biologici generati dall’avanzare dall’AI. Red Queen Bio nasce da Helix Nano, un’azienda di terapie a mRNA che fa ampio utilizzo di AI per la progettazione di farmaci. In passato Helix Nano aveva già collaborato con OpenAI per creare dei test con cui stabilire il livello di rischio biologico effettivo derivante dall’uso di AI.
Non è la prima occasione in cui la società creatrice di ChatGPT manifesta apertamente un timore del genere, e in un post sul blog aziendale nel giugno scorso la società ne aveva parlato apertamente. OpenAI sta investendo in diverse startup che lavorano per contenere i rischi connessi all’AI. Il mese scorso l’azienda ha finanziato Valthos, una startup di software per la biosicurezza con sede a New York. Jason Kwon, Chief Strategy Officer di OpenAI, ha dichiarato che l’obiettivo dell’azienda è quello di “aumentare la resilienza complessiva dell’intero ecosistema”.
OpenAI ha simulato la creazione di armi batteriologiche con ChatGPT: "Come il web"
Con uno studio, OpenAI ha stabilito che il rischio di…
