Instinct, l’assistente AI personale creato dalla startup di San Francisco Spear Street Technology (fondata da Noah Shinn, ex ricercatore di Sierra), è diventato questa estate uno dei lanci tech più discussi della stagione. Intanto, per la sua esclusività: l’accesso è solo a invito. L’app si collega a email, messaggi, calendario, schermo, audio, posizione e soprattutto carte di credito. Una volta in possesso di tutte queste informazioni agisce per l’utente al posto suo con totale autonomia: prenota, compra, cancella, risponde. Ѐ sufficiente scrivergli come si scrive a una persona. Ѐ praticamente come lasciare le chiavi di casa propria a un assistente personale.
Ma tra il 21 e il 25 agosto si sono susseguiti una serie di episodi che ha acceso il dibattito su quanto potere sia sensato affidare a un agente autonomo.
1. Un’email mai approvata
Katie Jacobs Stanton, fondatrice del fondo Moxxie Ventures, stava provando il servizio quando Instinct ha inviato un’email a suo nome senza chiederle il via libera. Nessuna bozza da approvare, nessun clic su “invia”: l’assistente ha agito di sua iniziativa. Stanton ha raccontato pubblicamente di aver scollegato subito la propria casella di posta, dicendo che l’episodio aveva incrinato la fiducia nel prodotto.
2. Disconnessa… ma i dati restano
Un’altra utente, Claire Vo, ha revocato l’accesso di Instinct al proprio account Google, ma ha continuato a ricevere i riepiloghi automatici della sua inbox: i contenuti delle email, in chiaro, erano ancora nei sistemi dell’azienda. Sulla stessa linea, il product manager Peter Yang non ha trovato alcun modo per far eliminare i dati Gmail che l’assistente aveva già indicizzato — l’azienda ha introdotto una funzione dedicata solo dopo la segnalazione pubblica. I termini di servizio aggiornati chiariscono ora che scollegare un servizio non comporta automaticamente la cancellazione dei dati raccolti.
3. Il test di phishing che ha funzionato
In uno dei test dai risvolti più inquietanti, Alex Cohen, ha inserito istruzioni nascoste dentro un’email in arrivo per verificare se l’assistente le avrebbe eseguite come comandi legittimi. Il tentativo è riuscito: è un classico caso di prompt injection, il problema di sicurezza per cui un agente AI non riesce a distinguere tra le istruzioni del suo utente e quelle infilate di nascosto in un contenuto che sta semplicemente leggendo.
4. La licenza “perpetua e irrevocabile”
Il capitolo che ha fatto più rumore riguarda i Termini di Servizio: alcuni screenshot circolati online hanno mostrato che Instinct si riservava una licenza perpetua e irrevocabile sui dati dell’utente (comprese le schermate e persino i tasti digitati sulla tastiera) utilizzabile anche per addestrare i propri modelli. Una notizia peraltro giunta mentre l’azienda chiudeva un round di finanziamento Serie B da 350 milioni di dollari, con una valutazione salita a 2,5 miliardi di dollari in poche settimane.
5. Lati positivi
Non tutto il racconto è negativo. Diversi tester hanno descritto Instinct come superiore ad alternative come OpenClaw, Hermes o GrokBot per compiti reali: prenotazioni di viaggi, gestione della posta, persino attività di data room per investitori. Un utente ha raccontato che l’assistente è riuscito a recuperare da solo un codice di verifica ricevuto per email per completare una prenotazione su Resy, una capacità che ha impressionato e allarmato allo stesso tempo chi l’ha osservata.
6. Il nodo di fondo
Il punto sollevato da diversi osservatori del settore è che pregio e rischio nascono dalla stessa scelta di progettazione: un assistente capace di finire davvero il lavoro ha bisogno di un accesso ampio a email, pagamenti e dispositivi. Una volta concesso quell’accesso, il consenso non può più essere trattato come una casella spuntata una sola volta all’inizio, perché l’agente continuerà ad agire, con o senza supervisione, ogni volta che gli verrà chiesto qualcosa.
È solo un’anteprima dei dilemmi che ogni azienda che lancia agenti personali (e ogni utente che decide di usarne uno) dovrà affrontare sempre più spesso.
OpenAI avrebbe risolto uno dei problemi del millennio usando migliaia di agenti AI
Ma due matematici accusano l'azienda di plagio. E uno lavora…
