Dopo la strage di Tumbler Ridge, OpenAI ha annunciato una serie di misure straordinarie per rafforzare la sicurezza delle sue piattaforme e prevenire futuri abusi. L’azienda, sotto pressione dopo aver bannato l’account di Jesse Van Rootselaar otto mesi prima della sparatoria senza avvisare le autorità, ha deciso di istituire un punto di contatto diretto con la polizia canadese e di potenziare i sistemi di rilevamento delle attitudini violente ripetute. L’obiettivo è accelerare la segnalazione di casi a rischio e migliorare la collaborazione con le forze dell’ordine, anche in assenza di un “rischio imminente e credibile”.
Le nuove regole prevedono anche una revisione immediata dei protocolli interni. L’azienda si è impegnata a condividere con le autorità canadesi informazioni su utenti che manifestano comportamenti violenti, anche quando non si configura necessariamente un pericolo concreto. “Non possiamo permetterci di ignorare segnali che, oggi, sappiamo essere critici”, ha dichiarato un portavoce dell’azienda. Il governo canadese, che aveva definito “deludente” il precedente incontro con i vertici di OpenAI, ha poi richiesto misure concrete entro poche settimane, minacciando azioni normative se le risposte non fossero state soddisfacenti.
Gli esperti sottolineano come questa svolta possa rappresentare un cambio di paradigma per il settore. Da un lato la necessità di tutelare la privacy degli utenti, dall’altro l’urgenza di prevenire tragedie come quella di Tumbler Ridge. OpenAI ha già avviato una collaborazione con la Royal Canadian Mounted Police per analizzare i dati storici e migliorare i filtri anti-abuso, ma la strada per riconquistare la fiducia delle istituzioni e del pubblico resta in salita.
OpenAI ha dichiarato che da ora, se vuole, potrà inviare le tue conversazioni con ChatGPT alla polizia
Solo in alcuni casi ovviamente: ma un'evoluzione sistemica di tale…
