La Corte Suprema del New Mexico ha recentemente emesso una sentenza che ha scosso il mondo legale e quello dell’AI. Secondo quanto riportato da Reuters, un avvocato ha presentato in tribunale testimonianze di polizia inventate da ChatGPT durante un appello per un caso di omicidio. La corte ha definito la vicenda come un “lapsus” da parte dell’avvocato, ma l’episodio ha sollevato interrogativi profondi sull’affidabilità degli strumenti di AI nel contesto giudiziario. La Corte ha sottolineato come l’uso di ChatGPT abbia portato alla creazione di prove false, un fatto che rischia di minare la credibilità non solo dell’avvocato, ma dell’intero sistema legale.
Questo non è il primo episodio in cui l’AI viene utilizzata in modo improprio nei procedimenti giudiziari, ma è uno dei più gravi. Secondo fonti giudiziarie, l’avvocato coinvolto avrebbe utilizzato ChatGPT per generare testimonianze e documenti, senza verificarne l’autenticità. La corte ha rilevato che le testimonianze inventate includevano dettagli completamente fasulli, come nomi di testimoni e resoconti di interrogatori mai avvenuti. La sentenza ha messo in luce una problematica che molti esperti del settore stavano già sottolineando da tempo la necessità di regolamentare l’uso dell’AI nei contesti legali, dove la precisione e la veridicità delle informazioni sono fondamentali.
Il caso ha scatenato un dibattito acceso tra giuristi e sviluppatori di AI. Secondo il professor Lawrence Lessig, docente di diritto a Harvard, “l’episodio dimostra quanto sia pericoloso affidarsi ciecamente a strumenti di AI senza un controllo umano adeguato”. Lessig ha aggiunto che “la giustizia non può permettersi errori di questo tipo, che rischiano di compromettere non solo singoli casi, ma la fiducia stessa nel sistema giudiziario”. Anche l’American Bar Association ha commentato la vicenda, sottolineando la necessità di linee guida chiare sull’uso dell’AI nel settore legale. Gli esperti concordano sul fatto che, pur essendo l’AI uno strumento potente, il suo utilizzo deve essere sempre supervisionato da professionisti del settore.
La sentenza della Corte Suprema del New Mexico potrebbe segnare un punto di svolta. Secondo quanto riportato da fonti giudiziarie, la corte ha invitato gli avvocati a essere più cauti nell’utilizzo di strumenti di AI, sottolineando che la responsabilità delle prove presentate in tribunale ricade sempre sull’uomo, non sulla macchina. Questo caso potrebbe portare a una revisione delle procedure legali, con l’introduzione di controlli più stringenti sull’uso dell’AI nei procedimenti giudiziari. Gli esperti del settore ritengono che, se non gestito correttamente, l’uso dell’AI potrebbe minare la fiducia dei cittadini nel sistema giudiziario, soprattutto in un’epoca in cui la tecnologia sta diventando sempre più pervasiva.
L’episodio del New Mexico non riguarda solo il mondo legale, ma tutti coloro che utilizzano strumenti di AI nella loro vita professionale o personale. Secondo un report pubblicato recentemente dal MIT, molti utenti tendono a fidarsi eccessivamente delle risposte generate dall’AI, senza verificarne la correttezza. Questo caso è un chiaro esempio di come l’AI possa produrre informazioni fuorvianti o addirittura false, soprattutto quando viene utilizzata per generare contenuti complessi come testimonianze o documenti legali. Gli esperti consigliano di utilizzare sempre l’AI come supporto, ma di affidarsi al giudizio umano per la verifica finale delle informazioni.
La vicenda ha riacceso il dibattito sulla necessità di regolamentare l’uso dell’AI in contesti ad alto rischio, come quello giudiziario. Secondo fonti governative statunitensi, alcune amministrazioni stanno già lavorando a linee guida che potrebbero limitare l’uso dell’AI nei tribunali, almeno fino a quando non saranno disponibili strumenti più affidabili e sicuri. Il caso del New Mexico potrebbe quindi diventare un precedente importante per future decisioni legislative. Nel frattempo, la Corte Suprema ha invitato gli avvocati a essere più prudenti, ricordando che la giustizia non può permettersi errori causati da strumenti tecnologici non verificati.
Ciò che dici all'AI può diventare materiale processuale: la decisione di un giudice negli USA
Secondo il giudice un'AI non può essere equiparata ad un…
