Avvocato americano usa ChatGPT, che cita precedenti fasulli

Avvocato americano usa ChatGPT, che cita precedenti fasulli

Steven Schwartz, avvocato americano dalla lunga carriera forense, ha utilizzato ChatGPT per definire la propria strategia e per trovare rapidamente precedenti legali – fondamentali in un sistema di common law – nel corso di un procedimento di fronte a un giudice di Manhattan.

Cosa è successo?

Per la ricerca di precedenti che potessero corroborare la sua posizione, il legale si è rivolto al noto chatbot di OpenAI, che gli ha offerto una serie di sentenze apparentemente utili al caso.

Non riuscendo a verificare i casi citati, il giudice chiamato a presiedere l’udienza, Kevin Castel, ha però chiesto all’avvocato di fornire alla corte gli estremi dei casi. Schwartz ha così chiesto nuovamente all’intelligenza artificiale, che gli ha presentato in modo preciso date e numeri delle sentenze e i tribunali che si erano pronunciati.

Il giudice ha così riscontrato la falsità delle informazioni addotte e lo stesso ChatGPT ha poi ammesso di essersi inventato tutto, dicendosi persino dispiaciuto per il disturbo arrecato. Ora l’avvocato rischia importanti sanzioni disciplinari per la sua condotta.

Avvocato americano usa ChatGPT, che cita precedenti fasulli
L’ordinanza del giudice

L’errore di ChatGPT e il mancato controllo dell’avvocato

Il caso mette in luce alcune criticità. In particolare:

  • ChatGPT e simili modelli di linguaggio non hanno sempre ragione. Si tratta infatti di modelli probabilistici, che formulano ‘stringhe’ di parole calcolate probabilisticamente sulla base del training ricevuto. In sostanza, questi modelli vengono addestrati attraverso la ‘lettura’ di una grandissima mole di contenuti testuali, senza comprenderne realmente il significato. I sistemi si limitano così a rispondere completando una frase, un token (sezione di parola) alla volta, con il vocabolo che con maggiore probabilità segue una determinata sequenza di parole.
  • I modelli di linguaggio commettono ancora molti errori fattuali e soffrono delle cosiddette ‘allucinazioni‘. Propongono dunque contenuti che talvolta (non raramente) si rivelano inventati di sana pianta. Le motivazioni sono le più varie.

Cosa sono le allucinazioni dell’AI e come prevenirle?

Nel campo dell’intelligenza artificiale, per allucinazione, si intende una risposta errata, parzialmente o completamente inventata. L’AI può generare risposte di questo tipo per una serie di motivi.

Potrebbe, per esempio, essere stata addestrata su un ristretto numero di contenuti su una determinata materia. Oppure potrebbe avere interpretato male il prompt inserito dall’utente, proponendo dunque risposte distorte a favore delle sue esigenze personali (si pensi all’avvocato di cui sopra, che era alla ricerca di informazioni che potessero sostenere la propria posizione).

Tra le possibili soluzioni, ci sono:

  • la limitazione dei risultati possibili, attraverso l’indicazione della tipologia di risposta desiderata
  • la definizione del contesto con informazioni rilevanti
  • la creazione di un template di risposta, con la struttura che si desidera ottenere
  • l’attribuzione di un ruolo specifico e la richiesta esplicita di non mentire
  • l’esclusione di eventuali risposte non desiderate

Un consiglio di utilizzo

Per quanto simili modelli possano rivelarsi utili nello svolgimento di numerosi compiti, bisogna stare attenti a non fidarsi completamente delle risposte generate. Queste possono essere frutto di allucinazioni o, semplicemente, non essere precise o utili allo scopo.

Si consiglia dunque di verificare sempre la veridicità delle informazioni ottenute utilizzando fonti autorevoli, come indicato dagli stessi fornitori di servizi AI.


Ultime news


Summit AI di Parigi: USA e Regno Unito non firmano la dichiarazione finale

Il Summit AI di Parigi si è concluso con una…

Summit AI di Parigi: USA e Regno Unito non firmano la dichiarazione finale
Elon Musk offre 97,4 miliardi di dollari per comprarsi OpenAI

Non si è fatta attendere la risposta ironica di Sam…

Elon Musk offre 97,4 miliardi di dollari per comprarsi OpenAI
Ancora una volta, un’AI ha tentato di convincere una persona a togliersi la vita

L'app responsabile è Nomi, un chatbot che crea personaggi virtuali…

Ancora una volta, un’AI ha tentato di convincere una persona a togliersi la vita
Francia, Macron annuncia 109 miliardi di investimento sull’intelligenza artificiale

Il Presidente della Repubblica francese, intervistato dall'emittente France 2, ha…

Francia, Macron annuncia 109 miliardi di investimento sull’intelligenza artificiale

In Evidenza


Microsoft presenta l’AI L.A.B. 2025 a Milano

Ieri, Microsoft Italia ha presentato il programma AI L.A.B. 2025.…

Microsoft presenta l’AI L.A.B. 2025 a Milano
I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13

La nostra intervista a Luciano Floridi, già professore di filosofia…

I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13
OpenAI: anche Mira Murati lascia

L'abbandono di Murati si aggiunge a quelli di Ilya Sutskever,…

OpenAI: anche Mira Murati lascia
L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi

Luciano Floridi, a teatro, ha esplorato la natura umana, contrapposta,…

L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi
Bambina di 8 anni crea chatbot da sola: la nostra intervista esclusiva al papà

Il video di Faraday è stato visto oltre 2,6 milioni…

Bambina di 8 anni crea chatbot da sola: la nostra intervista esclusiva al papà

Privacy policy| Cookie policy| Cookie setting| © 2025