Avvocato americano usa ChatGPT, che cita precedenti fasulli

L'avvocato americano Steven Schwartz ha utilizzato ChatGPT per definire la propria strategia. Le cose non sono andate come sperava.

4 min.

Steven Schwartz, avvocato americano dalla lunga carriera forense, ha utilizzato ChatGPT per definire la propria strategia e per trovare rapidamente precedenti legali – fondamentali in un sistema di common law – nel corso di un procedimento di fronte a un giudice di Manhattan.

Cosa è successo?

Per la ricerca di precedenti che potessero corroborare la sua posizione, il legale si è rivolto al noto chatbot di OpenAI, che gli ha offerto una serie di sentenze apparentemente utili al caso.

Non riuscendo a verificare i casi citati, il giudice chiamato a presiedere l’udienza, Kevin Castel, ha però chiesto all’avvocato di fornire alla corte gli estremi dei casi. Schwartz ha così chiesto nuovamente all’intelligenza artificiale, che gli ha presentato in modo preciso date e numeri delle sentenze e i tribunali che si erano pronunciati.

Il giudice ha così riscontrato la falsità delle informazioni addotte e lo stesso ChatGPT ha poi ammesso di essersi inventato tutto, dicendosi persino dispiaciuto per il disturbo arrecato. Ora l’avvocato rischia importanti sanzioni disciplinari per la sua condotta.

Avvocato americano usa ChatGPT, che cita precedenti fasulli
L’ordinanza del giudice

L’errore di ChatGPT e il mancato controllo dell’avvocato

Il caso mette in luce alcune criticità. In particolare:

  • ChatGPT e simili modelli di linguaggio non hanno sempre ragione. Si tratta infatti di modelli probabilistici, che formulano ‘stringhe’ di parole calcolate probabilisticamente sulla base del training ricevuto. In sostanza, questi modelli vengono addestrati attraverso la ‘lettura’ di una grandissima mole di contenuti testuali, senza comprenderne realmente il significato. I sistemi si limitano così a rispondere completando una frase, un token (sezione di parola) alla volta, con il vocabolo che con maggiore probabilità segue una determinata sequenza di parole.
  • I modelli di linguaggio commettono ancora molti errori fattuali e soffrono delle cosiddette ‘allucinazioni‘. Propongono dunque contenuti che talvolta (non raramente) si rivelano inventati di sana pianta. Le motivazioni sono le più varie.

Cosa sono le allucinazioni dell’AI e come prevenirle?

Nel campo dell’intelligenza artificiale, per allucinazione, si intende una risposta errata, parzialmente o completamente inventata. L’AI può generare risposte di questo tipo per una serie di motivi.

Potrebbe, per esempio, essere stata addestrata su un ristretto numero di contenuti su una determinata materia. Oppure potrebbe avere interpretato male il prompt inserito dall’utente, proponendo dunque risposte distorte a favore delle sue esigenze personali (si pensi all’avvocato di cui sopra, che era alla ricerca di informazioni che potessero sostenere la propria posizione).

Tra le possibili soluzioni, ci sono:

  • la limitazione dei risultati possibili, attraverso l’indicazione della tipologia di risposta desiderata
  • la definizione del contesto con informazioni rilevanti
  • la creazione di un template di risposta, con la struttura che si desidera ottenere
  • l’attribuzione di un ruolo specifico e la richiesta esplicita di non mentire
  • l’esclusione di eventuali risposte non desiderate

Un consiglio di utilizzo

Per quanto simili modelli possano rivelarsi utili nello svolgimento di numerosi compiti, bisogna stare attenti a non fidarsi completamente delle risposte generate. Queste possono essere frutto di allucinazioni o, semplicemente, non essere precise o utili allo scopo.

Si consiglia dunque di verificare sempre la veridicità delle informazioni ottenute utilizzando fonti autorevoli, come indicato dagli stessi fornitori di servizi AI.


Ultime news


Data center nello spazio? Secondo Jeff Bezos è possibile

L'idea promossa da Bezos sta prendendo piede in tutto il…

Google ha lanciato la piattaforma Gemini Enterprise per le aziende

L'applicazione permette ai dipendenti, fra le altre cose, di creare…

L’ex premier britannico Sunak assumerà ruoli di consulenza in Microsoft e Anthropic

Le attività di Sunak saranno fortemente attenzionate da un ente…

L’imperialismo digitale di Israele e altre storie generative | Weekly AI

Weekly AI è la rassegna settimanale di AI news sulle…

In Evidenza


Arriva l’Italian Prompt Battle: il primo torneo italiano di prompting si terrà a Milano

Gli ideatori, Lucia Cenetiempo e Massimiliano Di Blasi, ci raccontano…

Scale AI conferma l’investimento di Meta e l’uscita del CEO Alexandr Wang

La società Scale AI ha confermato l'investimento di Meta e…

I modelli generativi inquinano l’informazione? La nostra intervista a Luciano Floridi | AI Talks #13

La nostra intervista a Luciano Floridi, già professore di filosofia…

L’AI ha fatto divorziare la capacità di agire e l’intelligenza: la nuova umanità secondo Floridi

Luciano Floridi, a teatro, ha esplorato la natura umana, contrapposta,…

Privacy policy| Cookie policy| Cookie setting| © 2025

Exit mobile version