Introdurre maggiori misure di sicurezza per tutelare la salute degli utenti ed evitare gli effetti dannosi dei chatbot o prepararsi ad affrontare potenziali azioni legali. È questa la sintesi di quanto richiesto da un gruppo di procuratori di 42 stati degli Stati Uniti in una lettera, firmata dal National Association of Attorneys General, alle principali aziende di intelligenza artificiale della nazione tra cui Microsoft, OpenAI, Google, Meta, Apple e Anthropic.
“L’intelligenza artificiale generativa ha il potenziale per cambiare in positivo come funziona il mondo, ma ha anche causato – e ha il potenziale per causare – gravi danni, soprattutto alle persone più vulnerabili” si legge nel testo. In particolare il riferimento è a quelle che i procuratori chiamano “sycophantic and delusional outputs”, ovvero risposte “adulanti e deliranti” generate dai chatbot che sono potenzialmente dannose per la salute mentale di tutti gli utenti e in particolare di quelli che presentano delle fragilità psichiche.
Fra le misure concrete richieste dai procuratori da implementare entro metà gennaio 2026, compare quella di introdurre audit indipendenti che consentano a terze parti esperte di valutare il livello di sicurezza prima del rilascio pubblico dei modelli. Ma vengono richieste anche delle nuove procedure di segnalazione trasparenti e test di sicurezza obbligatori con maggiore trasparenza e protezioni specifiche per i minorenni.
Negli Stati Uniti diversi episodi hanno scosso l’opinione pubblica, dall’aumento dei casi di psicosi in soggetti già predisposti in concomitanza dell’uso prolungato di AI, fino alla causa legale che affronta OpenAI per il suicidio di un sedicenne californiano. Nel frattempo l’AI è stata elevata a minaccia per la sicurezza da parte del Dipartimento per la sicurezza interna (DHS) e sul piano politico è in corso un acceso scontro fra stati e governo federale per la regolamentazione della tecnologia.
Per leggere altri articoli su salute psicologica e intelligenza artificiale:
- OpenAI studia i rischi di solitudine e dipendenza causati dall’uso di ChatGPT
- L’intelligenza artificiale può ridurre le capacità cognitive. Chi lo dice? Microsoft
- OpenAI teme che ChatGPT possa insegnare il ghosting e studia i rischi di dipendenza emotiva
- Un’AI ha sventato dei suicidi agendo come “terapista” e “amica”
- Usare parole gentili con le AI ne aumenta l’efficacia
- Lo studio: i ‘loop distruttivi’ tra l’AI e l’uomo
- L’AI “lombrosiana” che prevede l’orientamento politico a partire dal volto
- L’AI generativa ha superato l’uomo nei test sull’intelligenza emotiva
- L’AI è più persuasiva degli esseri umani nei dibattiti online
- OpenAI ha aggiornato ChatGPT per trattare al meglio la salute mentale degli utenti
- Negli Usa sempre più persone si rivolgono alla FTC perchè l’AI amplifica alcune psicosi
- Secondo uno studio di Harvard, alcuni modelli AI sono progettati per manipolare
- Dopo il suicidio di un adolescente, OpenAI aumenterà i propri livelli di sicurezza
USA, Trump annuncia un ordine esecutivo per creare una normativa nazionale unica sull'AI
Lo standard federale è stato richiesto più volte dalla Silicon…
