OpenAI si prepara a introdurre una filigrana invisibile nei testi generati da ChatGPT e Codex nell’Unione europea. Il sistema, chiamato textGrain, sarà applicato nelle prossime settimane agli output testuali idonei e riguarderà tutti i piani di ChatGPT. L’annuncio arriva in risposta agli obblighi di trasparenza previsti dall’AI Act europeo, entrati in applicazione il 2 agosto 2026. La normativa stabilisce che i contenuti generati da sistemi di AI debbano essere contrassegnati in un formato leggibile dalle macchine e riconoscibile come artificiale. Non si tratta però di un’etichetta visibile accanto al testo e nemmeno di una scritta del tipo “generato da ChatGPT”. La firma sarà incorporata direttamente nel modo in cui il modello costruisce le frasi, con l’obiettivo di permettere a un sistema di rilevamento di riconoscerne la provenienza.
Il funzionamento è meno spettacolare di quanto possa suggerire l’espressione “filigrana invisibile”, ma tecnicamente interessante. Quando ChatGPT genera una frase, il modello sceglie ogni volta tra diverse parole o parti di parole possibili. textGrain interviene su queste probabilità introducendo una variazione statistica controllata. Non vengono inseriti caratteri nascosti, spazi invisibili, simboli o punteggiatura particolare. Il segnale nasce invece dall’insieme delle scelte linguistiche compiute dal modello lungo un testo sufficientemente esteso. Un rilevatore dotato della chiave necessaria può quindi cercare quella particolare configurazione e stabilire se il testo contiene una filigrana OpenAI. Secondo l’azienda, il sistema è stato progettato per avere un impatto trascurabile sulla qualità e sulla velocità delle risposte. OpenAI sostiene inoltre che i test effettuati non abbiano mostrato differenze significative nelle prestazioni dei modelli con o senza watermark.
Il provvedimento segna un passaggio importante perché sposta il problema del riconoscimento dei contenuti AI dai tradizionali detector statistici alla provenienza incorporata nel contenuto stesso. Gli strumenti che cercano di stabilire se un testo sia stato scritto da una macchina analizzano infatti il risultato finale e cercano caratteristiche linguistiche ricorrenti. textGrain segue una logica diversa. Il segnale viene inserito mentre il testo viene prodotto e può quindi essere cercato successivamente. È anche la ragione per cui OpenAI considera il proprio sistema più adatto agli obblighi europei. L’azienda ha spiegato che il watermarking testuale è però ancora una tecnologia giovane e con limiti importanti. La presenza di una filigrana non dimostra chi abbia scritto il testo, quanto abbia contribuito una persona o chi ne sia legalmente responsabile. Allo stesso modo, l’assenza del segnale non dimostra che un testo sia stato scritto da un essere umano.
Ed è proprio questo il punto più delicato. Una filigrana non rende automaticamente impossibile modificare o aggirare il riconoscimento. OpenAI ammette che la capacità di individuare il segnale dipende dalla lunghezza del testo, dalla lingua e dalla libertà che il modello ha avuto nella scelta delle parole. Un testo molto breve offre meno materiale su cui cercare il segnale. Anche codice, formule matematiche e risposte estremamente precise sono più difficili da contrassegnare perché lasciano al modello meno alternative linguistiche. La stessa azienda segnala inoltre che una riscrittura sostanziale, una parafrasi o una traduzione possono rendere meno affidabile il rilevamento. Per questo il codice europeo di buone pratiche non richiede il watermarking per output inferiori a 200 token, circa 150 parole in inglese, né per gli spezzoni di codice.
Ci sono poi differenze rilevanti tra le lingue. Nei test pubblicati da OpenAI, condotti su contenuti tradotti nelle 24 lingue ufficiali dell’Unione europea, il tasso di rilevamento non è risultato uniforme. Con un tasso di falsi positivi dell’1%, l’azienda ha indicato una capacità di rilevamento del 69% per lo spagnolo e del 42,2% per il rumeno, mostrando quanto il problema sia ancora complesso in un continente linguisticamente frammentato. OpenAI sostiene di poter modificare la forza del segnale per migliorare il risultato nelle lingue più difficili. Sono numeri che invitano alla cautela, soprattutto se il watermark dovesse essere utilizzato per prendere decisioni delicate su studenti, lavoratori o autori. Un rilevatore non dovrebbe quindi essere considerato una prova definitiva dell’origine di un testo.
La scelta europea potrebbe comunque diventare un precedente. Dal 5 ottobre OpenAI consente ai clienti della propria API in tutto il mondo di attivare volontariamente il watermarking su alcuni modelli, mentre nell’Unione europea la filigrana arriverà progressivamente su ChatGPT e Codex. L’accesso al rilevatore, almeno nella fase iniziale, sarà invece limitato a ricercatori e organizzazioni qualificate. OpenAI ha anche annunciato l’intenzione di rendere textGrain open source, così da permettere a ricercatori e sviluppatori esterni di studiarne il funzionamento e contribuire al miglioramento della tecnologia. È una soluzione che non risolve il problema dell’origine dei testi una volta per tutte, ma indica una direzione precisa. L’Europa sta cercando di costruire un ambiente digitale nel quale i contenuti generati dall’AI possano essere riconosciuti dalle macchine senza dover necessariamente essere marchiati in modo visibile. La vera prova arriverà ora nell’uso quotidiano, quando testi generati, copiati, modificati e riscritti entreranno nei normali flussi di informazione, scuola e lavoro.
Gemini: il watermark visibile diventa opzionale, SynthID resta sempre
Google ha reso facoltativo il watermark visibile sui contenuti generati…
