DENTRO L’ALGORITMO – AI e caccia alle streghe

di Raffaele Gaito

Ci sono tre cose avvenute nelle ultime settimane che mi hanno fatto storcere parecchio il naso.
La prima: LinkedIn ha introdotto un pulsante che permette di segnalare un contenuto come “AI slop”, ossia come una cosa di scarsa qualità prodotta con l’intelligenza artificiale.

La seconda: Substack ha lanciato Pangram, un sistema che analizza un contenuto e restituisce una percentuale sulla probabilità che sia stato scritto con l’AI.

La terza: Anthropic ha annunciato l’introduzione di watermark nei contenuti prodotti con i propri modelli, a partire da Claude.

Questi fatti, messi insieme, raccontano una direzione che trovo non solo sbagliata, ma anche pericolosa: quella della caccia alle streghe nei confronti di chi usa l’intelligenza artificiale. Un tema che mi sta molto a cuore, che ho affrontato in un recente contenuto pubblicato sul mio canale YouTube.

Il problema non è scoprire chi usa l’AI

Partiamo da una cosa che può sembrare controintuitiva, soprattutto considerando il mio lavoro. Io insegno a usare con consapevolezza l’intelligenza artificiale e continuo a pensare che sia una tecnologia straordinaria, soprattutto quando la utilizziamo come punto di partenza e non come punto di arrivo. L’AI deve aiutarci a pensare, esplorare, verificare, sperimentare, produrre, non certo servirci per spegnere il cervello e delegare tutto.

Per questo non ho nessun problema con l’idea di discutere della qualità dei contenuti prodotti con l’AI, al contrario, è necessario farlo.

Il problema nasce quando iniziamo a considerare l’utilizzo dell’AI come una colpa da smascherare, ovvero quando il dibattito si sposta dal “questo contenuto è valido?” al “questo contenuto è stato prodotto con l’AI?”. Sono due domande molto diverse e la seconda, presa singolarmente, non ci dice quasi nulla sulla prima.

Una domanda interessante: perché ci interessa così tanto?

Recentemente ho letto un bellissimo articolo di Armando Bisogno, filosofo e docente universitario, che mi ha fatto riflettere. La sua osservazione è a mio parere fondamentale: il problema è antropologico prima ancora che tecnologico.

Perché abbiamo questo bisogno quasi ossessivo di scoprire se qualcuno ha utilizzato l’AI? In fondo, non abbiamo mai conosciuto davvero la filiera di produzione di un testo e, soprattutto, non siamo mai stati particolarmente interessati a conoscerla.

Da secoli leggiamo contenuti firmati da una persona senza sapere chi li abbia materialmente scritti: esiste il ghost writing, esistono le redazioni, gli editor, i collaboratori, i traduttori. Esistono persone che preparano discorsi che poi qualcun altro pronuncia. Per anni abbiamo accettato tutto questo senza particolari problemi. Un politico può pronunciare un discorso che non ha materialmente scritto, un manager può firmare un articolo preparato da un collaboratore, un accademico può pubblicare un paper scritto insieme a un’intera équipe. Nessuno si è mai messo sistematicamente a chiedere: “Scusa, ma chi ha premuto i tasti?”.

L’AI ha democratizzato la delega

Allora qual è la differenza? Secondo me ce n’è una, enorme, ovvero che l’AI ha democratizzato la delega. La scrittura delegata è sempre esistita, ma spesso era invisibile, costosa e riservata a poche persone. Oggi, grazie alla tecnologia, chiunque può farlo ed è proprio questo aspetto che ci mette a disagio, per il fatto che l’AI ha reso evidente qualcosa che preferivamo non vedere, non certo perché ha inventato qualcosa di completamente nuovo.

La scrittura non è mai stata infatti quel processo puro, individuale e quasi sacro che oggi qualcuno vorrebbe difendere, è invece sempre stata caratterizzata da mediazioni e deleghe.

Gli amanuensi e i copisti hanno contribuito alla trasmissione dei testi per secoli, gli autori hanno lavorato con collaboratori ed editor, il concetto stesso di autore individuale, così come lo intendiamo oggi, è molto più recente di quanto immaginiamo.

L’AI non ha inventato la scrittura a più mani, ha semplicemente reso impossibile continuare a ignorarla.

Il bollino “prodotto da un essere umano” non garantisce niente

C’è poi un’altra riflessione che mi ha colpito in queste ultime settimane, in questo caso di Andrea Camerino, consulente di comunicazione e giornalista. La domanda che si è posto è semplice: perché il valore di un testo dovrebbe dipendere dal modo in cui è stato prodotto e non da ciò che riesce a generare nella testa di chi lo legge? È una domanda che trovo difficilissima da contestare. Quando leggo qualcosa, infatti, voglio che mi faccia pensare, che mi insegni qualcosa, che mi emozioni, mi faccia arrabbiare, mi convinca o magari mi faccia cambiare idea. Non mi interessa sapere quanta fatica biologica è stata necessaria per produrla.

Ci sono testi meravigliosi scritti da esseri umani, come del resto ne esiste una quantità enorme di terribili. Lo stesso vale per i libri, i film e le canzoni.

Il bollino “prodotto da un essere umano” non è dunque un bollino di qualità e, soprattutto, non è una garanzia di autenticità.

Confondere l’origine con il valore

Il vero cortocircuito del dibattito attuale è dunque la confusione tra l’origine materiale di un contenuto e l’esperienza che quel contenuto produce in chi lo legge. Un testo può essere stato scritto interamente da un umano e non avere nulla da dire. Al contrario, può essere stato prodotto con il supporto dell’intelligenza artificiale e riuscire invece a mostrare qualcosa che prima non si vedeva.

Quale di questi due aspetti ha più valore? Per me la risposta è abbastanza semplice: il testo che genera qualcosa nel lettore. Se mi dà chiarezza, mi emoziona, mi fa arrabbiare, mi fa sorridere, mi mostra una prospettiva nuova o mi cambia un’opinione, ha fatto esattamente ciò per cui la scrittura esiste. Poco importa se, dall’altra parte, c’era una persona davanti a una tastiera per otto ore oppure una persona che ha lavorato con un modello di AI.

E se iniziassimo a certificare tutto?

Per capire quanto sia assurda la situazione, proviamo a portare questo ragionamento alle estreme conseguenze. Se oggi abbiamo bisogno di un pulsantino che ci dica se un testo è stato scritto con l’AI, allora io ne voglio un altro che mi dica se il testo che sto leggendo è stato scritto davvero dall’autore che lo firma o da un ghost writer, oppure uno che mi dica quanto è farina dell’editor in un libro, quante persone hanno contribuito a una certa ricerca, quante frasi sono state riscritte da un collaboratore. In questo modo, forse, ci renderemmo conto del problema.

Non stiamo improvvisamente scoprendo che la produzione culturale è fatta anche di mediazioni, dato che lo sappiamo da sempre. Stiamo solo diventando ossessionati dalla mediazione quando a farla è una tecnologia che abbiamo appena imparato a conoscere.

La vera responsabilità è di chi firma un testo

Il punto vero è quello della responsabilità, che rimane fondamentale. Se firmo un contenuto, sono responsabile di quello che contiene: informazioni sbagliate, fonti che non ho verificato, conseguenze delle mie parole. Questo vale indipendentemente dal fatto che io abbia scritto tutto da solo, abbia utilizzato un collaboratore, un editor o un sistema di intelligenza artificiale.

L’arrivo dell’AI dovrebbe spingerci proprio in questa direzione: più attenzione alla qualità di un testo, alle fonti, alla correttezza e alla responsabilità di chi lo firma, meno ossessione per la provenienza materiale del testo.

Diffidare di un contenuto e verificarne le fonti è sacrosanto, chiedersi chi lo ha scritto può essere utile, ma pensare che sapere se è stato utilizzato un modello di AI ci permetta automaticamente di stabilirne il valore è un’altra cosa.

L’AI ci sta facendo una domanda su noi stessi

Le grandi rivoluzioni tecnologiche ci costringono spesso a porci domande che riguardano molto più noi stessi che la tecnologia stessa. L’intelligenza artificiale ci sta mostrando quanto fosse fragile il nostro concetto di autorialità, costringendoci a ripensare cosa significa creare, scrivere, essere originali.

La risposta non può essere costruire una gigantesca macchina per smascherare chi utilizza l’AI, perché, così facendo, rischiamo di passare il nostro tempo a cercare le streghe invece di occuparci della cosa che dovrebbe interessarci davvero. Il contenuto è buono, è utile, mi ha fatto pensare, mi ha emozionato? Se la risposta è sì, perché dovrei preoccuparmi prima di tutto di sapere chi o cosa ha premuto i tasti?

Chiedere una certificazione prima di concederci il diritto di apprezzare qualcosa significa aver completamente rovesciato le nostre priorità. E la storia delle cacce alle streghe ci ha insegnato che quando le streghe non le trovi, prima o poi inizi a inventarle.