Se Omero diventa un deep fake
La lettura procede sempre più spesso in uno spazio ibrido, dove la parola umana incontra quella sintetica. Cosa succede quando l’autore è un algoritmo? Siamo forse alle soglie di una nuova forma di dialogo.
[Articolo in origine pubblicato su PreText, 11, ottobre 2019]
Sappiamo quanto intensa, esclusiva e coinvolgente — per non dire sconvolgente — possa rivelarsi la relazione che il lettore instaura con il libro. Una relazione così intima da essere vissuta alla stregua di una peculiare forma di amicizia. «Leggere è come parlare con un amico» scrive Roberto Bolaño in 2666. Per Virginia Woolf scrittore e lettore si rendono addirittura «complici» l’uno dell’altro (Come leggere un libro). Mentre il famoso epigramma riportato da Possidio in chiusura della sua Vita di Sant’Agostino celebra l’immortalità dell’autore, la cui voce continua a vivere in quella del lettore:
Vuoi sapere, viandante, se il poeta vive dopo la morte? Tu leggi, ed ecco io parlo: la tua voce è la mia.
La virtù delle grandi amicizie
Siamo portati a ritenere che una simile intimità si manifesti in particolare quando facciamo esperienza della scrittura come arte, ossia di quella specifica famiglia di testi o tipi di discorso cui attribuiamo lo status di opere letterarie. Tanto che forse la letteratura si potrebbe definire proprio a partire dalla sua capacità di sollecitare esistenzialmente il lettore, collocandolo in una dimensione alternativa che lo sfida e arricchisce interiormente. La stessa virtù, appunto, che riconosciamo alle grandi amicizie. Peraltro, se mi volgo indietro e penso ai libri che, negli anni della mia formazione, hanno contribuito a fare di me ciò che sono, ponendomi di fronte a un modo nuovo di vedere le cose ed emozionandomi fino alle lacrime, scorgo anche opere non appartenenti alla letteratura. Il mito asburgico nella letteratura austriaca moderna di Claudio Magris, per dire, non è per me “solo” un libro; è realmente un vecchio amico.
Ci sono testi che ci modificano in modo significativo, insomma. In essi vi è depositata una soggettività — quella dell’autore — che entra in risonanza con la nostra soggettività di lettori. I testi veicolano una particolare esperienza dialogica, che potremmo definire in assenza. Uno dei due soggetti, infatti, non è presente. L’autore affida al testo il compito di trasmettere il proprio pensiero, ma è consapevole dell’indeterminatezza in cui colloca il testo stesso, nel momento in cui se ne allontana. Al di là nel testo ci sono solo il congedo e il silenzio dell’autore. E c’è il periglioso lavoro del lettore.
In questo senso vi è una differenza essenziale fra la lettura e l’amicizia. La prima, infatti, presuppone solitudine. Questa prerogativa è segnalata in passo spesso citato di Marcel Proust (Sur la lecture):
La lettura, al contrario della conversazione, consiste per ciascuno di noi nel ricevere comunicazione del pensiero di un altro, ma restando pur sempre solo, ossia continuando a godere della potenza intellettuale che si possiede nella solitudine e che la conversazione dissipa immediatamente.
Un dialogo in solitudine, insomma. C’è un altro (l’autore), ma non è presente. Anche Proust ha in mente l’esperienza letteraria, ma in fondo ogni lettura è la manifestazione di un’assenza. Di tale circostanza si nutriva il pregiudizio di Platone nei confronti della scrittura. Nel momento in cui viene messo in iscritto, il logos «ha sempre bisogno dell’aiuto del padre; esso infatti non è capace di respingere un attacco e di difendersi da sé.» (Fedro).
Se l’altro è un agente artificiale
Siamo abituati all’idea che il linguaggio non sia solo uno strumento di comunicazione, ma anche il fondamento della soggettività. Perché è proprio nella conversione della lingua in discorso che ciascuno di noi ha la possibilità di designarsi come io. Il presupposto di questo dialogo, nel quale il testo si fa discorso, è che l’altro sia un essere umano come noi. Ma che cosa succede se l’altro è una macchina? Più in generale, che cosa succede se uno dei due attori della partita — l’enunciatore (colui che scrive) o l’enunciatario (colui cui è rivolto il testo) — è un agente artificiale?
Oggi la macchina può essere l’attore che scrive. Accade in tutti i casi, sempre più frequenti, in cui ci capita di leggere testi prodotti da software: articoli di giornale, manuali tecnici, traduzioni, ma anche testi di carattere “creativo”. Egualmente la macchina può essere l’attore che legge. Pensiamo ai software che eseguono la scansione delle sentenze dei tribunali, dei lavori scientifici o di altri testi. Insomma, siamo di fronte a una straordinaria e inquietante novità: l’esperienza della lettura che si consuma in uno spazio enunciazionale ibrido. Chi legge — o chi viene letto — non è un essere umano, ma una macchina.
I casi di studio sono sempre più numerosi. Grande impressione ha suscitato, all’inizio del 2019, il rilascio da parte dell’americana OpenAI, del modello GPT-2. Si tratta di un sistema capace di generare testi sostanzialmente indistinguibili da quelli redatti da un autore umano, applicando diversi generi e stili: dagli articoli di attualità ai racconti di finzione. GPT-2 è anche in grado di leggere, seppure in modo per ora rudimentale, così come di tradurre, rispondere a domande e riassumere testi preesistenti. Il tutto senza dover ricevere uno specifico addestramento.
GPT-2 è un modello di NLP basato su transformer, ossia lo stesso tipo di architettura — alternativa a quella delle reti neurali ricorrenti — adottata da BERT di Google (no ho parlato qui).
Rischio fake news
Peraltro, OpenAI ha deciso di non rendere noti dati e parametri del modello. Troppo alto — sostengono i suoi creatori — il rischio di abusi. Immaginiamo l’impatto derivante dalla generazione automatica di fake news, le quali andrebbero ad aggiungersi, su una scala difficilmente controllabile, a quelle che già intossicano l’ecosistema dell’informazione. Tutto ciò non ha impedito ad Adam King, giovane ingegnere canadese, di sviluppare TalkToTransformer, una piattaforma basata sulla stessa tecnologia di OpenAI, in grado di produrre brevi storie, composizioni poetiche e notizie.
Va detto che la redazione robotica di notizie è già una realtà in diversi contesti editoriali. È il caso dell’agenzia Bloomberg, la quale produce ormai in modo automatico o semiautomatico, con il supporto di algoritmi di machine learning, circa un terzo dei propri contenuti di carattere finanziario. Sulla stessa scia si muovono Reuters (con Reuters Tracer) e Associated Press (con Automated Insights). All’inizio del 2019 l’edizione australiana del Guardian ha pubblicato il primo articolo generato dalla piattaforma ReporterMate. Quanto al Washington Post, ha ampliamente usato il robo-reporter Heliograf già nel 2016 per coprire grandi eventi come i giochi olimpici e le elezioni presidenziali americane.
Nel frattempo, nascono tecnologie per la lettura e la sintesi di testi scientifici. Un gruppo di ricercatori dell’MIT ha sviluppato una rete neurale artificiale basata sulla rotazione dei vettori in uno spazio multidimensionale (rotational unit of memory o RUM) in grado di leggere articoli scientifici di grande complessità e di redigere, a valle della lettura, abstract di due o tre frasi in lingua inglese.
A questo punto sembra lecito chiedersi quanto tempo dovremo attendere, prima che l’intelligenza artificiale si dimostri capace di produrre un testo letterario; un testo, cioè, che non si esaurisca nella sua funzione informativa e referenziale, ma agisca sul piano dell’esperienza estetica del mondo. Coi testi “artificiali”, ossia prodotti dalle macchine, istituiremo mai quella particolare forma di amicizia e di complicità che instauriamo con la grande letteratura, la quale ci fa sentire meno soli e più ricchi? In questi termini, la domanda rischia di essere mal posta. La letterarietà di un testo, infatti, non dipende solo dalla sua forma linguistica, ma dall’interazione complessa fra l’intenzione dell’autore e le assunzioni del lettore. Dovremmo semmai domandarci quali siano — appunto — le intenzioni di un autore artificiale.
Esiste una retorica computazionale?
La competenza letteraria del lettore consiste nell’assumere che l’autore stia cercando di dirci qualcosa di rilevante sulla condizione umana, a prescindere dalla maggiore o minore complessità del contenuto proposizionale. Il paradosso di questa esperienza è che l’autore sembra agire per un’urgenza extralinguistica, ma non può evitare di esprimersi linguisticamente. Il testo letterario è un atto generativo, il cui fine comunicativo è il testo stesso. Ciò che si scrive in letteratura è ciò che non potrebbe essere scritto altrimenti. Ma il dispositivo retorico e stilistico del testo letterario è fatto per lasciare una certa indeterminatezza, affinché il lettore possa colmarla con la propria capacità immaginativa.
La lettura è anche fatta di presupposti e aspettative. Se il dialogo è una congiunzione fra due soggetti, il momento dell’attesa, che precede tale congiunzione, è decisivo per definirne lo sviluppo. Viene in mente uno dei personaggi che il protagonista di Se una notte d’inverno un viaggiatore di Italo Calvino incontra nell’XI capitolo del romanzo, il quale così sintetizza le sue attitudini di lettore:
Il momento che più conta per me è quello che precede la lettura. Alle volte è il titolo che basta ad accendere in me il desiderio d’un libro che forse non esiste. Alle volte è l’incipit del libro, le prime fasi…
Quando leggiamo un testo nella consapevolezza che sia stato scritto da una macchina, o viceversa scriviamo un testo assumendo che sarà letto da una macchina, ci collochiamo in una posizione particolare. In entrambe le situazioni siamo guidati dai nostri pregiudizi nei confronti della controparte. Ma i pregiudizi non sono, in quanto tali, un’invariante antropologica. Essi si formano e si disfano a seconda della nostra condizione culturale. Il vecchio studio Dialogue with machines di Alan Kennedy, Alan Wilkes, Leona Elder e Wayne S. Murray, apparso sulla rivista Cognition nel 1988, portava a conclusioni in tal senso significative. Nel dialogo mediato da un terminale l’enunciatore tendeva ad adeguare il proprio discorso, nel presupposto di avere a che fare con una macchina. Per esempio, riduceva la lunghezza delle frasi, sacrificava l’ampiezza dello spettro lessicale, minimizzava l’uso delle anafore pronominali e dei soggetti non espressi.
Allora la macchina ci appariva come un corpo estraneo, al quale sembrava necessario rivolgere un discorso apposito. A distanza di oltre trent’anni, la capacità delle macchine di capirci e parlarci è molto aumentata. Forse si avvicina il momento in cui anche noi aumenteremo la nostra capacità di capire e parlare alle macchine. E di leggere senza pregiudizi ciò che le macchine ci scrivono.