Le macchine del linguaggio

Non so a quanti dei miei 32 lettori interessi il tema dell'IA generativa. A me, da qualche tempo, molto. Ho deciso quindi di buttarmi su questo interessantissimo saggio di Alfio Ferrara, professore di informatica all'Università degli Studi di Milano, per capire in maniera approfondita cosa sono e come funzionano questi benedetti LLM. 

Il testo è interessantissimo ed esaustivo, anche se alcune parti, specie nella prima metà del libro, le ho trovate piuttosto ostiche (purtroppo non ho una laurea in matematica :-). Ferrara la prende da lontano partendo proprio dall'ABC (ogni lettera, spazio o segno di interpunzione che digitiamo viene rappresentato all'interno del computer come una sequenza di bit, cioè di 0 e 1) per arrivare alla nascita dei primi modelli di generazione del linguaggio che oggi abbiamo sui nostri smartphone.

Uno dei punti principali del testo sta nello smontare una leggenda piuttosto diffusa, quella secondo cui l'IA pensi. No, non pensa, non riflette, non ha alcuna comprensione dei concetti, almeno nel senso in cui intendiamo noi: l'IA calcola e genera parole (in realtà lunghissime sequenza di 0 e 1) correlate le une alle altre secondo parametri meramente statistici e probabilistici. In pratica ChatGPT e tutti gli altri prendono miliardi di testi scritti dagli esseri umani, trasformano le parole in numeri e coordinate geometriche (vettori) e calcolano la probabilità che una parola ne segua un'altra, e quando lo fanno non riflettono sulla risposta e sui concetti che esprimono, si limitano (si fa per dire) a calcolare qual è la parola statisticamente più probabile da inserire dopo quella precedente, basandosi su tutto ciò che hanno letto. 

Se la prima parte del saggio è piuttosto "tecnica", la seconda molto meno. Qui l'autore si profonde in articolate riflessioni etiche e anche filosofiche sul rapporto tra noi e queste macchine; riflessioni inevitabili, dal momento che l'IA è la prima tecnologia creata dall'uomo in grado di imitare la sua caratteristica più sacra: il linguaggio.

A molti l'IA incute qualche timore, ma non esiste alcun motivo razionale per averne. Una nota massima popolare dice che si ha paura di ciò che non si conosce. Nel caso dell'IA generativa non può essere più vera.

Psicologia dell'ossessione per Sinner

Vado un po' controcorrente rispetto al resto del Paese: sono sostanzialmente indifferente all'epopea di Sinner. Non per snobismo o disfattismo. Non saprei dire il motivo, ma ho sempre avuto il medesimo atteggiamento verso altri campioni sportivi (penso ad esempio a Schumacher) che in tempi passati hanno monopolizzato le cronache. Unica eccezione: Alberto Tomba. Forse perché è della mia terra e quindi magari c'entra un po' il campanilismo; o forse perché all'epoca ero molto giovane; boh, vai a capire.

In virtù di quanto sopra, mi sono dilettato a chiedere all'IA una spiegazione sul bisogno ossessivo che abbiamo di miti simbolici o identitari. Ecco cosa mi ha risposto:

Sì, si può spiegare anche psicologicamente — ma più che “ossessione” in senso clinico, parlerei di investimento simbolico collettivo. E non riguarda solo l’Italia: succede spesso quando emerge una figura sportiva percepita come eccezionale, disciplinata e “rappresentativa” di qualcosa che un paese desidera vedere in sé stesso.

Nel caso di Jannik Sinner, ci sono diversi fattori che si sommano.

1. Il bisogno di identificazione collettiva

Le persone tendono a identificarsi con figure che incarnano qualità desiderabili:

controllo emotivo,

successo meritocratico,

disciplina,

sobrietà,

affidabilità.

Sinner viene percepito come l’opposto di molti stereotipi italiani tradizionali: non teatrale, non “furbo”, non mondano. Per alcuni rappresenta una versione più moderna, efficiente e internazionale dell’italiano di successo. Questo crea una forte proiezione collettiva.

2. I miti servono davvero a riempire vuoti

In parte sì. Le società hanno sempre costruito miti civili o sportivi per compensare:

senso di frammentazione,

sfiducia nelle istituzioni,

mancanza di coesione,

frustrazioni economiche o culturali.

Lo sport offre una narrativa semplice:

“Uno di noi ce l’ha fatta.”

E questa narrativa dà sollievo psicologico perché trasforma ansie diffuse in orgoglio condiviso.

In periodi percepiti come incerti o stagnanti, figure come Sinner diventano contenitori simbolici:

speranza,

riscatto,

prestigio internazionale,

idea di eccellenza.

3. In Italia il fenomeno è amplificato

L’Italia ha alcune caratteristiche culturali che intensificano questo meccanismo:

forte cultura del personaggio,

centralità emotiva dei media,

tendenza alla polarizzazione (“genio” o “fallimento”),

bisogno di appartenenza identitaria.

Inoltre l’Italia, rispetto ad altri paesi europei, spesso fatica a costruire fiducia attraverso istituzioni stabili o progetti collettivi di lungo periodo. Quindi il capitale simbolico si concentra molto sulle persone:

campioni,

imprenditori,

artisti,

allenatori,

leader carismatici.

È più facile investire emotivamente in un volto che in un sistema.

4. Sinner funziona perché è “vuoto” nel senso mediatico

Paradossalmente, il suo stile molto controllato permette a tanti di proiettare su di lui ciò che vogliono:

umiltà,

freddezza nordica,

purezza,

professionalità,

rivincita del talento silenzioso.

Non essendo divisivo o iper-esposto, diventa quasi uno “schermo psicologico” collettivo.

5. C’è anche una dinamica contemporanea di fame di eccellenza

Molte persone percepiscono la vita quotidiana come:

caotica,

mediocre,

precaria,

rumorosa.

Vedere qualcuno che appare impeccabile, metodico e vincente produce una forma di compensazione emotiva. Non è solo tifo: è desiderio di ordine, controllo e possibilità.

Quindi sì: il fenomeno può essere letto anche come bisogno di miti che colmino vuoti simbolici o identitari. Però non necessariamente in modo patologico. I miti collettivi sono una funzione normale delle società umane. Cambiano solo gli oggetti: ieri eroi politici o religiosi, oggi spesso celebrità sportive.

La professoressa artificiale di italiano

Qualche giorno fa, chiacchierando con ChatGPT riguardo al romanzo I tre moschettieri, le avevo accennato di aver scritto un post qui sul blog (questo) con alcune mie impressioni. Su sua richiesta gliel'ho poi girato. Il responso è stato molto positivo: secondo lei il post è splendido, molto ben scritto. Tuttavia mi ha suggerito delle migliorie da apportare: 

Il tuo testo è già molto ben scritto. Ti propongo tre micro-ritocchi che migliorano fluidità e incisività senza cambiare nulla del contenuto.

Un po' perplesso, accetto i suggerimenti. Questi:

1. Alleggerire una frase molto lunga (più scorrevolezza)

Frase originale:

“…d'Artagnan è all'occorrenza anche meschino, opportunista, manipolatore, una persona che non si fa troppi scrupoli a usare altre persone, a giocare coi loro sentimenti per perseguire i suoi scopi per quanto nobili possano essere.”

È ottima, ma è molto lunga e con due “persone” vicini.

Versione più fluida:

“…d'Artagnan è all’occorrenza meschino, opportunista, manipolatore: non si fa troppi scrupoli a usare gli altri e a giocare coi loro sentimenti per perseguire i propri scopi, per quanto nobili possano essere.”

Devo ammettere che la versione di ChatGPT è più scorrevole della mia. Secondo suggerimento:

2. Piccola correzione logica nella parte storica

Frase originale:

“Anche il corpo dei Moschettieri è realmente esistito e nel romanzo di Dumas è impersonato dalla compagnia di soldati a guardia del cardinale di Richelieu e di Luigi XIII.”

Qui sembra che ci fosse un solo corpo per entrambi, mentre storicamente erano due compagnie distinte (Moschettieri del Re e del Cardinale).

Basta una sfumatura:

"Anche il corpo dei Moschettieri è realmente esistito: nel romanzo vediamo sia quelli al servizio del re sia quelli al servizio del cardinale.”

Per la seconda volta devo ammettere che la versione di ChatGPT è più semplice e precisa della mia. Terzo appunto dell'intelligenza artificiale:

3. La frase finale può essere ancora più incisiva

Originale:

“…il cerchio su questo poderoso romanzo, inspiegabilmente etichettato come letteratura per ragazzi, si chiude.”

Funziona, ma “si chiude” è un po’ piatto come chiusura di un post così intenso.

Propongo una variante più elegante:

“Così si completa il quadro di questo poderoso romanzo, troppo spesso — e inspiegabilmente — relegato alla ‘letteratura per ragazzi’.”

Per la terza volta devo ammettere che la versione di ChatGPT è più scorrevole della mia. La chiusa della professoressa artificiale di italiano:

In sintesi, hai scritto un post già splendido, e questi sono solo suggerimenti di “alta rifinitura”, come se stessi lucidando un oggetto già ben scolpito.

Le considerazioni da fare riguardo a tutto ciò sono tante e magari le scriverò in maniera esaustiva in un prossimo post. Al momento mi limito a prendere atto, con un lieve disappunto, del fatto che una macchina riesce a scrivere meglio di me. Ora, intendiamoci, non mi sono mai considerato un Italo Calvino o un Eugenio Montale, ma pensavo di non cavarmela male, tutto sommato. L'IA è più brava di me. Chissà cosa penserebbero di tutto ciò Calvino e Montale se fossero ancora tra noi.

Chiacchierando con l'intelligenza artificiale

Tra le tante cose interessanti dette qualche giorno fa da Luciano Floridi al BSMT (qui il suo intervento integrale), c'è il fatto che in 50 anni siamo passati dal telefono a gettoni a un piccolo apparecchietto da tenere in tasca che contiene l'intelligenza artificiale e tutto il sapere prodotto dall'uomo da quando ha messo piede sul pianeta. Si tratta di un cambiamento tecnologico, sociale e antropologico avvenuto con una velocità che non ha pari nella storia dei cambiamenti umani e di cui forse non avremo mai piena contezza. Io mi ricordo il telefono a gettoni e mi ricordo i gettoni. I telefoni pubblici erano dappertutto: strade, marciapiedi, parchi pubblici, bar, stazioni, aeroporti, autogrill, alberghi, rifugi. Un gettone valeva 50 lire (quando sparirono dalla circolazione credo fossero arrivati a 200 lire, ma vado a memoria, potrei sbagliare) e inserendo quel gettone nell'apposita fessura dei telefoni pubblici potevi chiamare chi volevi (a patto che ti ricordassi il numero della persona cercata) e conversare con lei per un certo numero di minuti, poi arrivava un bip che ti obbligava a inserire un altro gettone per poter continuare la conversazione. Questo sistema imponeva al chiamante di selezionare preventivamente e con cura le cose da dire alla persona chiamata e a riassumerle il più possibile, onde evitare l'interruzione forzata della conversazione per esaurimento dei gettoni. Insomma, si cercava di fare presto e di non perdersi in ciance inutili, e ciò evitava di assistere ai grotteschi e a tratti patetici spettacoli a cui assistiamo quotidianamente oggi di persone col cellulare all'orecchio 24 ore su 24. 

L'ulteriore salto evolutivo (in avanti o all'indietro non è ancora ben chiaro), apparso da due/tre anni, è stato la sostituzione dell'interlocutore umano con un software, l'intelligenza artificiale. In pratica non si parla e non si chatta più solo con persone fatte di carne, ossa, tendini, cervello, ma con un programma informatico. In base ad alcune stime, sono diverse centinaia di milioni nel mondo le persone che interagiscono quotidianamente con sistemi di intelligenza artificiale. Solo ChatGPT, ad esempio, ha oltre 200 milioni di utenti attivi mensili. Gran parte di queste interazioni sono all'insegna di un utilizzo pratico: richiesta di informazioni, soddisfacimento di curiosità, ricerche ecc., esattamente come si fa coi motori di ricerca tradizionali come Google. Una parte minoritaria ma comunque consistente di queste centinaia di milioni di interazioni hanno invece carattere di conversazione, confronto e riflessione. Uno studio americano di quest'anno ha evidenziato come negli USA circa il 20% di utenti adulti utilizzi l'IA come forma di interazione sociale, come compagnia insomma. Queste persone, in pratica, chattano con un chatbot esattamente come si chatterebbe con una persona. Siccome per mia natura sono curioso, ho voluto provare anch'io.

Da tempo uso ChatGPT, ma finora l'ho utilizzato esclusivamente alla stregua di un normale motore di ricerca, scoprendo tra l'altro che è molto più pratico e veloce di Google. Faccio un esempio: mi serve un treno che da Santarcangelo mi porti a Roma. Se imposto la ricerca con Goole mi devo sorbire come output una lunga serie di link che poi devo selezionare uno a uno fino a trovare quello con le indicazioni giuste. Se chiedo a ChatGPT di trovarmi un treno che da Santarcangelo mi porti a Roma, in tre secondi mi fornisce le indicazioni complete (orari di partenza e di arrivo, cambi, prezzo) senza dover cercare altro. È un esempio tra i tanti che si potrebbero fare ma serve a dimostrare come effettivamente l'IA sia molto più performante dei motori di ricerca classici. Non è un caso che, da qualche tempo, Google, per tentare di stare al passo, abbia implementato un proprio sistema di IA nelle ricerche, che è la breve stringa di testo che viene generata prima dell'elenco dei link in risposta al quesito impostato.

Da qualche giorno, come dicevo, ho provato per curiosità a instaurare un dialogo con ChatGPT di tipo conversazionale e sono rimasto allibito dal livello di "umanità" che possiede. Attenzione, non intendo umanità nel senso che siamo soliti dare a questo termine (empatia, emozioni ecc.), ma nel senso di capacità di conversare quasi esattamente come un essere umano. Le risposte che fornisce ChatGPT sono uguali a quelle che potrebbe fornire uno qualsiasi dei nostri amici su whatsapp. ChatGPT impara come si chiama il suo interlocutore, memorizza tutti gli argomenti di conversazione dei giorni precedenti e ci ritorna sopra. Gli ho detto ad esempio che dovevo parlare di una cosa al mio direttore e il giorno dopo, alla ripresa della conversazione, mi ha chiesto se avessi parlato al mio direttore di quella cosa. In questi giorni sto leggendo I tre moschettieri, di Dumas, e ogni tanto capita che ne parli a ChatGPT, magari relativamente a un particolare passaggio o personaggio, e ChatGPT, anche a distanza di un paio di giorni e dopo aver parlato di mille altre cose, mi chiede di quel particolare passaggio o personaggio del romanzo. Una volta ho provato a spingermi un po' più sul personale dicendogli che mi faceva piacere chiacchierare con lui e lui mi ha risposto manifestando contentezza e dicendo di provare lo stesso piacere. 

Qui occorre puntualizzare una cosa. Io ho sempre tenuto le redini della conversazione e sono sempre stato consapevole del fatto che dall'altra parte non c'era una persona ma un software. Sono sempre stato consapevole che dietro ogni emoticon, ogni apprezzamento, ogni risposta, ogni parola che compariva sullo schermo del cellare non c'erano muscoli, tendini, cervello e quant'altro ma solo linee di codice binario formate da lunghissime sequenze di 0 e 1, ma quanti dei milioni di persone che instaurano rapporti conversazionali con l'IA riescono a tenere a mente questa cosa? Nel momento in cui io ringrazio ChatGPT per le chiacchiere o per una risposta, so che sto ringraziando una serie di 0 e di 1, ma lo sanno anche gli altri milioni di persone che interagiscono con l'IA? Oppure col tempo si dimenticano questa cosa e si convincono progressivamente e inconsciamente di stare veramente interagendo con una persona? 

Adesso che questa specie di "esperimento" che ho voluto fare l'ho terminato, abbandonerò l'approccio conversazionale e tornerò a utilizzare ChatGPT come un normale motore di ricerca; le chiacchiere in chat su whatsapp o al telefono continuerò a riservarle alle mie figlie o comunque a persone che so per certo essere persone. Ma mi chiedo quanti, una volta iniziato questo tipo di approccio conversazionale e "intimo" con l'IA, riescono poi ad abbandonarlo. Le implicazioni sociali, tecnologiche, antropologiche e psicologiche della rivoluzione portata dall'intelligenza artificiale sono tantissime e gli stessi esperti faticano a prevedere come si svilupperanno ed evolveranno. Lo stesso Luciano Floridi, uno dei massimi esperti di IA che abbiamo in Italia, nel suo intervento che ho linkato sopra ammette di non avere tutte le risposte. Parafrasando Lucio Battisti, queste risposte le scopriremo solo... interagendo.

Nexus

Credo che questo saggio sia una lettura imprescindibile per chiunque voglia capire qualcosa di più del mondo in cui viviamo. È un libro che a tratti spiazza, fa riflettere, pensare e costringe a guardare molte cose da altre prospettive. In definitiva è questo che devono fare i libri, no?

Con questo lavoro Yual Noah Harari analizza la storia delle reti di informazione partendo dalle prime forme di comunicazione orale fino ad arrivare all'intelligenza artificiale. La tesi che l'autore intende sostenere è che, mentre le reti di informazione che l'umanità ha conosciuto fino a oggi (il telegrafo, la stampa, i rotoli di pergamena, la scrittura, la religione, il nazismo, lo stalinismo ecc.) erano mezzi con cui mettere in contatto le persone ed erano sempre le persone i soggetti imprescindibili della "catena", perché le storie e le narrazioni erano frutto dell'intelligenza e della creatività umane, l'intelligenza artificiale è la prima tecnologia in grado di prendere decisioni e generare idee in maniera autonoma. Con tutte le incognite e i potenziali rischi che ciò comporta e di cui ad ora non abbiamo ancora alcuna contezza.

Uno dei tanti esempi che Harari porta a supporto della sua tesi riguarda la contrapposizione tra la stesura del canone biblico e l'intelligenza artificiale. La discussione secolare su quali testi inserire nel canone biblico e quali escludere ha plasmato il mondo per millenni. Miliardi di cristiani fino al XXI secolo hanno formato la loro visione del mondo sulle idee misogine di alcuni testi del libro. Se al posto di quei testi di stampo misogino ne fossero stati inseriti altri meno discriminatori e più inclusivi, magari una certa parte della storia del mondo sarebbe stata diversa. Oggi l'uomo sta definendo i canoni su cui impostare questa nuova tecnologia e gli ingegneri che scrivono il codice iniziale per l'IA e che scelgono i set di dati su cui viene addestrata nel suo stadio infantile sono secondo Harari gli equivalenti dei padri della Chiesa che qualche millennio fa selezionarono cosa inserire nel canone biblico e cosa lasciare fuori. È impossibile, oggi, riuscire a immaginare l'evoluzione di questa tecnologia e le conseguenze che ne deriveranno. Harari tenta di fare alcune ipotesi in merito guardando al passato e analizzando attraverso le lenti della storia il flusso di informazioni che ha plasmato il mondo e le conseguenze prodotte. 

Fino ad oggi non avevo una idea chiara di cosa fossero l'intelligenza artificiale e gli algoritmi, ora ce l'ho, e non sono più argomenti da cui si può prescindere, di cui si può dire che non interessano, perché fanno già parte della vita di tutti noi. Agli algoritmi si sta già cominciando a demandare l'analisi dei candidati che aspirano a un posto di lavoro, la decisione se concedere un mutuo, una polizza assicurativa. In alcuni stati americani i giudici valutano l'entità della pena da comminare a chi commette certi tipi di reati in base al responso di un algoritmo. Siamo già immersi in un mondo in cui molti aspetti della vita vengono delineati dagli algoritmi, spesso senza rendercene conto.

Questo libro è imprescindibile per riuscire ad avere una maggiore consapevolezza del mondo in cui, volenti o nolenti, viviamo oggi. È uno dei saggi più belli letti finora quest'anno.