Nel 1979 il gruppo rock americano dei Toto pubblicava una canzone destinata a restare tra le loro più famose. Il breve testo la collocava inequivocabilmente tra le canzoni d’amore, che descrivono una relazione tormentata e rischiosa:

«Ho aspettato così tanto, andremo a finire male? Io… ti amo. Continuo a spezzarti il cuore, ma come possiamo essere separati? Io… ti amo. Non avrei mai pensato che sarebbe successo, la penso allo stesso modo, non voglio più farti del male, non ho mai saputo che avrebbe funzionato, nessuno ne ha colpa, lo sai che ti amo? Continui a tenermi la mano, tu non sai chi sono io. Io… ti amo. Non ce la faccio più, eravamo così sicuri. Io… ti amo».

Testo facilmente decifrabile, se non fosse per il fatto che i versi per quindici volte sono intervallati dal numero 99, «ninety-nine», che è anche il titolo della canzone. Che significa? A volte sono circolate interpretazioni fantasiose, ma la spiegazione reale è semplice: 99 è il nome della persona amata.

***

La canzone è ispirata al primo lungometraggio di George Lucas (poco dopo diventato famoso per Guerre stellari), dal titolo THX 1138: un film distopico, in cui è immaginato un XXV secolo in cui l’amore è proibito, i sentimenti sono annullati da sedativi, la perfezione è un imperativo, i lavoratori sono vestiti tutti di bianco allo stesso modo, e soprattutto chiamati non con nomi, ma con prefissi e numeri.

Qualcosa comincia però ad incrinarsi quando qualche pastiglia non viene più assunta ed inizia tra due lavoratori una storia d’amore. Questo è esattamente il momento rappresentato nella canzone dei Toto, messa anche in scena in un video che imita l’abbacinante scenografia del film. Solo il nome della donna viene cambiato dall’originale LUH 3417 (indubbiamente difficile da cantare) in un più semplice e ritmico 99.

L’idea generale è tutt’altro che originale: è la stessa che si trova nel film Metropolis di Fritz Lang, la stessa che si trova nel romanzo 1984 di George Orwell, per citare due casi celeberrimi. Ma proprio il suo ricorrere è significativo: di fronte all’avanzare dell’incubo della totale programmazione meccanica, l’amore nella sua irrazionalità, imprevedibilità, appare come un’eccedenza pericolosa e contemporaneamente salvatrice. Oppure, detto in un altro modo, ciò che è unico negli esseri umani non è la loro perfezione esecutiva razionale, che una macchina sa fare altrettanto bene e anzi molto meglio, ma piuttosto ciò che esula da questa perfezione e la incrina.

***

Novantanove: per una curiosa coincidenza è questo anche il numero dell’enciclica Magnifica humanitas in cui viene affrontato il problema della differenza umana nel nuovo panorama dell’«intelligenza artificiale» (laddove in realtà quest’espressione è usata per indicare l’«intelligenza artificiale generativa»).

Un paragrafo di un’enciclica papale (ammettiamolo tranquillamente) è meno piacevole di una canzone dei Toto, ma in compenso permette qualche riflessione più articolata. Stesso tema della canzone dei Toto, abbiamo detto: ma in realtà questo viene usato per rispondere non alla domanda sull’unicità umana, ma per evitare una troppo difficile risposta riguardo alla natura dell’«intelligenza artificiale».

L’enciclica afferma che «non è possibile dare una definizione univoca e completa dell’IA», ma che ciononostante è possibile in negativo dire ciò che ad essa manca: e questa mancanza è appunto lo specifico umano. Conviene citare abbastanza per esteso:

«Le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale […]. [N]on capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. […] Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà […] non implica una crescita interiore».

Certo, molte cose possono essere fatte dall’AI assai efficacemente e assai velocemente, ma ciò che è tipicamente umano manca.

***

Si tratta di un’affermazione che ha il grande vantaggio di incontrare facilmente sia il senso comune (ovvio che ChatGPT non è una persona!), sia linee importanti di riflessione filosofica (l’affermazione secondo cui l’IA «non capisce ciò che produce» appare per esempio una formulazione semplice della celebre e influente posizione di John Searle contro una concezione «forte» di intelligenza artificiale). E tuttavia ha dentro di sé alcuni problemi su cui vale la pena riflettere di più.

Qualcuno ha osservato con un po’ di sorpresa (o con sottile biasimo) che in questo contesto non viene detta con chiarezza la cosa essenziale e dirimente: che gli esseri umani hanno un’anima spirituale, l’«intelligenza artificiale» no. Vero: la parola «anima» non compare anzi praticamente mai nell’intera enciclica, se non in due allusioni neotestamentarie (di cui una peraltro ha un senso metaforico).

Ovviamente non so perché il numero 99 non faccia quest’affermazione; so però quale può essere un ottimo motivo per non farla, perlomeno per non farla in un testo che deve essere contenuto in poche righe.

Il punto è che la classica dimostrazione dell’esistenza di un’anima spirituale parte dagli effetti: il fatto che gli uomini sono in grado di produrre un pensiero che non è legato al qui e all’ora, ma opera procedimenti astrattivi che generano concetti universali, dimostra l’esistenza in loro di un principio che non è materiale, non è cioè intrinsecamente legato (come la sensibilità) a condizioni particolari. Il senso della vista può percepire tre mele: ma solo il pensiero può astrarre il numero tre. Il linguaggio stesso testimonia la pervasività di questa capacità umana: ogni nome è il risultato di un’astrazione.

Questa è grosso modo l’argomentazione che si può trovare in Tommaso d’Aquino, per esempio (Summa theologiae, I, 75, 2). Ma il problema è che questa è esattamente la linea argomentativa che può portare all’affermazione di un’anima spirituale nell’«intelligenza artificiale»!

Gli effetti che noi vediamo in essa sono esattamente quella produzione di linguaggio astratto, quella individuazione di nessi concettuali, quella capacità di orientamento in orizzonti ideali complessi, che l’umanità per millenni ha spontaneamente ritenuto segno di presenza umana, ovvero sintomo di un principio spirituale. Se Tommaso d’Aquino, ignaro di tecnologia, fosse stato messo in dialogo con ChatGPT, non avrebbe minimamente dubitato che dall’altra parte ci fosse un essere umano dotato di anima razionale.

È solo la consapevolezza che oggi anche le macchine sono in grado di produrre effetti di «pensiero» così simili a quelli umani (o spesso migliori!) che fa vacillare questa spontanea, elementare inferenza che dagli effetti risale a una causa. È così che ci si rende conto di una peculiarità del numero 99 che può altrimenti passare inosservata: vengono citate tante cose che l’«intelligenza artificiale» non sarebbe in grado di fare, ma tra queste non viene citato direttamente il pensiero!

Piuttosto, con un ardito capovolgimento, praticamente al primo posto viene citato il corpo, ciò che in una prospettiva filosofica classica ci si sarebbe ben guardati dall’indicare come carattere distintivo dell’umano, o tanto più di un’entità personale (l’intelligenza ha bisogno di un corpo? ah sì? e allora come la mettiamo con gli angeli, o con Dio stesso?).

***

Il buon senso che ritiene che ci siano buoni motivi per continuare a parlare di intelligenza o pensiero solo nel caso degli esseri umani ha in realtà davanti a sé una soluzione abbastanza semplice, che è quella a prima vista seguita anche dal numero 99: basta dire che i sistemi informatici non hanno vero pensiero o intelligenza, bensì li «imitano» o «simulano».

Questa soluzione tuttavia è più esile di quanto appaia. Non c’è nulla di misterioso nel distinguere il «vero oro» dall’«imitazione dell’oro», ma semplicemente perché siamo in grado di descrivere esattamente qual è il processo che ci permette di operare questa distinzione (ringraziamo Archimede e il suo èureka!). Ma quale sarebbe il processo che ci consente di distinguere il vero pensiero dalla simulazione di pensiero?

Trovare limiti negli attuali sistemi di «intelligenza artificiale» non esclude in nessun modo che in futuro questi limiti siano superati, e già la breve storia dei decenni recenti mostra casi importanti in cui le sicumere sulla superiorità umana sono miseramente crollate. Giocare bene a scacchi? «Impossibile!». Tradurre bene? «Impossibile!». Scoprire nuovi teoremi di matematica? «Impossibile!». Ma oggi questi obiettivi sono stati tutti brillantemente raggiunti.

Già nel 1951 Alan Turing scriveva con il suo britannico humour:

«È consuetudine, in un discorso o in un articolo su questo argomento, offrire un barlume di conforto, affermando che alcune caratteristiche tipicamente umane non potrebbero mai essere imitate da una macchina. Si potrebbe ad esempio dire che nessuna macchina sarebbe in grado di scrivere bene in inglese, o che non potrebbe essere sensibile al sex appeal, né fumare la pipa. Non posso però offrire alcun conforto di questo tipo, poiché credo che non può essere stabilito nessun limite del genere» (in altro testo fa un esempio ancor più delizioso: saranno le macchine in grado di gustare le fragole con la panna?).

Ora, qui effettivamente Turing parla di «imitazione», ma semplicemente perché ovviamente presuppone che le macchine non siano esseri umani. Affermare che solo gli esseri umani hanno un’anima perché solo essi sono capaci di pensiero vero e non simulato è quindi un circolo vizioso, in cui viene presupposto esattamente ciò che si mostra di provare. Insomma, ripetiamolo: non sappiamo perché il numero 99 non entri direttamente nel territorio dell’anima né del pensiero, ma ci sono buoni motivi per star lontani da questo campo minato.

***

Di questa astensione vi sono però anche conseguenze positive.

La prima: se il tema del pensiero come tipico degli esseri umano viene (almeno temporaneamente) messo tra parentesi, è necessario come abbiamo visto fare appello a tutto il resto: corpo, gioia, dolore, amore, responsabilità, affetti, errori, e così via. Alcune di queste cose (anzi in un certo senso tutte) presuppongono il pensiero, e tuttavia ne mostrano conseguenze più differenziate, più comprensibili, più attraenti: qualcosa come un pensiero all’opera, un pensiero vissuto (anche corporalmente!).

Sospendere il discorso sul pensiero in sé significa in fondo ridimensionare quella che appare sì come la facoltà umana più alta, ma che non solo non dice la totalità dell’esperienza umana, ma in certe condizioni rischia addirittura di capovolgersi nel contrario. L’«intelligenza artificiale» costringe insomma a pensare meglio a che cosa sono gli esseri umani e a come essi non siano solo pensiero, anzi a quanto questa identificazione scivolerebbe verso una loro meccanizzazione.

Notiamo peraltro che questa è una preoccupazione che ha accompagnato fin dall’inizio la vicenda dell’informatica e che nulla sarebbe più intellettualmente fuorviato (o disonesto) che pensare che la sua sia una storia di disumanizzazione: quando per esempio Norbert Wiener a partire dagli anni 40 poneva questo campo di problemi sotto il nome poi caduto in disuso di «cibernetica», riteneva appunto che capire meglio le macchine fosse essenziale non tanto per far macchine migliori, ma per preservare la differenza umana!

All’interno della storia della tecnologia si trovano quindi pensati problemi analoghi a quello che Horkheimer e Adorno ponevano all’indomani della seconda guerra mondiale nella Dialettica dell’illuminismo: il rischio che la ragione strumentale prenda il sopravvento.

Forse è il problema che in forma ancor più radicale due millenni prima presentava Paolo quando s’interrogava su che cosa sarebbe un uomo che parlasse le lingue degli uomini e degli angeli e conoscesse tutti i misteri e tutta la scienza, ma senz’amore, e rispondeva: niente.

***

C’è una seconda conseguenza che ci pare importante e da pensare.

Parlando di «imitazione» e «simulazione» del pensiero si sfiora un circolo vizioso, dicevamo. Ma è questo necessariamente un male? I possibili circoli viziosi non manifestano in effetti soltanto un difetto logico: suggeriscono anche la presenza di qualcosa che è un punto di partenza, e non una conseguenza. Le presunte dimostrazioni degli assiomi in geometria sono circoli viziosi non per un qualche limite dei processi argomentativi, ma perché gli assiomi costituiscono una scelta posta all’inizio del discorso. Ma le scelte implicano anche un qualche giudizio morale.

Affermare un’anima spirituale negli esseri umani, rivendicarne una coscienza, dire che solo il pensiero umano è il pensiero di qualcuno o qualcuna, è forse radicalmente anche l’espressione di quella che viene affermata come un’evidenza irriducibile, ma anche qualcosa come una scommessa sull’umanità, che è tutt’altro che priva di conseguenze. Forse addirittura queste affermazioni possono essere vissute come un atto di fede, che per il credente ha a che fare qualcosa con il significato dell’intero cosmo.

È interessante che la tradizione di pensiero cristiana che ha affermato la sicura conoscibilità dell’anima spirituale negli esseri umani è la stessa che, con pochissime esitazioni, ha pure sostenuto che la presenza di quest’anima spirituale poteva essere spiegata solo come effetto di un diretto atto creativo divino: spiegazione che certo al di fuori di un orizzonte credente appare mitologica, ma che ciononostante ha una sua efficacia storica.

Forse l’immagine di un’anima che rompe verticalmente l’uniformazione delle cause e degli effetti è uno dei possibili antidoti a ciò che Olivier Roy qualche anno fa efficacemente chiamò «l’appiattimento del mondo». Perlomeno, è un’idea che dovrebbe incoraggiare scelte politiche, e forse soprattutto educative, in cui gli esseri umani non giochino mai solo il ruolo di ingranaggi di un meccanismo, un meccanismo in cui non ci sarebbe nulla di strano a sostituire il loro nome con un numero.