Solo una dimenticanza?

Tra i molti apprezzamenti che ha ricevuto l’enciclica Magnifica humanitas, si è distinta una perplessità: perché il testo, così attento nel sunteggiare la storia della dottrina sociale della Chiesa, sembra quasi ignorare gli episodi recentissimi, cioè i primi importanti passi mossi nel confronto con il nuovo panorama dell’«intelligenza artificiale»?

L’osservazione ha un suo fondamento. Una nota (123) elenca solo i testi della Santa Sede prodotti dal 2024 in poi: ma essi comunque paiono svolgere un ruolo marginale, e colpisce l’assenza di ogni riferimento alla Rome Call for AI Ethics, presentata nel febbraio del 2020: si tratta di un breve documento che propone alcuni principi etici generali che devono indirizzare lo sforzo per «un futuro in cui l’innovazione digitale e il progresso tecnologico assegnino all’umanità il posto centrale». In questo documento viene anche consacrato il termine «algoretica», coniato da Paolo Benanti per indicare il complesso di questo orizzonte di umanizzazione.

Sull’onda della Rome Call venne poi fondata l’anno dopo la RenAIssance Foundation, collocata nella Pontificia Accademia per la Vita. Insomma, in Magnifica humanitas sembra dimenticato proprio il precedente più vicino e importante. Andrea Gagliarducci in una preziosa analisi ha riassunto così la situazione con la sua consueta franchezza: «L’enciclica ha sì raccolto i pareri di diversi esperti, ma ha di fatto reciso ogni legame con tutte le altre iniziative vaticane intraprese prima di essa».

Forse un giorno si conosceranno i motivi reali di questa omissione, ed è ben probabile che sia più che sufficiente la spiegazione di Gagliarducci stesso, cioè il difetto di coordinazione tra le strutture della Santa Sede: ahimè non sarebbe la prima volta. Ci pare però che siano possibili altre due spiegazioni complementari.

Possibili ragioni

La prima è questa. La Rome Call for AI Ethics è stata un’iniziativa all’avanguardia e innovativa, abbiamo detto. Certamente creare uno spazio di discussione su temi etici e di dichiarazioni di impegno è un’ottima cosa. È bello che questa «chiamata» sia stata sottoscritta da Microsoft, IBM, FAO, e poi sostenuta da una ventina di accademici e dirigenti, e poi ancora firmata da Qualcomm, Cisco, Salesforce, e che si sia ecumenicamente aggiunto l’arcivescovo di Canterbury. Una concordia certamente ammirevole.

Ma (forse il sagace lettore ha già sospettato dove voglio arrivare) hanno queste firme cambiato qualcosa nella realtà? quali direzioni sono state mutate, quali «algoritmi» sono stati rettificati? Temo che nulla di simile sia avvenuto. Perlomeno, non c’è niente nelle cronache di questi anni che lo faccia supporre.

Ripeto: credo sinceramente che sia importante creare e coltivare lo spazio per il dialogo sulle grandi prospettive umane e sociali, ma l’esperienza ormai insegna (con un po’ di dispiacere dei filosofi e dei teologi) che spesso convergere su obiettivi chiaramente definiti, pratici e buoni è prioritario rispetto a un accordo astratto sui principi. Anche perché altrimenti (diciamolo con sano realismo) c’è il rischio che i grandi incontri diventino per le aziende e le istituzioni solo l’occasione di pubblicità biancogialla a costo zero.

La seconda spiegazione è di ordine diverso. La Roma Call for AI Ethics è del 2020. Può sembrare una data vicina, in realtà è di un’era precedente. ChatGPT, il Large Language Model che ha imposto l’intelligenza artificiale generativa come strumento quotidiano, è stata rilasciata il 30 novembre 2022. L’impatto è stato così profondo che sarebbe difficile spiegare ad un ragazzo di oggi che l’intelligenza artificiale esisteva anche prima, e in che cosa consisteva.

La stessa enciclica parla di «intelligenza artificiale», ma in realtà (questo è evidente al n. 99) dà per ovvio che si sta parlando solo dell’intelligenza artificiale generativa. Ora, in quest’ultima c’è qualcosa di nuovo nel rapporto con gli esseri umani: il n. 98 avverte che «tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento» e quindi «aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti».

Saggia osservazione: ma con ciò il primo principio della Rome Call for AI Ethics, secondo cui «tutti i sistemi devono essere comprensibili a tutti», è gentilmente gettato nella spazzatura. E caduta la trasparenza, purtroppo, vacillano tutti i successivi principi della Rome Call for AI Ethics. Come chiedere, per esempio, che un sistema non effettui discriminazioni (questo il secondo principio) se perfino chi lo ha progettato conosce poco del suo funzionamento?

Algoretica: un concetto inutilizzabile

Infine, non molto meglio va con il concetto di «algoretica»: in un senso molto ampio è ancora valido, ma in un senso più specifico è inutilizzabile. Se con «algoritmo» intendiamo una successione deterministica di calcoli, che a parità di dati di ingresso produce gli stessi dati di uscita secondo una procedura nota e verificabile, allora dobbiamo dire che l’intelligenza artificiale generativa non si basa affatto su «algoritmi». Qualsiasi applicazione di principi etici diventa quindi più difficile, perché il punto esatto in cui viene compiuta una scelta non può più essere individuato, o almeno non facilmente.

Provo a esemplificare. Supponiamo che tutti condividiamo quella grande scommessa sull’umanità cui l’enciclica invita, che tutti siamo convinti paolinamente che l’uomo sia di più della sua capacità di pensare, conoscere e calcolare, che vi siano da tutelare le profondità del sentimento, dell’amore, delle relazioni personali, e in fondo la capacità di trascendenza dell’uomo.

Ora si legga Attention Is All You Need, l’articolo del 2017, con un titolo piacevolmente ispirato ai Beatles, che per generale consenso è all’origine dell’attuale rivoluzione dell’intelligenza artificiale generativa. Esclusi gli schemi finali è lungo appena dieci pagine. Dopo averlo letto, si chiarisca quali siano le conseguenze concrete che la scommessa sull’umano porta sull’architettura del transformer, che, come spiegano bene gli otto autori, si basa solo su meccanismi di attenzione e rinuncia completamente alla ricorrenza e alle convoluzioni.

Se si preferisse un approccio più pratico, si legga il codice messo a disposizione dagli autori. È scritto in Python, linguaggio a suo tempo ideato per scopi didattici e quindi con la massima chiarezza come obiettivo; in tutto sono 100mila righe di codice (appena un millesimo del più diffuso programma di scrittura!). Dopo aver studiato il codice, si dica come applicare ad esso i principi antropologici ed etici della tradizione cristiana.

Posso facilmente immaginare lo sguardo perso dei lettori. Ma questo sguardo perso era appunto ciò cui volevo giungere. Anche ammettendo la più grande sincerità nella condivisione dei principi, oggi appare difficile la strada da percorrere prima di giungere a qualche conseguenza tangibile. Pure la distinzione tra le finalità e i mezzi tecnici (quella che ci fa riconoscere per esempio che non serve una laurea in agraria per sostenere il diritto al cibo), benché in sé sensata, è qui meno utile di quanto astrattamente si potrebbe pensare, perché è anzitutto difficile distinguere finalità e mezzi. Insomma: la Rome Call for AI Ethics si moveva in un orizzonte in gran parte diverso, in cui la strada appariva più breve e universalmente comprensibile.

Credo che questi due motivi possono unirsi a quello indicato da Andrea Gagliarducci per spiegare perché Magnifica humanitas ometta qualsiasi riferimento alla Rome Call for AI Ethics.

Un passato da conoscere

Il discorso però non finisce qui. Nell’enciclica c’è infatti un’altra omissione più generale e di gran lunga più importante: mancano riferimenti precisi a tutti i precedenti tecnologici e culturali dell’intelligenza artificiale generativa. La cosa è di per sé lecita (un’enciclica non è un’enciclopedia), ma diventa un problema giacché tutta la cultura attuale, assai smemorata, fa spesso la stessa cosa e priva così la persona interessata di quel retroterra di idee che permette di valutare ciò che oggi sta avvenendo.

L’intelligenza artificiale generativa è cosa recente? Certamente sì. Ma è anche vero che tutta l’informatica contemporanea (intendiamo con questa espressione quella che nasce con Alan Turing nel maggio del 1936) è animata esattamente dal grande progetto di riprodurre i processi mentali degli esseri umani.

L’informatica, dal punto di visto sia tecnico sia ideale, è ciò che ha plasmato la civiltà contemporanea ben prima di Attention Is All You Need. Non meraviglia quindi che i problemi che oggi esplodono siano già stati discussi (mutatis mutandis) molte volte e in vari modi negli scorsi decenni, con una chiara percezione del loro impatto: già nel 1983 (cioè più di quarant’anni fa) il Time pose il computer personale in copertina, ridenominando il consueto riconoscimento di «uomo dell’anno» in «macchina dell’anno».

E la Chiesa cattolica? quanto tempo ha impiegato per accorgersi di ciò che stava accadendo? Sorpresa: la Chiesa cattolica se n’era accorta venti anni prima, quando Paolo VI tenne uno straordinario discorso al personale del Centro Automazione Analisi Linguistica dell’Aloysianum: «Noi siamo davanti a un nuovo, immenso orizzonte della cultura umana», diceva coll’inconfondibile stile dei discorsi che scriveva di sua mano. Sotto i sui occhi c’era l’opera del gesuita Roberto Busa, unanimemente considerato il fondatore delle digital humanities, cioè le applicazioni dell’informatica al campo umanistico, e i risultati che gli apparivano meravigliosi lo spingono addirittura a chiedersi se in questa evoluzione tecnologica non fossero riconoscibili i «gemiti» delle doglie del parto di tutta la creazione, in cui anche ciò che è più materiale aspira a mettersi a servizio dello spirito.

Insomma: contestualizzare le brevi osservazioni di Magnifica humanitas è indispensabile almeno per non correre il rischio di ricominciare da zero un discorso che invece ha una lunga storia, e in cui spesso vi sono capitoli che meritano di essere ripresi e proseguiti. Ma qui non possiamo neppure vagamente riassumere queste straordinarie vicende.

La smemoratezza ha anche un’altra conseguenza, della quale invece vogliamo parlare con qualche dettaglio. Abbiamo prima visto come sia difficile nel caso dell’intelligenza artificiale generativa trarre conseguenze concrete da principi etici generali. Ma quando l’informatica viene considerata nelle sue stratificazioni storiche, possibili conseguenze sono molto più facili da individuare. Quasi bisognerebbe dire che tra i problemi creati dall’intelligenza artificiale generativa vi sia l’effetto di schermo che essa opera nel discorso pubblico nei confronti di altri aspetti che continuano a giocare un ruolo essenziale. È possibile allora immaginare alcune conseguenze pratiche di Magnifica humanitas? Provo a fare quest’esercizio di fantasia.

Quattro proposte

Abbiamo detto che esigere «trasparenza» nello specifico dell’intelligenza artificiale generativa è molto difficile. Ma non è affatto esagerato invece pretenderla dal software in generale: questo è anzi un passo decisivo per far sì che le macchine restino in potere degli esseri umani.

Egualmente importante è che resti sempre la possibilità di adeguare un meccanismo informatico ai criteri e ai valori che si condividono. Ma ciò tecnicamente può significare un’unica cosa: che il software che si usa (a cominciare dal sistema operativo) sia distribuito utilizzando una licenza che permetta a chiunque di esaminarlo, eventualmente modificarlo e ridistribuirlo modificato. A seconda del punto di vista, è il software che viene definito «libero» oppure «open source».

Una prima conseguenza può quindi essere: preferire sempre il software libero e incoraggiarne sempre l’adozione. Corollario: preferire sempre anche la scrittura di software libero (vedi l’esempio virtuoso dell’Association épiscopale liturgique pour les pays francophones che ha sostenuto l’ottimo programma AELF – Lectures du jour).

Discorso analogo per i cosiddetti canali sociali. È giusto protestare contro gli «algoritmi» che sono progettati per creare dipendenza, o per massimizzare gli scontri di idee anziché il dialogo, o che impongono pubblicità indesiderata. Ma non ha moltissimo senso avanzare questa protesta e contemporaneamente ignorare le alternative che non contengono nessuno di questi algoritmi e neppure sono proprietà di alcuno, perché decentralizzate e basate su protocolli pubblici.

Una seconda conseguenza può essere allora: preferire Mastodon, Friendica, Peertube, Pixelfed, Matrix. (Con riluttanza scrivo i nomi dei servizi proprietari che essi possono sostituire: nell’ordine Twitter/X, Facebook, YouTube, Instagram, Whatsapp). Dietro a tutto questo c’è l’idea di uno spazio di dialogo pubblico che non è proprietà di nessuno e che non è alla mercé di interessi estranei: in cui insomma siano al centro solo i partecipanti come esseri umani.

Uno dei campi nei quali l’informatica ha prodotto le trasformazioni più radicali è quello della diffusione delle informazioni e del sapere: non soltanto perché ha offerto gli strumenti tecnici per realizzarla a costi irrisori e con vantaggi pratici, ma anche perché il software libero ha offerto il modello per la distribuzione come beni comuni di testi, immagini, filmati. Si tratta soprattutto delle licenze che oggi sono chiamate Creative Commons e che vengono sempre più usate nel campo delle pubblicazioni scientifiche.

Una licenza Creative Commons è quella che permette a tutti di «riprodurre, distribuire, comunicare al pubblico, esporre in pubblico, rappresentare, eseguire e recitare» un certo materiale «con qualsiasi mezzo e formato» (qualcuno potrebbe dire: nulla di nuovo, sono i criteri coi quali vennero scritti i vangeli).

Una terza possibile conseguenza di Magnifica humanitas può essere allora l’incoraggiamento a usare sempre più queste licenze nelle nuove pubblicazioni, in tutti i testi liturgici presenti e passati, in tutte le tesi di dottorato, e l’invito agli editori a distribuire in questo modo il catalogo storico per il quale non esistono più interessi economici. Per quest’ultima cosa, in subordine, può esservi l’invito ad offrire i testi all’Internet Archive, dove ciò che è ancora protetto da diritti d’autore può essere consultato con gli stessi limiti di una biblioteca. Si tratterebbe di una quantità enorme di cultura, spesso ingiustamente dimenticata, che sarebbe rimessa in circolo.

Staccare la spina

Infine, una possibile conseguenza nel terreno specifico dell’intelligenza artificiale generativa. Che questi pochi anni abbiano portato a un grande impatto nelle prassi educative è noto a tutti: sia perché sono in corso studi e sperimentazioni per immaginare e tarare un uso buono della nuova tecnologia, sia perché, senz’aspettare nessun dotto studio e nessuna linea guida, l’uso dell’intelligenza artificiale generativa da parte degli studenti è pressoché universale.

Il problema è che questo ingresso è dirompente: lo studente che fa i compiti «con ChatGPT» certamente impara a usare una tecnologia (spesso male, peraltro), ma altrettanto certamente sta esternalizzando un decisivo lavoro di riflessione, di assimilazione, di valutazione critica. Questa è una delega differentissima per qualità da quelle che finora hanno caratterizzato l’uso dei computer, perché vanifica il cuore stesso dell’educazione.

È possibile far in modo che l’intelligenza artificiale generativa cooperi bene all’avventura dell’insegnamento e dell’apprendimento? Forse sì, è possibile attenderci rivoluzioni di straordinaria importanza, la vecchia idea dell’«insegnamento programmato» che ebbe il suo picco alla fine degli anni Sessanta potrebbe avere una nuova giovinezza; ma ora il rischio è che, «mentre ci si consulta a Roma» (e in Vaticano), la mente e il cuore di un’intera generazione di studenti siano espugnati.

Dicevamo prima che è molto difficile capire come possa essere reso «etico» un programma di 100mila righe di codice: ma è facile convincersi che in attesa di soluzioni sicure un elementare principio di precauzione prescrive semplicemente di staccare la spina dell’intelligenza artificiale generativa. Impossibile? In generale certo sì, ma non nei confini in cui un’istituzione educativa agisce: in essi staccare la spina significa semplicemente spostare il più possibile il baricentro dagli «oggetti prodotti» al lavoro comune, al dialogo, alla discussione, alla viva parola. È una proposta che potrebbe essere indirizzata anzitutto a scuole e università cattoliche e pontificie, visto che l’enciclica di cui parliamo è diretta al mondo cattolico.

Ci fermiamo qui. Hanno queste proposte una qualche plausibilità? Sono ben lontano dal credere che si tratti di conseguenze necessarie di Magnifica humanitas: vale sempre il principio che più ci si avvicina alle applicazioni specifiche, più aumenta l’incertezza dovuta alla varietà dei fattori in gioco; né tanto meno penso che soluzioni o prassi diverse da quelle qui proposte siano in sé riprovevoli.

Credo però che sia obbligatorio indicare conseguenze reali e fattibili, che connettano in qualche modo un’abissale scommessa sull’uomo con le piccolezze della vita: per dirla con Teresa di Gesù, è sempre dietro l’angolo la tentazione di desiderare le cose impossibili per sentirsi esentati dal fare quelle possibili (Cast. VII,4,14). Ancor peggio, poi, desiderare le cose impossibili altrui e non fare le cose possibili proprie.

Se la Chiesa cattolica fu forse la prima grande istituzione mondiale ad accorgersi delle potenzialità della rivoluzione informatica, sarebbe bello che fosse all’avanguardia anche oggi nel portarne avanti in prima persona gli effetti migliori sugli esseri umani e sulla società.