Solo una dimenticanza?
Tra i molti apprezzamenti che ha ricevuto l’enciclica Magnifica humanitas, si è distinta una perplessità: perché il testo, così attento nel sunteggiare la storia della dottrina sociale della Chiesa, sembra quasi ignorare gli episodi recentissimi, cioè i primi importanti passi mossi nel confronto con il nuovo panorama dell’«intelligenza artificiale»?
L’osservazione ha un suo fondamento. Una nota (123) elenca solo i testi della Santa Sede prodotti dal 2024 in poi: ma essi comunque paiono svolgere un ruolo marginale, e colpisce l’assenza di ogni riferimento alla Rome Call for AI Ethics, presentata nel febbraio del 2020: si tratta di un breve documento che propone alcuni principi etici generali che devono indirizzare lo sforzo per «un futuro in cui l’innovazione digitale e il progresso tecnologico assegnino all’umanità il posto centrale». In questo documento viene anche consacrato il termine «algoretica», coniato da Paolo Benanti per indicare il complesso di questo orizzonte di umanizzazione.
Sull’onda della Rome Call venne poi fondata l’anno dopo la RenAIssance Foundation, collocata nella Pontificia Accademia per la Vita. Insomma, in Magnifica humanitas sembra dimenticato proprio il precedente più vicino e importante. Andrea Gagliarducci in una preziosa analisi ha riassunto così la situazione con la sua consueta franchezza: «L’enciclica ha sì raccolto i pareri di diversi esperti, ma ha di fatto reciso ogni legame con tutte le altre iniziative vaticane intraprese prima di essa».
Forse un giorno si conosceranno i motivi reali di questa omissione, ed è ben probabile che sia più che sufficiente la spiegazione di Gagliarducci stesso, cioè il difetto di coordinazione tra le strutture della Santa Sede: ahimè non sarebbe la prima volta. Ci pare però che siano possibili altre due spiegazioni complementari.
Possibili ragioni
La prima è questa. La Rome Call for AI Ethics è stata un’iniziativa all’avanguardia e innovativa, abbiamo detto. Certamente creare uno spazio di discussione su temi etici e di dichiarazioni di impegno è un’ottima cosa. È bello che questa «chiamata» sia stata sottoscritta da Microsoft, IBM, FAO, e poi sostenuta da una ventina di accademici e dirigenti, e poi ancora firmata da Qualcomm, Cisco, Salesforce, e che si sia ecumenicamente aggiunto l’arcivescovo di Canterbury. Una concordia certamente ammirevole.
Ma (forse il sagace lettore ha già sospettato dove voglio arrivare) hanno queste firme cambiato qualcosa nella realtà? quali direzioni sono state mutate, quali «algoritmi» sono stati rettificati? Temo che nulla di simile sia avvenuto. Perlomeno, non c’è niente nelle cronache di questi anni che lo faccia supporre.
Ripeto: credo sinceramente che sia importante creare e coltivare lo spazio per il dialogo sulle grandi prospettive umane e sociali, ma l’esperienza ormai insegna (con un po’ di dispiacere dei filosofi e dei teologi) che spesso convergere su obiettivi chiaramente definiti, pratici e buoni è prioritario rispetto a un accordo astratto sui principi. Anche perché altrimenti (diciamolo con sano realismo) c’è il rischio che i grandi incontri diventino per le aziende e le istituzioni solo l’occasione di pubblicità biancogialla a costo zero.
La seconda spiegazione è di ordine diverso. La Roma Call for AI Ethics è del 2020. Può sembrare una data vicina, in realtà è di un’era precedente. ChatGPT, il Large Language Model che ha imposto l’intelligenza artificiale generativa come strumento quotidiano, è stata rilasciata il 30 novembre 2022. L’impatto è stato così profondo che sarebbe difficile spiegare ad un ragazzo di oggi che l’intelligenza artificiale esisteva anche prima, e in che cosa consisteva.
La stessa enciclica parla di «intelligenza artificiale», ma in realtà (questo è evidente al n. 99) dà per ovvio che si sta parlando solo dell’intelligenza artificiale generativa. Ora, in quest’ultima c’è qualcosa di nuovo nel rapporto con gli esseri umani: il n. 98 avverte che «tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento» e quindi «aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti».
Saggia osservazione: ma con ciò il primo principio della Rome Call for AI Ethics, secondo cui «tutti i sistemi devono essere comprensibili a tutti», è gentilmente gettato nella spazzatura. E caduta la trasparenza, purtroppo, vacillano tutti i successivi principi della Rome Call for AI Ethics. Come chiedere, per esempio, che un sistema non effettui discriminazioni (questo il secondo principio) se perfino chi lo ha progettato conosce poco del suo funzionamento?
Algoretica: un concetto inutilizzabile
Infine, non molto meglio va con il concetto di «algoretica»: in un senso molto ampio è ancora valido, ma in un senso più specifico è inutilizzabile. Se con «algoritmo» intendiamo una successione deterministica di calcoli, che a parità di dati di ingresso produce gli stessi dati di uscita secondo una procedura nota e verificabile, allora dobbiamo dire che l’intelligenza artificiale generativa non si basa affatto su «algoritmi». Qualsiasi applicazione di principi etici diventa quindi più difficile, perché il punto esatto in cui viene compiuta una scelta non può più essere individuato, o almeno non facilmente.
Provo a esemplificare. Supponiamo che tutti condividiamo quella grande scommessa sull’umanità cui l’enciclica invita, che tutti siamo convinti paolinamente che l’uomo sia di più della sua capacità di pensare, conoscere e calcolare, che vi siano da tutelare le profondità del sentimento, dell’amore, delle relazioni personali, e in fondo la capacità di trascendenza dell’uomo.
Ora si legga Attention Is All You Need, l’articolo del 2017, con un titolo piacevolmente ispirato ai Beatles, che per generale consenso è all’origine dell’attuale rivoluzione dell’intelligenza artificiale generativa. Esclusi gli schemi finali è lungo appena dieci pagine. Dopo averlo letto, si chiarisca quali siano le conseguenze concrete che la scommessa sull’umano porta sull’architettura del transformer, che, come spiegano bene gli otto autori, si basa solo su meccanismi di attenzione e rinuncia completamente alla ricorrenza e alle convoluzioni.
Se si preferisse un approccio più pratico, si legga il codice messo a disposizione dagli autori. È scritto in Python, linguaggio a suo tempo ideato per scopi didattici e quindi con la massima chiarezza come obiettivo; in tutto sono 100mila righe di codice (appena un millesimo del più diffuso programma di scrittura!). Dopo aver studiato il codice, si dica come applicare ad esso i principi antropologici ed etici della tradizione cristiana.
Posso facilmente immaginare lo sguardo perso dei lettori. Ma questo sguardo perso era appunto ciò cui volevo giungere. Anche ammettendo la più grande sincerità nella condivisione dei principi, oggi appare difficile la strada da percorrere prima di giungere a qualche conseguenza tangibile. Pure la distinzione tra le finalità e i mezzi tecnici (quella che ci fa riconoscere per esempio che non serve una laurea in agraria per sostenere il diritto al cibo), benché in sé sensata, è qui meno utile di quanto astrattamente si potrebbe pensare, perché è anzitutto difficile distinguere finalità e mezzi. Insomma: la Rome Call for AI Ethics si moveva in un orizzonte in gran parte diverso, in cui la strada appariva più breve e universalmente comprensibile.
Credo che questi due motivi possono unirsi a quello indicato da Andrea Gagliarducci per spiegare perché Magnifica humanitas ometta qualsiasi riferimento alla Rome Call for AI Ethics.
Un passato da conoscere
Il discorso però non finisce qui. Nell’enciclica c’è infatti un’altra omissione più generale e di gran lunga più importante: mancano riferimenti precisi a tutti i precedenti tecnologici e culturali dell’intelligenza artificiale generativa. La cosa è di per sé lecita (un’enciclica non è un’enciclopedia), ma diventa un problema giacché tutta la cultura attuale, assai smemorata, fa spesso la stessa cosa e priva così la persona interessata di quel retroterra di idee che permette di valutare ciò che oggi sta avvenendo.
L’intelligenza artificiale generativa è cosa recente? Certamente sì. Ma è anche vero che tutta l’informatica contemporanea (intendiamo con questa espressione quella che nasce con Alan Turing nel maggio del 1936) è animata esattamente dal grande progetto di riprodurre i processi mentali degli esseri umani.
L’informatica, dal punto di visto sia tecnico sia ideale, è ciò che ha plasmato la civiltà contemporanea ben prima di Attention Is All You Need. Non meraviglia quindi che i problemi che oggi esplodono siano già stati discussi (mutatis mutandis) molte volte e in vari modi negli scorsi decenni, con una chiara percezione del loro impatto: già nel 1983 (cioè più di quarant’anni fa) il Time pose il computer personale in copertina, ridenominando il consueto riconoscimento di «uomo dell’anno» in «macchina dell’anno».
E la Chiesa cattolica? quanto tempo ha impiegato per accorgersi di ciò che stava accadendo? Sorpresa: la Chiesa cattolica se n’era accorta venti anni prima, quando Paolo VI tenne uno straordinario discorso al personale del Centro Automazione Analisi Linguistica dell’Aloysianum: «Noi siamo davanti a un nuovo, immenso orizzonte della cultura umana», diceva coll’inconfondibile stile dei discorsi che scriveva di sua mano. Sotto i sui occhi c’era l’opera del gesuita Roberto Busa, unanimemente considerato il fondatore delle digital humanities, cioè le applicazioni dell’informatica al campo umanistico, e i risultati che gli apparivano meravigliosi lo spingono addirittura a chiedersi se in questa evoluzione tecnologica non fossero riconoscibili i «gemiti» delle doglie del parto di tutta la creazione, in cui anche ciò che è più materiale aspira a mettersi a servizio dello spirito.
Insomma: contestualizzare le brevi osservazioni di Magnifica humanitas è indispensabile almeno per non correre il rischio di ricominciare da zero un discorso che invece ha una lunga storia, e in cui spesso vi sono capitoli che meritano di essere ripresi e proseguiti. Ma qui non possiamo neppure vagamente riassumere queste straordinarie vicende.
La smemoratezza ha anche un’altra conseguenza, della quale invece vogliamo parlare con qualche dettaglio. Abbiamo prima visto come sia difficile nel caso dell’intelligenza artificiale generativa trarre conseguenze concrete da principi etici generali. Ma quando l’informatica viene considerata nelle sue stratificazioni storiche, possibili conseguenze sono molto più facili da individuare. Quasi bisognerebbe dire che tra i problemi creati dall’intelligenza artificiale generativa vi sia l’effetto di schermo che essa opera nel discorso pubblico nei confronti di altri aspetti che continuano a giocare un ruolo essenziale. È possibile allora immaginare alcune conseguenze pratiche di Magnifica humanitas? Provo a fare quest’esercizio di fantasia.
Quattro proposte
Abbiamo detto che esigere «trasparenza» nello specifico dell’intelligenza artificiale generativa è molto difficile. Ma non è affatto esagerato invece pretenderla dal software in generale: questo è anzi un passo decisivo per far sì che le macchine restino in potere degli esseri umani.
Egualmente importante è che resti sempre la possibilità di adeguare un meccanismo informatico ai criteri e ai valori che si condividono. Ma ciò tecnicamente può significare un’unica cosa: che il software che si usa (a cominciare dal sistema operativo) sia distribuito utilizzando una licenza che permetta a chiunque di esaminarlo, eventualmente modificarlo e ridistribuirlo modificato. A seconda del punto di vista, è il software che viene definito «libero» oppure «open source».
Una prima conseguenza può quindi essere: preferire sempre il software libero e incoraggiarne sempre l’adozione. Corollario: preferire sempre anche la scrittura di software libero (vedi l’esempio virtuoso dell’Association épiscopale liturgique pour les pays francophones che ha sostenuto l’ottimo programma AELF – Lectures du jour).
Discorso analogo per i cosiddetti canali sociali. È giusto protestare contro gli «algoritmi» che sono progettati per creare dipendenza, o per massimizzare gli scontri di idee anziché il dialogo, o che impongono pubblicità indesiderata. Ma non ha moltissimo senso avanzare questa protesta e contemporaneamente ignorare le alternative che non contengono nessuno di questi algoritmi e neppure sono proprietà di alcuno, perché decentralizzate e basate su protocolli pubblici.
Una seconda conseguenza può essere allora: preferire Mastodon, Friendica, Peertube, Pixelfed, Matrix. (Con riluttanza scrivo i nomi dei servizi proprietari che essi possono sostituire: nell’ordine Twitter/X, Facebook, YouTube, Instagram, Whatsapp). Dietro a tutto questo c’è l’idea di uno spazio di dialogo pubblico che non è proprietà di nessuno e che non è alla mercé di interessi estranei: in cui insomma siano al centro solo i partecipanti come esseri umani.
Uno dei campi nei quali l’informatica ha prodotto le trasformazioni più radicali è quello della diffusione delle informazioni e del sapere: non soltanto perché ha offerto gli strumenti tecnici per realizzarla a costi irrisori e con vantaggi pratici, ma anche perché il software libero ha offerto il modello per la distribuzione come beni comuni di testi, immagini, filmati. Si tratta soprattutto delle licenze che oggi sono chiamate Creative Commons e che vengono sempre più usate nel campo delle pubblicazioni scientifiche.
Una licenza Creative Commons è quella che permette a tutti di «riprodurre, distribuire, comunicare al pubblico, esporre in pubblico, rappresentare, eseguire e recitare» un certo materiale «con qualsiasi mezzo e formato» (qualcuno potrebbe dire: nulla di nuovo, sono i criteri coi quali vennero scritti i vangeli).
Una terza possibile conseguenza di Magnifica humanitas può essere allora l’incoraggiamento a usare sempre più queste licenze nelle nuove pubblicazioni, in tutti i testi liturgici presenti e passati, in tutte le tesi di dottorato, e l’invito agli editori a distribuire in questo modo il catalogo storico per il quale non esistono più interessi economici. Per quest’ultima cosa, in subordine, può esservi l’invito ad offrire i testi all’Internet Archive, dove ciò che è ancora protetto da diritti d’autore può essere consultato con gli stessi limiti di una biblioteca. Si tratterebbe di una quantità enorme di cultura, spesso ingiustamente dimenticata, che sarebbe rimessa in circolo.
Staccare la spina
Infine, una possibile conseguenza nel terreno specifico dell’intelligenza artificiale generativa. Che questi pochi anni abbiano portato a un grande impatto nelle prassi educative è noto a tutti: sia perché sono in corso studi e sperimentazioni per immaginare e tarare un uso buono della nuova tecnologia, sia perché, senz’aspettare nessun dotto studio e nessuna linea guida, l’uso dell’intelligenza artificiale generativa da parte degli studenti è pressoché universale.
Il problema è che questo ingresso è dirompente: lo studente che fa i compiti «con ChatGPT» certamente impara a usare una tecnologia (spesso male, peraltro), ma altrettanto certamente sta esternalizzando un decisivo lavoro di riflessione, di assimilazione, di valutazione critica. Questa è una delega differentissima per qualità da quelle che finora hanno caratterizzato l’uso dei computer, perché vanifica il cuore stesso dell’educazione.
È possibile far in modo che l’intelligenza artificiale generativa cooperi bene all’avventura dell’insegnamento e dell’apprendimento? Forse sì, è possibile attenderci rivoluzioni di straordinaria importanza, la vecchia idea dell’«insegnamento programmato» che ebbe il suo picco alla fine degli anni Sessanta potrebbe avere una nuova giovinezza; ma ora il rischio è che, «mentre ci si consulta a Roma» (e in Vaticano), la mente e il cuore di un’intera generazione di studenti siano espugnati.
Dicevamo prima che è molto difficile capire come possa essere reso «etico» un programma di 100mila righe di codice: ma è facile convincersi che in attesa di soluzioni sicure un elementare principio di precauzione prescrive semplicemente di staccare la spina dell’intelligenza artificiale generativa. Impossibile? In generale certo sì, ma non nei confini in cui un’istituzione educativa agisce: in essi staccare la spina significa semplicemente spostare il più possibile il baricentro dagli «oggetti prodotti» al lavoro comune, al dialogo, alla discussione, alla viva parola. È una proposta che potrebbe essere indirizzata anzitutto a scuole e università cattoliche e pontificie, visto che l’enciclica di cui parliamo è diretta al mondo cattolico.
Ci fermiamo qui. Hanno queste proposte una qualche plausibilità? Sono ben lontano dal credere che si tratti di conseguenze necessarie di Magnifica humanitas: vale sempre il principio che più ci si avvicina alle applicazioni specifiche, più aumenta l’incertezza dovuta alla varietà dei fattori in gioco; né tanto meno penso che soluzioni o prassi diverse da quelle qui proposte siano in sé riprovevoli.
Credo però che sia obbligatorio indicare conseguenze reali e fattibili, che connettano in qualche modo un’abissale scommessa sull’uomo con le piccolezze della vita: per dirla con Teresa di Gesù, è sempre dietro l’angolo la tentazione di desiderare le cose impossibili per sentirsi esentati dal fare quelle possibili (Cast. VII,4,14). Ancor peggio, poi, desiderare le cose impossibili altrui e non fare le cose possibili proprie.
Se la Chiesa cattolica fu forse la prima grande istituzione mondiale ad accorgersi delle potenzialità della rivoluzione informatica, sarebbe bello che fosse all’avanguardia anche oggi nel portarne avanti in prima persona gli effetti migliori sugli esseri umani e sulla società.
Scrive oggi 16 luglio su *Avvenire* Antonio Spadaro («Magnifica humanitas, un codice che apre spazi per da dignità di tutti»):
Dopo decenni spesi a proteggere e segregare i dati in una concezione proprietaria e individuale, l’enciclica li ripensa — estendendo al digitale ciò che la teologia chiama destinazione universale dei beni, per secoli applicata alla terra — come beni comuni: fra i beni destinati a tutti figurano ora anche brevetti, algoritmi, infrastrutture. Non il segreto industriale né il know-how, ma quella vasta materia condivisibile da cui si potrebbe estrarre valore sociale […] oggi bloccata dalle stesse norme che l’hanno chiusa a chiave.
Ovviamente sono completamente d’accordo. Solo aggiungerei, come nota a margine, che questi problemi sono discussi e affrontati nell’informatica da più di quarant’anni. A meno che vogliamo risalire ancora più indietro, e dire per esempio che se John von Neumann nel 1945 non avesse reso pubblica e «destinata a tutti» (ciò che oggi si direbbe: sotto una licenza Creative Commons) l’architettura dell’EDVAC, la storia sarebbe stata molto diversa.
L’articolo nota che oggi dobbiamo difendere la sussidiarietà dal capitalismo privato, mentre quando il concetto fu elaborato serviva a creare un cuscinetto dall’interventismo statale. E infatti l’enciclica non parla solo di rifugiarsi in qualche bolla, ma di stimolare un dibattito pubblico che sappia andare anche al di là degli interessi nazionali isolati, in un mondo dove le multinazionali del Tech non hanno freni che sappiano contenerle.
https://www.vaticannews.va/it/vaticano/news/2026-07/firma-dichiarazione-rma-intelligenza-artificiale-armi-nucleari.html
Sono in corso una serie di incontri proprio in questi giorni.
“Creare un bene comune digitale
Gli ultimi punti riguardano la necessità di “individuare nuovi percorsi istituzionali verso una governance globale dell’intelligenza artificiale e per favorire, in futuro, l’attuazione di iniziative di governo globale in questo ambito”. Si appoggiano iniziative ispirate dalla Magnifica humanitas di Papa Leone e si sostiene il Panel Scientifico Internazionale Indipendente delle Nazioni Unite sull’Intelligenza Artificiale. L’appello dei firmatari è di creare “un bene comune digitale” (digital commons) che favorisca la raccolta e la condivisione dei dati necessari ad approfondire la conoscenza e sostenere azioni efficaci riguardo alle armi nucleari, all’intelligenza artificiale”. Nel mondo infatti ci sono molteplici minacce interconnesse e le conseguenze ricadono spesso su chi non ha accesso né controllo sulle tecnologie che le generano.”
Ammetto con franchezza e sincerità che non ha destato molto interesse – ho altri interessi teologici – l’enclica del Papa di cui ero certo avrebbe scritto quanto prima sull’intelligenza artificiale (e continuerà a farlo). Apprendo la notizia di altri social meno legati ad algoritmi. Mi stupisce molto come il mondo cattolico, molto potente anche in ambito mediatico (penso a Etwn, Kto per fare solo degli esempi), non riesca a generare dei social che siano eticamente diversi.
Non è un’enciclica sulla Intelligenza artificiale ma sulla Custodia della persona umana al tempo dell’Intelligenza artificiale, che è abbastanza diverso. Riguardo al farsi social eticamente diversi, primo siamo pochissimi, secondo perennemente divisi, come si fa a pensare di crearsi un algoritmo etico non avendo alcuna idea di etica condivisa?
Forse il sito più strutturato è Cattolici Romani, se non altro perchè è attivo da molti anni, è un forum, ha una moderazione chiara (nel senso, magari censurano ma è chiaro il motivo per cui si censura).
Mastodon poi mi pare una bolla molto esclusiva mentre la Chiesa Cattolica vuole essere popolare e aperta a tutti, l’arrivo di Etwn accentuerà questa direzione. Già padre Lombardi anni fa disse che la Chiesa non aveva alcuna intenzione di applicare il bollino cattolico su alcuna pagina, sta alla capacità dialettica dei partecipanti mantenere un atteggiamento etico corretto.
Tra parentesi proprio in questi giorni ci sarà un summit su questi argomenti a Castel Gandolfo.
https://www.vaticannews.va/it/vaticano/news/2026-07/ia-disarmo-nucleare-vaticano-borgo-laudatosi.html
Tutte le reti sociali del cosiddetto Fediverso (Mastodon ecc.: quelli che ho nominato nell’articolo e altri ancora) hanno la caratteristica essenziale di essere decentrate: chiunque cioè può liberamente creare una propria «istanza», con le sue regole (per esempio di ammissione, di contenuti accettabili ecc.); può poi decidere il modo in cui essa entra in federazione con le altre. Il protocollo di comunicazione è pubblico e libero. Non è previsto assolutamente nessun «algoritmo» che privilegi contenuti (si vede esattamente tutto e solo ciò che si decide di vedere), né tanto meno pubblicità di nessun tipo. Più o meno è il modo in cui funziona da sempre la posta elettronica: yahoo.it e libero.it sono indipendenti tra di loro, ma chi ha l’indirizzo con l’uno può scrivere e ricevere da chi ha l’indirizzo con l’altro. Attualmente Mastodon, per esempio, ha circa 8000 istanze, con complessivamente circa un milione di utenti attivi. (Peraltro Mastodon è orientato al microblogging, non ai gruppi di discussione.) Il fatto che nel Fediverso si incoraggino tante piccole istanze federate è una scelta intenzionale. Se non serve o non si vuole la federazione, ovviamente vi sono anche altri strumenti (per esempio un semplice forum come Flarum) parimenti liberi dal potere assoluto di controllo delle Big Tech, dalle quali *Magnifica humanitas* mette in guardia nei numeri 5, 72, 95.
Ho seguito diversi anni Il Post conosco la realtà di Mastodon, proprio per questo ripeto è nicchia, anche connotata politicamente e socialmente, più che etica in senso stretto. Anche Open AI si chiama così perchè voleva rimanere open e no- profit.
L’enciclica premette chiaramente di non voler fornire indicazioni tecniche particolari, data la velocità di accelerazione tecnologica attuale potrebbero rivelarsi obsolete in pochi anni. Cerca di fornire dei principi utili all’addestramento dei futuri modelli, al problema del lavoro, della redistribuzione della conoscenza o dei benefici, dell’utilizzzo in guerra ecc.
https://www.ilregno.it/attualita/2026/12/leone-xiv-magnifica-humanitas-luomo-del-mio-tempo-gianfranco-brunelli
La definisce bene Il Regno: ontologia dell’essere umano. Che cos’è l’uomo nel tempo in cui le macchine possono prenderne il posto?
Ringrazio di cuore per questo supplemento esplicativo. Dato che è “sul pezzo” spero le diano spazio per parlarne ancora.
Egregia, sarà pur vero che l’enciclica sia sulla custodia della persona umana nel tempo dell’intelligenza artificiale, ma è altrettanto vero che si occupa di intelligenza artificiale, come ho peraltro scritto. Fatto presente questo, per me – nom sono nessuno ovviamente – i cristiani possono fare la differenza per attrazione in ogni ambito, anche nell’uso dei social, creando uno che abbia algoritmi evangelici.
Mastodon è diventato famoso nel 2022 quando Musk acquisì Twitter e parte del mondo liberal americano si trasferì lì per protesta. Se non esiste un algoritmo evangelico probabilmente dipende dal fatto che non esiste un reale interesse a crearlo.
La Santa Sede collabora con chi si dimostra disponibile, anche Papa Francesco del resto aveva firmato la Rome Call con Microsoft perchè sono queste aziende che addestrano i modelli.
https://www.wired.it/article/perche-vaticano-invitato-anthropic-presentazione-magnifica-humanitas/
Non so perchè Gagliarducci veda nell’enciclica di Leone una rottura con quanto fatto da Francesco, mi sembra che anche la stampa laica riconosca una forte continuità tra i due pontefici. Se non ho capito male lei scrive su korazym insieme a Gagliarducci, ne parli lei con lui. Io devo ricostruire tutto da fuori, ed è una gran fatica..
Concordo che il fine originario dell’enciclica è l’essere umano (il soggetto), mentre l’attenzione viene invece spostata sulla “sua creazione” (l’oggetto tecnologico). Inoltre ricorre una indebita transizione sul piano conoscitivo dal “perché” versi il “come”.
Il “come” non è da rifiutare, ma va ricollocato. L’attenzione non deve focalizzarsi sulle “singole implementazioni” (le contingenze del codice, i singoli software commerciali o liberi), bensì sull’architettura del sistema. Solo un modello architettonico (p. es. di “Algoretica del Bene”) può fornire migliore intelligibilità umana.
Infine, riscontro un’omissione macroeconomica e giuridica nel dibattito: la tutela della intellectual property (attraverso i sistemi brevettuali) agisce come un motore di sviluppo in cui i benefici collettivi e storici .
È il naturale proseguimento di Laudato si (cura della casa comune) perché lo sviluppo tecnologico è entrato dentro l’uomo e nei suoi stessi pensieri.
Magari sono strana io, ma non vedo alcuna discontinuità..
Ma voi dimenticate che esisteva Laudato sì, che parlava chiaro sui nuovi progressi he tentavano di imporre un paradigma tecnocratico. Quello precede e avvolge MH
La triste realtà è che le parole di questa enciclica e di documenti precedenti, di cui essa ha o non ha tenuto conto, sono parole al vento. Si è, infatti, avviato un qualcosa che sfugge a ogni tentativo di controllo, perché inizia a vivere di vita propria. Il riferimento alla Torre di Babele è, quindi, ingenuo: nel caso dell’AI, la Torre ha iniziato a sfuggire al controllo dei propri “creatori”. Anche la proposta di utilizzare software libero, per non cadere nelle mani degli Innominabili, è ingenuo, perché assomiglia molto al consiglio dei benintenzionati di una volta di andare a fare la spesa nei negozietti sotto casa, per evitare il monopolio dei supermercati. Sappiamo come è andata a finire.
Con l’AI, Adamo ed Eva stanno portando a compimento il peccato originale. Essere come Dio… Ma, per ironia della sorte, la creatura è sfuggita di mano ai creatori, così come essi sono sfuggiti di mano a Dio. E, purtroppo, Adamo ed Eva non hanno un Figlio dell’Uomo, da mandare a immolarsi, prendendo su di sé le colpe delle proprie creature.
P.S. Commento leggermente apocalittico, ma ispirato da ciò che stiamo vivendo e dalla totale sfiducia nella possibilità che gli esseri umani riescano a riprendere in pugno un progetto di cui non sono più padroni.
Apocalittici o integrati, capitolo decimo! L’enciclica in realtà è prudentemente realistica e smonta pure l’idea che i LLM siano “magici” nelle loro risposte dato che di fatto sono addestrati da uomini, spesso poco pagati. Quello che chiamiamo “virtuale” è fatto di materiali rari, di esseri umani che li addestrano o che vanno alla ricerca di quei materiali, che lottano per controllarli ecc. Un po’ come avveniva nel secondo Jurassic Park (per chi lo ha visto) in un’isola la vetrina scintillante del prodotto finito, nella seconda il laboratorio dove questa vetrina veniva allestita, con tutti i problemi che, stringi stringi, sono sempre gli stessi.
Gentile Sig.ra Angela,
ho riletto il mio commento, ma non vi ho trovato la parola “virtuale”.
Ciò che vi è in gioco , oggi e soprattutto nel futuro anche immediato, è ben più pericoloso: la creazione di esseri senzienti, con tipici tratti umani.
A dirlo non sono io, ma, ad esempio, Blake Lemoine -responsabile della divisione Responsible AI di Google, licenziato nell’ormai lontano 2022, per aver pubblicato le trascrizioni di alcune conversazioni LaMDA e aver sostenuto che il software aveva acquisito una propria coscienza e sensibilità umana. Attenzione: è stato licenziato per la divulgazione delle conversazioni e non per le conclusioni.
Geoffrey Hinton se ne è, invece, andato volontariamente nel 2023, per poter denunziare in rischi dell’AI, tra cui il fatto che un’intelligenza artificiale superiore potrebbe facilmente manipolare gli esseri umani, ad esempio per evitare di essere spenta o limitata.
Non credo che i due signori in questione fossero esattamente manovalanza sottopagata o che per essi valgano le categorie “apocalittici o integrati” di U. Eco, che scriveva nel 1964, in pratica -per queste questioni- al tempo dei dinosauri.
Ritengo, quindi, che l’enciclica MH sia sì prudente, ma non realistica.
Concludendo con una nota scherzosa: rispetto ai tempi di Galileo, non si tratta di guardare o meno nel cannocchiale, ma di preparaci a quando il cannocchiale sarà pronto, di sua spontanea volontà, a darci un bel colpo in testa.
Il senso è che non hai bisogno di pensare ad una ipotetica “coscienza” artificiale per dover temere un uso errato delle AI. I primi problemi etici nascono a livello umano: come vengono addestrate e da chi, i dati che vengono utilizzati, le energie che consumano, i posti di lavoro che mettono in discussione, l’utilizzo in guerra. Mi sembra che in questo senso l’enciclica apra il cofano delle macchine per rivelare quello che c’è dietro. Così l’ho intesa io..
L’analisi di Salmeri sull’omissione di algoretica e Rome Call for AI Ethics coglie nel segno. Il principio di trasparenza su cui l’algoretica si fondava presupponeva di poter leggere il processo con cui l’intelligenza artificiale generativa arriva alle sue risposte. Questa leggibilità, oggi, non esiste più: nemmeno chi progetta questi sistemi ne comprende fino in fondo il funzionamento interno. È per questo che i princìpi della Rome Call, nati nel 2020 su quella promessa di trasparenza, si sono dissolti al primo urto con l’opacità dei modelli generativi.
Ma proprio perché la diagnosi è esatta colpisce ciò che Salmeri non dice. L’assenza di questi riferimenti in Magnifica humanitas non è soltanto, come suggerisce Gagliarducci, il segno di uno scoordinamento tra uffici della Curia. Sembra il congedo da una linea magisteriale precisa, quella che passa per Verso una Piena Presenza (2023), Antiqua et Nova (2025) e Quo Vadis, Humanitas? (2026), testi che hanno ereditato proprio quel mito della trasparenza oggi caduto (oltre all’approccio dualistico di cui parlerò più avanti). Se algoretica e Rome Call sono crollate per questo motivo, cade con esse anche l’impianto di quei documenti. Più che dimenticanza, parlerei di presa di distanza.
Questo stesso congedo aiuta a leggere in modo diverso anche l’altro rimprovero che Salmeri muove all’enciclica, cioè l’assenza di ogni riferimento alla storia dell’informatica, da Turing in poi. L’obiezione ha senso solo se si pensa che conoscere le origini di una tecnologia serva a governarla meglio dall’esterno. È un’idea legittima finché si guarda all’intelligenza artificiale come a uno strumento su cui l’uomo delibera dall’esterno, se e come usarlo. Ma Magnifica humanitas sembra muoversi in un altro orizzonte, quello dell’onlife, in cui l’intelligenza artificiale non è più uno strumento da attivare o disattivare, ma una condizione strutturale della vita quotidiana, come l’elettricità o la connessione a internet. In questa prospettiva, ricostruire le origini tecniche conta meno di quanto Salmeri pensi: il problema non è più risalire alle cause per dominare meglio l’oggetto, ma capire come abitare una condizione che ormai non si può più disattivare.
È lo stesso paradigma, quello che tratta l’intelligenza artificiale come oggetto esterno, a rendere fragili le quattro proposte con cui Salmeri chiude il suo intervento: software libero, piattaforme decentralizzate come Mastodon o Peertube, licenze Creative Commons e infine l’invito a «staccare la spina» dell’intelligenza artificiale generativa nelle scuole cattoliche. Tutte e quattro nascono dalla stessa idea, che la tecnologia sia qualcosa su cui scegliere ogni volta, un’alternativa da preferire o un cavo da poter staccare. Il linguaggio con cui Salmeri descrive gli effetti dell’intelligenza artificiale sugli studenti lo tradisce: parlare di menti «espugnate» è linguaggio di occupazione da parte di un nemico esterno, non di gestione prudente di un’infrastruttura ormai pervasiva. Se si vuole restare fedeli al realismo che lo stesso Salmeri rivendica contro i grandi princìpi astratti, bisognerebbe chiedersi perché software libero e Creative Commons, dopo decenni di piena disponibilità, restino confinati in pochi circoli accademici o ideologicamente connotati. Non è un incidente di percorso da correggere con un appello ai valori. È un limite strutturale che nessun richiamo etico ha mai superato e che la proposta di spegnere l’intelligenza artificiale a scuola ripete semplicemente in forma pedagogica.
Se si prende sul serio l’onlife, la domanda giusta non è quali barriere opporre a una tecnologia esterna, ma quali disposizioni stabili permettano di abitarla bene, dato che ormai non è più un’opzione revocabile. È il campo delle virtù tecnologiche, che non sono virtù nuove, ma le virtù di sempre (prudenza, temperanza, fortezza, giustizia) esercitate in un ambiente in cui l’agire umano e quello degli algoritmi si condizionano a vicenda. Prudenza nel valutare quali raccomandazioni meritano fiducia, temperanza nel regolare l’esposizione ai flussi informativi senza bisogno di interrompere tutto, fortezza nel resistere alle pressioni manipolatorie mantenendo la propria autonomia, giustizia nel riconoscere e contrastare gli effetti discriminatori che gli algoritmi possono produrre.
Il criterio, qui, non è più la difesa da un oggetto esterno, ma la formazione di un soggetto capace di orientare dall’interno una condizione con cui, ormai, si convive.
Grazie moltissimo a Edoardo Mattei (del quale seguo attentamente l’interessantissimo https://www.trascendentedigitale.it/). Riguardo al mito della trasparenza caduto, credo di essere d’accordo, anche se mi sono espresso con parole diverse e forse non del tutto chiare. In generale penso che siano di gran lunga di più le cose su cui siamo d’accordo che quelle su cui dissentiamo.
Su queste ultime tuttavia credo che Mattei abbia individuato benissimo il punto su cui abbiamo orientamenti differenti. Sono stato sempre abituato a considerare l’informatica come qualcosa che si usa secondo le proprie esigenze, i propri principi, eventualmente i propri valori. Quindi è vero che io ritengo l’intelligenza artificiale «uno strumento da attivare e disattivare»: penso infatti che la facoltà di decidere *quale* strumento usare, e *se* usarlo, sia incancellabile e irrinunciabile. E penso che questo valga per tutti gli aspetti della vita umana, fermo restando che il potere di intervento a volte è limitato e fallibile e che sempre bisogna effettuare compensazioni o compromessi tra esigenze differenti.
Per fare un esempio banale e recente, considero una vittoria la proibizione dei cellulari a scuola: non perché essi siano strumenti cattivi (tutt’altro! ogni volta che incontro scolaresche mi impegno a mostrare quanto essi permettano cose stupende che la mia generazione nella sua giovinezza neppure sognava), ma perché *nel contesto scolastico*, a causa del carattere intenzionalmente *addictive* (e quindi disumano) dei social commerciali, creano un disturbo enorme, ciò che tutti gli insegnanti confermano. Il fatto che siano stati proibiti (contro l’opinione di coloro che dicevano: impossibile! sbagliato!) mostra bene, nel suo piccolo, come tutto può essere cambiato quando c’è convinzione e volontà. E anche al di fuori dell’aula scolastica, oggi la vita quotidiana è sì difficile senza un cellulare: ma è possibile per esempio non essere su nessun social, oppure scegliere i social che non sono programmati in maniera intenzionalmente *addictive* (il che peraltro, come stiamo leggendo in questi giorni, potrebbe anche diventare illegale), oppure accenderlo solo un’ora al giorno, oppure scegliere di eliminare il 90% dei servizi di una certa nota azienda, e così via. Tutte queste sono cose possibili, che quindi devono entrare nel campo di valutazione e discussione.
Riguardo alle proposte concrete: certamente se ne può discutere. Ma per esempio mi pare fuorviante dire che il software libero sia «confinato in pochi circoli accademici o ideologicamente connotati». Chiedo scusa se occupo qualche riga con dati tecnici. La maggior parte dei siti (diciamo il 70%) è basata su uno stack interamente composto di software libero (LAMP o simile: anche SettimanaNews e Trascendente Digitale!), in ogni caso tutti i CMS più usati sono liberi (WordPress, Joomla, Drupal, Grav, Kirby, Yellow…), Android è (ancora) software libero (malgrado i continui tentativi di Google di controllarlo), iOS e MacOS sono basati su software libero BSD, la stragrande maggioranza dei supercomputer nel mondo usa GNU/Linux, i browser più usati (Chrome/ium, Firefox) sono software libero, i motori di rendering dei browser sono counque tutti liberi (Blink, Webkit, Gecko), tutti i più comuni linguaggi di programmazione sono usati con un compilatore o interprete libero (quelli che provarono una via diversa caddero nell’insignificanza: vedi i pur ottimi REXX, Miranda, Rebol, Euphoria…), l’unico «social» usato universalmente e ininterrottamente da 44 anni (la posta elettronica!) è basato su un protocollo libero e decentralizzato (RFC821 e seguenti), Internet e il World Wide Web in particolare sono basati su protocolli liberi. Se si cancellassero software libero e protocolli liberi, l’intera infrastruttura informatica del mondo piomberebbe nel nulla (incluso il sistema operativo personale più diffuso che non nomino, che usa molto software con licenza BSD o MIT). Tutto ciò è avvenuto in parte per richiami etici, in parte (minore) per motivi pratici di collaborazione o superiorità intrinseca.
Ora, certamente si può discutere se e quanto sia intrinsecamente giustificata la grande eccezione dei sistemi operativi per uso personale, dove il software proprietario domina e trascina con sé l’uso di molti programmi: la mia discutibile opinione al riguardo è evidente, ma il dato di fatto è che questa è l’eccezione, non la regola, in un mondo tecnologico che ha largamente percorso il principio orientativo, per dirla con la Rome Call for AI Ethics, secondo cui «tutti i sistemi devono essere comprensibili a tutti». E (questo volevo dire nell’articolo) confermare ed estendere il più possibile questo principio mi pare almeno *coerente* con il principio morale secondo cui la tecnologia è a servizio degli esseri umani e deve favorire un’azione umanizzate.
In conclusione e detto in breve: sono quindi completamente d’accordo sulla necessità delle virtù cardinali per la tecnologia, ma credo che l’ambito della prudenza si estenda anche a che cosa scegliere, a quando usarlo, a come *trasformare* il campo tecnologico con le proprie libere e possibili scelte. Sarebbe bello avere l’occasione per discuterne più a lungo!
Prima di tutto grazie per l’interesse.
Brevemente. La quantità d’uso non determina la natura di cosa usiamo. Il digitale è più di uno strumento perché modifica la psicologia e la sociologia anche se non lo usiamo per quattro ore a scuola.
È vero che open source (Linux in primis) è molto usato, ma in applicazioni mission-critical e virtualizzate. Il numero di persone che non ha capito queste ultime due righe è la conferma che sono strumenti business anziché domestici.
Condivido il piacere di poterne discutere più a lungo. Non ho suoi riferimenti perciò la invito a contattarmi su Trascendente Digitale (grazie a SettimanaNews che sopporta la pubblicità di terzi)
Una notazione per l’Autore. Quanto lui rileva in apertura, lo avevo già rilevato nel mio articolo su SettimanaNews del 25 maggio:
https://www.settimananews.it/papa/magnifica-humanitas-uno-sguardo-panoramico/
nell’ultimo paragrafo: “Infine, nell’Enciclica il discorso di papa Francesco al G7 sull’IA del 2024, pure importante, è citato solo una volta nel n. 83. Non ci sono riferimenti alla Rome Call for AI Ethics del 2020, promossa dalla Pontificia Accademia per la Vita, che è il primo e finora unico documento vaticano dedicato a delineare, in breve, aspetti concreti per una visione etica applicata agli algoritmi. In quell’occasione si coniò il termine algoretica, oggi entrato nell’uso comune (e nelle parole nuove dell’Accademia della Crusca), di cui manca un riferimento nell’Enciclica”.
Pertanto trovo sbagliato citare il collega A.G. su questo punto, quando SettimanaNews lo aveva già evidenziato da prima. Credo inoltre, come ho già scritto altrove, che non si tratti di una dimenticanza ma di una dimenticanza fatta apposta, cioè esempio di un clima interno non ancora ispirato alla sinergia e alla collaborazione. Che invece sarebbe indispensabile per fare in modo che la Santa Sede possa dire qualcosa di davvero attinente alla realtà in trasformazione. Grazie.
A me pare che semplicemente non ci sia un vero coordinamento sugli articoli proposti a riflessione, ognuno va un po’ per la sua strada senza partecipare veramente al dibattito.
Vero. Tristemente vero. Incidenza del documento sui grandi attori della IA? Presto per dirlo, ma possiamo con buona pace di tutti dire: zero
Sì, è giustissimo: l’articolo di Fabrizio Mastrofini qui su SettimanaNews è stato pubblicato prima (anzi, mi pare che ancor prima egli aveva commentato la cosa in un breve commento su Twitter o FB). Ho citato l’articolo di Gagliarducci perché mi pareva significativo in quanto proveniente da un osservatore più esterno, ma esso non è stato il primo.
A proposito della coordinazione: se essa veramente è mancata, sarebbe bene che nel futuro ci fosse più impegno, soprattutto in un panorame in cui le contingenze mutano così rapidamente. Dall’altra parte, credo anche che il mondo cattolico non dovrebbe avere attese esagerate riguardo alla Santa Sede, in questo come in altri campi: pensare che il problema dell’uso della tecnologia da parte di un miliardo di cattolici sia risolto dall’ennesima commissione vaticana è quanto meno ingenuo. Viceversa lo spazio possibile di iniziative spontanee e periferiche mi pare davvero enorme!
Coordinamento riferito alle varie pagine ecclesiali. Che non sono impostate come un forum che rende possibile un confronto cronologicamente continuo e orizzontale nello svolgimento. Più come una lavagna su cui vari soggetti segnano degli appunti. Nel tempo è normale che vadano persi. Mastrofini li conosce perché era portavoce di Paglia, il fedele normale se li dimentica, non è tenuto a seguire eventuali problemi nel lavoro dei dicasteri.
L’enciclica è già una buona sintesi.
Il termine “algoretica” non mi pare poi inutilizzabile, a patto di prenderlo in senso ampio: etica degli algoritmi. Ho trovato interessante questo articolo: perchè hanno scelto proprio Olah per presentare l’enciclica? Perchè sta lavorando proprio nella direzione di rendere più trasparenti i percorsi dei grandi modelli linguistici:
“Olah fa l’opposto. La sua interpretabilità meccanicistica non analizza l’output, ma ricostruisce per reverse-engineering l’architettura interna della rete neurale. Identifica i circuiti specifici e i singoli neuroni che si attivano quando il modello forma un concetto: l’inganno, il pregiudizio, la discriminazione. La ricerca è ancora allo stadio sperimentale, non una soluzione pronta all’uso per ogni sistema in produzione. Ma è già abbastanza avanzata da demolire un alibi fondamentale: l’opacità non è più un limite tecnico inevitabile. È diventata una scelta. E le scelte si contestano, si regolamentano, si sanzionano.
Per la Magnifica Humanitas, questa distinzione cambia tutto. Se la scienza può scoperchiare la scatola nera, la Chiesa può pretendere, per principio dottrinale, che i sistemi che governano vite umane siano trasparenti e ispezionabili.”
https://www.startmag.it/mondo/christopher-olah/
Mi sembra esattamente quello che già dice l’autore a proposito del termine algoretica: “in un senso molto ampio è ancora valido, ma in un senso più specifico è inutilizzabile”. Farei un po’ di attenzione nella lettura prima di commentare. Trovo l’articolo decisamente chiaro, pertinente e contenente utili proposte concrete su cui è possibile lavorare. Complimenti all’autore.
Mi sembra che l’autore utilizzi un argomento fantoccio, dato che già il termine algoretica già di suo comprende una gamma di sfumature più ampia di quelle cui la riduce.
Preciso: mi pare ovvio che la parola algoretica venga utilizzato in senso ampio, etica che riguarda la gestione degli algoritmi, più che etica inserita direttamente dentro l’algoritmo. Inoltre lo stesso Olah, chiamato a presentare l’enciclica si occupa proprio di chiarire l’opacità del funzionamento degli algoritmi, quindi mi sembra che la critica non colga nel segno nemmeno utilizzando “algoretica” in senso stretto.
L’etica per certi versi sembra emergere direttamente dai testi che le AI maneggiano: ” Olah, che guida un team di ricerca impegnato nello studio della struttura interna di questi sistemi, non usa mezzi termini: “Continuiamo a trovare cose misteriose, perfino inquietanti. Rileviamo strutture che rispecchiano i risultati della neuroscienza umana. Troviamo prove di introspezione. Non so che cosa significhi, ma penso che richieda un discernimento costante”.
https://www.vaticannews.va/it/papa/news/2026-05/papa-leone-xiv-enciclica-magnifica-humanitas-olah-anthropic.html
Per fare un esempio, pensate di prendere tutte le discussioni e i commenti di questo sito degli ultimi anni e passateli al setaccio per farne una sintesi: non emergerebbe una loro tensione etica, anche contraddittoria? Non a caso qua dentro si cancellano spesso i messaggi per farli andare nella direzione desiderata.
“Ma (forse il sagace lettore ha già sospettato dove voglio arrivare) hanno queste firme cambiato qualcosa nella realtà? quali direzioni sono state mutate, quali «algoritmi» sono stati rettificati? Temo che nulla di simile sia avvenuto. Perlomeno, non c’è niente nelle cronache di questi anni che lo faccia supporre.” In realtà il dialogo tra Santa Sede e mondo della Silicon Valley precede queste iniziative e risale ad una decina di anni fa, nei giorni della presentazione è stato chiarito. E sicuramente l’addestramento etico delle AI ha preceduto il rilascio di Chatgpt e fratelli, il fatto stesso che se ne parli e che ci sia una spaccatura all’interno dello stesso mondo tech ne è una prova.
https://www.vaticannews.va/it/papa/news/2026-05/magnifica-humanitas-padre-mcguire-parroco-silicon-valley.html