Mentre tornano, ormai con cadenza quasi semestrale, le previsioni sull’intelligenza artificiale destinata a mettere fine alla specie umana (sic!), le guerre reali continuano a uccidere. E a queste guerre si intreccia ormai un’altra dimensione del conflitto, fatta di algoritmi, dati, sistemi autonomi, modelli linguistici sempre più capaci e artefatti che qualcuno si ostina a presentare come nuove “menti di silicio”. Più economiche di quelle umane, sostituibili e, soprattutto, sacrificabili senza lutto.

Forse è proprio questo intreccio tra guerra, tecnologia e responsabilità che aiuta a comprendere meglio una parola che Leone XIV sta ponendo con insistenza al centro del suo magistero: disarmare.

L’11 agosto scorso la Santa Sede ha annunciato il tema scelto dal Papa per la Giornata mondiale della pace del prossimo 1° gennaio: «Disarmare la tecnica, servire la pace. La politica come responsabilità preventiva». Il Messaggio arriverà più avanti, ma già il titolo contiene un programma: la tecnica non è un destino al quale adeguarsi passivamente; il suo sviluppo deve rimanere dentro uno spazio di responsabilità umana, morale e politica.

Vale allora la pena provare a ricostruire da dove viene questa espressione e perché oggi assume un significato che va ben oltre la questione delle armi.

Dalle armi alla responsabilità

Il percorso era stato avviato con chiarezza da Papa Francesco.

Già nel 2020, parlando alle Nazioni Unite, il Pontefice argentino aveva messo in relazione la trasformazione degli armamenti con le nuove tecnologie. La questione sarebbe diventata molto più esplicita nel Messaggio per la Giornata Mondiale della Pace del 2024, Intelligenza artificiale e pace: quando una macchina entra nella catena delle decisioni che riguardano la vita e la morte, il problema non è soltanto la sua affidabilità tecnica. È chi risponde di quella decisione.

Da qui una convinzione che Francesco avrebbe ripetuto più volte, fino al G7 in Puglia (2024) e all’incontro AI Ethics for Peace di Hiroshima: nessuna macchina può diventare il soggetto morale della decisione di togliere una vita a un essere umano.

È un passaggio decisivo, perché sposta il discorso sull’intelligenza artificiale dall’efficienza alla responsabilità.

Un sistema può elaborare quantità enormi di dati, riconoscere un possibile bersaglio, calcolare probabilità, suggerire una scelta. Ma non può portarne il peso morale. E quando la responsabilità si distribuisce fra sviluppatori, comandanti, apparati, software e procedure automatiche, il rischio concreto è che alla fine nessuno si senta davvero responsabile.

Non è difficile intuire quanto questo problema superi il solo ambito militare.

Disarmare l’intelligenza artificiale

Con Magnifica humanitas, Leone XIV compie allora un passo ulteriore.

“Disarmare” non riguarda più soltanto le armi autonome. Diventa un modo di descrivere il rapporto che dovremmo costruire con l’intelligenza artificiale e, più in generale, con il potere tecnologico.

Disarmare l’IA significa anzitutto sottrarla alla logica della competizione armata, ma anche a quella economica e cognitiva: la corsa al modello più potente, alla maggiore quantità di dati, alla capacità di calcolo più estesa, al predominio tecnologico che inevitabilmente si traduce anche in predominio economico e geopolitico.

Non si tratta dunque di essere estremamente favorevoli o estremamente contrari all’innovazione. E neppure stabilire se l’intelligenza artificiale sia, in sé, “buona” o “cattiva”. Occorre domandarsi piuttosto quale potere stiamo consegnando alla tecnica, chi esercita quel potere e chi può ancora controllarlo, discuterlo e contestarlo? Non significa, insomma, rifiutare la tecnologia o rinunciare ai benefici della ricerca, ma spezzare l’equivalenza tra potenza tecnica e diritto di governare. Evitare che ciò che diventa tecnicamente possibile venga considerato, per questo solo fatto, anche opportuno, necessario o inevitabile.

Disarmare la tecnica significa renderla verificabile, discutibile, tracciabile; impedire che la velocità dell’innovazione diventi un alibi per la deresponsabilizzazione. In tutto ciò occorre continuare a distinguere tra ciò che possiamo fare e ciò che dovremmo fare, come spiega ancora il Magistero.

La politica, prima che sia troppo tardi

In questa prospettiva, diventa ulteriormente significativa anche la seconda parte del tema scelto per la Giornata Mondiale della Pace 2027: «la politica come responsabilità preventiva».

Siamo forse di fronte a un passaggio davvero nuovo; finora eravamo abituati a pensare alla regolazione delle tecnologie quasi sempre dopo: dopo che un sistema ha prodotto un danno, dopo che un algoritmo ha discriminato qualcuno, dopo che una piattaforma ha concentrato un potere enorme, dopo che una tecnologia militare è ormai entrata negli arsenali.

Invece la responsabilità preventiva capovolge questa prospettiva. Chiede alla politica di interrogarsi prima sulle conseguenze, sui limiti, sulla catena delle responsabilità e sugli interessi che accompagnano una determinata innovazione. E non bisogna temere di bloccare in qualche modo lo sviluppo, ma puntare sempre a un tipo di innovazione che sia realmente a misura d’uomo.

In ambito militare questo consiste in decisioni sempre ricostruibili, in responsabilità identificabili e un uso della forza effettivamente e consapevolmente sotto il controllo umano. Significa cioè, che la decisione sulla vita e sulla morte non la si lascerà evaporare all’interno di un processo automatizzato e opaco.

Evidentemente, questo principio può essere esteso anche oltre il campo di battaglia. Per esempio, vale ogni volta che affidiamo a un sistema tecnico una scelta importante semplicemente perché è più veloce, più economico o apparentemente più efficiente. E vale soprattutto quando iniziamo a considerare inevitabile una trasformazione soltanto perché la tecnologia l’ha resa possibile.

Ma collocata in questa dinamica, la responsabilità preventiva diventa anche un antidoto per una sorta di rassegnazione tecnologica, dove l’elemento più debole (della società) soccombe sotto le grinfie di un processo che non riesce per nulla a controllare.

Prima delle armi, le parole

C’è però un ultimo passaggio, senza il quale tutto questo rischierebbe di ridursi all’ennesima discussione sulla governance dell’intelligenza artificiale. Non basta disarmare la tecnica ma occorre disarmare anche le parole e i cuori.

Leone XIV ha più volte insistito sul legame tra il linguaggio e la pace. In Magnifica humanitas ritorna l’invito: «Disarmiamo le parole e contribuiremo a disarmare la Terra». Non va qualificata come un’aggiunta spirituale a un ragionamento tecnologico, perché ne è forse il punto più profondo. Non a caso, prima delle armi ci sono quasi sempre parole che hanno reso possibile usarle. Prima di trasformare qualcuno in un bersaglio occorre averlo trasformato in un nemico assoluto, in una categoria, in un numero, in qualcosa di cui non riconosciamo più il volto.

In questi termini, la tecnologia finisce per amplificare proprio questa distanza. La distanza fra chi decide e chi subisce; fra chi programma e chi viene classificato; fra chi autorizza un attacco e chi ne viene colpito; fra il dato e la persona che quel dato rappresenta… Ed è ovvio che una guerra ormai automatizzata porta questa distanza alla sua espressione estrema, anche se la questione, come dicevamo, riguarda ormai molti altri ambiti dell’esperienza umana.

Il vero rischio

Ogni volta che la persona scompare dietro un dato, una probabilità, un profilo, una categoria o dietro l’output di un sistema, qualcosa della responsabilità rischia di indebolirsi. E qui il tema del “disarmo” assume un particolare significato anche per chi si occupa di intelligenza artificiale senza occuparsi direttamente di guerra.

Da mesi ascoltiamo previsioni su macchine che potrebbero superarci, sostituirci, prendere il controllo o addirittura eliminare l’umanità. Alcune domande sul futuro sono certamente legittime e sarebbe ingenuo ignorare i rischi legati allo sviluppo di sistemi sempre più potenti.

Ma esiste un rischio molto più vicino a noi e meno spettacolare. Quello per cui piuttosto che le macchine a diventare “improvvisamente umane” siamo noi stessi, paradossalmente, a diventare “meno umani”. E questo accade ad esempio ogni volta che deleghiamo a questi strumenti ciò di cui dovremmo continuare a sentirci responsabili.

Per questo disarmare la tecnica e disarmare i cuori sono, in fondo, due dimensioni dello stesso movimento. Un movimento che consiste nel riportare la potenza sotto il giudizio della responsabilità; l’efficienza sotto quello della dignità; l’innovazione all’interno di una domanda sul bene comune.

Ricordando che nessun progresso tecnologico può esonerarci dalla fatica più propriamente umana: scegliere, rispondere delle nostre scelte e riconoscere, anche dall’altra parte di uno schermo o di un campo di battaglia, il volto di un altro essere umano come noi.

Tutto questo è certamente meno spettacolare delle profezie sulla fine dell’umanità per mano dell’intelligenza artificiale. Ma probabilmente è molto più urgente.