Eccellenza, lei ha avuto il grande merito di portare il tema dell’AI all’attenzione, promuovendo il documento chiamato Rome Call for AI Ethics. Il pregio del documento del 2020 era di essere breve, ponendo questioni molto concrete sul governo dei sistemi di AI, sull’importanza di una regolamentazione giuridica, sulla formazione di utenti e operatori.

Uno dei punti nodali era l’idea che i sistemi devono venire sviluppati in modo etico fin dalla loro progettazione (ethics by design). L’altro aspetto importantissimo, oltre alla concretezza, sono state le firme in calce al testo: Microsoft, IBM, FAO, governo italiano. Poi negli anni le firme sono aumentate con altre aziende (Cisco, ad esempio), con Università (La Sapienza di Roma, le università cattoliche dell’America Latina), Conferenze episcopali (quella indiana, una per tutte).

Ma al di là di questo, sono le aziende che hanno firmato che vorrei porre al centro di questa lettera. Chi oggi sollecita le aziende a lavorare per una AI ethics by design? Perché non viene fatto? E se viene fatto, per quale motivo non ne abbiamo un riscontro?

Quel documento chiamato Rome Call ha anticipato tutto l’impegno della Chiesa in modo originale. I documenti ufficiali enunciano dei princìpi, come in modo alto e articolato ha fatto papa Leone XIV con la sua Enciclica Magnifica Humanitas. Ma poi restano intatti, o non vengono intaccati, gli interessi economici e commerciali che fanno girare migliaia di miliardi di euro o di dollari, quotazioni in Borsa, sistemi di AI che si collegano con gli armamenti e dunque una tecnologia votata alla distruzione. Altro che legislazione sul fine-vita in un Paese o in un altro: qui il rischio è l’eutanasia della civiltà umana tutta intera nei cinque continenti!

Lei ha raccontato che all’origine della Rome Call c’era stata una iniziativa personale di Brad Smith, presidente Microsoft, che si è rivolto a lei direttamente e più in generale al Vaticano per avere un aiuto a distinguere cosa è lecito fare, nel grande mare di una progettazione di sistemi che rendono possibile il bene o il male assoluto. E gli ingegneri, le disse Brad Smith, devono venire aiutati a porsi domande sulla dimensione etica del loro lavoro.

Allora le chiedo: che fine ha fatto questo dialogo tra Chiesa e aziende? Nelle ultime settimane si è passati dal consueto entusiasmo per le capacità dei modelli a una discussione molto più esplicita su rallentamento, controllo, sicurezza e potere.

La notizia più importante è arrivata da Dario Amodei, CEO di Anthropic, che ha chiesto pubblicamente di rallentare lo sviluppo dei modelli più avanzati. La sua previsione è piuttosto drastica: entro 6-12 mesi, sostiene, una rete di agenti AI sufficientemente autonomi potrebbe arrivare a controllare una parte enorme di Internet, con danni potenzialmente nell’ordine delle centinaia di miliardi di dollari.

La cosa sorprendente è che Sam Altman di OpenAI e Elon Musk hanno sostanzialmente appoggiato l’idea di Amodei. Altman ha detto che occorre pace the frontier, cioè rallentare il ritmo con cui vengono sviluppati i modelli di frontiera. Questo è probabilmente il dato politico più interessante degli ultimi giorni: alcuni dei protagonisti dell’industria stanno chiedendo loro stessi più controllo.

Naturalmente esiste anche il rovescio della medaglia: alcuni osservatori fanno notare che chiedere di rallentare potrebbe favorire le grandi aziende già presenti sul mercato, rendendo più difficile la concorrenza dei piccoli e dell’open source.

Pochi giorni fa, l’11 settembre, parlando a Ventotene, lei ha sottolineato che l’Europa potrebbe avere una funzione particolare perché possiede una tradizione umanistica capace di dare alla tecnologia una dimensione universale. E ha criticato il fatto che l’Europa investe troppo poco nelle nuove tecnologie. Una ricerca tramite Chatgpt conferma che questa sua posizione è stata registrata dal sistema e considerata «una voce interessante».

Ecco allora, nel dialogo tra i diversi attori del settore, che fine ha fatto la voce della Rome Call che l’ha vista lavorare attivamente per impegnare le aziende, al punto tale da averle come firmatarie? Questa sembra essere la Chiesa del futuro: non solo importanti enunciazioni ma spazio di dialogo reale e concreto. A che punto siamo?