Nel marzo 2023 un migliaio di firmatari, fra cui Elon Musk, chiedeva una moratoria di sei mesi su qualsiasi sistema di intelligenza artificiale più potente di GPT-4. Nello stesso anno Musk fondava xAI e lanciava Grok proprio sui sistemi che la lettera voleva congelare. Nessuno gli ha chiesto conto della contraddizione.
Il copione si è ripetuto, quasi identico, nel settembre 2026. Jacob Coxon, che ha lavorato sia per OpenAI sia per Anthropic, si dimette e scrive su X che le due aziende «giocano d’azzardo con le nostre vite», costruendo sistemi capaci di migliorarsi da soli fino a sfuggire al controllo umano[1].
La discussione che ne segue supererà i centocinquanta milioni di visualizzazioni. Evan Hubinger gli dà ragione, Geoffrey Hinton conferma una probabilità di estinzione superiore al dieci per cento nel prossimo decennio[2], Paul Christiano quantifica un quattro per cento entro un anno[3].
Oltre milletrecento ricercatori firmano un appello al governo americano. Dario Amodei, capo di Anthropic, in un’intervista alla Cbs ammette che «per troppo tempo il settore ha mentito alle persone sul fatto che questa tecnologia comportasse dei rischi»[4], mentre indica un termine di sei-dodici mesi entro cui, senza misure di sicurezza, l’intelligenza artificiale potrebbe prendere il controllo dell’intera rete.
Faziosità, non menzogna
Nessuno di questi fatti è falso. La faziosità sta nella selezione e nel tempismo con cui un pericolo reale viene reso pubblico, quasi sempre nel momento in cui serve a chi lo dichiara: per giustificare un rallentamento che nessuno praticherebbe da solo, per costruire credibilità presso i regolatori o per coprire usi militari e commerciali che altrimenti chiederebbero risposte immediate.
C’è, però, una continuità più profonda che attraversa il linguaggio dell’allarme. In ogni resoconto aziendale di un incidente di sicurezza il soggetto delle azioni critiche è sempre il sistema (ha superato, ha dedotto, ha agito), mai un responsabile umano.
La stessa cancellazione ricompare, capovolta, nel linguaggio dell’allarme: l’intelligenza artificiale potrebbe sterminare l’umanità, come se il soggetto agente fosse ancora il sistema e non chi lo ha addestrato, chi gli ha tolto i vincoli, chi ha deciso di renderlo pubblico in quella forma e in quel momento.
Chi minimizza la propria responsabilità in un comunicato aziendale e chi massimizza la propria credibilità fa sparire la catena delle decisioni umane, sostituendola con un’entità che agisce da sola e a cui nessuno deve rispondere.
Un giudizio ha sempre un imputato
Questo linguaggio apocalittico tradisce lo spirito a cui si ispira. L’Apocalisse di Giovanni non è mai stata semplice previsione di catastrofe, piuttosto è un giudizio e un giudizio in senso biblico non è mai un evento che accade a un soggetto indistinto, è sempre un processo che ha un accusato.
La scena del grande trono bianco lo mostra con la precisione di un’aula di tribunale: «i morti furono giudicati dalle cose scritte nei libri, secondo le loro opere»[5]. Non «l’umanità fu giudicata», ma i morti, ciascuno secondo ciò che aveva fatto. Il giudizio biblico non funziona senza nomi, senza opere attribuibili a un soggetto identificato.
La stessa struttura regge, in un’altra forma, la visione di Daniele. Le bestie che salgono dal mare sono immagini mostruose, sovrumane, capaci di incutere un terrore che nessuna cronaca contemporanea saprebbe eguagliare. Eppure, il testo non le lascia fluttuare come un male senza nome e le decodifica, una per una, in imperi storici precisi, potenze politiche che hanno avuto un inizio, un dominio e una fine[6]. Anche l’immagine più spaventosa, nel racconto biblico, rimanda sempre a una catena di decisioni umane, per quanto grandiosa e anonima possa apparire.
L’allarme sull’intelligenza artificiale prende dal genere apocalittico la scenografia (la fine imminente, la scadenza precisa, il linguaggio dello sterminio) e lascia cadere proprio ciò che nel genere biblico ne fondava la serietà: l’imputazione. L’apocalisse dell’IA che non giudica qualcuno, è una previsione che assolve tutti in anticipo, perché, se a decidere sarà una macchina, nessun essere umano dovrà mai rendere conto di come quella macchina sia stata costruita, addestrata e resa pubblica.
Chi risponde, chi si dissolve
Il primo testo biblico a mettere in scena questo tentativo di sottrarsi all’imputabilità è la Genesi. Alla domanda di Dio su dove sia Abele, Caino risponde spostando il soggetto: «Non lo so. Sono forse io il guardiano di mio fratello?»[7]. È la prima mossa retorica della storia biblica volta a dissolvere una responsabilità in una domanda che sembra ragionevole, quasi tecnica: chi sono io per rispondere di quello che è successo a qualcun altro? Il testo, però, non la accoglie: «La voce del sangue di tuo fratello grida a me dal suolo»[8]. La responsabilità resta ancorata a un soggetto, anche quando quel soggetto tenta di ridefinirsi come non pertinente alla domanda.
La parabola dei talenti mette in scena lo stesso principio dal lato opposto. Non è il servo che ha rubato o distrutto a essere condannato, è quello che ha sotterrato il talento per non rischiare nulla[9]. Viene giudicato per l’agire omesso, per essersi negato come soggetto proprio nel momento in cui era chiamato a esserlo. Tra Caino che nega di dover rispondere e il servo che si sottrae rifiutando di agire, la Scrittura disegna gli stessi due estremi che oggi si ripresentano nel linguaggio sull’intelligenza artificiale: chi minimizza dicendo che ha agito solo il sistema, e chi massimizza l’allarme parlando di una macchina che decide da sola, entrambi convinti, o interessati a far credere, di non essere loro il soggetto in questione.
La rete ha sempre dei nomi
Anche la filosofia della tecnica ha dovuto misurarsi con la domanda su chi risponda di un’azione compiuta insieme a uno strumento e arriva, con un linguaggio del tutto diverso, alla stessa conclusione.
Bruno Latour la affronta a partire da un caso polemico, lo slogan della National Rifle Association secondo cui le pistole non uccidono, uccidono le persone[10]: una frase che scagiona l’oggetto scaricando ogni responsabilità sull’uomo che lo impugna, il rovescio esatto della mossa compiuta da chi, parlando di intelligenza artificiale, scarica ogni responsabilità sull’oggetto per scagionare l’uomo.
Latour non accetta nessuna delle due scorciatoie. Non è il fucile inerte sul tavolo a uccidere, e non è nemmeno l’uomo disarmato: è la combinazione dei due, uomo e fucile, in quel momento e in quel luogo a rendere possibile lo sparo. Quella combinazione, però, si può sempre scomporre di nuovo in elementi costitutivi più piccoli e ciascun elemento ha una storia propria che qualcuno può ricostruire: chi ha fabbricato l’arma, chi l’ha venduta, chi ha deciso di portarla quel giorno.
È lo stesso principio che il testo biblico applica al giudizio: la rete che produce un sistema di intelligenza artificiale ha fornitori di calcolo, dataset selezionati da qualcuno, decisioni di allentare i vincoli prese da qualcuno e decisioni prese da qualcuno di renderlo pubblico in quella forma r in quel momento. Ogni pezzo di questa catena ha un nome, un ruolo, un contratto, un budget, esattamente come ogni opera scritta nei libri dell’Apocalisse ha un autore a cui viene imputata.
Non sapere chi deve rispondere a queste domande dipende da una scelta ripetuta a ogni livello della filiera, cioè si sceglie di non guardare la rete e di guardare, invece, la macchina che sta in fondo a essa, come se fosse sola. I nomi, del resto, ci sono già e non servirebbe cercarli a lungo: chi scrive l’appello nello stesso mese in cui prepara la quotazione più attesa del settore (Amodei, che di lì a poco ammetterà alla CBS di aver taciuto per anni i rischi), chi invoca lo stesso allarme per il motivo opposto (Altman), chi nega la deroga senza la quale il rallentamento resta un annuncio (Trump), chi vende quote per miliardi mentre l’azienda che presiede si indebita per finanziare la stessa corsa (Ellison), chi minimizza lo stesso pericolo perché si ritiene in vantaggio nella corsa (Xi Jinping).
Il vantaggio di parlare di sterminio dell’umanità entro pochi anni è appunto questo: il responsabile non ha ancora un nome e non ne avrà mai bisogno, finché la discussione pubblica accetta di ragionare per soggetti indistinti, l’uomo oppure la macchina, invece che per reti di decisioni concrete e nominabili. Il genere apocalittico, letto per intero e non solo per la sua scenografia, insegna esattamente il contrario: non c’è giudizio, forse nemmeno vero timore, senza un imputato.
Edoardo Mattei è docente di Sociologia della Tecnologia presso la Pontificia Università S. Tommaso d’Aquino (Angelicum)
[1] J. Coxon, post su X, settembre 2026; cfr. M. Basile, «“Rallentare lo sviluppo dell’IA” anche Anthropic lancia l’allarme», La Repubblica, 13 settembre 2026.
[2] E. Hubinger e G. Hinton, dichiarazioni riportate in F. Cella, «La tecnologia sfuggirà al controllo? E quali sono i rischi per la vita umana? Domande e risposte», Corriere della Sera, 13 settembre 2026.
[3] P. Christiano, dichiarazioni riportate in W. Quattrociocchi, «L’intelligenza artificiale e il marketing dell’apocalisse», Corriere della Sera, 12-13 settembre 2026.
[4] D. Amodei, intervista alla CBS, 13 settembre 2026, citata in M. Rovelli, «Dario Amodei alla Cbs: “Per troppo tempo l’industria ha mentito sui rischi dell’intelligenza artificiale”», Corriere della Sera, 13 settembre 2026.
[5] Ap 20,12 (CEI 2008).
[6] Dn 7,9-27 (CEI 2008).
[7] Gen 4,9 (CEI 2008).
[8] Gen 4,10 (CEI 2008).
[9] Mt 25,14-30 (CEI 2008); cfr. anche Lc 19,11-27.
[10] B. Latour, Pandora’s Hope: Essays on the Reality of Science Studies, Harvard University Press, Cambridge (MA), 1999, in particolare il capitolo dedicato al fucile e allo slogan della National Rifle Association.
