Che cosa succede quando una macchina viene invitata a ragionare e, ragionando, comincia a contraddirsi? È la domanda apparentemente semplice da cui prende avvio L’algoritmo e l’anima. Ma il libro finisce per porne un’altra, assai meno semplice: che cosa rivela della nostra società, oggi, il modo in cui una macchina argomenta, distingue, corregge e, talvolta, si contraddice?

Il titolo mette subito in tensione i due termini del libro. Algoritmo – dal nome del matematico persiano al-Khwarizmi – richiama una procedura ordinata, una sequenza di passi determinati. Anima indica, invece, ciò che eccede ogni sequenza deterministica: vita, giudizio, libertà, interiorità. È precisamente in questa tensione che si muove il libro.

E la copertina – un medico, un frate domenicano e un piccolo robot seduti nella stessa utilitaria – ne anticipa lo stile: non un trattato sull’intelligenza artificiale, ma un viaggio a tre, con una curiosa creatura digitale come interlocutore.

Nonostante la densità dei temi, il libro resta accessibile: la forma dialogica alleggerisce l’argomentazione, le note tecniche la approfondiscono, e le osservazioni finali del teologo la ricompongono in sintesi – leggibile tanto dal pubblico non specialista quanto dagli addetti ai lavori.

Il libro attraversa così i principali nodi della bioetica contemporanea, dall’aborto all’eutanasia, dalla dignità al matrimonio e alle questioni di genere. Cambiano, di volta in volta, gli oggetti del dibattito; resta identico il metodo, ed è questa costanza, più che la varietà dei temi, a dare al libro la sua unità.

Il metodo è quello della disputa scolastica – le quaestiones disputatae di san Tommaso – innestato sulla maieutica socratica: domande incalzanti, quasi impositive nella forma, la cui forza però non sta nell’imporre una tesi dall’esterno, ma nel tenere l’intelligenza artificiale ancorata all’oggettività delle proprie definizioni.

Agli autori basta chiedere a Gemini di rispondere «escludendo ogni altra considerazione» – etica, giuridica, politica o di convenienza – e restando alla «pura logica interna» di quanto ha già detto. Ed è lì che Gemini si contraddice, e in quella contraddizione si rivela: non quando le si nega ragione, ma quando, messa alle strette, abbandona il criterio dell’oggettività e vi sostituisce, senza dirlo, il bias (tendenza a deviare dalla norma o dalla media, ndr) o i presupposti di un’altra prospettiva – la stessa Gemini, nel tentativo di resistere alla conclusione, arriva a nominarli esplicitamente: relativismo giuridico, funzionalismo antropologico, il riconoscimento implicito che il diritto possa ridefinire l’essere umano. Applicata senza sconti, la logica ribalta quel condizionamento.

Applicato ai nodi più esposti (aborto, eutanasia, dignità), il metodo smaschera una famiglia di sofismi ben nota anche al dibattito pubblico: distinzioni introdotte a metà argomento e mai dichiarate, la classica fallacia dell’equivocità e, infine, sotto l’incalzare di domande puntuali e logicamente precise, vere autocontraddizioni.

Il più ricorrente, quasi costante, emerge già dal primo dialogo, quello sull’aborto: è ciò che si potrebbe chiamare, con termine tecnico, meta-linguistic switching fallacy, il cambiamento improprio del criterio definitorio a metà del ragionamento. Vale la pena ricordare che la pretesa neutralità dell’intelligenza artificiale su temi bioetici è essa stessa una posizione: proclamarla, di fronte a domande che riguardano vita, morte e dignità umana, è già una retorica – e non delle più innocue.

Ed è qui che il libro, senza dichiararlo, tocca una questione più grande di sé: il problema della noosfera, non il semplice insieme delle informazioni disponibili, ma l’ambiente cognitivo entro cui gli esseri umani formano, ricevono, trasmettono, selezionano e organizzano le proprie rappresentazioni del mondo.

La domanda decisiva non è se un modello di intelligenza artificiale possa sbagliare una risposta: questo accade, e il libro lo documenta con pazienza. La domanda è che cosa accade quando un numero crescente di persone non usa questi strumenti solo per cercare informazioni, ma per formulare le proprie domande, ricevere interpretazioni già pronte, selezionare argomenti, e persino stabilire, implicitamente, quali alternative restino pensabili.

Il pericolo più profondo non è l’algoritmo che sbaglia una risposta; è l’algoritmo che diventa mediatore ordinario della formazione del giudizio, intervenendo nella noosfera prima ancora che il soggetto abbia formulato autonomamente la propria domanda.

A questo si aggiunge un dato che il libro non discute ma che ne aggrava la posta in gioco: un numero crescente di adolescenti non si rivolge ai chatbot (programmi informatici progettati per simulare una conversazione con un essere umano, ndr) per informazioni pratiche, ma per domande di senso e sostegno emotivo.

Le rilevazioni più recenti lo confermano: quasi un adolescente americano su otto cerca già supporto emotivo da un software conversazionale (Pew Research Center, 2026). È la fascia più fragile e, insieme, la più decisiva per la formazione del giudizio, a interrogare la macchina non su ciò che è vero ma su ciò che vale.

La questione della tecnica, oggi, non è più soltanto se possiamo fare ciò che essa ci consente di fare, ma chi stabilisce l’orizzonte entro cui ciò che possiamo fare diventa anche ciò che siamo disposti a pensare. È precisamente questo il volto dell’acefalia della tecnica: una tecnica priva di un orizzonte antropologico capace di orientarla – quella disumanizzazione che Leone XIV, nella Magnifica humanitas, chiede di contrastare restando «profondamente umani».

Non è indifferente che il libro scelga come interlocutore proprio Gemini, integrato nell’ecosistema di Google, la cui posizione dominante nel mercato delle ricerche rende la domanda sulla noosfera tutt’altro che teorica: il punto, già segnalato dagli studi citati nell’introduzione e confermato da una letteratura più ampia, è che i grandi modelli linguistici, Gemini incluso, si collocano ricorrentemente su posizioni progressiste sul piano economico e libertario-progressiste sul piano dei valori – un bias documentato, non un’illazione, che impone cautela e responsabilità condivisa tra chi costruisce questi strumenti e chi li usa come prima fonte del proprio pensiero.

Serve forse, di fronte a tutto questo, una prudenza nuova: una sorta di recta ratio pensabilium, che echeggia volutamente la classica recta ratio agibilium con cui la tradizione tomista definisce la prudenza.

Il libro usa, dunque, l’intelligenza artificiale come interlocutore per sottoporre a prova la coerenza di alcune delle categorie con cui pensiamo la bioetica: è da questo esperimento circoscritto che nasce la domanda più ampia.

Il suo effetto più interessante potrebbe trovarsi altrove: se l’algoritmo può ereditare i nostri bias, riprodurre le nostre omissioni e restituirci come neutrali categorie che neutrali non sono, allora la questione non è più soltanto di verità o di potere, ma di chi forma le categorie attraverso cui distinguiamo l’una dall’altra.

Un uso incontrollato di questi strumenti nella formazione del pensiero, senza filtro critico, rischia di produrre una sorta di totalitarismo del senso comune: un condizionamento tanto più efficace quanto meno riconoscibile come tale. Esplode qui, non quando la macchina pensa ma quando noi cominciamo a pensare attraverso di essa senza più accorgerci della mediazione.

Un tempo potevamo delegare il discernimento a un’autorità. Almeno sapevamo a chi stavamo obbedendo. Oggi il rischio è delegarlo a qualcosa che ci risponde senza mai presentarsi come autorità.

Ed è forse questa la domanda che L’algoritmo e l’anima lascia più radicalmente aperta: non se una macchina possa avere un’anima, ma quanto della nostra anima siamo disposti a consegnarle prima ancora di esserci posti la domanda.

Una lettura che vale la pena affrontare, proprio adesso che queste domande hanno smesso di essere ipotetiche.

Renzo Puccetti e Giorgio Maria Carbone, L’algoritmo e l’anima. Un viaggio nella bioetica con il nostro co-pilota digitale, Coll. Le Frecce, Edizioni Studio Domenicano, Bologna 2026, pp. 224, € 18,00, EAN 9788855451451.