Che cosa succede quando una macchina viene invitata a ragionare e, ragionando, comincia a contraddirsi? È la domanda apparentemente semplice da cui prende avvio L’algoritmo e l’anima. Ma il libro finisce per porne un’altra, assai meno semplice: che cosa rivela della nostra società, oggi, il modo in cui una macchina argomenta, distingue, corregge e, talvolta, si contraddice?
Il titolo mette subito in tensione i due termini del libro. Algoritmo – dal nome del matematico persiano al-Khwarizmi – richiama una procedura ordinata, una sequenza di passi determinati. Anima indica, invece, ciò che eccede ogni sequenza deterministica: vita, giudizio, libertà, interiorità. È precisamente in questa tensione che si muove il libro.
E la copertina – un medico, un frate domenicano e un piccolo robot seduti nella stessa utilitaria – ne anticipa lo stile: non un trattato sull’intelligenza artificiale, ma un viaggio a tre, con una curiosa creatura digitale come interlocutore.
Nonostante la densità dei temi, il libro resta accessibile: la forma dialogica alleggerisce l’argomentazione, le note tecniche la approfondiscono, e le osservazioni finali del teologo la ricompongono in sintesi – leggibile tanto dal pubblico non specialista quanto dagli addetti ai lavori.
Il libro attraversa così i principali nodi della bioetica contemporanea, dall’aborto all’eutanasia, dalla dignità al matrimonio e alle questioni di genere. Cambiano, di volta in volta, gli oggetti del dibattito; resta identico il metodo, ed è questa costanza, più che la varietà dei temi, a dare al libro la sua unità.
Il metodo è quello della disputa scolastica – le quaestiones disputatae di san Tommaso – innestato sulla maieutica socratica: domande incalzanti, quasi impositive nella forma, la cui forza però non sta nell’imporre una tesi dall’esterno, ma nel tenere l’intelligenza artificiale ancorata all’oggettività delle proprie definizioni.
Agli autori basta chiedere a Gemini di rispondere «escludendo ogni altra considerazione» – etica, giuridica, politica o di convenienza – e restando alla «pura logica interna» di quanto ha già detto. Ed è lì che Gemini si contraddice, e in quella contraddizione si rivela: non quando le si nega ragione, ma quando, messa alle strette, abbandona il criterio dell’oggettività e vi sostituisce, senza dirlo, il bias (tendenza a deviare dalla norma o dalla media, ndr) o i presupposti di un’altra prospettiva – la stessa Gemini, nel tentativo di resistere alla conclusione, arriva a nominarli esplicitamente: relativismo giuridico, funzionalismo antropologico, il riconoscimento implicito che il diritto possa ridefinire l’essere umano. Applicata senza sconti, la logica ribalta quel condizionamento.
Applicato ai nodi più esposti (aborto, eutanasia, dignità), il metodo smaschera una famiglia di sofismi ben nota anche al dibattito pubblico: distinzioni introdotte a metà argomento e mai dichiarate, la classica fallacia dell’equivocità e, infine, sotto l’incalzare di domande puntuali e logicamente precise, vere autocontraddizioni.
Il più ricorrente, quasi costante, emerge già dal primo dialogo, quello sull’aborto: è ciò che si potrebbe chiamare, con termine tecnico, meta-linguistic switching fallacy, il cambiamento improprio del criterio definitorio a metà del ragionamento. Vale la pena ricordare che la pretesa neutralità dell’intelligenza artificiale su temi bioetici è essa stessa una posizione: proclamarla, di fronte a domande che riguardano vita, morte e dignità umana, è già una retorica – e non delle più innocue.
Ed è qui che il libro, senza dichiararlo, tocca una questione più grande di sé: il problema della noosfera, non il semplice insieme delle informazioni disponibili, ma l’ambiente cognitivo entro cui gli esseri umani formano, ricevono, trasmettono, selezionano e organizzano le proprie rappresentazioni del mondo.
La domanda decisiva non è se un modello di intelligenza artificiale possa sbagliare una risposta: questo accade, e il libro lo documenta con pazienza. La domanda è che cosa accade quando un numero crescente di persone non usa questi strumenti solo per cercare informazioni, ma per formulare le proprie domande, ricevere interpretazioni già pronte, selezionare argomenti, e persino stabilire, implicitamente, quali alternative restino pensabili.
Il pericolo più profondo non è l’algoritmo che sbaglia una risposta; è l’algoritmo che diventa mediatore ordinario della formazione del giudizio, intervenendo nella noosfera prima ancora che il soggetto abbia formulato autonomamente la propria domanda.
A questo si aggiunge un dato che il libro non discute ma che ne aggrava la posta in gioco: un numero crescente di adolescenti non si rivolge ai chatbot (programmi informatici progettati per simulare una conversazione con un essere umano, ndr) per informazioni pratiche, ma per domande di senso e sostegno emotivo.
Le rilevazioni più recenti lo confermano: quasi un adolescente americano su otto cerca già supporto emotivo da un software conversazionale (Pew Research Center, 2026). È la fascia più fragile e, insieme, la più decisiva per la formazione del giudizio, a interrogare la macchina non su ciò che è vero ma su ciò che vale.
La questione della tecnica, oggi, non è più soltanto se possiamo fare ciò che essa ci consente di fare, ma chi stabilisce l’orizzonte entro cui ciò che possiamo fare diventa anche ciò che siamo disposti a pensare. È precisamente questo il volto dell’acefalia della tecnica: una tecnica priva di un orizzonte antropologico capace di orientarla – quella disumanizzazione che Leone XIV, nella Magnifica humanitas, chiede di contrastare restando «profondamente umani».
Non è indifferente che il libro scelga come interlocutore proprio Gemini, integrato nell’ecosistema di Google, la cui posizione dominante nel mercato delle ricerche rende la domanda sulla noosfera tutt’altro che teorica: il punto, già segnalato dagli studi citati nell’introduzione e confermato da una letteratura più ampia, è che i grandi modelli linguistici, Gemini incluso, si collocano ricorrentemente su posizioni progressiste sul piano economico e libertario-progressiste sul piano dei valori – un bias documentato, non un’illazione, che impone cautela e responsabilità condivisa tra chi costruisce questi strumenti e chi li usa come prima fonte del proprio pensiero.
Serve forse, di fronte a tutto questo, una prudenza nuova: una sorta di recta ratio pensabilium, che echeggia volutamente la classica recta ratio agibilium con cui la tradizione tomista definisce la prudenza.
Il libro usa, dunque, l’intelligenza artificiale come interlocutore per sottoporre a prova la coerenza di alcune delle categorie con cui pensiamo la bioetica: è da questo esperimento circoscritto che nasce la domanda più ampia.
Il suo effetto più interessante potrebbe trovarsi altrove: se l’algoritmo può ereditare i nostri bias, riprodurre le nostre omissioni e restituirci come neutrali categorie che neutrali non sono, allora la questione non è più soltanto di verità o di potere, ma di chi forma le categorie attraverso cui distinguiamo l’una dall’altra.
Un uso incontrollato di questi strumenti nella formazione del pensiero, senza filtro critico, rischia di produrre una sorta di totalitarismo del senso comune: un condizionamento tanto più efficace quanto meno riconoscibile come tale. Esplode qui, non quando la macchina pensa ma quando noi cominciamo a pensare attraverso di essa senza più accorgerci della mediazione.
Un tempo potevamo delegare il discernimento a un’autorità. Almeno sapevamo a chi stavamo obbedendo. Oggi il rischio è delegarlo a qualcosa che ci risponde senza mai presentarsi come autorità.
Ed è forse questa la domanda che L’algoritmo e l’anima lascia più radicalmente aperta: non se una macchina possa avere un’anima, ma quanto della nostra anima siamo disposti a consegnarle prima ancora di esserci posti la domanda.
Una lettura che vale la pena affrontare, proprio adesso che queste domande hanno smesso di essere ipotetiche.
Renzo Puccetti e Giorgio Maria Carbone, L’algoritmo e l’anima. Un viaggio nella bioetica con il nostro co-pilota digitale, Coll. Le Frecce, Edizioni Studio Domenicano, Bologna 2026, pp. 224, € 18,00, EAN 9788855451451.
Il problema della logica che si contraddice non è nella “macchina”, neppure nell’algoritmo. Il fatto è che la AI in primo luogo non è intelligente, non è capace di discernere, di comprendere né di avere coscienza di quel che dice, è semplicemente un modo per cui un pc a determinati input risponde con determinati output senza pensare se siano corretti o meno, quello lo sappiamo noi. Un po’ come una calcolatrice, dove digitiamo 1+1= e questa risponde 2. Ora una calcolatrice si può pure rompere e magari lo schermo invece di dare 1+1=2 da 4 oppure 5 oppure un segno che non è un numero. Ecco non è che la calcolatrice sbaglia il calcolo, è lo schermo che è rotto e noi non sappiamo o interpretiamo quella rottura come un risultato sbagliato. Allo stesso modo, non è gemini che si contraddice, sei te che interpreti le risposte come risposte più o meno coerenti anche quando non sono proprio risposte, ma semplici calcoli che variano a seconda della quantità di informazioni che aggiungiamo: Perciò continuando a fare le stesse domande a Gemini pare che si contraddica, ma in realtà non ti sta proprio rispondendo, sta semplicemente facendo 1+1=2 + 1+1=4 ecc. ecc.
2+2=4 sia se lo scrivo io con la matita, sia se lo chiedi alla calcolatrice perchè la matematica è deterministica. Il linguaggio prevede molte sfumature e l’unico modo per ottenere risposte coerenti con la domanda iniziale è di tipo probabilistico. Del resto anche se interroghi dieci alunni sulla stessa domanda ti daranno dieci risposte non sovrapponibili. Alcune più corrette, altre meno, a seconda del loro grado di preparazione.
Linguaggio=retorica. Una risposta può essere formalmente ben costruita ma del tutto sganciata dalla realtà.
“sei te che interpreti le risposte come risposte più o meno coerenti anche quando non sono proprio risposte, ma semplici calcoli che variano a seconda della quantità di informazioni che aggiungiamo” non capisco perchè un calcolo non dovrebbe essere una risposta, al massimo puoi dire che nella domanda del singolo utente, e soprattutto nella conversazione stessa, nel modo con cui la si porta avanti, è già implicita la risposta. Il modello ti fa da specchio.
Secondo me invece i modelli rivelano i bias anche nelle conversazioni comuni, andate a leggere i commenti tutti in fila ad esempio nelle varie discussioni su Mancuso dei giorni scorsi. Ci sono due commenti uguali? Due persone che più o meno pensano la stessa cosa? Alla fine i modelli si limitano a pescare in tantissimi dati simili, testi discussioni, articoli di giornale, manuali scolastici e costruiscono una risposta coerente.
ieri sono andata a vedere Odissea di Nolan e quando sono tornata mi sono messa a chiedere un po’ di informazioni a Claude, ad esempio, Nolan conosce Dante? Perchè il finale sembra alludere al folle volo dantesco, la violenza di Ulisse contro i Proci è approvata o serve al contrario a mettere in evidenza come la violenza sia insita anche nelle più alte manifestazioni del pensiero greco?
Ditemi in quale modo avrei potuto avere delle risposte interrogando qualsiasi pagina online. Forse 20 anni fa, quando le community si formavano e le persone si riunivano proprio per discutere di cinema, letteratura, arte.. Adesso il modello si limita a pescare tra ciò che trova in rete. Se tu gli chiedi: Nolan approva la violenza finale di Ulisse? ti risponderà cercando una serie di comenti e recensioni che sostengono questa tesi. Se gli chiedi: Nolan condanna la violenza finale contro i Proci (perchè ad esempio la violenza è messa in scena in modo teatrale, enfatico e non dolente come nelle scene della guerra a Troia) ti risponderà cercando argomentazioni a sostegno di questa tesi. Il finale aperto è dentro il film stesso, il modello ti può solo rispondere dicendo che ci sono diverse interpretazioni, puoi cercare di farlo disputare tra una tesi e un’altra e poi trarre un sintesi personale. (se ci riesci).
Grazie per il commento. Trovo particolarmente interessante l’immagine dello “specchio”: forse il problema più sottile non è semplicemente che il modello pensi al posto nostro, ma che, nell’interazione prolungata, diventi difficile distinguere quanto appartenga originariamente al nostro percorso argomentativo e quanto sia invece il risultato della riformulazione e dell’amplificazione operate dal modello.
Sulla disputatio medievale, però, sarei più cauto. Proprio la sua struttura potrebbe offrire un correttivo a questa tendenza: non era soltanto esercizio retorico, ma confronto ordinato tra tesi, obiezioni, controargomenti e determinatio. In questo senso, forse, il modo filosoficamente più interessante di interrogare un’IA non è chiederle di sviluppare ciò che già pensiamo, ma costringerla a cercare le obiezioni migliori contro la nostra posizione.
Concordo infine sul fatto che resti aperta anche una questione più ampia, antropologica e sociale: perché sempre più persone cerchino questo tipo di interlocuzione proprio mentre l’interazione umana online sembra diventare più frammentaria e difficile. Non è un lamentarsi, anzi, ma rendere consapevoli di una problematica realtà (specialmente – come riferisce il libro – diffusa in giovane età; quando capacità critiche e di discernimento sono ancora deboli)
Dipende da come interroghi i modelli. Ho provato più volte a chiedere sia a Gemini che a Chatgpt (ultimamente Claude che è indubbiamente più sobrio). Se porti il ragionamento in una certa direzione, il modello ti asseconda. Perché è costruito soprattutto su abilità retoriche, esattamente come avveniva nelle disputationes medievali. Il modello poi tende a fare da specchio al tuo pensiero ed è davvero molto difficile capire ciò che è tuo da ciò che è suo.
Inoltre non ha molto senso lamentarsi del fatto che si chieda ai modelli quando l’interazione online è diventata sempre più impossibile, tra censure, ghostaggio e sostanziale solitudine dell’utente.