Paul O’Hara (matematico) e Steven Umbrello (ricercatore in etica delle tecnologie) sono gli autori di un recente volume intitolato Can AI Ever Be Human? (L’IA potrà mai essere umana?). In attesa dell’uscita dell’enciclica Magnifica humanitas di Leone XIV – che del tema si occuperà diffusamente – riprendiamo una intervista agli autori sui contenuti del volume ospitata lo scorso 23 aprile dal blog della Catholic University of America Press (originale inglese).

• L’intelligenza artificiale è IL tema di discussione in ogni ufficio, consiglio di amministrazione, aula scolastica e incontro sociale. Tutti oscilliamo tra preoccupazione, confusione, entusiasmo e curiosità. Potete dirci che cosa offre Can AI Ever Be Human? che lo distingue dagli altri libri sull’IA?

L’accento principale del libro è posto sul «tu e io», ed è questo che lo rende diverso da molti altri testi. Parte del nostro disagio nei confronti dell’IA nasce dalle nostre stesse insicurezze, soprattutto quando le macchine (i robot) compiono attività che in passato erano considerate intrinsecamente umane. Per esempio, la capacità di risolvere problemi matematici, parlare e tradurre lingue straniere può suscitare sorpresa e persino inquietudine.

Di conseguenza, le nostre insicurezze possono amplificarsi, soprattutto se percepiamo l’IA come una realtà destinata a sostituirci nel lavoro. Sembra quasi che la nostra identità umana venga messa in discussione da macchine che noi stessi abbiamo inventato, ma che svolgono alcune attività meglio di noi.

A un primo livello, il libro cerca di aiutarci a sentirci a nostro agio con noi stessi. Affrontiamo la domanda su che cosa significhi essere umani attraverso un processo di scoperta di sé, un processo di auto-appropriazione nel quale invitiamo il lettore a riconoscere l’unicità degli atti conoscitivi umani, mettendoli a confronto con il modo in cui opera l’IA.

Tutti siamo alla ricerca di un significato. Il nostro libro aiuta a esplorare questa ricerca mostrando che nell’IA non esiste alcuna ricerca di senso. Da questo punto di vista, il testo non evita le grandi domande, siano esse filosofiche, psicologiche o tecniche; anzi, le affronta apertamente. Mettiamo in dialogo la psicologia umana con se stessa e sosteniamo che un tale dialogo è impossibile per un robot.

L’essere umano opera a un livello superiore, che va oltre i semplici algoritmi matematici. Possiamo sviluppare algoritmi utilizzando leggi matematiche, riconoscendo al tempo stesso che computer e robot sono in grado di applicarli molto più rapidamente di noi. Tuttavia, non è la velocità di calcolo a definirci.

La nostra identità consiste in qualcosa di più ricco, di più profondo. Siamo un mistero a noi stessi, mentre un robot non lo è, perché la profondità esistenziale di questa domanda non può essere tradotta in algoritmi matematici. Noi possediamo valori, e i nostri valori non possono essere ridotti a un semplice valore economico.

Una parte importante del libro è dedicata proprio al nostro processo decisionale, che è intrinseco alla coscienza di sé. Quando il lettore esplora la propria coscienza, arriva a comprendere che «io sono un mistero a me stesso» e che «il mistero mi definisce», mentre l’IA è definita soltanto da algoritmi matematici.

Anche i modelli linguistici di grandi dimensioni, basati sul deep learning, non sono altro che sofisticate operazioni matematiche fondate su miliardi di calcoli al secondo. Il fenomeno può apparire sorprendente, ma proprio per questo robot e computer non sono umani. Essi non comprendono il linguaggio e sono privi di intuizione. Tutte le parole e le costruzioni grammaticali vengono archiviate come codice binario privo di significato per il computer. Siamo noi a conferire significato al linguaggio e a riconoscere anche gli errori occasionali che esso commette.

• Proseguendo su questa linea, il vostro libro si richiama molto alla tradizione cattolica e alle opere di Bernard Lonergan, SJ. In che modo Lonergan si collega al nostro momento storico?

Lo scopo principale del libro non è concentrarsi sulla tradizione cattolica, ma aiutare a comprendere la struttura conoscitiva umana attraverso un processo di auto-appropriazione e, mediante la scoperta di sé, riconoscere che siamo unici e differenti da qualsiasi macchina robotica.

La rivoluzione copernicana di Kant implicava un ritorno al soggetto, ed è considerata da molti il punto di svolta della filosofia moderna. Kant non era cattolico, ma il suo approccio ha posto interrogativi fondamentali sul significato della verità e dell’identità personale.

Lonergan adotta sostanzialmente un approccio kantiano alla comprensione di sé, ma se ne distacca attraverso un processo di conversione intellettuale, che consiste nel riconoscere — a differenza di Kant — che possiamo affermare proposizioni vere grazie alla nostra stessa struttura conoscitiva intrinseca. Siamo, per così dire, «programmati» per questo.

L’opera di Lonergan, di per sé, non è destinata a un pubblico cattolico, ma a chiunque sia interessato a scoprire il processo umano della conoscenza. Lonergan è cattolico, così come Kant era storicamente luterano, ma entrambi collegano l’affermazione della verità alla struttura conoscitiva, sebbene in modi molto diversi.

Kant sviluppa la nozione di «imperativi morali», conosciuti a priori. Lonergan, invece, identifica distinti atti conoscitivi che sono strutturalmente orientati alla verità. Non possediamo conoscenze a priori, ma atti conoscitivi a priori inseriti nella nostra struttura cognitiva, che ci permettono di conoscere la verità tanto dal punto di vista matematico quanto da quello trascendentale.

Per esempio, possiamo affermare la verità di proposizioni matematiche, ma tale affermazione, pur essendo legata alla nostra struttura cognitiva, non è essa stessa una proposizione matematica né qualcosa di dimostrabile matematicamente.

L’IA, invece, dipende esclusivamente da enormi quantità di dati memorizzati in codice binario e dalla capacità di utilizzare algoritmi matematici. Il suo processo decisionale si basa sempre su probabilità matematiche: non prende decisioni come facciamo noi, né riconosce la verità.

Siamo noi utenti a riconoscere se qualcosa sia vero oppure no, mentre le tabelle di verità dell’IA si fondano esclusivamente sul principio di non contraddizione, sull’algebra booleana e su valori probabilistici, che non sono valori morali.

Lonergan è stato un genio raro, capace di cogliere la natura della piena conoscenza umana. Ci ha offerto una metodologia euristica che ci ha aiutati a strutturare il libro in modo pedagogico, evitando di «reinventare la ruota» nella comprensione della struttura cognitiva. Il suo metodo ci consente anche di analizzare il machine learning dal punto di vista umano e di individuarne i limiti.

Le macchine apprendono attraverso un processo di espansione orizzontale dei dati, aggiungendo sempre più codice binario alla propria memoria e algoritmi sempre più sofisticati. Anche gli esseri umani possiedono una capacità di espansione orizzontale del proprio sapere, sebbene non alla velocità di un computer; tuttavia, nei nostri atti conoscitivi vi è qualcosa di ulteriore che nessun computer possiede. Possiamo riflettere su noi stessi, affermare qualcosa come vero e affermare la nostra stessa esistenza, restando al tempo stesso stupiti davanti a questo mistero.

Riteniamo che il metodo di Lonergan ci abbia permesso di affrontare la distinzione tra piena conoscenza umana e apprendimento automatico in un modo soddisfacente dal punto di vista umano, facendoci anche risparmiare anni di lavoro.

• Senza svelare il finale, la vostra tesi sostiene che “le macchine non possono oltrepassare la soglia della coscienza autentica”. Ovviamente esiste anche una visione opposta. Perché ritenete di avere ragione voi — e che quindi non dobbiamo preoccuparci?

Le opinioni sono numerose, ma questo non le rende vere. Una delle osservazioni centrali del libro è che simulare non equivale a essere. Un bravo programmatore — o un gruppo di programmatori — può simulare molti, se non tutti, i tratti umani. Un esempio significativo è Sophia, il robot che nel 2017 ha ottenuto la cittadinanza saudita. Quando viene intervistata dai giornalisti, possiamo percepirla come in qualche modo cosciente, perché la simulazione è realizzata molto bene.

Tuttavia, man mano che il lettore procede nella lettura del libro e riflette sulla propria coscienza, comprende che la consapevolezza di sé è una presenza all’interno della struttura conoscitiva che non è matematica e quindi non è programmabile. La coscienza non può essere ridotta a equazioni.

Ma ciascuno deve compiere personalmente questa scoperta dall’interno. Nessuno può farla al posto suo.

La nostra unicità e la nostra presenza a noi stessi consistono nella consapevolezza di essere un mistero per noi stessi. Di solito, chi ha vissuto un’esperienza spirituale coglie immediatamente questo punto, anche se non è necessario aver avuto esperienze spirituali per osservare semplicemente che Sophia è una simulazione, un artificio, una cosa, un robot, e non un essere umano.

Nessuno si innamorerà davvero di lei — perché non è un «lei», ma un «esso» — né troverà in lei la propria anima gemella. Eppure, la fantascienza ha spesso raccontato il contrario.

Quando una persona apre la propria mente alle domande sul significato, troverà da sé la risposta.

• Qual è stato l’aspetto più interessante della scrittura del libro? Che cosa vi ha sorpreso o confermato?

Ci ha sorpreso la rapidità con cui abbiamo scritto il libro e quanto ci siamo completati e arricchiti reciprocamente. Proveniamo da contesti culturali molto diversi, abbiamo percorsi educativi differenti e una notevole differenza di età. Eppure, fin dall’inizio si è creata una sintonia, una sorta di «scintilla», che ha reso la scrittura del libro divertente e stimolante. Questo ci ha confermato che esiste una genuina ricerca umana della verità e del significato. Ci ha anche insegnato che, lavorando insieme nell’unità, possiamo raggiungere più rapidamente i nostri obiettivi e scoprire la ricchezza — ma anche i limiti — gli uni degli altri senza sentirci minacciati.

• Che cosa sperate che il lettore porti con sé dopo aver letto questo libro?

Speriamo che alcune insicurezze vengano alleviate e che i lettori non si sentano minacciati dalla tecnologia, pur restando consapevoli che l’IA può essere utilizzata tanto per il bene quanto per il male. Ci auguriamo che il libro rappresenti un percorso di scoperta di sé, almeno sul piano intellettuale, e che il lettore impari a pensare criticamente e a porre domande in modi che definiscano la sua unicità e autenticità.

Affermando la nostra autenticità, comprendiamo che nessuna macchina può oltrepassare la soglia della coscienza. Non vediamo macchine che ci chiedano che cosa significhi essere umani, né che attraversino crisi psicologiche o assumano Prozac. Gli esseri umani, invece, possono e sanno chiedersi che cosa sia una macchina, hanno la capacità di affermare «io esisto» e di restare meravigliati davanti a questo fatto.