Eccellenza, lei ha avuto il grande merito di portare il tema dell’AI all’attenzione, promuovendo il documento chiamato Rome Call for AI Ethics. Il pregio del documento del 2020 era di essere breve, ponendo questioni molto concrete sul governo dei sistemi di AI, sull’importanza di una regolamentazione giuridica, sulla formazione di utenti e operatori.
Uno dei punti nodali era l’idea che i sistemi devono venire sviluppati in modo etico fin dalla loro progettazione (ethics by design). L’altro aspetto importantissimo, oltre alla concretezza, sono state le firme in calce al testo: Microsoft, IBM, FAO, governo italiano. Poi negli anni le firme sono aumentate con altre aziende (Cisco, ad esempio), con Università (La Sapienza di Roma, le università cattoliche dell’America Latina), Conferenze episcopali (quella indiana, una per tutte).
Ma al di là di questo, sono le aziende che hanno firmato che vorrei porre al centro di questa lettera. Chi oggi sollecita le aziende a lavorare per una AI ethics by design? Perché non viene fatto? E se viene fatto, per quale motivo non ne abbiamo un riscontro?
Quel documento chiamato Rome Call ha anticipato tutto l’impegno della Chiesa in modo originale. I documenti ufficiali enunciano dei princìpi, come in modo alto e articolato ha fatto papa Leone XIV con la sua Enciclica Magnifica Humanitas. Ma poi restano intatti, o non vengono intaccati, gli interessi economici e commerciali che fanno girare migliaia di miliardi di euro o di dollari, quotazioni in Borsa, sistemi di AI che si collegano con gli armamenti e dunque una tecnologia votata alla distruzione. Altro che legislazione sul fine-vita in un Paese o in un altro: qui il rischio è l’eutanasia della civiltà umana tutta intera nei cinque continenti!
Lei ha raccontato che all’origine della Rome Call c’era stata una iniziativa personale di Brad Smith, presidente Microsoft, che si è rivolto a lei direttamente e più in generale al Vaticano per avere un aiuto a distinguere cosa è lecito fare, nel grande mare di una progettazione di sistemi che rendono possibile il bene o il male assoluto. E gli ingegneri, le disse Brad Smith, devono venire aiutati a porsi domande sulla dimensione etica del loro lavoro.
Allora le chiedo: che fine ha fatto questo dialogo tra Chiesa e aziende? Nelle ultime settimane si è passati dal consueto entusiasmo per le capacità dei modelli a una discussione molto più esplicita su rallentamento, controllo, sicurezza e potere.
La notizia più importante è arrivata da Dario Amodei, CEO di Anthropic, che ha chiesto pubblicamente di rallentare lo sviluppo dei modelli più avanzati. La sua previsione è piuttosto drastica: entro 6-12 mesi, sostiene, una rete di agenti AI sufficientemente autonomi potrebbe arrivare a controllare una parte enorme di Internet, con danni potenzialmente nell’ordine delle centinaia di miliardi di dollari.
La cosa sorprendente è che Sam Altman di OpenAI e Elon Musk hanno sostanzialmente appoggiato l’idea di Amodei. Altman ha detto che occorre pace the frontier, cioè rallentare il ritmo con cui vengono sviluppati i modelli di frontiera. Questo è probabilmente il dato politico più interessante degli ultimi giorni: alcuni dei protagonisti dell’industria stanno chiedendo loro stessi più controllo.
Naturalmente esiste anche il rovescio della medaglia: alcuni osservatori fanno notare che chiedere di rallentare potrebbe favorire le grandi aziende già presenti sul mercato, rendendo più difficile la concorrenza dei piccoli e dell’open source.
Pochi giorni fa, l’11 settembre, parlando a Ventotene, lei ha sottolineato che l’Europa potrebbe avere una funzione particolare perché possiede una tradizione umanistica capace di dare alla tecnologia una dimensione universale. E ha criticato il fatto che l’Europa investe troppo poco nelle nuove tecnologie. Una ricerca tramite Chatgpt conferma che questa sua posizione è stata registrata dal sistema e considerata «una voce interessante».
Ecco allora, nel dialogo tra i diversi attori del settore, che fine ha fatto la voce della Rome Call che l’ha vista lavorare attivamente per impegnare le aziende, al punto tale da averle come firmatarie? Questa sembra essere la Chiesa del futuro: non solo importanti enunciazioni ma spazio di dialogo reale e concreto. A che punto siamo?
Penso che la cosa più importante sarebbe informare la gente su cosa è realmente l’ IA, a cosa serve, a cosa può servire, quali sono i suoi limiti reali, anziché fare discorsi retorici e vaghi su presunti rischi per l,’umanità che non si sa bene in cosa consistano, a parte la perdita di molti posti di lavoro.
Non si sa bene sostanzialmente perchè il funzionamento stesso delle macchine non è sempre chiarissimo. Soprattutto con gli attuali modelli, a volte rivelano delle capacità che non erano state considerate.
Poi ovvio che si è scatenata una guerra di interpretazioni, nel mondo liberal poichè l’allarme viene lanciato da Musk e soci viene considerato per falso per partito preso. Nel mondo economico gli appelli alla prudenza vengono letti come un tentativo di bloccare la competizione ecc. ecc.
Di fatto nessuno può fermarsi pena venire sorpassato da altri..
Resta che ai tempi di Paglia i modelli erano diversi, più piccoli, e gli interrogativi riguardavano soprattutto il materiale con cui venivano addestrati. Erano modelli linguistici che potevano offrire risposte false, informazioni errate ecc.
Adesso si parla di intelligenza artificiale utilizzata in guerra, e non in scenari futuristici ma in questo momento. In Ucraina o a Gaza. Puoi anche addestrare un modello con tutta la bibliografia di Hannah Arendt, ma se poi gli fornisci un obiettivo militare specifico quello colpirà.
Il rischio più grande che io vedo concretizzarsi e crescere ogni giorno che passa è l’idolatria di questo prodigio della tecnologia che tutti chiamano IA: la Chiesa Cattolica Apostolica Romana, con i suoi 2000 e passa anni di vita, fa affidamento sulla “pietra scartata dai costruttori” …. Cosa volete che sia l’ennesima rivoluzione tecnologica di fronte al prodigio della trasustanziazione?
Non solo credo sia pertinente, ma anche credo avanzi una concreta risposta https://www.personalismo.it/Cronache/AI-esigenza_architettura_algoretica/index.html
Secondo me il problema non è più l’etica dei modelli, molti sono diventati troppo grandi per essere etici “internamente”, quanto il loro abuso. Nel senso: non esiste alcun modello per quanto pensato eticamente cui delegare decisioni eticamente rilevanti.
Detto ciò come il solito esiste un cortocircuito mediatico. Molti accusano le grandi aziende che lanciano appelli di fare marketing o di voler bloccare la concorrenza attraverso leggi difensive. Nello stesso tempo molti ingegneri accusano le aziende di sottovalutare i rischi legati all’addestramento. Per cui se lanciano allarmi non vengono creduti.
Si è molto d’accordo, il Vaticano è uno dei pochi Stati che hanno avuto il coraggio, negli ultimi anni, di effettuare dichiarazioni di impegno apprezzabili, a fronte di un decadimento molto preoccupante della classe politica mondiale. Ma occorrono anche la sostanza e la continuità.