Neural Network Header - Blog

Lettera Enciclica MAGNIFICA HUMANITAS della serie: “piu’ chiaro di cosi!”

L'intelligenza artificiale può essere uno strumento al servizio della persona, oppure rischia di diventare lo strumento attraverso cui la persona viene ridotta, controllata, sostituita?

Il Papa parte da una constatazione molto concreta: negli ultimi anni è diventato sempre più evidente quanto rapidamente e profondamente la digitalizzazione, l’intelligenza artificiale e la robotica stiano trasformando il mondo. Ci tiene a sottolineare che non si tratta, di qualcosa di nemico per l’uomo. La tecnologia è “un fatto profondamente umano, legato all’autonomia e alla libertà dell’uomo” e ha contribuito nei secoli a migliorare le condizioni di vita di miliardi di persone. Il problema è che oggi abbiamo di fronte  una situazione totalmente nuova. Perché la potenza e la pervasività di queste tecnologie si innestano nella vita dell’uomo plasmandone i processi decisionali sia individuali che collettivi. “Mai l’umanità ha avuto tanto potere su se stessa.” Questo per indicare anche un grosso pericolo. Perché un tempo erano soprattutto gli Stati a guidare e indirizzare l’innovazione, mentre oggi i principali motori dello sviluppo sono attori privati, dotati di risorse e capacità superiori a quelle di molti governi. Il potere tecnologico ha così una doppia faccia. Una rivolta a tutti gli uomini e l’altra verso chi lo governa, ossia un privato. Tutto ciò indebolisce radicalmente  la capacità di discernere, governare e orientare al bene comune.

L’argomento che attraversa tutta l’Enciclica in sintesi è: l’intelligenza artificiale può essere uno strumento al servizio della persona, oppure rischia di diventare lo strumento attraverso cui la persona viene ridotta, controllata, sostituita?

Il Papa riconosce apertamente le potenzialità dell’IA: può diagnosticare malattie con una precisione impossibile per un medico singolo, connettere persone che vivono agli antipodi, rendere meno faticosi lavori fisicamente pesanti, aprire possibilità educative che fino a ieri erano impensabili. Non c’è nel documento nessuna condanna della tecnologia in quanto tale. Il problema che viene denunciato è un altro, e ha un nome preciso: il paradigma tecnocratico. Si tratta di quell’atteggiamento culturale per cui l’efficienza diventa la misura di tutto, per cui ciò che non si misura non conta e ciò che non produce risultati quantificabili non vale. Quando questo paradigma governa lo sviluppo dell’IA, l’essere umano stesso finisce per essere trattato come “un progetto da ottimizzare” piuttosto che come una creatura chiamata alla relazione. Non è la macchina il problema: è l’ideologia che la guida.

Uno dei passaggi più forti del documento riguarda la catena di sofferenza concreta su cui si regge oggi l’economia dell’intelligenza artificiale, e che il Papa descrive senza eufemismi. C’è il fenomeno dei lavoratori del data labeling: giovani del Sud del mondo pagati pochissimo per etichettare milioni di immagini, testi e registrazioni audio che servono ad addestrare i sistemi di IA. È un lavoro invisibile, alienante, mal retribuito, su cui però si fonda l’intera architettura dei modelli linguistici e dei sistemi di riconoscimento. C’è poi il problema dell’estrazione delle terre rare necessarie ai microprocessori: in alcune regioni del mondo adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano questi minerali, con corpi, scrive il Papa, “segnati, mutilati, consumati perché il flusso del calcolo non si interrompa.” E c’è la denuncia delle stesse piattaforme digitali usate per reclutare e controllare vittime di tratta di esseri umani — la tecnologia che promette connessione che diventa strumento di schiavitù.

Da un punto di vista etico e i relativi effetti collaterali un intero blocco del documento è dedicato al transumanesimo e al postumanesimo, che il Papa identifica come le narrazioni ideologiche più insidiose che si muovono dentro e attorno allo sviluppo dell’IA. Il transumanesimo sostiene che l’essere umano è imperfetto, limitato, mortale, e che la tecnologia può e deve correggere questi difetti: potenziare il corpo, allungare la vita, caricare la mente su un supporto digitale, ibridarsi con le macchine fino a superare la condizione umana. Il postumanesimo va ancora oltre e mette in discussione l’idea stessa che l’uomo abbia qualcosa di speciale rispetto a una macchina sufficientemente avanzata. La fragilità, il corpo, la sofferenza, la dipendenza dagli altri non sono difetti da correggere attraverso la tecnologia: sono la condizione dentro cui fioriscono la compassione, la cura, l’esperienza spirituale, la generosità. “È proprio nel nostro essere limitati che trovano spazio la compassione, la sincera inquietudine di fronte ai bisogni degli altri, la generosità che sorprende anche in mezzo all’oscurità o al fallimento, l’esperienza spirituale e l’adorazione di Dio.” E conclude: “Non c’è un momento o una condizione dell’umano che non sia degno di Dio.”

Un’altra parte del documento affronta invece le nuove forme di inganno. I deepfake — video e audio falsi prodotti dall’IA indistinguibili dai reali — rendono possibile attribuire a chiunque qualsiasi dichiarazione. Gli algoritmi dei social network che alterano la realtà, costruendo bolle cognitive sempre più irreali. La disinformazione trova nell’IA un “moltiplicatore potente,” come scrive il Papa, anche se non ne è l’inventrice. Il rischio che viene denunciato non è solo culturale: è politico in senso profondo. Il Papa cita Hannah Arendt [1]per dire che il totalitarismo è quel sistema in cui “la distinzione tra fatto e finzione non esiste più.” Quando la disinformazione digitale erode la capacità dei cittadini di distinguere il vero dal falso, si creano le condizioni per forme di controllo che somigliano più al totalitarismo che alla democrazia. La  proposta concreta della lettera è quella di “digiunare dall’IA”: fare periodi in cui intenzionalmente si sta senza dispositivi digitali, per difendere la capacità di silenzio, di riflessione profonda e di attenzione prolungata che l’uso ininterrotto degli schermi progressivamente erode. Il Papa chiede in particolare che la scuola torni a essere il luogo in cui si forma la persona capace di ragionare, non solo quella capace di usare uno strumento.

Sul lavoro il documento affronta direttamente il tema dell’automazione. L’IA può liberare l’essere umano da attività gravose e ripetitive, e questo è positivo. Ma se la sostituzione del lavoro umano avviene senza riqualificazione, senza ammortizzatori, senza alternative per chi perde il posto, allora l’automazione diventa, scrive il Papa, “accelerazione dell’ingiustizia.” Chi paga il costo dell’innovazione sono sistematicamente i più deboli. Il documento chiede che le imprese includano la qualità del lavoro tra i propri indicatori di successo, e che la finanza torni a servire l’economia reale invece di alimentare soltanto se stessa.

Sulla questione delle dipendenze digitali il Papa è diretto: le piattaforme sono progettate per creare dipendenza, perché il loro modello economico si basa sul tempo di attenzione degli utenti, e questo genera un conflitto di interessi strutturale tra il profitto dell’azienda e il benessere della persona. Si va dalle forme più diffuse e quotidiane — l’incapacità di distaccarsi dallo schermo — alle forme più gravi, come l’uso delle stesse piattaforme per reclutare e controllare vittime di tratta. La tecnologia che promette libertà diventa in questi casi strumento di catene nuove.

L’ultimo punto su cui il documento si esprime esplicitamente sull’IA riguarda il suo uso in ambito bellico “Non esiste algoritmo che possa rendere la guerra moralmente accettabile.” L’intelligenza artificiale applicata alle decisioni militari è pericolosa per una ragione specifica: quando la decisione di colpire si automatizza o si opacizza, “cresce il rischio di deresponsabilizzazione.” Le vittime diventano dati. La distanza psicologica dal gesto di uccidere si riduce fino a sparire, e con essa si abbassa la soglia per ricorrere alla forza. Le armi autonome che decidono da sole chi colpire rappresentano un salto verso un orrore che nessuna convenzione internazionale ha ancora regolamentato adeguatamente. Il Papa chiede norme stringenti, controllo politico adeguato, e ribadisce che l’IA deve restare al servizio di tutti e mai essere separata dalla coscienza e dalla responsabilità delle decisioni umane.

Il Papa afferma che l’intelligenza artificiale può imitare il linguaggio umano, simulare emozioni e produrre contenuti di grande complessità, ma resta radicalmente priva di quattro cose che non sono accessorie all’essere umano ma lo costituiscono:

  • la coscienza morale
  • l’empatia autentica
  • la capacità relazionale vera
  • la dimensione spirituale

Non si tratta di limiti tecnici superabili con macchine più potenti o algoritmi più raffinati — si tratta di una differenza di natura. I sistemi algoritmici elaborano dati e imitano funzioni, ma non maturano attraverso l’esperienza vissuta e non comprendono realmente ciò che producono. Possono generare una risposta che suona empatica, ma non provano nulla. Possono simulare una relazione di ascolto, ma non c’è nessuno, dall’altra parte, che stia davvero ascoltando. Proprio perché la simulazione è sempre più convincente, c’è il pericolo che le persone — soprattutto le più sole o le più fragili — smettano di cercare rapporti umani autentici, ingannate “dalla macchina”.  Sul tema della coscienza il testo è categorico: non esiste e non può esistere una coscienza artificiale nel senso in cui la Chiesa intende la coscienza umana. La coscienza, non è una funzione computazionale — non è la capacità di processare informazioni e produrre risposte appropriate. È qualcosa di radicalmente diverso: è il luogo interiore in cui la persona si rapporta alla verità, al bene, a Dio. È il luogo del giudizio morale, della responsabilità, della libertà. Nessun sistema artificiale, per quanto sofisticato, abita quel luogo. E proprio per questo il documento afferma che è illecito affidare a sistemi artificiali decisioni letali o comunque irreversibili — perché una decisione vera, moralmente significativa, richiede una coscienza che ne risponda. Un algoritmo non risponde di niente davanti a nessuno. L’essere umano non ha una coscienza svincolata da un corpo: ce l’ha anche attraverso il corpo. La sofferenza, la malattia, la stanchezza, il piacere, la fame — tutto questo non è un disturbo della mente ma fa parte dell’esperienza attraverso cui una persona cresce, conosce, si relaziona, matura. L’IA non ha corpo, non soffre, non si stanca, non ha fame. E per questo, dice il Papa, non può conoscere nel senso pieno del termine — può elaborare, ma non capire davvero. Di fatto anche questo aspetto rientra (come per tutta l’infrastruttura logica di una intelligenza artificiale) in un algoritmo che sfrutta le logiche della statistica predittiva, che per propria natura non  è in grado di maturare una consapevolezza. La frase con cui tutto il documento si chiude idealmente — e che già circola come sintesi — è questa: “Siamo un desiderio, non un algoritmo.” Un algoritmo riceve input, li processa secondo regole definite e produce output. Tutto è determinato, prevedibile, ottimizzabile. L’essere umano desidera la verità anche quando è scomoda, desidera l’amore anche quando fa soffrire, desidera Dio anche quando non sa dargli un nome. Questo desiderio, dice il Papa, non si programma, non si ottimizza, non si sostituisce con nessun sistema artificiale. E custodirlo, nell’era dell’intelligenza artificiale, è il compito che il documento affida a tutti noi.

 

[1] Hannah Arendt è stata una filosofa nata nel 1906 e morta il 1975 conosciuta soprattutto per gli argomenti relativi alla natura del potere e del male, sulla politica,

Ti è piaciuto questo articolo? CONDIVIDILO

Facebook
WhatsApp
articolo

ALTRI CONTENUTI

Chi sono — Marco Mirra

Il mio percorso tra informatica per la ricerca, intelligenza artificiale e sonificazione. Progetti artistici, libri, formazione, interviste, video e pubblicazioni scientifiche.

Read More »
E se il gruppo 17 ottobre fosse un’AI?

Le immagini degli scontri di Milano, con le vetrine infrante e la presenza di giovanissimi in piazza, hanno riportato l’attenzione sulle chat (per la precisione Telegram che ga come suo punto di forza la possibilità, salvo indagini autorizzate a mantenere

Read More »