IL PENSIERO DI PAPA LEONE XIV SULL'INTELLIGENZA ARTIFICIALE

La recente enciclica di Papa Leone XIV affronta, in modo esaustivo, il tema della IA e vale la pena di estrarre quel passaggio, per meditarlo.

«97. Non è mia intenzione offrire qui una trattazione sull’intelligenza artificiale, né ripercorrere una bibliografia ormai vastissima; esistono già contributi autorevoli anche in ambito ecclesiale, ai quali è possibile fare riferimento.

Mi limito a richiamare alcuni elementi essenziali per un discernimento morale e sociale che custodisca il primato della persona, affinché sia sempre l’intelligenza umana, con la sua coscienza e la sua libertà, a guidare le innovazioni tecniche e a stabilirne con responsabilità l’uso e i limiti.

98. È opportuno premettere due considerazioni: la prima è che qualsiasi affermazione sull’IA rischia di diventare obsoleta in breve tempo, data l’impressionante velocità di sviluppo di questi sistemi.

La seconda è che tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento.

Le moderne intelligenze artificiali sono infatti più “coltivate” che “costruite”: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”.

Di conseguenza, aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti.

Si manifesta pertanto l’urgenza di un duplice impegno: da un lato, un approfondimento della ricerca scientifica, dall’altro, un esercizio di discernimento morale e spirituale.

99. Non è possibile dare una definizione univoca e completa dell’IA.

Ciò che possiamo affermare è che occorre evitare l’equivoco di equiparare questa “intelligenza” a quella umana.

Questi sistemi imitano alcune funzioni dell’intelligenza umana.

Nel farlo, spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi.

E tuttavia, questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità.

Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze.

Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente.

Anche quando tali strumenti vengono presentati come capaci di “apprendere”, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore.

Un aiuto prezioso che richiede attenzione.

100. Alla luce di quanto detto, possiamo comprendere meglio perché l’IA possa essere un aiuto prezioso e, allo stesso tempo, richieda un approccio sobrio e vigile.

Negli ultimi anni il suo uso privato è cresciuto notevolmente, e da più parti si riflette sulle opportunità e sui rischi legati alla sua rapida diffusione.

Nell’uso personale, tre aspetti, in particolare, devono essere tenuti in debita considerazione: la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana.

La velocità e la semplicità con cui è possibile ottenere indicazioni, elaborazioni complesse, contenuti mediatici e forme di assistenza concreta semplificano le nostre vite, ma possono anche abituarci a delegare troppo e a cercare risposte pronte, indebolendo il giudizio personale e la creatività.

L’impressione di oggettività che le risposte e le proposte di questi sistemi possono suscitare rischia di farci dimenticare che esse riflettono i parametri culturali di chi li ha progettati e addestrati, con tutti i loro pregi e difetti.

L’imitazione artificiale di una comunicazione umana positiva – parole di consiglio, di empatia, di amicizia, di amore – può risultare gratificante e persino utile, ma in utenti poco consapevoli può trarre in inganno e illudere di essere in relazione con un autentico soggetto personale.

Quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza.

L’imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e di affetti reali: allora il rischio non è tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro.

101. Allargando lo sguardo all’impiego dell’IA nelle nostre società, constatiamo che essa è ormai presente nei processi decisionali in tutti gli ambiti e a diversi livelli: nella comunicazione, nella gestione, nel controllo.

I vantaggi in termini di efficienza e le potenzialità di miglioramento di alcuni servizi sono evidenti; tuttavia, un’adozione rapida e acritica ci espone a diversi rischi, tra cui quello di sottovalutarne l’impatto ambientale.

Gli attuali sistemi di IA richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva.

Con l’aumento di complessità, soprattutto nei grandi modelli linguistici, crescono anche i bisogni di potenza di calcolo e capacità di archiviazione, che si appoggiano su un insieme di macchine, cavi, centri dati e infrastrutture energivore.

Per questo è essenziale sviluppare soluzioni tecnologiche più sostenibili per ridurre l’impatto sull’ambiente e custodire la nostra Casa comune.

Responsabilità, trasparenza e governo dell’IA

102. L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà.

Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona», e possono così produrre nuove forme di scarto.

Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati.

103. Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane.

Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare.

E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte.

104. Da questo deriva una conseguenza semplice ma stringente: non possiamo considerare l’IA moralmente neutra.

In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni.

Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona.

Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano.

105. Perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete.

In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori.

È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano.

106. Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana.

Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti.

Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito.

Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo.

107. Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa.

Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi.

Non serve un’IA più morale, se questa morale è decisa da pochi.

Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi.

108. In effetti, come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli.

Per questo è indispensabile che l’impiego dell’IA – soprattutto quando coinvolge beni pubblici e diritti fondamentali – sia accompagnato da criteri chiari e controlli effettivi, ispirati alla partecipazione e alla sussidiarietà: le comunità e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza.

Inoltre, la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata.

Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creatività in grado di gestirli come uno dei beni comuni o collettivi, nella logica della condivisione, come già suggeriva San Giovanni Paolo II, a proposito dei beni collettivi.

109. I principi della Dottrina sociale ci aiutano a leggere questa nuova realtà.

In un mondo dove pochi soggetti concentrano dati, capitale computazionale e capacità normativa, parlare di bene comune significa smascherare questa nuova asimmetria epistemica, economica e politica, nominando i nuovi monopoli dell’IA.

Parlare di destinazione universale dei beni significa trovare modi per assicurare l’accesso universale alle tecnologie e alla formazione.

Parlare di sussidiarietà chiede di proteggere la capacità delle comunità di scegliere e correggere, senza relegare il loro intervento a una vigilanza, dopo che gli standard sono stati scritti altrove.

Parlare di solidarietà obbliga a riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici.

Parlare di giustizia impone di interrogare le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento, e riconoscere che la giustizia sociale non è solo un obiettivo da tutelare dopo l’adozione delle tecnologie, ma una condizione previa da praticare nel loro stesso disegno.

110. Vorrei, infine, usare una parola che mi sta a cuore: “disarmare”.

Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva.

È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri.

Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare.

Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano.

Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita.

Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune.

L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti.

Per questo, non basta regolarla: va disarmata e resa ospitale.

111. Uno speciale appello rivolgo a coloro che sviluppano le intelligenze artificiali.

L’innovazione tecnologica può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione.

Gli sviluppatori portano dunque un particolare peso etico e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità.

Come l’autore di un’opera artistica o letteraria è tenuto a considerare i valori che essa esprime, così essi sono chiamati a trattare con la dovuta serietà i valori che infondono nei loro progetti: con trasparenza, con responsabilità verso le comunità coinvolte e con attenzione a verificare che ciò che viene coltivato sia davvero un bene.

Ciò che non possiamo perdere

112. Dopo aver richiamato le questioni della responsabilità e del governo dell’IA, è necessario tornare al nostro tema centrale: che cosa significa custodire l’umano.

Il rischio non è solo che alcune tecnologie siano usate male, ma che il paradigma tecnocratico in cui siamo immersi, potenziato dalla rivoluzione digitale e dall’IA, faccia sembrare giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa.

Quando l’efficienza diventa misura del valore, l’essere umano è tentato di pensarsi come un progetto da ottimizzare più che come una creatura chiamata alla relazione e alla comunione.

113. In realtà, assolutizzare una sola dimensione dell’essere umano è sempre sbagliato.

Infatti, non è solo la mancanza a generare disordine.

Anche ciò che cresce senza misura può diventare una forma di povertà.

In un ecosistema, l’armonia si spezza quando una sola specie prolifera a scapito delle altre; nell’umano, accade lo stesso quando una facoltà pretende di farsi misura di tutto.

Così l’intelligenza, se assolutizzata, finisce per oscurare altre dimensioni essenziali della vita: l’affetto, la volontà, la dedizione e la relazione.

Il potere tecnico, se non viene bilanciato, non ci rende più capaci: ci rende più soli, e più esposti a logiche di dominio e di esclusione.

Non si tratta certo di opporsi all’intelligenza, ma di ricordare che essa, quando si ripiega in sé stessa, dimentica di essere fatta per servire la vita e la persona umana.

114. La qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione.

La capacità di saperci prendere cura gli uni degli altri è una dimensione importante del nostro essere umani. Questa capacità si apprende e si perfeziona con l’esperienza.

Leggere le fiabe a un bambino, fare compagnia a una persona anziana, rendere accogliente uno spazio, sono gesti che si vivono in ambiente familiare, ma che ci aiutano ad apprendere e a interiorizzare l’importanza della cura a livello sociale e ci allenano a riconoscere l’altro come persona degna di attenzione.

La tecnologia può sostenere anche la cura reciproca tra persone, ad esempio se offre strumenti che aiutano a prevedere e organizzare, ma senza esautorare la libertà e il giudizio dell’essere umano, soggetto delle relazioni e responsabile delle decisioni.»

Il commento è dello stesso Papa: “L’intelligenza artificiale, specialmente quella generativa, ha dischiuso nuovi orizzonti a molti livelli differenti, tra cui il miglioramento della ricerca in ambito sanitario e le scoperte scientifiche, ma solleva anche domande preoccupanti circa le sue possibili ripercussioni sull’apertura dell’umanità alla verità e alla bellezza, sulla nostra particolare capacità di comprendere ed elaborare la realtà.

Riconoscere e rispettare ciò che caratterizza in modo unico la persona umana è essenziale per il dibattito su qualunque quadro etico adeguato per la gestione dell’intelligenza artificiale”.