L’uomo e gli algoritmi. Primo commento alla enciclica “𝑴𝒂𝒈𝒏𝒊𝒇𝒊𝒄𝒂 𝑯𝒖𝒎𝒂𝒏𝒊𝒕𝒂𝒔”

1.Scrivo queste prime note sulla enciclica Magnifica Humanitas di papa Leone XIV sotto la emozione della sua forza espressiva, della chiarezza delle analisi e delle  denunce dei problemi attuali , della fiducia nelle persone e nella umanità .

L’ incipit della enciclica ci richiama subito alla nostra responsabilità di singoli e di comunità, nei confronti delle sfide della nostra epoca.

“Ogni generazione riceve in eredità il compito di dare forma al proprio tempo, di far maturare la storia come luogo in cui la dignità di ogni persona sia custodita, giustizia promossa e la fraternità resa possibile. Ma su ogni epoca incombe il rischio di costruire un mondo disumano e più ingiusto”.

Le cose nuove di cui si occupava la enciclica Rerum Novarum di Leone XIII erano la questione operaia, la lotta di classe e come promuovere la giustizia sociale nella società di allora.

Erano temi già affrontati dalle analisi e dalle politiche del tempo. Le riflessioni di quest’Enciclica sono, invece, tempestive, anzi, in molti casi, anticipatrici.

Oggi, osserva il pontefice, non possiamo semplicemente ripetere i suoi insegnamenti, ma dobbiamo interpretare le grandi tendenze del nostro tempo, in particolare i progressi della tecnica.

Negli ultimi tempi, ci dice il pontefice, è divenuto sempre più evidente quanto “rapidamente e profondamente la digitalizzazione, la intelligenza artificiale (IA) e la robotica stiano trasformando il nostro mondo: la potenza e la pervasività delle tecnologie emergenti si innestano nelle trama della quotidianità, plasmano i processi decisionali e incidono in profondità nell’immaginario collettivo”.

E aggiunge, citando la Laudato si di papa Francesco: “Mai l’umanità ha avuto tanto potere su se stessa; […] ora tocca a noi assumere con lucidità e responsabilità le sfide del nostro tempo. È necessario adottare strumenti normativi adeguati capaci di tutelare la giustizia e di contenere gli effetti distorsivi del potere tecnologico”.

Ma la questione non si esaurisce nella regolamentazione: come avvertiva papa Francesco, occorre domandarsi con realismo chi detenga questo potere e a quali fini lo orienti”. Non possiamo dimenticare che “l’ energia nucleare, la biotecnologia, l’ informatica, la conoscenza del nostro stesso DNA […] danno a coloro che detengono la conoscenza, e soprattutto il potere economico per sfruttarla, un dominio impressionante sull’insieme del genere umano e del mondo intero”.

In realtà l’enciclica Magnifica Humanitas non tratta solo questo, pur centrale, aspetto; si allarga a considerare l’intero spettro dei problemi indotti dalle tecnologie rispetto all’ambiente e alla convivenza umana, alla globalizzazione e ai rapporti di potere internazionale, alla crisi del multilateralismo e alle guerre, anch’esse condotte con strumenti tecnologici che ne stravolgono modalità e impatti sui singoli e su intere popolazioni.

In questo primo commento mi limito ad accennare alle riflessioni che Leone XIV dedica alle implicazioni dell’uso della Intelligenza artificiale sulle questioni del lavoro e dei diritti umani.

2.L’enciclica non indugia a descrivere il concetto e le varianti della intelligenza artificiale, ma indica i problemi più significativi che essa comporta per le persone che lavorano, per le loro condizioni di vita e per i loro diritti. Lo fa con chiarezza e con argomenti forti, che sono  presenti anche nelle analisi scientifiche e nel dibattito politico più avvertito, ma che non sono affatto acquisite nel sentire comune e anzi sono spesso rimosse, mentre sono contrastate da molti rappresentanti dei poteri forti, privati e pubblici.

Il pontefice comincia con il denunciare l’ equivoco di equiparare quest’intelligenza a quella umana, osservando che se i sistemi tecnologici imitano alcune funzioni dell’intelligenza umana – e anzi spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi- tuttavia“ non vivono un’esperienza, non possiedono un corpo, non attraversano la gioia e non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità, [ …] non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze”.

“Possono imitare linguaggi, comportamenti, valutazioni, […] ma non capiscono ciò che producono, perché non hanno l’orizzonte affettivo relazionale e spirituale in cui l’umano  diventa sapiente”.

Quella dell’IA “ non è l’esperienza di chi si lascia plasmare dalla vita  e cresce nel tempo attraverso scelte, errori, perdono, fedeltà ; è piuttosto un adattamento statistico a partire da dati e riscontri che può essere molto efficace ma non implica una crescita interiore”.

Per questo, continua l’enciclica, “possiamo comprendere perché la IA può essere un aiuto prezioso e allo stesso tempo richiede un approccio sobrio e vigile”.

Nell’uso personale di questa tecnologia “la velocità e semplicità con cui è possibile ottenere indicazioni ed elaborazioni complesse semplificano le nostre vite , ma possono abituarci a  delegare troppo le nostre analisi e decisioni , indebolendo il giudizio personale e la  creatività”.

L’impressione di oggettività che le risposte di questi sistemi possono suscitare rischia di farci sottovalutare il fatto che esse riflettono i parametri culturali di chi li ha progettati e addestrati. Ma non va dimenticato che gli effetti del suo impiego nella società e sulle persone possono essere concreti e non privi di rischi.

Ad esempio, l’imitazione artificiale della relazione di cura alle persone che tali strumenti forniscono può diventare pericolosa quando  si insinua in un contesto povero di relazioni e di affetti reali.

L’enciclica sottolinea che l’ impiego della IA nella nostra società è ormai diffuso e presente in tutti i processi decisionali nei vari ambiti, nella comunicazione,  nella gestione e nel controllo delle relazioni umane e sociali. E osserva, al riguardo, che i vantaggi in termini di efficienza e miglioramento dei servizi rischiano di farci sottovalutare le controindicazioni sociali e anche di impatto ambientale dovuto al grande loro consumo  energetico e di emissioni di anidride carbonica .

Soprattutto il Pontefice ci ricorda che tali vantaggi non devono farci dimenticare che l’ uso della IA non è un fatto solamente tecnico, ma profondamente umano e sociale, perché incide  nella vita delle persone e nelle relazioni economiche, del lavoro,  del credito , dei servizi personali e sociali

Anche  quando questi sistemi si presentano come neutrali e oggettivi “rispecchiano  e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati.

Da questo “deriva una conseguenza semplice ma stringente”, spesso oscurata nelle valutazioni private e pubbliche: “Non possiamo considerare la IA moralmente neutra, […] ogni artefatto tecnico porta con sé scelte e priorità, ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni “

Per questo le decisioni che vengono prese da questi “artefatti” non possono sottrarsi ad un giudizio ispirato al “discernimento umano”, una formula che ritorna nella enciclica e che richiama tutti a una riflessione e alla responsabilità.

3.Qui il testo affronta specificamente questioni politiche: affinché “la IA rispecchi la dignità umana e serva davvero il bene comune è essenziale che siano chiare le responsabilità in tutti i passaggi, da chi progetta e addestra i sistemi fino a chi li utilizza”.

E poiché “spesso i processi interni che conducono ai risultati possono essere poco trasparenti, diventa decisivo identificare chi deve rendere conto delle decisioni, motivarle, controllarle e quando necessario contestarle e rimediare ai danni che ne derivano”.

Queste sono affermazioni importanti che intercettano questioni affrontate in tutte le decisioni di politica pubblica, a cominciare dalle recenti direttive europee sulla responsabilità delle imprese in queste materie, le cui scelte tuttavia proprio su questi punti sono ora contestate dalle imprese e  da alcuni stati membri fino al punto che rischiano di essere vanificate.

Anche qui la enciclica ha parole chiare: “chiedere prudenza, verifiche rigorose e talvolta anche rallentamento nella adozione della IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana”.

Una simile esigenza è particolarmente urgente perché spesso si registra “uno squilibrio tra la velocità delle sviluppo tecnologico e il ritmo  con cui maturano consapevolezza, norme controlli e istituzioni capaci  di governarne gli effetti”.

Questa è un’osservazione che viene spesso ripetuta, ma non altrettanto seguita coerentemente nelle implicazioni concrete.

Al riguardo rileva il pontefice non bastano generici richiami all’ etica “servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito”.

Né basta “invocare la moralizzazione della macchina, il cosiddetto “allineamento della IA a valori umani, senza avere il coraggio di porre […] la possibilità di discutere il codice etico da usare sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti chi controlla l’ IA imporrà la propria morale che diventerà la infrastruttura invisibile dei sistemi”.

Anche questo è un richiamo del tutto pertinente riguardo ai rischi delle scelte pubbliche e private che stanno realizzandosi attualmente su questi aspetti critici della IA.

Il pontefice aggiunge in modo incisivo “ non serve una IA più morale […], serve una politica più presente capace di rallentare dove tutto accelera e di proteggere spazi in cui la comunità possa ancora  partecipare e interrogarsi”.

Il richiamo alla politica non può essere più pertinente ora che “l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche competenze e accesso ai dati” e che “ piccoli gruppi molto influenti possono orientare informazione e consumi , condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio”.

Per questo, osserva il pontefice, “è indispensabile che l’impiego della IA, soprattutto quando coinvolge beni pubblici e diritti fondamentali, sia accompagnato da criteri chiari e controlli effettivi ispirati alla partecipazione e alla sussidiarietà “ […] le comunità e i corpi intermedi non possono  essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza”.

Serve una creatività in grado di gestire i dati “come uno dei beni comuni o collettivi nella logica della condivisione “. Anche questi sono richiami precisi di grande rilevanza nei confronti delle scelte che sono nell’ agenda delle politiche pubbliche e private dei nostri paesi.

4.Il Pontefice ci offre un’analisi lucida delle sfide attuali poste dalle tecnologie digitali alla occupazione e alla qualità del lavoro.

“Oggi l’intreccio fra automazione robotica e IA sta trasformando rapidamente la struttura stessa del lavoro”. Le conseguenze sono anche questa volta ambivalenti, con possibili miglioramenti di produttività, ma col rischio che gli “attuali approcci alla tecnologia possano paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive”.

Proprio per evitare quella che la enciclica definisce una pericolosa deriva” occorre progettare sistemi centrati sulla persona e non soltanto sulla prestazione “ e ricordare che  “l’ obiettivo di  maggiori profitti non può giustificare scelte che sacrificano sistematicamente la occupazione”.

Si tratta di questioni di grande rilevanza per la vita di milioni di persone, e le soluzioni “ devono essere trovate a livello nazionale e locale coinvolgendo le comunità intermedie”.

La enciclica ribadisce che “il lavoro resta una dimensione fondamentale dell’esperienza umana, non soltanto mezzo di sostentamento, ma luogo di espressione, di relazioni, di contributo alla comunità. Per questo, anche per la chiesa,  “ l’accesso al lavoro per tutti deve rimanere un obiettivo prioritario delle politiche pubbliche e dei processi economici, criterio di giudizio per valutare la qualità umana di un modello dí sviluppo”.

E’ un richiamo attualissimo, che interroga direttamente le nostre scelte fondamentali in materia economica e sociale, richiamando una priorità che rischia di essere dimenticata.

Ad esso seguono indicazioni di politica pubblica altrettanto attuali e pertinenti. In questa transizione non basta reagire quando i posti scompaiono , occorre fissare “ criteri sociali per la innovazione […] e accompagnare ogni innovazione con scelte verificabili di tutela della occupazione, di riqualificazione e di partecipazione dei lavoratori perché la tecnologia sia orientata a liberare tempo e capacità umane non a produrre esclusione”. Infine serve una responsabilità d’ impresa che includa la qualità e la dignità del lavoro tra gli indicatori di successo”.

E’ un appello  a superare la esclusività dei criteri quantitativi della crescita ,in primis  il PIL ,ancora prevalenti nella pratica .

A questo si aggiunge una indicazione impegnativa in termini di politica economica: “ non bisogna considerare la ricerca della giustizia sociale un terreno separato e  successivo alla produzione della ricchezza […], la giustizia riguarda tutte le fasi della attività  economica ,dal reperimento delle risorse al finanziamento dalla produzione al consumo “.

Inoltre “ i benefici dell’ innovazione devono essere accompagnati da investimenti in competenze ,infrastrutture e servizi essenziali così che la tecnologia non allarghi il divario fra chi ha e chi non ha”.

Questa sottolineatura richiama un’altra urgenza nelle nostre scelte di politica pubblica e privata affinché diano adeguata  importanza ad adeguare i sistemi educativi e formativi alle sfide della nuove tecnologie.

Un rischio di queste tecnologie richiamato dall’enciclica  è quello del controllo sociale  reso possibile dalla raccolta massiva di dati e dall’ uso di sistemi algoritmici.

Questo rischio   è aggravato da una mentalità tecnocratica che “tende a considerare la persona come oggetto manipolabile o risorsa da ottimizzare “ e a tradursi  in diverse forme di asservimento legate direttamente alla economia  digitale.

Una parte consistente di questa economia , ricorda il pontefice ,si regge sul lavoro silenzioso di milioni di esseri umani impiegati in attività poco visibili  ma essenziali, spesso svolti con compensi minimi: una catena di sfruttamento che resta deliberatamente invisibile […], che interroga la coscienza morale del nostro tempo” e che costituisce “il volto inedito  del colonialismo dei nostri giorni”.

Il richiamo alla coscienza e alla politica è conseguente:  “La lotta contro le nuove schiavitù è un banco di prova  decisivo per il discernimento etico della IA”.

Questa mia breve presentazione della enciclica Magnifica Humanitas interroga, come scrive il Pontefice,  la coscienza di tutti .

Per  i giuristi che si occupano di questioni sociali e  del lavoro il testo rappresenta motivi di riflessione, anche autocritica, che dovranno essere approfonditi e accompagnarci per molto al fine di fornirci indicazioni preziose da tradurre in azioni coerenti.