Papa Leone XIV contro l’IA senza regole: l’enciclica che scuote la Silicon Valley

L’enciclica Magnifica Humanitas di Papa Leone XIV analizza l’impatto dell’intelligenza artificiale sulla società, evidenziando i rischi di una tecnologia che riduce l’essere umano a dato o funzione automatizzata. Il documento denuncia il colonialismo digitale, lo sfruttamento del lavoro invisibile che alimenta gli algoritmi e il pericolo delle armi autonome. Al centro della riflessione emerge la necessità di una governance trasparente dell’IA che preservi la dignità umana e impedisca che le decisioni più critiche vengano delegate alle macchine.

La prima enciclica di Papa Leone XIV, intitolata Magnifica Humanitas,è divenuta oggetto di commenti anche da chi si occupa di tecnolgie in quanto focalizzata sull’incidenza dell’intelligenza artificiale nella società. Così come la celebre Rerum Novarum del 1891 disciplinava l’impatto economico e sociale della macchina a vapore, così oggi la nuova questione globale è rappresentata dalla digitalizzazione pervasiva, dall’intelligenza artificiale e dalla robotica.

Se come giuristi e professionisti del settore tecnologico siamo abituati a valutare i rischi in termini di conformità normativa, vulnerabilità del codice e sicurezza dei sistemi, qui ci troviamo di fronte ad un tipo di riflessione diversa: indagare i rischi di una metamorfosi antropologica, avvertendo del pericolo che la persona finisca per essere sostituita dalla tecnica senza riuscire, come dovrebbe, a dominarla.

Leggendo con attenzione il documento è agevole rilevare come il termine “ intelligenza artificiale” compaia pochissime volte rispetto alla parola “ umano”, proprio perché l’obiettivo dichiarato è quello di tutelare il soggetto e non di celebrare l’algoritmo. Per chi si occupa di cybersecurity e di protezione dei dati, questo approccio richiama da vicino il principio della centralità del fattore umano, inteso non solo come l’anello debole della catena di sicurezza ma come il valore primario da preservare contro l’opacità dei sistemi complessi.

Di impatto è sicuramente la metafora secondo cui l’architettura centralizzata e monopolistica dei grandi attori tecnologici viene paragonata alla Torre di Babele- che impone un codice standardizzato che annulla le tutele individuali sull’altare dell’efficienza algoritmica- cui si deve contrapporre un modello cooperativo ispirato alla ricostruzione di Gerusalemme.

Il documento ci dice che nei tempi in cui viviamo è necessaria una governance partecipata, caratterizzata dalla trasparenza dei processi e da una responsabilità condivisa nella gestione delle tecnologie.

La denuncia del colonialismo dei dati

Ciò che più mi ha colpito leggendo l’enclica è come viene squarciato il velo di apparente asetticità che circonda il calcolo algoritmico. Vengono esplicitati chiaramente i costi umani che si nascondono dietro il progesso. Il Ponteficeinvita a non voltarsi dall’altra parte ed a vedere che dietro l’efficienza dei sistemi si cela il lavoro invisibile di milioni di moderatori di contenuti ed etichettatori di dati, sovente collocati nelle aree economicamente svantaggiate del pianeta, sottopagati e costretti a elaborare flussi continui di materiale tossico o violento senza alcuna tutela sindacale. Inoltre, la fabbricazione dei microprocessori necessita l’estrazione del cobalto e delle terre rare, che avviene in condizioni di estremo pericolo anche per i giovani e giovanissimi.

Il Papa evidenzia come siamo innanzi ad una nuova forma di schiavitù e colonialismo digitale. Per rendere ancor più potente il suo ragionamento chiede lui stesso perdono a nome della Chiesa cattolica per il drammatico ritardo con cui le istituzioni ecclesiali giunsero nei secoli passati alla condanna assoluta della schiavitù. Partendo da tale mea culpa il Pontefice esorta la Chiesa a non riproporre la medesima colpevole inerzia morale ed a muoversi per contrastare la mercificazione dei corpi digitali e la riduzione delle vite umane a informazioni commerciali nei nuovi feudi tecnologici.

Il disarmo algoritmico

L’enciclica mette in guardia anche dalla progressiva normalizzazione della violenza e dall’inquietante riabilitazione del riarmo su scala globale. Il Pontefice ribadisce come non esista una guerra “giusta”, così come non si debba poter pensare ad conflitto armato eticamente accettabile. Partendo dalla premessa che non debba essere giustificata alcuna forma di violenza umana, confinando il diritto alla legittima difesa esclusivamente nel senso più stretto e ridotto al minimo indispensabile, l’enciclica, per quanto concerne l’ambito militare, formula tre divieti etici assoluti riguardanti l’uso delle tecnologie.

In primo luogo non è ammissibile delegare le scelte, in quanto illecito e pericoloso affidare ad agenti artificiali e processi automatizzati decisioni letali sulla vita o sulla morte di esseri umani. In secondo luogo si smentisce l’idea di una morale dell’algoritmo, chiarendo che non esistano conflitti chirurgici o puliti guidati da macchine autonome. Inoltre, viene respinta qualsiasi difesa giuridica basata sul pretesto del malfunzionamento tecnico, ribadendosi la responsabilità personale diretta dei comandanti e dei progettisti.

Viene affrontato anche il tema delle c.d. minacce asimmetriche della guerra cibernetica e della disinformazione industriale, evidenziando il pericolo di escalation irreversibili dettate da errori algoritmici. Tutto il ragionamento conduce come inevitabile, e direi condivisibile, conclusione che per evitare l’insorgere o incremento dei conflitti occorra “ disarmare” l’intelligenza artificiale, istituendo trattati multilaterali vincolanti sul modello della regolamentazione nucleare e ponendo i brevetti e le infrastrutture di calcolo sotto l’egida della destinazione universale dei beni.

Paolo Galdieri

Avvocato penalista e cassazionista, noto anche come docente di Diritto Penale dell'Informatica, ha rivestito ruoli chiave nell'ambito accademico, tra cui il coordinamento didattico di un Master di II Livello presso La Sapienza di Roma e incarichi di insegnamento in varie università italiane. E' autore di oltre cento pubblicazioni sul diritto penale informatico e ha partecipato a importanti conferenze internazionali come rappresentante sul tema della cyber-criminalità. Inoltre, collabora con enti e trasmissioni televisive, apportando il suo esperto contributo sulla criminalità informatica.

Aree di competenza: Diritto Penale Informatico, Cybercrime Law, Digital Forensics Law, Cybercrime Analysis, Legal Teaching, Scientific Publishing

Visita il sito web dell'autore