L'enciclica sull'AI di Leone XIV sposta il dibattito sulla responsabilità

Che un Papa dedichi la sua prima enciclica all'intelligenza artificiale è già, di per sé, un atto politico. Magnifica humanitas, firmata il 15 maggio 2026 e pubblicata il 25 maggio, non si limita però a esprimere una posizione sulla tecnologia: prova a spostare l'asse dell'intero dibattito. L'obiettivo dichiarato è passare da una narrazione di inevitabilità — l'AI arriverà comunque, adattiamoci — a una domanda di responsabilità: chi decide dove può arrivare, e con quali conseguenze. Per chi segue da vicino il settore tecnologico, questo cambio di prospettiva vale più di qualsiasi frase a effetto.

La tecnologia non è mai neutrale

Il documento parte da una premessa che nel mondo tech viene spesso citata e raramente approfondita: la tecnologia non è neutrale. In pratica, ogni sistema di intelligenza artificiale incorpora scelte: cosa ottimizzare, cosa ignorare, quali errori considerare accettabili. Algoritmi, dati e infrastrutture di calcolo non sono strumenti passivi — riflettono priorità decise da qualcuno, in qualche momento, con determinati interessi. Quando questi sistemi entrano nella scuola, nel lavoro, nella sanità, nella giustizia o nell'informazione, non si limitano ad aumentare l'efficienza. Redistribuiscono potere.

Il punto più netto e diretto dell'enciclica riguarda la guerra. Magnifica humanitas contesta l'idea che l'automazione possa rendere un conflitto armato più pulito o più preciso. La critica non è genericamente tecnofobica: è un attacco a un meccanismo ben preciso. Quando una decisione — compreso l'uso della forza — viene mediata da un sistema automatizzato che accelera il ciclo decisionale, il rischio principale non è solo l'errore tecnico. È la riduzione della soglia psicologica, politica e operativa per compiere quell'atto. Se un'azione diventa più rapida, più impersonale e più facilmente replicabile su larga scala, diventa anche più facile trattarla come routine.

Armi autonome, un problema già sul tavolo

Su questo punto l'enciclica intercetta un dibattito che esiste già, con una sua grammatica tecnica e giuridica. Il ICRC, che ragiona da una prospettiva umanitaria e giuridica, insiste da anni sul fatto che la perdita di giudizio umano nell'impiego di armi autonome pone problemi legali, etici e di tutela dei civili. L'ICRC sostiene la necessità di proibire sistemi autonomi imprevedibili, cioè quelli i cui effetti non sono sufficientemente comprensibili o spiegabili in anticipo. La convergenza con l'enciclica è significativa: non perché il Papa scopra il tema, ma perché lo porta fuori dai tavoli negoziali tecnici e lo lega a un messaggio di massa su dignità e responsabilità.

La vera posta in gioco non è se l'AI sostituirà gli esseri umani, ma chi controllerà i dati e le infrastrutture su cui gira

Vale la pena inquadrare questo intervento nel contesto economico e geopolitico in cui arriva. Da un lato, nel 2024 gli investimenti delle grandi aziende in intelligenza artificiale hanno raggiunto 252,3 miliardi di dollari, secondo l'AI Index di Stanford. Dall'altro, il mondo non va nella direzione di una riduzione delle tensioni militari: SIPRI stima la spesa militare mondiale del 2024 a 2.718 miliardi di dollari, in aumento marcato rispetto all'anno precedente. In mezzo a questi due trend ci sono le cosiddette tecnologie dual use: visione artificiale, sistemi di raccomandazione, analisi predittiva, modelli generativi. Le stesse capacità che accelerano logistica e produttività possono diventare moltiplicatori di capacità bellica.

Il bersaglio reale è la concentrazione di potere

Magnifica humanitas chiede principi etici condivisi, trasparenza e responsabilità lungo tutta la filiera dell'AI. Il suo bersaglio reale, però, non è un singolo prodotto o applicazione: è la concentrazione di potere che si forma attorno a chi controlla dati, modelli e infrastrutture. Chi detiene queste risorse controlla, di fatto, le opzioni disponibili a governi, imprese e cittadini. È un punto che parla direttamente al mercato: oggi molte scelte di governance vengono incorporate nelle scelte tecniche e contrattuali — dalla disponibilità di capacità di calcolo alla dipendenza da piattaforme proprietarie, fino alle clausole che regolano audit e accesso ai registri di sistema.

La parte più concreta dell'enciclica è il tentativo di collegare l'etica a nodi operativi precisi: accountability (la possibilità di ricostruire come una decisione è stata presa), trasparenza sugli obiettivi e sui limiti dei sistemi, tutela del lavoro e dell'educazione nelle transizioni che l'automazione accelera. Per chi segue l'AI come prodotto commerciale queste parole possono sembrare generiche. Per chi la segue come infrastruttura sociale, sono la traduzione morale di un problema concreto: un sistema diventa davvero governabile solo quando qualcuno può essere chiamato a risponderne.

L'Europa regolamenta, ma il militare resta fuori

È qui che il ragionamento del Vaticano incrocia quello europeo. L'Unione Europea ha scelto la strada della regolazione orizzontale con l'AI Act, un impianto basato sul rischio che costruisce obblighi diversi a seconda delle applicazioni e mette al centro concetti come fiducia, trasparenza e responsabilità. Ma l'architettura europea lavora principalmente sul perimetro civile del mercato interno. In parallelo, nel 2024 il Consiglio d'Europa ha aperto alla firma la Convenzione quadro su AI e diritti umani, democrazia e stato di diritto, il primo trattato internazionale legalmente vincolante in questo campo. In modo significativo, però, esclude la difesa nazionale dal suo campo di applicazione.

Questo è uno snodo cruciale per capire perché l'enciclica arriva proprio ora. Se la governance civile dell'AI si sta strutturando, quella militare resta frammentata: trattati parziali, prassi divergenti, diritto internazionale umanitario e — spesso in modo decisivo — le catene di fornitura industriale. Il rischio che il Papa mette in evidenza è che l'AI venga normalizzata come acceleratore della forza in un'area dove il controllo democratico e la verificabilità sono strutturalmente più deboli.

Roma, laboratorio di etica digitale

In Italia la notizia ha una risonanza particolare, perché Roma è già stata teatro di diplomazia etica sull'AI. Nel 2020 la Pontificia Accademia per la Vita ha promosso la Rome Call for AI Ethics insieme a Microsoft, IBM, FAO e al Governo italiano: un documento di principi condivisi — trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e privacy — pensato per creare impegni volontari e un linguaggio comune. Magnifica humanitas sembra un passo successivo: meno dichiarazione di intenti e più magistero, meno piattaforma multi-stakeholder e più tentativo di rendere difficile trattare l'etica come un accessorio reputazionale.

Un'enciclica non cambia le norme, ma può rendere più costoso ignorare la domanda su chi risponde dei danni

Sul piano istituzionale italiano, con la legge 132 del 23 settembre 2025 l'Italia ha introdotto disposizioni e deleghe al Governo sull'intelligenza artificiale, e l'AgID sta lavorando su linee guida per l'adozione di sistemi AI nella Pubblica Amministrazione. Questo tipo di traduzione in pratiche di acquisto, controlli e responsabilità è esattamente il terreno in cui un'enciclica può smettere di essere solo cultura e diventare pressione politica indiretta: non imponendo norme, ma rendendo più difficile sostenere che innovare equivalga ad adottare senza condizioni.

L'etica deve entrare nelle regole, non nelle etichette

Resta il punto più delicato: l'efficacia. Un'enciclica non cambia da sola i requisiti di conformità di un'azienda, non modifica l'interpretazione di una direttiva, non riscrive le gare d'appalto. Può però cambiare il lessico con cui le istituzioni parlano di AI e rendere mainstream una domanda che finora è rimasta spesso confinata nei documenti tecnici: chi è responsabile quando una decisione automatizzata produce un danno? La questione diventa ancora più spinosa quando il sistema è opaco, sviluppato da un fornitore, adattato da un integratore, acquistato da un ente pubblico e usato da un operatore che vede solo un risultato finale.

La scommessa di Magnifica humanitas è che, nella fase in cui l'AI sta diventando infrastruttura, l'etica non possa restare un'etichetta da aggiungere a posteriori. O si integra in regole, verifiche e responsabilità lungo tutta la filiera, oppure diventa un linguaggio che tutti dichiarano e pochi praticano. È qui che l'intervento del Vaticano, paradossalmente, parla la lingua dei sistemi: non chiede di fermare l'innovazione, chiede di rendere tracciabile chi decide cosa l'innovazione deve ottimizzare. Il punto più difficile — cosa accade quando l'AI entra nei domini della forza e della sicurezza, dove la trasparenza è rara e la velocità è considerata un vantaggio strategico — resta quello che anche l'Europa tende a lasciare ai margini. Ed è lì che la distanza tra principi condivisi e realtà industriale diventa più visibile.