Pubblichiamo un appello redatto da una commissione di scienziati e consegnato a papa Leone XIV.
Sono riflessioni su un argomento come l\u2019Intelligenza Artificiale che condizioner\u00e0 il futuro dell\u2019Umanit\u00e0.<\/p>\n\n\n\n
Fraternit\u00e0 nell\u2019era dell\u2019IA
Il nostro appello globale per una coesistenza umana
pacifica e una responsabilit\u00e0 condivisa.<\/p>\n\n\n\n
Roma, 12 settembre 2025<\/p>\n\n\n\n
A Sua Santit\u00e0 Papa Leone XIV
A tutti i leader globali
A tutte le persone di buona volont\u00e0<\/p>\n\n\n\n
Animati dal profondo desiderio di un futuro in cui siano
gli esseri umani a guidare la societ\u00e0 e le sue scelte, noi,
un gruppo di lavoro indipendente composto da esperti,
leader del settore tecnologico, intellettuali e studiosi
provenienti da diverse nazioni, culture e fedi, lanciamo
questo appello affinch\u00e9 l\u2019intelligenza artificiale sia
sviluppata responsabilmente, da e per le persone.<\/p>\n\n\n\n
Le scelte che facciamo oggi nell\u2019ambito dell\u2019intelligenza
artificiale incideranno radicalmente sul mondo che
lasceremo alle future generazioni. L\u2019IA sta gi\u00e0 causando
danni significativi: accentua le disuguaglianze,
concentra il potere nelle mani di pochi attori e produce
effetti nocivi sull\u2019ambiente. Somme ingenti e sempre pi\u00f9
cospicue sono destinate allo sviluppo di tecnologie
agentiche con il potenziale per superare le capacit\u00e0
cognitive umane: ci\u00f2 che molti esponenti della ricerca
nell\u2019ambito dell\u2019IA definiscono \u201csuperintelligenza\u201d.
Queste sfide richiedono una leader-ship morale e
interventi concreti e tempestivi.
L\u2019intelligenza artificiale offre opportunit\u00e0 significative
per accelerare la ricerca scientifica, favorire una pi\u00f9
profonda comprensione tra gli esseri umani,
rivoluzionare l\u2019assistenza sanitaria, migliorare i modelli
di governo e, pi\u00f9 in generale, contribuire alla
costruzione di una prosperit\u00e0 sostenibile e inclusiva.
Tuttavia, l\u2019intelligenza artificiale comporta anche rischi
significativi, come evidenziato nell\u2019International
Scientific Report on AI Safety: dalla perdita di posti di
lavoro alla riduzione delle libert\u00e0 individuali, dalle
guerre di potere alla disinformazione e manipolazione,
fino alla sorveglianza di massa, all\u2019impatto ambientale e
alle minacce al benessere umano.
Al fine di cogliere appieno le opportunit\u00e0 legittime e
potenziali, mitigando al contempo costi e rischi, \u00e8<\/p>\n\n\n\n
fondamentale porre le basi per la prosperit\u00e0 umana,
accompagnata da confini ben definiti, radicati nel
rispetto della dignit\u00e0, della comunit\u00e0, dei diritti umani e
ambientali, e fondati sul principio di responsabilit\u00e0. In
questo spirito di fraternit\u00e0, speranza e cautela,
rivolgiamo un appello alla vostra leadership affinch\u00e9
sostenga i seguenti principi e limiti invalicabili, con
l\u2019obbiettivo di favorire il dialogo e la riflessione su come
l\u2019intelligenza artificiale possa servire al meglio l\u2019intera
comunit\u00e0.
Vita e dignit\u00e0 umane: l\u2019intelligenza artificiale non deve
mai essere sviluppata n\u00e9 impiegata in modi che possano
minacciare, sminuire o negare la vita, la dignit\u00e0 o i
diritti fondamentali della persona. L\u2019intelligenza umana
\u2013 la nostra facolt\u00e0 di giudizio, di ragionamento morale e
l\u2019inclinazione alla verit\u00e0 e alla bellezza \u2013 non deve mai
essere svalutata da alcuna forma di elaborazione
artificiale, per quanto sofisticata.
L\u2019IA deve essere utilizzata come uno strumento, non
come un\u2019autorit\u00e0: l\u2019IA deve rimanere sotto il controllo
umano. Costruire sistemi incontrollabili o delegare
eccessivamente le decisioni \u00e8 moralmente inaccettabile
e deve essere vietato dalla legge. Pertanto, lo sviluppo
di tecnologie di super intelligenza artificiale non deve
essere autorizzato finch\u00e9 non sar\u00e0 raggiunto un ampio<\/p>\n\n\n\n
consenso scientifico sul fatto che esse possano essere
realizzate in modo sicuro e controllabile, e finch\u00e9 non
sar\u00e0 raggiunto un chiaro consenso pubblico.
Responsabilit\u00e0: solo gli esseri umani possiedono lo
status di soggetti morali e giuridici; i sistemi di
intelligenza artificiale sono e devono rimanere oggetti di
diritto, mai soggetti. Le responsabilit\u00e0 e gli obblighi
ricadono su sviluppatori, fornitori, aziende,
implementatori, utenti, istituti e governi. All\u2019IA non
possono essere concessi personalit\u00e0 giuridica o \u201cdiritti\u201d.
Decisioni di vita o di morte: ai sistemi di intelligenza
artificiale non deve mai essere consentito di prendere
decisioni di vita o di morte, specialmente nelle
applicazioni militari durante i conflitti armati o in
tempo di pace, nel mantenimento dell\u2019ordine pubblico,
nel controllo delle frontiere, nell\u2019assistenza sanitaria o
nelle decisioni giudiziarie.
Sviluppo sicuro ed etico: gli sviluppatori devono
progettare l\u2019IA mettendo al centro sicurezza,
trasparenza ed etica, non considerandole un elemento
secondario. Gli utilizzatori devono tener presente il
contesto d\u2019uso e i potenziali danni e sono soggetti agli
stessi principi etici e di sicurezza degli sviluppatori.
Prima della distribuzione e durante l\u2019intero ciclo di vita<\/p>\n\n\n\n
devono essere richiesti test indipendenti e un\u2019adeguata
valutazione del rischio.
Custodia e responsabilit\u00e0: i governi, le imprese e
chiunque altro non dovrebbero trasformare l\u2019IA in uno
strumento di dominio, di guerra di aggressione illegale,
coercizione, manipolazione, social scoring o
sorveglianza di massa ingiustificata.
Progettazione responsabile: l\u2019IA dovrebbe essere
progettata e valutata in modo indipedente per evitare
effetti imprevisti e catastrofici sugli esseri umani e sulla
societ\u00e0, ad esempio attraverso una progettazione che
possa generare inganno, illusione, dipendenza o perdita
di autonomia.
Nessun monopolio dell\u2019IA: i benefici dell\u2019IA (economici,
medici, scientifici, sociali) non devono essere
monopolizzati.
Nessun svilimento umano: la progettazione e
l\u2019implementazione dell\u2019IA dovrebbero promuovere le
ambizioni degli esseri umani nelle loro attivit\u00e0 elettive,
non rendere l\u2019umanit\u00e0 ridondante, estromessa,
svalutata o sostituibile.<\/p>\n\n\n\n
Responsabilit\u00e0 ecologica: il nostro uso dell\u2019IA non deve
mettere in pericolo il pianeta e gli ecosistemi. Il grande
fabbisogno di energia, acqua e terre rare dell\u2019IA deve
essere gestito in modo responsabile e sostenibile lngo
tutto la catena di approvvigionamento.
Nessuna concorrenza globale irresponsabile: dobbiamo
evitare una corsa irresponsabile tra aziende e Paesi
verso un\u2019IA sempre pi\u00f9 potente.
Rispettare questi principi non sar\u00e0 facile. Richiede
coraggio morale, una responsabilizzazione efficace, una
leaderschip lungimirante in tutti i settori della societ\u00e0,
un trattato internazionale vincolante che stabilisca limiti
invalicabili e una istituzione di controllo indipendente
con poteri coercitivi e sanzionatori. Pertanto, chiediamo
una leaderschip morale per l\u2019era dell\u2019IA. Poich\u00e9 i
pericoli presentati dall\u2019IA sono spesso indiretti,
chiediamo agli scienziati, alla societ\u00e0 civile, ai gruppi
per i diritti e ad altre parti interessate di compiere uno
sforzo maggiore per esporre i limiti e i pericoli dell\u2019IA
rendendo maggiormente consapevole l\u2019opinione
pubblica. Invitiamo scienziati, leader del settore
tecnologico e responsabili politici ad ascoltare le voci, le
esperienze e la ricerca di chi lavora sui dati, delle
comunit\u00e0 e dei popoli che subiscono i costi (materiali)
dell\u2019IA. Li invitiamo a concentrare il loro operato sulla<\/p>\n\n\n\n
protezione e gli interessi dei pi\u00f9 vulnerabili. Perch\u00e9 la
legittimit\u00e0 delle norme morali e legali in una societ\u00e0
dipende da come tratta le persone pi\u00f9 vulnerabili.
Facciamo inoltre appello agli scienziati, alla societ\u00e0
civile e a esperti indipendenti affinch\u00e9 sviluppino e
propongano nuovi obiettivi e metriche per addestrare,
ottimizzare e valutare gli algoritmi di apprendimento in
termini di veridicit\u00e0, equilibrio e bene dell\u2019umanit\u00e0,
durante l\u2019intero ciclo di vita, e non solo in termini di
prestazioni e engagement.
Incoraggiamo i legislatori, i leader del settore
tecnologico e le comunit\u00e0 globali a collaborare per
sviluppare linee guida esaurienti per la governance
dell\u2019IA al servizio del bene comune. Ci\u00f2 include il
diritto degli esseri umani a vivere senza IA. Il progresso
di una vera fraternit\u00e0 umana nell\u2019era dell\u2019intelligenza
artificiale richiede l\u2019istituzione di standard etici e legali
universali.
Infine, ci appelliamo a tutte le persone di buona
volont\u00e0: uniamoci per garantire che l\u2019IA serva tutta
l\u2019umanit\u00e0 piuttosto che una ristretta minoranza.
Unendoci al di l\u00e0 delle nazionalit\u00e0, delle culture e delle
credenze religiose, dando priorit\u00e0 al dialogo rispetto
alla competizione, possiamo plasmare un futuro che
promuova la dignit\u00e0 umana e un mondo pi\u00f9 giusto e
pacifico.<\/p>\n\n\n\n
Invitiamo tutte le parti interessate, inclusi cittadini,
scienziati, leader aziendali, leader religiosi
rappresentanti della comunit\u00e0 e responsabili politici, a
partecipare a questa iniziativa. Insieme, ribadiamo il
principio essenziale secondo cui le macchine devono
servire gli interessi dell\u2019umanit\u00e0.
Membri del gruppo di lavoro che ha steso questo
appello globale:
Paolo Benanti (coordinatore scientifico)
Yoshua Bengio
Ernesto Belisario
Abeba Birhane
Cornelius Boersch
Yuval Noah Harari
Geoffrey Hinton
Lorena Jaume-Palas\u00ec
Antal Kuthy
Riccardo Luna (coordinatore)
Nnenna Nwakanma
Valerie Pisano
Stuart Russell
Max Tegmark
Marco Trombetti
Jimena Sof\u00eca Viveros A\u2019lvarez
Alexander Waibel
Will.i.am<\/p>\n\n\n\n
Firmato anche da:
Miguel Benasayag
Giorgio Parisi (premio Nobel per la fisica)
Maria Ressa (relatrice all\u2019ONU del documento)<\/p>\n
(14)<\/p>