Papa Leão alerta que inteligência artificial pode ser “nova torre de Babel”

Na sua encíclica “Magnífica Humanidade”(Magnífica Humanidade) divulgado hoje, Papa Leão XIV alerta que inteligência artificial “ameaça normalizar uma visão anti-humana” e adverte veementemente contra a concentração da nova tecnologia nas mãos de poucos.

Na primeira frase da encíclica, o Papa escreve: “A humanidade, criada por Deus em toda a sua grandeza, enfrenta hoje uma escolha crucial: construir uma nova Torre de Babel ou construir a cidade na qual Deus e a humanidade habitam juntos”.

“Uma moral mais IA não é suficiente se essa moralidade for determinada por poucos”, escreve o Papa, enquanto o pontífice apela a “um código ético sujeito a padrões partilhados de justiça social”.

O Papa escreve: “Não basta invocar a ética em abstrato; são necessários quadros jurídicos robustos, supervisão independente, utilizadores informados e um sistema político que não abdique da sua responsabilidade. Uma IA mais moral não é suficiente se essa moralidade for determinada por poucos”.

O Papa Leão foi acompanhado hoje no Vaticano por Christopher Olah, co-fundador da empresa de IA Anthropic, que disse: “Precisamos que mais pessoas do mundo – comunidades religiosas, sociedade civil, académicos, governos – façam o que Sua Santidade fez aqui: levar isto a sério, olhar de perto e levar os acontecimentos numa direcção melhor. Precisamos de vozes morais que os incentivos não possam dobrar”.

Leia a encíclica completa abaixo.

Especificamente, o Papa apela à clareza no que diz respeito às responsabilidades e responsabilização “em todas as fases do processo de desenvolvimento” das políticas e quadros jurídicos de IA, supervisão independente e educação dos utilizadores.

“O que é necessário é um envolvimento político mais activo, capaz de abrandar as coisas quando tudo está a acelerar”, escreve Leo no texto, acrescentando que o impacto ambiental das novas tecnologias não deve ser esquecido “uma vez que requerem grandes quantidades de energia e água, afectando a Criação”.

A carta encíclica já está a ser interpretada por muitos como uma réplica clara e concisa ao Vale do Silício sobre o futuro da civilização. A IA, observa o Papa Leão, deve ser “desarmada” para ser libertada da mentalidade de competição militar, económica e cognitiva.

“Desarmar significa desacreditar a suposição de que o poder técnico confere automaticamente o direito de governar”, escreve ele. “Desarmar não significa rejeitar a tecnologia, mas impedir que ela domine a humanidade.”

“A humanidade – em toda a sua grandeza e feridas – nunca deve ser substituída ou superada”, escreve ele, embora reconhecendo que a tecnologia pode aliviar os sofrimentos da humanidade e abrir novas possibilidades, mas não deve negar a essência da humanidade, que é a nossa “capacidade de relacionamento e amor”.

“A verdadeira alternativa não está entre o entusiasmo e o medo”, diz o Papa sobre a IA, “mas entre dois caminhos de desenvolvimento: um progresso que sirva os indivíduos e os povos, ou um progresso que os submeta à mentalidade do poder”.

Leia a “Magnífica Humanidade” aqui.