Papa Leão pede travão na corrida à IA e apela à “prudência”

O Papa Leão XIV defende uma regulação rigorosa da inteligência artificial (IA) e apela a que as empresas do setor trabalhem em prol de um bem comum, em vez de se focarem apenas no lucro. Estas são algumas das ideias defendidas e aprofundadas num manifesto abrangente sobre a proteção da humanidade, apresentado esta segunda-feira pelo Sumo Pontífice da Igreja Católica, no qual também defende a necessidade de se abrandar na corrida à IA para dar espaço à reflexão.

Precisamente um ano depois de tomar posse, e naquela que é a primeira encíclica de Leão — intitulada “Magnifica Humanitas” (Humanidade Magnífica) –, o Papa critica a “cultura do poder” que impulsiona a corrida pela IA, sobretudo no desenvolvimento de sistemas cada vez mais sofisticados de guerra à distância.

Segundo a Associated Press, o Papa alerta na encíclica que não é “permitido” confiar decisões letais e irreversíveis a sistemas de IA, abrindo assim um novo ponto de tensão com a Administração Trump, que tem promovido a desregulação do setor e que tem usado amplamente tecnologias de IA na guerra contra o Irão.

Leão XIV também critica repetidamente a concentração de poder e de dados nas mãos de poucas empresas privadas, advertindo para os riscos da sociedade, especialmente para crianças e pessoas vulneráveis, e defendendo uma regulação externa mais forte.

“Não basta invocar a ética de forma abstrata. São necessários enquadramentos legais robustos, supervisão independente, utilizadores informados e um sistema político que não abdique das suas responsabilidades. Uma IA mais moral não é suficiente se essa moral for definida por poucos”, escreveu.

Leão apelou ainda a que os criadores de IA e os responsáveis políticos abrandem o ritmo e reflitam sobre o impacto das suas decisões, defendendo que a tecnologia deve servir o bem da humanidade e não apenas o lucro e o poder. “Pedir prudência, avaliação rigorosa e, por vezes, um ritmo mais lento na adoção de IA não significa oposição ao progresso; antes, é um exercício de cuidado responsável pela família humana”, argumenta o Papa na encíclica.

O Papa apresentou o texto numa cerimónia no Vaticano, que contou com a participação de Christopher Olah, cofundador da Anthropic, uma das empresas norte-americanas mais influentes no desenvolvimento de IA avançada. A presença da criadora da plataforma Claude é particularmente significativa visto que tem estado no centro do debate sobre segurança e controlo de modelos de IA, defendendo uma abordagem mais cautelosa no desenvolvimento da tecnologia.

Nos Estados Unidos, a empresa liderada por Dario Amodei encontra-se ainda envolvida numa disputa com o Governo federal, relacionada com o acesso e utilização dos seus sistemas de IA em sistemas de armas autónomos e vigilância em massa dos cidadãos. A Associated Press cita especialistas da indústria que consideram que a missiva do Papa poderá tornar-se numa importante referência na discussão pública sobre os limites da tecnologia e a utilização de IA em contexto de Defesa e Segurança.