Leão XIV: a IA jamais deve decidir sobre a vida humana

O Papa manifestou a necessidade de criar instituições internacionais capazes de colocar em prática princípios éticos que orientem o desenvolvimento da inteligência artificial. E proibir armas autônomas letais, reiterando que a IA deve ser “desarmada”.

O tema da inteligência artificial (IA) esteve no centro do discurso de Leão XIV aos participantes do encontro “O Futuro da IA: Um Diálogo entre o Vaticano e o Mundo Científico sobre os Avanços e as Aplicações das Tecnologias Inteligentes”. A iniciativa foi organizada pela Pontifícia Academia para a Vida e pelo Instituto Futuro da Vida.

Ao reunir especialistas de diversos países, o evento evidencia um sentimento comum que, segundo o Papa, é o de inquietação em relação ao desenvolvimento da inteligência artificial e os seus rumos. O Pontífice desenvolveu cinco considerações, a partir de sua Encíclica Magnifica humanitas.

Em primeiro lugar, o futuro da inteligência artificial não está predeterminado.  “Por ser uma tecnologia desenvolvida pelos seres humanos, seu futuro depende das escolhas que fizermos”, ressaltou o Papa.  Temos, portanto, a responsabilidade de orientar, transformar e, quando necessário, rejeitar suas aplicações.  Para o Santo Padre, a questão decisiva não é simplesmente “O que a IA pode fazer?”, mas sim “A que finalidade ela deve servir?”. 

“Aqueles que encaram seu desenvolvimento meramente como uma corrida a ser vencida correm o risco de se concentrar exclusivamente na linha de chegada, esquecendo-se daqueles que ficam para trás.”

Em segundo lugar, as máquinas são ferramentas, não pessoas. Leão XIV alertou quanto a propostas que pretendem conceder direitos a esses sistemas, ou até mesmo personalidade jurídica, obscurecendo a responsabilidade humana.

A inteligência artificial deve ser “desarmada”

Em terceiro lugar, apontou o Pontífice, certas decisões nunca devem ser delegadas: “As decisões que afetam a vida humana, a liberdade e o uso da força devem permanecer sempre sujeitas a uma supervisão humana eficaz, informada e responsável”, disse o Papa, citando o exemplo dos bancos de dados de controle de fronteiras. 

A este propósito, Leão XIV encorajou os Estados que se reunirão em Genebra em novembro a tomarem medidas concretas no sentido de proibir armas autônomas letais, reiterando que a inteligência artificial deve ser “desarmada”.

Em quarto lugar, as tecnologias inteligentes devem ser orientadas para o bem comum e não servir meramente aos interesses de um pequeno grupo privilegiado.  

Por fim, o Papa destacou o desafio que considera o mais urgente. E se trata de ter instituições, especialmente internacionais, capazes de colocar em prática princípios éticos que orientem o desenvolvimento da inteligência artificial. “Isso exige normas compartilhadas, supervisão independente e mecanismos claros de prestação de contas, para que as decisões relativas ao desenvolvimento e ao uso da IA possam ser examinadas, questionadas quando necessário e acompanhadas de medidas corretivas adequadas para qualquer dano causado.”

Leão XIV concluiu agradecendo ao grupo por suas contribuições nessa área e exortando a perseverarem e trabalharem juntos “em espírito de diálogo e responsabilidade compartilhada pelo bem comum”. 

Fonte: Vatican News