Elton Vitoriano Ribeiro, SJ
Nossa época é marcada por uma realidade computacional e virtual que convencionamos chamar de Inteligência Artificial (IA). Redes sociais, supercomputadores, robôs e modelos de linguagem generativa deixaram de habitar as páginas da ficção científica para se tornarem infraestruturas invisíveis e pervasivas que moldam ativamente a nossa existência. Este avanço rápido envolve cifras econômicas grandiosas, promessas de facilitação da vida e urgentes desafios sociais, éticos e políticos. Diante dessa transição civilizacional, a Santa Sé interveio no debate global com a publicação da Carta Encíclica Magnifica Humanitas, promulgada pelo Papa Leão XIV (https://www.vatican.va/content/leo-xiv/pt/encyclicals/documents/20260515-magnifica-humanitas.html). O documento estabelece um marco ao abordar a IA não como um mero instrumento neutro, mas como uma revolução que exige rigorosa avaliação ética e política.
Para compreender a dimensão ética da IA, faz-se necessária uma distinção sobre a natureza do aprendizado. Conforme salienta a Encíclica, embora os novos instrumentos sejam apresentados como aptos a aprender, sua lógica é radicalmente distinta da humana. O ser humano aprende por meio de sua inserção existencial no mundo, discernindo critérios bons e ruins ao longo de uma trajetória marcada pela vulnerabilidade, pelo erro, pela queda, mas também pela retratação e reconciliação. A máquina, em contrapartida, opera sob o paradigma do conexionismo e das redes neurais, realizando processos de adaptação estatística a partir de volumes massivos de dados e resultados prévios (https://periodicos.ufmg.br/index.php/kriterion/article/view/58458).
Como recorda Coeckelbergh em Ética na Inteligência Artificial (2022), (https://www.researchgate.net/publication/380426337_Etica_na_Inteligencia_Artificial), o aprendizado de máquina (machine learning) fundamenta-se essencialmente na estatística e no reconhecimento de padrões numéricos. Os algoritmos identificam regras em bases de dados passadas para tentar antecipar dados ou comportamentos futuros; o ponto de partida são os dados brutos, e não as teorias ou a reflexão sobre valores. Esse pragmatismo revela que a IA contemporânea enquadra-se na categoria de IA fraca ou restrita onde sistemas operam com alta eficiência em domínios específicos e delimitados, como por exemplo, o reconhecimento facial ou chatbots. Enquanto a IA forte ou geral que é capaz de replicar integralmente a consciência humana, ainda permanece no campo da ficção científica. Daí uma constatação: confiar deliberações existenciais complexas a uma mecânica estritamente estatística constitui, portanto, um grave perigo prático!
Um pilar fundamental da crítica compartilhada pela Magnifica Humanitas e por Coeckelbergh reside na desmitificação da neutralidade técnica. O Papa Leão XIV adverte que todo artefato técnico traz consigo uma carga axiológica implícita, expressa em escolhas estruturais: o que decide medir, o que ignora, quais variáveis otimiza e como classifica indivíduos. Quando os sistemas de IA reproduzem decisões que perpetuam práticas injustas ou preconceituosas, como o racismo estrutural, a LGBTfobia, a xenofobia, o etarismo e o machismo, a responsabilidade não pode ser atribuída de forma abstrata à máquina. O viés algorítmico é um espelho sociológico. Conforme argumenta Coeckelbergh, o viés permeia o nosso mundo e as nossas sociedades; consequentemente, os modelos de IA, sendo alimentados por dados históricos produzidos por essa mesma sociedade, fatalmente refletirão e ampliarão tais distorções. Sendo assim, a análise ética deve transcender o algoritmo, investigando quem molda o futuro da tecnologia e quais princípios orientaram o seu desenho original.
Importante aqui é a centralidade do alerta pontifício que reside fundamentalmente nas consequências dramáticas da automação sobre as decisões delicadas que regem a vida das pessoas e da sociedade, como a gestão de concessões de crédito financeiro, triagens de emprego, acessos a serviços públicos e avaliações jurídicas. Ao transferirmos integralmente essas responsabilidades para algoritmos, incorremos no risco de promover deliberações anti-humanas. Então, a Encíclica realça que os sistemas automatizados desconhecem por completo as virtudes mais fundamentais, como a compaixão, a misericórdia, o perdão e a abertura à esperança de mudança inerente a cada pessoa.
Ao delegar a um algoritmo o arbítrio de decidir quem merece ou não o acesso a um direito, sem que haja a possibilidade de reflexão humana, estamos consentindo que a tecnologia redefina os limites das próprias possibilidades humanas. Perde-se a empatia para com o marginalizado, o pobre, o esquecido socialmente e o sofredor. As injustiças passam a ser perpetradas de maneira asséptica, neutra e silenciosa, blindadas pela pretensa infalibilidade dos números. Desaparece o espaço para os afetos e para a solidariedade, gerando formas ainda mais invisíveis de exclusão social.
Do ponto de vista da filosofia social, a expansão da IA gera o problema das decisões inexplicáveis. Na prática, a imensa maioria das pessoas que utiliza sistemas automatizados não sabe ao certo como a IA está operando internamente e quais serão os efeitos colaterais de sua aplicação. Diante de um erro ou de um dano provocado por um sistema inteligente, a responsabilidade tende a se diluir em uma névoa burocrática e técnica. Para sanar este déficit ético, a encíclica Magnifica Humanitas adota o conceito de accountability (prestação de contas e responsabilidade). O Papa Leão XIV preconiza que, para salvaguardar a dignidade, a liberdade individual, a justiça social e o respeito à democracia, é imprescindível definir de forma inequívoca as responsabilidades humanas em todas as fases da cadeia tecnológica.
A accountability traduz-se na garantia permanente da possibilidade de identificar o agente humano que deve responder pelas decisões automatizadas, motivando-as de modo transparente, controlando-as em tempo real e abrindo espaço para contestação e reparação. Como encaminhamento prático, tanto a reflexão eclesial quanto as propostas de Coeckelbergh convergem na necessidade de estabelecer auditorias governamentais e fiscalizações rigorosas sobre as grandes corporações tecnológicas. Trata-se de construir uma ética proativa, por mais difícil que seja essa empreitada, que não vise asfixiar o progresso, mas sim exercer um cuidado vigilante que resguarde os valores civilizatórios vitais da humanidade.
Em conclusão, tanto a Carta Encíclica quanto a reflexão filosófica apontam para um horizonte comum: o futuro da nossa civilização dependerá da nossa capacidade de unir a inteligência abstrata à sabedoria prática. A IA demonstra competência incomparável no reconhecimento estatístico de padrões numéricos. Todavia, não se pode delegar a sabedoria às máquinas. A sabedoria prática (phronesis) e as virtudes morais são prerrogativas humanas, desenvolvidas a partir da vivência corpórea, existencial, relacional e situada no mundo histórico. O caminho sapiencial reside em um equilíbrio reflexivo, para falar como Rawls, recusando o transumanismo apocalíptico e orientando nossos esforços para modelos de colaboração consciente, nos quais a tecnologia atue sob as diretrizes éticas da justiça, da transparência e da preservação da dignidade inalienável de cada ser humano. Em isto acontecendo, teremos que enfrentar a questão do Capitalismo Tecnológico, mas essa já é outra história.
Elton Vitoriano Ribeiro, SJ é professor e pesquisador no departamento de Filosofia, e reitor da FAJE
03/06/2026
Imagem: Shutterstock