Algor-ética: ponte entre humanismo e era digital

advanced divider

Élio Gasda SJ

A Inteligência Artificial é a maior inovação tecnológica da era digital.  Uma revolução! Está em (quase) tudo: em nossa vida pessoal, na sociedade e na economia, na saúde na educação, na religião e na política. Precisamos nos perguntar: o que é o ser humano?

O humanismo tem como horizonte o princípio de que todos somos irmãos e habitamos uma casa comum. Como restaurar algo tão essencial do humano? Que humanos queremos ser na era do digital, do algoritmo, no século XXI?

Essa era digital estaria nos desumanizando? “Saberemos cada vez menos o que é um ser humano” (José Saramago). Uma das características mais perigosas da desumanização é a perda da capacidade de pensar, de distinguir o certo do errado, a verdade da mentira.

“A inteligência artificial pode significar o fim da humanidade” (Stephen Hawking). Em 2015 a Universidade de Stanford (Califórnia), lançou o estudo “12 riscos globais que ameaçam a civilização”. A superinteligência (IA) aparece na lista entre os riscos reais, ao lado das mudanças climáticas extremas, guerra nuclear, catástrofes ecológicas, pandemias e crises socioeconômicas.

Inteligência Artificial é a ameaça menos compreendida. No final dos anos 90 tivemos a era do acesso e da informação. Digitalizamos textos, sons, imagens e muita informação! A transição do analógico ao digital se amplificou. Vivemos a era da digitalização da vida.

O capitalismo digital não deixa nenhum espaço da existência vazio. Tudo é monetizado. A tecnologia gerida por algoritmos, fundada em uma espécie de anti-humanismo radical mina a liberdade e a autonomia, se apossa da consciência moral.

A nova indústria do digital se inspira em uma visão teológica: ‘Deus não encerrou a criação, o mundo está cheio de erros, nós, através das tecnologias, conduziremos a sociedade de maneira exponencial para o melhor’. A realidade precisa ser aumentada porque é pobre, assim como o corpo humano, então vamos aumentá-los’, a inteligência é pobre, deve ser aumentada. Nosso rosto está cheio de imperfeiçoes, precisa ser ‘corrigido’. Era digital uniformizando nossos corpos?

O fenômeno dispensa o ser humano de pensar. As relações com as coisas e as pessoas se tornam utilitaristas. A era do capitalismo digital avança para “informática emocional”. Há uma guerra industrial pela conquista dos sentidos para manipular comportamentos. A informação sobre quem é o ser humano virou mercadoria valiosa. Tudo pode virar negócio, não há lugar intocável, misterioso ou sagrado. Assim funciona o capitalismo.

Caminhamos para uma civilização fundada sobre a colonização ininterrupta da natureza humana para fins econômicos. Não é uma colonização forçada, mas uma colonização acolhida e muito desejada pelos indivíduos. Uma sociedade encantada com cada novidade tecnológica não pensa que sua liberdade, seus afetos e desejos, sua capacidade de discernimento está sendo colonizado. Uma civilização que não reflete sobre si mesma. Estão colonizando nossa existência humana de A a Z. E daí?

Decisões e ações não podem ficar à mercê de algoritmos ou cálculos econômicos. Ainda há tempo de não perder a lucidez, de desenvolver pensamento crítico, de questionar a digitalização da vida, da educação, das relações familiares.

Papa Francisco nos motiva para a urgência de pensar a tecnologia com critérios humanos e éticos. A civilização do algoritmo implica uma algor-ética, “uma ponte para garantir que os princípios sejam inscritos nas tecnologias digitais, através de um diálogo transdisciplinar eficaz. No encontro entre diferentes visões de mundo, os direitos humanos são um importante ponto de convergência para a busca de um terreno comum”.

Um primeiro passo: A Pontifícia Academia para a Vida, publicou um documento com o título “call for ethics” (apelo à ética), como resultado de uma convenção sobre a Inteligência Artificial ocorrida em fevereiro de 2020. A IA deve atender três requisitos. Incluir todo ser humano, ter o bem da humanidade como objetivo, estar atenta à complexa realidade do ecossistema e com o cuidado do planeta.

Algoritmos devem incluir valores éticos e não apenas numéricos. Princípios da Algor-ética: Transparência, Inclusão, Responsabilidade, Imparcialidade e justiça, Confiabilidade, Segurança e privacidade.

Precisamos de uma nova aliança entre pesquisa, ciência e ética. Não basta confiar à sensibilidade moral de quem faz pesquisa e projeta a IA. É importante criar órgãos sociais que representem a ética dos usuários. Princípios da Doutrina Social da Igreja oferecem uma contribuição: dignidade da pessoa, justiça, subsidiariedade e solidariedade.

Não se pode ter medo de ser o que se é. Diante da revolução que afeta o núcleo da existência humana, é necessário pensar nossa identidade e presença no mundo. A dignidade humana nos diz que é o ser humano que deve ser protegido na relação entre ser humano e máquina. A era digital precisa incluir a ética. Somente o humanismo integral pode mudar os rumos de uma civilização que está entrando em colapso.

 

Élio Gasda SJ é professor e pesquisador no departamento de Teologia da FAJE

EnglishPortugueseSpanish