Carlos Barth
Toda guerra se ancora na desumanização do adversário, e a história é rica em exemplos de como a tecnologia pode ser cúmplice desse processo. Ao que parece, estamos falhando em evitar que este seja o caso da Inteligência Artificial.
Em março deste ano, o Irã anunciou que considera diversas empresas de tecnologia estadunidenses alvos militares legítimos. Em represália a operações dos EUA, o país ameaçou atacar instalações da Google, Microsoft, Apple e outras empresas que também possuem escritórios e data centers no Oriente Médio. As forças militares iranianas sabem que esses locais são mantidos por civis, pois em dado trecho de sua ameaça, há exigências de evacuação. Como seria de se esperar, vimos os EUA fazer declarações enfáticas em defesa dos seus. O que não vimos nessas declarações (ao menos não predominantemente), foi surpresa ou tentativas de desconstruir a afirmação iraniana de que as big techs são alvos militares legítimos. Praticamente todos os analistas, estadunidenses ou não, entendem haver hoje profunda integração entre tais empresas e o complexo militar dos EUA.
Por um lado, parece não haver nada realmente novo nessa relação. O complexo militar-industrial tem papel central na economia estadunidense desde o fim da segunda guerra mundial. A história da Internet é um exemplo. Seu desenvolvimento inicial foi financiado pela DARPA (Defense Advanced Research Projects Agency, originalmente denominada ARPA), uma agência de pesquisa e desenvolvimento ligada ao departamento de defesa dos EUA. Uma das motivações ligadas ao surgimento da Internet é militar: o interesse em uma rede de comunicação descentralizada, que não poderia ser posta abaixo por um ataque a uma única instalação central.
Mas há uma novidade no cenário atual. Se instituições como a DARPA fossem atacadas, isso prejudicaria o desenvolvimento de novas tecnologias a médio e longo prazos. Hoje, porém, afetar a estrutura funcional de uma big tech pode atrapalhar uma operação de guerra em andamento. Embora seja difícil cavar se, ou em que medida, certa empresa auxiliou em dada operação militar, as suspeitas são cada vez maiores: a escala e a velocidade de certas operações, por exemplo, sugerem o uso de IA para identificar e priorizar alvos. Trata-se, portanto, de uma interação mais profunda, com um alinhamento de interesses mais direto. No caso das big techs, as bordas que distinguem as atividades civis das militares podem se mostrar borradas.
Existe uma segunda dimensão relevante. Há poucas décadas, o desenvolvimento tecnológico estadunidense se concentrava em agências estatais (a exemplo da própria DARPA). Nesse modelo, embora a tentação de usar as tecnologias desenvolvidas para controle e vigilância existisse, fazê-lo em massa seria muito mais difícil. Se todos fossem subitamente obrigados a ceder dados íntimos sobre suas preferências, gostos e hábitos (i.e. o que faz, com quem, onde e com que frequência), essa medida seria, provavelmente, tomada como uma tentativa de vigilância autoritária. Contudo, o modelo de desenvolvimento centrado em grandes empresas de tecnologia, acabou viabilizando outro caminho: esse é o tipo de dado que cedemos às big techs diuturnamente, de bom grado, como parte do “acordo” que nos permite usar seus serviços. Inicialmente, esses dados eram utilizados para oferecer mais produtos e serviços, tais como anúncios hiper segmentados por meio de padrões comportamentais (“enfatize anúncios ao fulano todo fim de semestre letivo, quando ele está mais cansado e propenso a comprar por impulso”). Isso logo se revelou também uma poderosa ferramenta de ingerência política (“mostre ao fulano conteúdo que associe um adversário político a algo imoral logo antes de seu típico almoço de domingo com a família”). Mas o que se observa nos últimos anos vai além: os dados populacionais têm servido a fins geopolíticos e militares.
Uma primeira amostra veio a público em 2013, quando Edward Snowden denunciou uma estrutura de cooperação entre big techs e agências de inteligência. Informações sobre comunicações, amizades, hábitos e gostos, que só deveriam estar disponíveis mediante autorização judicial, eram sub-repticiamente franqueadas. Ainda que essa estrutura tenha sido abalada pela denúncia, a interação permanece. A existência de um mercado de dados pessoais permite que os dados gerados por uma empresa (e.g. nossos hábitos de compra numa rede de farmácias) possam ser adquiridos por outra (e.g. uma operadora de plano de saúde), e há pelo menos um caso conhecido de agência (FBI) que compra dados pessoais em massa, evitando assim a necessidade de autorização judicial. Nunca foi tão fácil manter um sistema de vigilância permanente sem enfrentar a indignação dos vigiados.
Esse é o cenário que viabiliza o uso de dados populacionais de boa parte do mundo para fins geopolíticos e militares. Saber o que lemos, assistimos, consumimos, e saber com quem andamos, por onde e quando, é o tipo de informação que permite identificar atividades políticas e/ou quaisquer padrões comportamentais que despertem interesse. Evidentemente, o uso militar depende também de informações que não são obtidas na dimensão comercial, tais como imagens de drones e satélites. Porém, é a conjunção de distintas fontes que permite criar uma base de conhecimento sem precedentes em termos de alcance e capilaridade. Este é um dos pontos de entrada dos sistemas de IA. Há crescente apoio à tese de que, munidos de tantos dados, tais sistemas podem receber autonomia para identificar alvos ou mesmo para decidir quando é o caso de abordar. Não surpreende, portanto, a ausência de grandes questionamentos à caracterização iraniana das big techs como parte do aparato militar do adversário.
O uso de IA em operações militares traz consigo desafios éticos urgentes. Como já é amplamente sabido, sistemas de IA podem falhar em fornecer orientações adequadas por inúmeros motivos. Contudo, quando tais falhas se apresentam num sistema de recomendação de conteúdo, o efeito imediato de errar o alvo é apenas uma oportunidade comercial desperdiçada. Já no âmbito militar, o mesmo tipo de erro pode custar vidas.
Com efeito, a guerra caminha para se tornar um problema técnico que nos aparta da sua concretude brutal e desumana. Cada vez mais, o sucesso deriva da capacidade de otimização, em um cálculo que dilui a humanidade do adversário num perfil estatístico. Se antes os aspectos numérico e estratégico da guerra eram exclusivos dos que detinham cargos superiores (generais, comandantes, marechais, etc.), hoje mesmo os soldados que atuam diretamente nas operações o fazem de forma desconectada da ação concreta. Não são soldados enfrentando soldados, são operadores de drones ou sistemas de mísseis, ambos auxiliados e potencialmente substituíveis por IAs com autonomia decisória cada vez maior. De forma crescente, esses sistemas decidem quais histórias, sonhos e expectativas terão alguma chance de existir no futuro. A IA diminui o custo humano da guerra para os poucos que têm condições de utilizá-la, ao mesmo tempo em que amplifica esse custo aos seus adversários. Esse cenário não existe sem as big techs. O Irã sabe disso, e os EUA, também.
Carlos Barth é professor e pesquisador no departamento de Filosofia da FAJE
11/06/2026
Imagem gerada por IA (Magnific)