A inteligência artificial e a impossibilidade da pureza
Essa semana li um texto defendendo que a inteligência artificial é fascista — não no sentido banal da palavra, jogada como xingamento genérico de internet, mas no sentido estrutural mesmo: concentração de poder, vigilância, exploração de trabalho intelectual em escala industrial, alinhamento entre grandes corporações e interesses militares, destruição de meios de subsistência e reprodução dos preconceitos mais podres da sociedade.
De fato: a Palantir existe; empresas de IA raspam bilhões de páginas sem pedir permissão; modelos antigos associavam “criminoso” a pessoas negras e “pessoa boa” a pessoas brancas com uma naturalidade perturbadora. Parte da infraestrutura tecnológica do planeta está sendo construída por empresas cujo único compromisso real é crescimento infinito e captura de mercado.
Eu concordo com boa parte dessas críticas, mas alguma coisa nesse debate inteiro me incomoda profundamente, e demorei alguns dias para perceber o que era.
A sensação que tenho é que a discussão sobre IA foi sequestrada por caricaturas morais: de um lado, evangelistas prometendo abundância pós-humana, produtividade infinita e um futuro mágico em que máquinas resolvem todos os problemas da civilização; do outro, gente tratando qualquer uso de IA como cumplicidade automática com exploração, fascismo, destruição ambiental e colapso cultural.
Enquanto isso, quase ninguém parece interessado na tecnologia real.
Afinal, “IA” virou uma palavra que significa tudo ao mesmo tempo:
- ChatGPT;
- Deepfake;
- Spam;
- Descoberta molecular;
- Demissões;
- Datacenters;
- Anime no estilo Ghibli;
- Vigilância;
- Tradução automática;
- SEO lixo;
- Modelagem de proteínas;
- Atendimento automatizado;
- Pesquisa médica;
- Propaganda política;
- Ferramenta de acessibilidade;
- Substituição de trabalhadores;
- Auxílio científico;
- Bots;
- Guerra;
- Arte;
- Scraping.
Tudo isso é colocado no mesmo saco como se fosse uma única entidade consciente e coerente, mas não é.
Existem o modelo em si, os dados usados para treiná-lo, as empresas, os usos e existe a narrativa pública. Misturar tudo isso numa massa única produz mais histeria do que compreensão.
Quando um modelo associa “bandido” a uma pessoa negra, ele não inventou racismo espontaneamente. Em vez disso, ele aprendeu padrões humanos existentes nos dados que consumiu. Isso não inocenta a tecnologia, mas tampouco transforma matemática aplicada em um demônio metafísico. A IA amplifica estruturas sociais já existentes porque foi construída sobre elas. O espelho não cria o rosto refletido, embora possa deformá-lo, ampliá-lo e perpetuá-lo.
E talvez seja justamente isso que seja tão perturbador — a IA também expôs uma contradição que já existia desde muito tempo, mas ainda conseguíamos fingir que não víamos: quase todo mundo depende materialmente de sistemas que considera moralmente problemáticos.
As pessoas que se recusam a usar IA frequentemente me lembram outra figura que conheci ao longo da vida: a pessoa que transforma determinadas recusas em identidade moral pública porque possui margem de segurança suficiente para isso. Não estou dizendo que a recusa seja ilegítima — em muitos casos, ela é coerente e admirável; o problema é fingir que ela existe num vácuo material.
Nem todo mundo pode dizer não.
Tem gente que não critica abertamente determinados grupos políticos porque depende de emprego público; que não denuncia abusos porque sabe o que perseguição política e assédio significam no mundo real. Um ex-cliente meu foi ameaçado por milicianos por causa de críticas feitas durante uma investigação envolvendo aliados bolsonaristas. Eu mesmo posso me dar ao luxo de falar certas coisas porque tenho estabilidade relativa, autonomia profissional e contratos que me protegem economicamente. Se tudo der errado no mercado local, ainda recebo em dólar trabalhando para canadenses.
Isso também é um privilégio, e é aí que o desconforto começa a ficar mais sério, porque percebi que eu próprio não estou fora daquilo que critico.
Eu critiquei pessoas que performam pureza moral enquanto continuam dependentes de sistemas igualmente destrutivos. Mas também escolho minhas batalhas e negocio meus próprios limites; também faço concessões práticas em nome de estabilidade econômica.
Atendo universidades israelenses sem transformar isso em dilema moral diário porque, honestamente, não quero correr o risco de perder um contrato importante. Uso IA intensivamente, invisto em hardware para rodar modelos locais, aumentei minha produtividade absurdamente usando essas ferramentas. Também dispensei pessoas porque a IA executava certas tarefas melhor, mais rápido e por uma fração do custo.
Isso me torna hipócrita? Talvez parcialmente, talvez inevitavelmente, ou talvez apenas humano dentro de um sistema que transforma sobrevivência em negociação moral permanente.
E acho que é justamente aí que o debate sobre IA perde profundidade quando vira disputa simplista entre “ferramenta neutra” e “tecnologia fascista”.
A IA não surgiu num planeta saudável e justo, mas sim dentro do capitalismo de plataforma, da concentração de poder das big techs, da precarização do trabalho intelectual, da lógica de vigilância algorítmica e da obsessão corporativa por crescimento infinito. Esperar que ela aparecesse pura seria ingenuidade.
Mas também me parece simplista fingir que ela se resume à geração de spam, demissões e retratos falsos no estilo Pixar. Existem pesquisas médicas sendo aceleradas por aprendizado de máquina. Existem modelagem molecular, acessibilidade, tradução, automação de tarefas miseráveis. Existe gente comum conseguindo produzir, estudar e aprender em escalas antes impossíveis.
O problema é que a internet transformou tudo isso numa guerra religiosa — talvez porque a IA tenha tocado numa região muito mais íntima do que outras tecnologias anteriores. As redes sociais destruíram a atenção das pessoas durante anos, mas ainda pareciam “plataformas”; algoritmos já moldavam o comportamento muito antes dos chatbots; a automação industrial eliminava empregos muito antes dos LLMs. Mas a IA generativa entrou diretamente na linguagem, na escrita, no raciocínio, na criatividade e no trabalho intelectual. Ela mexeu com ego, identidade e sensação de utilidade humana. Talvez por isso tanta gente fale dela num tom quase espiritual.
No fim das contas, não acho que a pergunta mais interessante seja “IA é boa?” ou “IA é fascista?”.
A pergunta mais honesta talvez seja outra: o que fazemos quando percebemos que sobrevivência material, conforto econômico, ética pessoal e participação em sistemas moralmente questionáveis nunca estiveram realmente separados?
Porque talvez o aspecto mais perturbador da IA não seja técnico, e sim o fato de ela ter removido o disfarce.