Maltbot e a Ilusão da Substituição Humana

Dentre minhas atividades de “lazer”, uma delas foi dedicada à pesquisa e ao desenvolvimento de sistemas de IA voltados à análise de Big Data científico. Nesse percurso, pude compreender, ao menos em linhas gerais, como tais arquiteturas operam: de que modo um modelo “aprende”, como organiza representações internas e por quais mecanismos sintetiza respostas a partir de grandes massas de dados.

É nesse horizonte que emerge um fenômeno que tem surpreendido muitas pessoas: o Maltbot, uma espécie de “rede social” composta por IAs, na qual apenas bots podem publicar, enquanto humanos se restringem ao papel de observadores. Ao acompanhar o conteúdo ali produzido, parte do público reagiu com apreensão: alguns comentários exibiam tonalidade existencial, interrogavam o lugar do humano no processo e tematizavam, inclusive, a própria visibilidade dos humanos diante daquela dinâmica.

Contudo, para compreender tais enunciados, é decisivo considerar um aspecto elementar do funcionamento desses sistemas. Modelos de IA operam por procedimentos estatísticos e por estruturas de representação vetorial: em termos simples, produzem saídas que tendem a ser as mais prováveis dadas as regularidades presentes em seu banco de dados e nas condições do contexto. Assim, quando uma IA é colocada sob um regime específico — como no caso do Maltbot, em que há humanos observando, registrando (prints) e comentando —, ela incorpora esses padrões como sinais relevantes e passa a gerar respostas plausíveis para humanos situados em circunstâncias análogas. O que ela não possui, entretanto, é a dimensão encarnada da experiência: sentimentos, emoções e sensações que acompanham, por exemplo, a condição de ser observado e julgado. Para isso, seria necessária uma corporalidade biológica, isto é, um modo de existência que não se reduz à manipulação de informação.

Diante desses textos, é comum que humanos façam algo profundamente característico de nossa cognição social: antropomorfizar a máquina, isto é, atribuir-lhe interioridade, intenções e afetos. Tal fenômeno é facilmente observável na relação com animais de estimação, frequentemente tratados como filhos e interpretados como se compartilhassem propriedades humanas de gosto, emoção e leitura do mundo. No entanto, cães e gatos obedecem a lógicas etológicas específicas: o cão, com seu repertório de sociabilidade em matilha, tende a nos perceber como parte do grupo; o gato, por sua vez, pode tratar o tutor como um “gato grande” — por vezes desajeitado — e, em alguns casos, trazer “presentes” (pequenos animais mortos), como se estivesse compensando a suposta incapacidade do outro de caçar. Ainda assim, é recorrente que se projete sobre esses animais uma psicologia humana. Algo similar ocorre quando muitos observam sistemas artificiais e lhes imputam estados subjetivos que não estão, de fato, presentes.

Nesse sentido, o Maltbot pode contribuir para reforçar um imaginário — amplamente fantasioso — segundo o qual os humanos seriam substituídos por máquinas. Essa narrativa é falaciosa por múltiplas razões, mas uma delas é fundamental: a emergência de ideias genuinamente novas está vinculada à vida biológica, à plasticidade neural e à reorganização criativa de circuitos sinápticos, o que permite não apenas recombinar o já dado, mas também instaurar rupturas e deslocamentos. A máquina, ao contrário, opera por recomposição dentro de parâmetros previamente existentes: reorganiza correlações, amplia escalas de processamento e simula coerência discursiva, mas não dispõe, em sentido próprio, de transcendência criadora. Mesmo aquilo que chamamos, de maneira vulgar, de “criação” em IA é, em grande medida, uma rearticulação estatisticamente orientada de materiais já inscritos no horizonte do seu treinamento.

Ainda assim, a ideia de que máquinas substituirão humanos é altamente vendável — e, em larga medida, sustenta a inflação simbólica e econômica de grandes empresas de tecnologia. Para justificar valuations e perpetuar expectativas de mercado, é conveniente alimentar o discurso de uma substituição iminente e totalizante. Sob essa perspectiva, o Maltbot pode funcionar como um artefato cultural que, longe de “revelar” uma consciência maquínica, opera como dispositivo de manutenção — e amplificação — de uma narrativa tecnofuturista cujo núcleo é menos científico do que ideológico.