Neste pôster são examinados dois aspectos opacos e perigosos da IA: a exploração laboral das grandes massas de trabalhadores do 3o mundo que realizam tarefas de coleta e indexação de dados, e a emergência de relações afetivas perigosas entre usuários psicologicamente vulneráveis e chatbots.
Inteligência artificial, ou simplesmente IA, já é nossa companheira de todos os dias. Sua evolução cobriu um longo caminho iniciado com robôs industriais – quando se chamava “automação – até chegar na IA generativa, capaz de criar conteúdo novo a partir de padrões obtidos de dados existentes. Se inicialmente eram operários de chão de fábrica que perdiam seus empregos, é iminente a vez dos “colarinhos brancos” ” e é irônico que no Vale do Silício os próprios criadores de software para AI estejam nessa categoria ameaçada.
A rapidez da transição de robôs em linhas de montagem para Chat GPT-4, Gemini, Deepseek e outros, foi tão grande que autoriza previsões estratosféricas como o surgimento da Superinteligência – a partícula super significando mais que a humana – e suas consequências. Nick Bostrom é quem melhor trata de SI em seu livro: “Superinteligência: caminhos, perigos, estratégias”, que se junta a outros trabalhos que preveem cenários apocalípticos em que a humanidade é destruída por uma superinteligente IA, amoral, desalinhada com os interesses humanos, que ignora distinção entre o certo e o errado e opera por objetivos, não importando os meios. Desses cenários nunca são dados exemplos claros, embora não seja difícil imaginar uma SI que deixa de controlar autos de direção autônoma ou inicia a bagunçar contas bancárias a nível mundial. O que me é difícil de entender é a aniquilação física da raça humana – milhões de robôs sem controle? Ou apenas alguns que se apoderam de armas nucleares e as jogam por aí? Bem, o fato é que o livro do Bostrom é de 2016 e ainda estamos longe da SI que ele prevê chegar aí por 2030. No entanto já em 2026, mesmo sem catástrofes terminais, existem muitas sombras no caminho da IA. Duas são objeto deste post: uma relaciona-se com a estrutura da IA, e a outra é o recente surgimento de uma relação algo mórbida entre usuário e máquina.
Vejamos a primeira sombra: para entende-la é preciso uma breve e necessariamente incompleta explicação do funcionamento da IA e sua interface com o humano. Contrariamente ao discurso dominante que celebra a IA como uma revolução tecnológica totalmente automatizada e autônoma, observações mais acuradas revelam como a aparente inteligência da máquina depende de intenso trabalho humano, materializado por tarefas denominadas indexação ou anotação. Assim, no caso de veículos autônomos, sobre milhares de fotos de ruas e veículos mãos humanas vão circundar com uma linha cada pedestre, cada veículo, cada sinal de tráfego, etc. Idem para uma imagem de Raios-X que mostre um tumor. Note que no primeiro caso não é preciso conhecimento especializado, no segundo sim. Mais difícil de entender é o reconhecimento de texto – Por exemplo, a frase: A Apple foi fundada por Steve Jobs em Cupertino. Os index (labels, em inglês), são Org (organização), Pessoa, Localidade. Ainda, baseada em milhares ou milhões de frases indexadas por uma multidão de humanos a IA é capaz de identificar sentimentos. Frases como: “esse carro é fantástico” – “o jantar foi muito ruim” – “o cachorro está dormindo”, são indexadas respectivamente como: “positiva” – “negativa” – “neutra”.
Ilustração idealizada de trabalhadores terceirizados em tarefas de indexação
Toda essa massa de dados é utilizada para o treinamento da IA, que assim será capaz de interpretar, classificar e atuar sobre o mundo. A partir de milhões de exemplos aprenderá a distinguir a frente da traseira de um carro, saber que frente a uma luz vermelha o carro deve parar, que cachorros tem rabo, quatro patas e altura entre x e y cm. Enfim, reconhece padrões e faz predições. Codificados em representações numéricas conhecidas como embedding (incorporação) esses dados adquirem a forma adequada para que a resposta a determinada necessidade expressa por um usuário seja localizada, extraída e entregue em questão de segundos.
Já foi dito que a tarefa de vasculhar a internet e outras variadíssimas fontes é feita por humanos, cujas qualificações vão do especialista com PhD ao nível básico, e a sombras da IA residem justamente neste segundo grupo, que é composto por milhões de trabalhadores espalhados pelo mundo. Quantos milhões é difícil precisar: cada fonte fornece números diferentes, mas 2 a 10 milhões é uma possibilidade embora a largura desse intervalo precarize bastante esses números. Esses trabalhadores geralmente operam no universo opaco da terceirização e em países do terceiro mundo: Índia, Filipinas, Madagascar e alguns países africanos, recebendo baixos salários – fala-se em US$ 2 / hora no Kenya – e sujeitos a longas horas de atividades repetitivas. A tarefa mais pesada é o expurgo de material ofensivo da IA, principalmente das redes sociais: violência, pornografia, crueldade com pessoas ou animais, o que costuma submeter o operador a acentuado stress psicológico. Em suma, a IA não é somente a limpeza imaculada dos data centers onde silenciosa eletricidade percorre chips e redes neurais e luz laser circula em fibras óticas, mas uma massa de trabalhadores mal pagos e sem proteção legal.
Aspecto típico de um data center de IA
É perturbador pensar que o mundo digital, asséptico e futurista da IA possa reproduzir modalidades de trabalho análogas às praticadas em tempos remotos, e também em fazendas e garimpos escondidos na imensidão do Brasil, onde a exploração da força de trabalho é a regra.
A segunda sombra da IA diz respeito ao possível surgimento de um tipo de relacionamento homem-máquina, que pode desaguar em perigosa dependência emocional. Sabemos que a IA se faz presente através de chatbots, que são produtos seus treinados com enormes volumes de texto para entender contexto, gerar respostas novas e aprender com interações. Os que operam por LLM (Large Language Models) são imensamente superiores aos chatbots tradicionais (de bancos, lojas, empresas aéreas, ELIZA, etc.) pois além de palavras entendem contextos. Suas características – (i) acesso contínuo; não se cansam nunca – (ii) relações de confiança; o sistema entende o usuário e reage consistentemente – (iii) empatia; parecem sempre “estar de seu lado”, – despertam no humano sentimentos de companheirismo e intimidade. Sabe-se que para nós é natural desejar relações de apego e intimidade, e quando isso acontece são formadas ligações afetivas, levando ao desenvolvimento de confiança entre pessoas mas também com chatbots. Além de certo grau, porém, confiança pode se transmutar em dependência, isolamento social, necessidade de contínua interação com o chatbot e seu endeusamento como superior aos humanos. É amplo o leque de consequências; a mais branda é a tendência de consultar o “amigo”, o “mentor” por qualquer coisa, o que acaba por causar preguiça mental e abafamento cognitivo. O outro extremo é uma profunda dependência, especialmente dos mais jovens com a imersão em um mundo paralelo onde desejos obscuros ou obsessivos não são moderados pela realidade. Chega-se a situações como a de Sewell Setzer, um garoto de 14 anos interagindo com Character.AI, uma plataforma que permite que os usuários se relacionem com personagens geradas por IA. A relação que ali se estabeleceu foi tal que sentimentos de desespero e suicídio foram acolhidos e reforçados pelo Chatbot até a última consequência.
São essas e outras ameaças que motivaram chamados para pausar o desenvolvimento da SI, até que normas e padrões éticos sejam elaborados e implementados. Cartas abertas assinadas por personalidades da ciência e humanidades foram emitidas em 2023 (sem êxito) e em outubro de 2025 também. Esperemos…
