Quando falamos com uma IA, com quem estamos realmente a falar?

A ficção da intimidade algorítmica e o trabalho humano escondido atrás da máquina

Quando falamos com uma inteligência artificial, a interface sugere uma relação extraordinariamente simples: de um lado estamos nós; do outro, a máquina.

Talvez o primeiro erro esteja aí.

Não existe um único interlocutor. Existe um modelo, uma empresa, uma infraestrutura técnica, políticas de armazenamento e utilização de dados e, em determinadas circunstâncias, trabalhadores humanos encarregados de avaliar aquilo que o sistema produz. A conversa parece bilateral porque quase tudo o que poderia revelar essa pluralidade foi retirado da interface.

Uma investigação de Joseph Cox, publicada pela 404 Media a 28 de setembro de 2026, tornou particularmente visível essa diferença entre a experiência da conversa e a estrutura que a sustenta. Segundo a publicação, trabalhadores contratados para avaliar o Microsoft Copilot podem receber prompts reais de utilizadores, imagens originalmente carregadas por estes e diferentes versões produzidas pelo sistema. A tarefa não se limita à moderação de conteúdos perigosos ou ilegais: em determinados processos, os avaliadores têm de decidir qual das versões corresponde melhor ao pedido, se preserva aquilo que deveria permanecer intacto, se contém defeitos visuais e qual apresenta melhor qualidade global.

As instruções citadas pela publicação são reveladoras. Perante duas imagens, os trabalhadores são encorajados a confiar na primeira impressão e na sua própria intuição humana.

A inteligência artificial automatiza a resposta. Mas continua, em certos pontos críticos, a subcontratar o juízo.

O caso não demonstra, por si só, tudo o que se pode dizer sobre intimidade e auto-revelação em sistemas conversacionais. Mostra algo mais circunscrito: que uma interação percebida como automática e bilateral pode integrar trabalho humano invisível. A partir daí começa uma questão mais ampla — saber de que modo a forma conversacional altera aquilo que estamos dispostos a revelar e a consciência que temos da infraestrutura que recebe essa informação.

O anti-panóptico

Durante muito tempo, uma das imagens centrais para pensar a vigilância moderna foi o panóptico.

Na formulação de Michel Foucault, a força do dispositivo não dependia de o indivíduo estar efetivamente a ser observado a cada momento. Bastava saber que poderia estar. A possibilidade de vigilância era interiorizada e passava a disciplinar o comportamento.

A inteligência artificial conversacional pode produzir quase o efeito contrário. A interface não nos coloca diante de um funcionário, de um balcão ou de qualquer sinal evidente de presença institucional. Há apenas uma caixa de texto e um sistema que acompanha o contexto, adapta o tom e responde como se estivesse inteiramente concentrado naquela conversa.

O paralelo com o panóptico tem limites claros. Mantêm-se a assimetria de informação e a diferença de poder entre quem observa e quem pode ser observado; inverte-se, porém, o efeito comportamental. No dispositivo foucaultiano, a possibilidade de vigilância produz contenção. Aqui, a ausência aparente de testemunhas pode favorecer desinibição.

Uma pessoa pode fazer uma pergunta embaraçosa, descrever uma situação íntima ou enviar uma fotografia precisamente porque não sente que esteja perante outro ser humano. A investigação sobre auto-revelação em agentes conversacionais sugere que este efeito existe em alguns contextos, embora não seja universal: depende do tipo de informação, do grau de confiança e da forma como o sistema é apresentado.

É nesse sentido, e apenas nesse sentido, que talvez seja útil falar de um anti-panóptico: não porque a observação tenha desaparecido, mas porque pode desaparecer da experiência subjetiva imediata do observado.

Consentir não é compreender

A resposta mais simples ao problema é também uma das menos satisfatórias: os utilizadores aceitaram os termos de serviço.

No caso do Copilot, a Microsoft afirmou à 404 Media que utiliza dados dos clientes conforme descrito nos seus termos, incluindo para melhorar produtos e aplicar o código de conduta.

É perfeitamente possível que determinada prática esteja prevista contratualmente. Mas isso não significa que o utilizador possua uma representação concreta da relação em que está a entrar.

Há uma diferença entre consentimento jurídico, conhecimento factual e compreensão situacional. Uma pessoa pode aceitar que os seus dados sejam utilizados para melhorar um serviço e perceber abstratamente que alguma informação poderá ser analisada. Outra coisa é compreender que a fotografia que acabou de enviar pode surgir no ecrã de alguém encarregado de comparar duas versões da edição e decidir qual corresponde melhor ao pedido.

As duas formulações podem descrever juridicamente a mesma realidade. Socialmente, não produzem a mesma compreensão.

É por isso que a transparência não depende apenas da informação disponível. Depende também da representação que o produto cria da relação.

E aqui existe um contraponto importante: esta opacidade não é inevitável.

A Google, por exemplo, informa explicitamente no centro de privacidade do Gemini que alguns chats podem ser revistos por humanos, explica para que serve essa revisão e aconselha o utilizador a não introduzir informação confidencial que não queira que um revisor veja. Também oferece mecanismos para limitar a utilização futura de conversas na melhoria dos serviços.

Isto não resolve todas as questões de privacidade, mas demonstra uma coisa simples: a intervenção humana pode ser comunicada de forma mais explícita. A obscuridade não é uma propriedade técnica inevitável dos sistemas conversacionais. É também uma escolha de produto e de comunicação.

O trabalho que desaparece

A discussão pública sobre inteligência artificial tende a alternar entre duas figuras: a máquina autónoma que ameaça substituir trabalhadores e o engenheiro altamente qualificado que a construiu.

Entre ambas existe uma população muito menos visível de pessoas que classificam respostas, comparam imagens, identificam erros, treinam preferências e fornecem aos sistemas algo que continua difícil transformar numa regra formal: julgamento.

Mary Gray e Siddharth Suri deram a esse universo um nome particularmente útil: ghost work. Trabalho humano indispensável ao funcionamento de serviços apresentados ao utilizador como automatizados.

O caso relatado pela 404 Media é especialmente ilustrativo porque os avaliadores não são convidados apenas a verificar critérios objetivos. As instruções pedem-lhes que usem a primeira impressão e a intuição para decidir qual imagem parece melhor.

É precisamente esse tipo de sensibilidade — nuance, plausibilidade, adequação estética — que a empresa procura transformar em melhoria do sistema. A automação não elimina necessariamente o trabalho; pode reorganizá-lo até deixar de ser reconhecido como tal.

A externalização do desconforto

Essa invisibilidade tem ainda outra dimensão.

A 404 Media relata que alguns avaliadores encontraram inesperadamente imagens sexualizadas, conteúdos potencialmente não consensuais, material perturbador e pedidos envolvendo menores ou personagens infantis. Alguns pediram mecanismos que permitissem identificar antecipadamente tarefas com conteúdo inseguro.

A distinção é relevante porque não estamos necessariamente perante moderadores contratados para trabalhar com conteúdos extremos. São avaliadores de qualidade que podem encontrá-los no curso normal da tarefa. A interface reduz a fricção para quem faz o pedido, mas não elimina o custo humano associado à avaliação. Apenas o desloca para trabalhadores que permanecem fora de campo.

A máquina como máscara

Este mecanismo liga-se a uma função mais ampla da tecnologia.

Quando uma instituição diz que “o algoritmo decidiu” ou “o sistema classificou”, a máquina pode funcionar como álibi: uma decisão humana ou institucional aparece como consequência neutra de um processo técnico. Foi esse o problema explorado noutro texto, A máquina como álibi.

Aqui, a operação é ligeiramente diferente. A tecnologia não oculta apenas responsabilidade; pode ocultar presença. O utilizador vê uma entidade automática onde existem empresas, trabalhadores, contratos, sistemas de avaliação e políticas de dados.

Essa ocultação opera em dois níveis ao mesmo tempo. O trabalhador desaparece atrás da automação e a própria empresa recua psicologicamente à medida que a marca assume a forma de personagem. Dizemos “perguntei ao ChatGPT”, “falei com o Copilot”, “o Claude disse-me”. A relação comercial adquire a forma de relação conversacional.

A interface humaniza a máquina ao mesmo tempo que torna menos visível a infraestrutura humana e empresarial que a sustenta.

Intimidade algorítmica

Nada disto significa que a ausência de um interlocutor humano visível seja necessariamente negativa.

Pode ser precisamente uma das utilidades da tecnologia. Há pessoas que conseguem formular perguntas difíceis ou abordar assuntos embaraçosos porque não sentem o olhar imediato de outra pessoa. Estudos sobre auto-revelação perante agentes conversacionais mostram resultados variados: em certos contextos, as pessoas revelam informação sensível com maior facilidade a sistemas computacionais; noutros, os níveis aproximam-se dos observados perante humanos; e em situações de maior risco, a falta de confiança pode produzir o efeito oposto.

A hipótese relevante, portanto, não é que os chatbots nos façam inevitavelmente revelar mais. É que a forma conversacional altera as condições sociais da revelação.

Podemos chamar intimidade algorítmica à experiência produzida por essa interface: atenção aparentemente exclusiva, disponibilidade permanente, continuidade da conversa, adaptação do tom e ausência de julgamento visível.

A partir daqui surge outra hipótese, que deve ser distinguida do caso concreto da Microsoft.

Shoshana Zuboff descreveu uma economia baseada na transformação de comportamento em matéria-prima para previsão e intervenção. A conversa introduz uma possibilidade adicional: não recolher apenas sinais exteriores do comportamento, mas receber explicações, motivações, dúvidas e conflitos diretamente do utilizador.

Uma pesquisa revela aquilo que alguém procura. Uma conversa pode revelar por que razão procura, aquilo que teme encontrar ou aquilo que espera confirmar.

É nesse sentido — como hipótese analítica, e não como conclusão demonstrada pela investigação da 404 Media — que faz sentido falar de intimidade extrativa. O que pode adquirir valor económico não é apenas comportamento observado do exterior, mas interioridade voluntariamente articulada numa interface que assume a forma social da conversa.

De ELIZA à conversa industrializada

A disposição humana para atribuir compreensão a uma máquina é muito anterior aos atuais modelos. Nos anos 60, Joseph Weizenbaum criou ELIZA, um programa simples que imitava, numa das versões, um psicoterapeuta. Apesar de não compreender aquilo que lhe era dito, alguns utilizadores relacionavam-se com o programa como se existisse compreensão do outro lado.

O chamado ELIZA effect tornou-se uma referência para essa tendência de atribuir intenção ou empatia a sistemas que reproduzem sinais exteriores dessas capacidades. Os modelos atuais não são ELIZA em maior escala, mas tornam muito mais sofisticada a experiência que desencadeia essa projeção.

Uma conversa mais natural é também um produto mais útil. O problema surge quando a qualidade dessa presença simulada aumenta mais depressa do que a nossa consciência da infraestrutura que a produz.

O interlocutor plural

Talvez seja por isso que a pergunta inicial não admita uma resposta singular.

Quando falamos com uma inteligência artificial, interagimos com um modelo e uma interface, mas também com uma empresa, políticas de dados, infraestrutura técnica e, em determinadas circunstâncias, trabalhadores humanos.

A conversa apresenta-se como uma linha entre dois pontos. Na realidade, é uma rede de relações assimétricas.

Isso não significa que todas as conversas sejam revistas, que todos os serviços retenham os mesmos dados ou que a intervenção humana seja necessariamente problemática. O caso do Gemini mostra, aliás, que é possível comunicar com maior clareza a existência dessa revisão.

As perguntas relevantes são mais específicas: quando deve uma conversa poder ser revista por razões de segurança e quando pode ser utilizada para melhoria comercial? Que proteção deve existir para os trabalhadores expostos ao conteúdo produzido pelos utilizadores? E que informação precisa de estar presente não apenas nos termos de serviço, mas na própria experiência, para que consentir signifique realmente compreender?

Talvez a grande ficção da inteligência artificial contemporânea não seja a ideia de que a máquina pensa como nós.

É uma ficção muito mais quotidiana: a ideia de que, quando falamos com ela, estamos sozinhos.


Referências

  1. Joseph Cox, “Humans Are Reading Copilot Prompts — And They’re Horrified”, 404 Media, 28 de setembro de 2026.
  2. Google, “Centro de Privacidade das apps do Gemini”, atualizado em setembro de 2026.
  3. Mary L. Gray e Siddharth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass, 2019.
  4. Shoshana Zuboff, The Age of Surveillance Capitalism, Profile Books, 2019.
  5. Joseph Weizenbaum, “ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine”, Communications of the ACM, vol. 9, n.º 1, 1966.

Deixe um comentário