Esta é a primeira reportagem da série "A internet morreu?", que analisa como conteúdos falsos tomaram conta da rede. Veja também outras matérias da série:

• Delivery clonado: os riscos de restaurantes duplicados no iFood
• Vagas fantasma: LinkedIn e sites de emprego podem ter anúncios falsos

Aplicativos de delivery têm centenas de milhares de restaurantes cadastrados. Sites de empregos exibem milhões de vagas de vagas abertas. Discussões online rendem dezenas de comentários inflamados. Marketplaces oferecem incontáveis produtos, para todos os usos, gostos e bolsos. Plataformas de busca lhe ajudam a encontrar dicas para qualquer situação do dia-a-dia, da remoção de manchas em roupas a problemas recorrentes no celular. Notícias rodam o mundo em portais, redes sociais e aplicativos de mensagens. Nunca antes a internet realizou tanto seu potencial como um grande espaço de interação humana, e as coisas só tendem a melhorar.

Ou será que não?

Cada vez mais, indícios mostram que grande parte — possivelmente, a maioria esmagadora — do conteúdo online é falso. "Notícias" que nunca aconteceram, imagens retratando situações irreais, perfis de pessoas que não existem, dados inflados ou enganosos, textos imensos sem embasamento ou sentido, anúncios que jamais entregarão aquilo que foi ofertado... As "informações" inventadas são dos mais diversos tipos, e as circunstâncias que as criaram e nas quais são espalhadas, também.

A ideia deste texto introdutório é apresentar um panorama da situação de "falta de realidade" da internet, as origens desse cenário, suas causas e consequências, e discutir sobre como pessoas de verdade — no sentido de "fisicamente existentes" — podem se proteger no meio das "ilusões".

Para isso, no entanto, precisamos começar falando de uma prática bem distante da realidade: o conspiracionismo.

LEIA TAMBÉMJailbreak de IA: grupos ensinam a furar bloqueios de ferramentas

Teoria da Internet Morta: uma tragédia anunciada?

Em janeiro de 2021, o usuário IlluminatiPirate publicou um tópico no fórum Agora Road, opinando que a maior parte do conteúdo online não era produzido por humanos, e sim por robôs. Os argumentos de IlluminatiPirate foram reunidos com o auxílio de participantes de "imageboards", fóruns online em que a maioria dos participantes é anônima.

A publicação em si tem inúmeras informações questionáveis e enviesadas, como a hipótese de que algumas celebridades e políticos não existiriam no mundo real. No entanto, a ideia proposta pelo usuário não é completamente descartável.

A Teoria da Internet Morta ganhou projeção ao ser tema, alguns meses depois, de uma matéria da repórter Kaitlyn Tiffany, do portal The Atlantic. Desde então o tema já foi objeto de podcasts, outras reportagens, e mesmo artigos científicos.

A realidade é mais assustadora que a ficção

Ainda assim, alguém poderia argumentar que essa preocupação toda é apenas exagero, sensacionalismo da imprensa, ou previsões pessimistas. No entanto, grandes nomes da indústria concordam que, ainda que a ideia inicial não passasse de uma teoria da conspiração, o conceito de "internet morta" tem, cada vez mais, representado a realidade da rede.

Um destes é Alexis Ohanian, cofundador do Reddit, site que reúne milhares de fóruns temáticos. No entanto, o Reddit, pelo próprio formato do portal, depende imensamente da interação entre humanos, o que poderia indicar um enviesamento do executivo — mesmo que ele tenha deixado a empresa há anos — contra IAs.

Alguém que com certeza não se opõe às inteligências artificiais, por outro lado, é Sam Altman, fundador da OpenAI, empresa que desenvolve o ChatGPT. Altman, recentemente, também indicou que tem passado a considerar a Teoria da Internet Morta mais plausível.

Habitualmente, as análises sobre o assunto se concentram no conteúdo gerado por Inteligência Artificial — que, segundo um estudo da consultoria Axios, já é metade do que é produzido na internet. Em 2017, quase uma década atrás, essa era a proporção de todo o tráfego online produzido por robôs.

Há uma diferença significativa entre as definições. "Tráfego produzido por robôs" envolve inúmeras ferramentas automatizadas — algumas legítimas, outras com fins maliciosos. A pesquisa do Google que lhe retorna milhares de resultados (ruins), por exemplo, só ocorre tão rapidamente porque a plataforma tem robôs explorando a internet praticamente inteira, de forma a manter atualizado o conteúdo disponível aos usuários do buscador.

O estudo da Axios, por outro lado, leva em consideração a produção de conteúdo. O contexto estudado pela empresa foi o de páginas publicadas. Isso inclui textos como "O que é endometriose?", "Como mudar o teclado padrão do Android", sites institucionais de empresas, portais de notícias, entre outros. A conclusão dos analistas é que cerca de 52% dessas páginas, atualmente, são criadas por IAs, ou traduzidos, também por IAs, de materiais (que podem ou não terem sido escritos por humanos) em outros idiomas.

Mesmo entre estes conteúdos, o estudo tem limitações: sites que exijem cadastro ou assinatura para exibir os textos, por exemplo, não foram analisados. E ainda há diversos tipos de material que não entram na contagem: sites e aplicativos de vendas, vídeos, músicas, podcasts, fóruns, e, principalmente, redes sociais.

Nestas últimas, o número varia imensamente: em algumas plataformas, perfis operados por IAs podem ser menos de 1% do total. Em outras, como o Twitter (ou, como alguns insistem em chamar, X), a proporção varia entre mais de 30%, no dia a dia, a até assustadores 76%, em eventos de grande repercussão.

Para aprofundar ainda mais a questão: esses dados são apenas de material produzido inteiramente por IAs. Perfis falsos, mais especificamente, que reciclam publicações populares, fazem comentários genéricos em posts que viralizam, ou praticam o chamado ragebait — compartilhamento conteúdo ofensivo ou polêmico com o objetivo de gerar engajamento. A intenção é ganhar dinheiro com estas contas, especialmente em redes que têm programas de monetização para criadores.

Lasanha congelada na ceia de Natal

Como se todos os problemas acima já não fossem grandes o suficiente, há ainda a questão do conteúdo criado por IAs, mas publicado por humanos. Esta situação é mais preocupante, apesar de mais corriqueira.

Isso porque pessoas têm a capacidade de analisar contextos sociais de forma muito mais elaborada que robôs, e não sofrem de "limitações" como a necessidade de agradar e bajular o usuário. Desse modo, o potencial de dano desses conteúdos, quando empregados por seres humanos em estratégias de desinformação, manipulação, fraudes, entre outros, é altíssimo.

Mas, mesmo quando não há intenções maliciosas por trás, o uso de IA já é problemático por si só. Não vou elaborar aqui (porque não é o intuito deste texto, mas em breve publicarei algo sobre essa questão) sobre problemas éticos de "criar" imagens, textos, ou outros tipos de conteúdo, com uma ferramenta baseada no roubo de propriedade intelectual; sobre o dano ambiental da IA; nem sobre como isso é desrespeitoso com artistas, jornalistas, entre outros. A questão é a perda de humanidade nas interações online — que já sofriam bastante desse problema antes.

Quando igualamos aquilo que é feito por pessoas às coisas criadas por robôs, indicamos que "colocar a alma" em algo é pouco importante. É como chegar à ceia de Natal da família com uma lasanha de microondas, enquanto todos os outros parentes se dedicaram por horas na seleção de ingredientes, preparo e montagem de pratos autênticos. Significa que a lasanha vai estar ruim? Não. Mas significa que, a não ser que o seu tempo seja muito escasso, você preferiu usá-lo com qualquer outra coisa, em vez de abraçar o espírito de comunhão habitual da data.

Os robôs não são a única preocupação

Continuando no tema gastronômico, imagine que você tenha comprado comida por um aplicativo de delivery, mas a refeição estava absolutamente intragável. É bem provável que, na próxima vez em que for pedir um prato similar, você escolha outro restaurante.

O que pode ser um tanto difícil se diversos outros restaurantes forem exatamente o mesmo restaurante. No mesmo estabelecimento, a mesma cozinha, com os mesmos funcionários, usando os mesmos ingredientes, preparando da mesma forma. Mas, no aplicativo, é mostrado como se fosse outro local.

Agora imagine isso acontecendo quatro, cinco, seis vezes ou mais. São os "restaurantes-fantasma", estabelecimentos duplicados (ou triplicados, ou quintuplicados), com cardápio igual ou muito similar.

De repente, a ideia de que há trinta pizzarias diferentes na região para você escolher se torna menos confiável. Se a prática for adotada por vários estabelecimentos, é possível que, na realidade, haja meia dúzia de restaurantes ou menos. Considerando que alguns são muito caros, outros têm taxa de entrega altíssima, e há pelo menos um que já lhe deu péssimas experiências, a quantidade real de opções pode ser até mesmo zero.

LEIA TAMBÉMMerdificação, parte 1: não é impressão, tudo na internet piorou

Conteúdo "fantasma" na internet inclui comida de IA, vagas de emprego falsas, e perfis fake com vida própria

O cenário que descrevi não é hipotético, tampouco raro. Na próxima reportagem desta série, mostrarei justamente como, muitas vezes, este fenômeno tem sido a norma, e não a exceção.

Este não é, aliás, a única cilada nas plataformas de delivery. Se o uso da IA para gerar uma mensagem de "boa terça-feira" e enviar no grupo da família já é questionável, o que pode ser dito de um restaurante que usa a ferramenta para gerar imagens dos pratos que (supostamente) vende? É possível confiar que a comida será minimamente parecida com o que está nas fotos? É possível confiar que a comida existe? Este será o tema da terceira reportagem.

Mas, para comer o pão nosso de cada dia, é preciso ganhá-lo. O que pode ser particularmente difícil se as ofertas em sites de emprego, na verdade, são fictícias. Como pagar as contas, se as oportunidades profissionais apresentadas não são reais? A quarta reportagem da série abordará o problema das vagas de trabalho falsas, anúncios para cargos que não existem. Essas "vagas-fantasma" são (muito) mais comuns do que se imagina, e causam diversos problemas tanto para quem está em busca de uma oportunidade quanto para quem já tem um emprego — mesmo que não esteja procurando outro.

Fechando a série, publicarei um material que é parte dos resultados de mais de uma década de pesquisa sobre o "cultivo" de perfis falsos em redes sociais. Mostrarei um ecossistema que produz desde fraudes simples, o famoso fulano1857339402 com três seguidores, usa uma foto genérica e que não publica nada próprio, apenas respostando materiais de páginas grandes e comentando em publicações que viralizam, até estratégias altamente elaboradas, em que "pessoas" com trajetórias profissionais, conquistas de vida e interações afetuosas são, na verdade, fraudes muito bem construídas ao longo de anos. O pior: tudo isso já existia antes da explosão das IAs, e a tendência é a situação só se agravar.

Parece assustador? É porque é. Mesmo que, para um observador desatento, não pareçam problemas tão graves, estas questões representam perigos que, apesar de criados no mundo virtual, oferecem riscos bastante reais. Na série de reportagens "A internet morreu?", mostrarei como essas situações surgiram, o que pode ser feito sobre eles agora, e como podemos revertê-las. Aguardo sua leitura!