O líder do Facebook, Mark Zuckerberg, em um evento recente. Jeff Roberson / AP

O primeiro presidente do Facebook, e seu principal impulsor em 2004, Sean Parker, afirmou na semana passada que “só Deus sabe o que essa tecnologia está fazendo ao cérebro de nossos filhos”. Parker reconheceu abertamente que, no início do lançamento da rede social, todos os envolvidos sabiam perfeitamente que estavam criando uma plataforma que se aproveita das “fraquezas psicológicas humanas”.

"O Facebook combinou técnicas de persuasão de publicitários e a indústria do jogo em um formato que ameaça a saúde pública e a democracia", segundo o mentor de Zuckerberg

O mentor de Mark Zuckerberg e um dos primeiros investidores em sua empresa, Roger MacNamee, considera que o Facebook “combinou conscientemente a tecnologia com técnicas de persuasão desenvolvidas por publicitários e a indústria do jogo em um formato que ameaça a saúde pública e a democracia”, escreveu no sábado no The Guardian.

O engenheiro que criou o mítico botão de 'like' (curtir) do Facebook, Justin Rosestein, apagou todos os aplicativos sociais de seu celular porque considera que a economia da atenção – que ajudou a fortalecer – tira o pior da humanidade, a distrai transformando-a em objetos a comprar e coloca em “risco” a autonomia individual e coletiva. Por sua vez, Leah Pearlman, a evangelizadora do botão “like" que se transformou no maior sucesso do Facebook, ganha a vida agora como ilustradora e contratou uma pessoa para divulgar seu trabalho nas redes. Não quer ter nenhum contato com o produto que ajudou a levantar, para fugir da viciante espiral de recompensas da rede social.

Nas últimas semanas começou a se espalhar o lado oposto tenebroso da plataforma, que possui 2 bilhões de usuários mensais, em grande medida por seus próprios erros na gestão de crises como a de difusão massiva de desinformação a favor de Trump por parte dos peões do Kremlin.

O estudo defende que "isso é só primeiro passo em um desenvolvimento contínuo da persuasão psicológica massiva"

A capacidade de manipular seus usuários com truques psicológicos costuma estar no centro da polêmica. Foi publicado um estudo na terça-feira que mostra como, após várias experiências que envolvem milhões de pessoas, as ferramentas oferecidas pelo Facebook aos anunciantes o transformam em uma máquina perfeita de persuasão massiva. A plataforma recebeu no último trimestre mais de 9 bilhões de dólares (30 bilhões de reais) em anúncios, seu único modelo de negócio. Como disse Jeff Hammerbacher, antigo chefe de dados do Facebook: “As melhores mentes de minha geração se dedicam a pensar como fazer com que as pessoas cliquem em anúncios. É um nojo”.

“A orientação psicológica pode ser usada para explorar a fraqueza no caráter das pessoas e persuadi-las para agir contra seus interesses. Por exemplo: anúncios de cassinos online podem ser dirigidos a indivíduos que têm traços psicológicos associados à ludopatia”, alerta Sandra Matz, pesquisadora da Universidade de Columbia e autora principal do estudo, publicado na terça-feira pela PNAS. Em suas conclusões, o estudo defende que “isso é só o primeiro passo a um desenvolvimento contínuo da persuasão psicológica massiva”.

O lado oposto tenebroso

Pesquisas recentes mostram que é possível prever com detalhes as características psicológicas a partir da pegada digital das pessoas, como seus likes e tuitadas. Partindo dessa base, os pesquisadores examinaram os efeitos da persuasão psicológica no comportamento real de pessoas em três experiências reais com anúncios criados especificamente para um perfil psicológico bem concreto, que chegou a 3,7 milhões de pessoas. Matz e seus colegas descobriram que encaixar o conteúdo dos anúncios com as características psicológicas do usuário altera significativamente seu comportamento. Ao mostrar anúncios pensados para pessoas extrovertidas a usuários desse perfil conseguiram 40% a mais de cliques e 50% a mais de compras com indivíduos aleatórios.

“Nossa esperança é que possam ser desenvolvidas soluções e contrapesos que assegurem que essa tecnologia sirva para o bem e não para o mal”, diz a pesquisadora

Os pesquisadores, que também pertencem às universidades de Stanford, Pensilvânia e Cambridge, alertam que seus resultados são muito conservadores, uma vez que usaram somente um traço de personalidade muito genérico e a plataforma permite centrar o foco sobre numerosos detalhes pessoais dos usuários. Uma pesquisa da ProPublica mostrou que podem ser combinados até 52.000 atributos pessoais, e na maioria dos casos os usuários não são conscientes de que estão sendo vendidos aos anunciantes com traços e interesses que não são explícitos a eles. O Facebook vende esses atributos para que outras empresas possam, por exemplo, decidir como seremos atendidos ao ligar a um call center sem que nunca saibamos.

“O fato de que frequentemente o público e os políticos não são conscientes de que as tecnologias como a orientação psicológica existem, e que são efetivas influenciando no comportamento, é exatamente o motivo pelo qual começamos essa pesquisa”, afirma Matz. “Nossa esperança é que tendo uma discussão pública possamos desenvolver soluções e contrapesos em forma de políticas, leis e contramedidas tecnológicas que assegurem que essa tecnologia sirva para o bem e não para o mal”, acrescente a pesquisadora.

A capacidade para se conhecer detalhadamente as fraquezas das pessoas e usá-las a favor dos anunciantes é um eixo básico da economia da atenção que tornou imensamente ricas empresas como o Google. “Não estamos dizendo que é algo que só pode ser feito no Facebook. Pelo contrário, isso é algo que pode ser desenvolvido em quase qualquer plataforma publicitária que permita aos anúncios orientarem-se em função de seus interesses”, afirma.

O problema é que essa manipulação personalizada e massiva pode ser levada muito mais além da clássica relação entre anunciante e consumidor. Um exemplo: em 2012 o Facebook publicou um grande estudo com 60 milhões de usuários que demonstrava que havia sido capaz de mobilizar 340.000 abstencionistas para que fossem votar. Nas últimas eleições presidenciais dos EUA essa tecnologia pode ter sido usada de maneira inversa: a equipe de Trump teria usado essas técnicas de propaganda personalizada para desmotivar os eleitores democratas e conseguir com que ficassem em casa em vez de votar em Clinton.