democraciaAbierta: Opinion

Redes sociais e os 'arrependidos' do Vale do Silício

'O dilema das Redes Sociais', da Netflix, critica as teorias da conspiração que surgem nas redes, mas apela a uma delas: aquela que identifica os "vilões do Vale do Silício" como responsáveis ​​por todos os nossos males.

Mariano Vázquez
26 October 2020
Imagem da abertura do documentário da Netflix

O "Grande Hack" (2019), documentário da Netflix sobre a Cambridge Analytica, começa com uma frase interessante. David Carroll, professor associado da Parsons School of Design em Nova York, está sentado na frente de um pequeno grupo de alunos e pergunta:

-Quem nunca viu um anúncio que os faz pensar que seu microfone está escutando suas conversas?

Depois de ouvir o riso desconfortável dos alunos, Carroll diz:

-É difícil para nós imaginar como funciona (...). Anúncios que parecem incrivelmente precisos nos fazem pensar que estamos sendo espionados, mas são provavelmente provas de que o targeting funciona e pode prever nosso comportamento.

A resposta de Carroll levanta questões que ainda são válidas: que dados armazenam as plataformas de redes sociais? São utilizados apenas para publicidade? Existe um limite para a mineração de dados (data mining)? O que as empresas fazem com todas essas informações de usuários?

O documentário traz o foco para o escândalo da Cambridge Analytica, questões de privacidade do Facebook, notícias falsas e a consequente "manipulação de pessoas" e toma a campanha presidencial de 2016 de Brexit e Donald Trump como casos a serem analisados. A confirmação do que estava acontecendo nos bastidores da Cambridge Analytica é validada pela voz de Brittany Kaiser, uma ex-empregada da consultoria que agora está arrependida. O fio narrativo do filme acompanha Brittany enquanto ela expia seus pecados no festival Burning Man ou em um hotel de luxo em algum lugar na Tailândia. Após o sucesso e o frenesi, a filha pródiga retorna para reconhecer seus erros e tentar repará-los.

No entanto, o documentário toma por certo fatos que merecem ser questionados. Acima de todos: por que se supõe que as pessoas podem ser manipuladas através da combinação de big data, algoritmos e táticas de psicologia comportamental?

O "Dilema das Redes Sociais" retoma alguns temas já enunciados no "Grande Hack". Entre eles, destacam-se a polarização, as notícias falsas e a mineração de dados. Mas incorpora um novo elemento: o da relação entre o vício tecnológico e a manipulação da qual os usuários são vítimas. Entretanto, a leveza da denúncia é evidente quando o foco é colocado em questões técnicas, tais como notificações, rolagem infinita e a recomendação de conteúdo personalizado. Os depoimentos de designers e ex-executivos – todos eles arrependidos – pretendem dar peso a estas críticas e se entrelaçam. Através da ficção, coloca na pele dos personagens o vício e a permeabilidade que é atribuída àqueles que utilizam as redes.

O ponto central é exatamente isso: que os problemas sociais causados pela tecnologia só serão resolvidos pela – e através da – tecnologia. Evgeny Morozov chamou esse fenômeno de "loucura do solucionismo tecnológico"

A história fictícia é construída sobre uma teia de estereótipos e posições "politicamente corretas" e um centrismo quase ingênuo no nível político. Assim, pode-se ver uma família etnicamente diversa, na qual os pais, ligeiramente educados e desconcertados, tentam lidar com a tecnologia, enquanto seus três filhos apresentam uma gama de possibilidades. A consciência ética recai sobre a irmã mais velha (que não usa celular e lê Shoshana Zuboff), enquanto a mais nova é vítima de seu vício (que pretende mostrar uma "geração perdida").

O foco central, porém, é a queda lenta e permanente do adolescente, que se afasta do esporte e de seus amigos para mergulhar rapidamente em uma espiral de ódio e fanatismo regida pelo conteúdo personalizado das redes sociais.

Todo o conjunto de críticas levantadas pelo "Dilema das Redes Sociais" pode ser resolvido pelo Center for Humane Technology (fundado por Tristan Harris, o orador principal do filme, entre outros). Identificar o problema, espalhá-lo e vender a solução. O ponto central é exatamente isso: que os problemas sociais causados pela tecnologia só serão resolvidos pela – e através da – tecnologia. Evgeny Morozov chamou esse fenômeno de "loucura do solucionismo tecnológico".

Neste contexto, uma dúzia de residentes arrependidos do Vale do Silício admitem ter trabalhado para que os usuários passassem mais horas em frente à tela, mas afirmam também ter sofrido com o vício que os transformou em vítimas. Tim Kendall, ex-executivo do Facebook e ex-presidente do Pinterest, reconheceu que não podia largar seu telefone celular quando chegava em casa. A solução sugerida, uma e outra vez, é desativar as notificações e medir o tempo de uso.

Um dos riscos envolvidos neste documentário e sua estratégia de panfletagem é o aumento do pânico moral (semelhante ao que aconteceu com a campanha #DeleteFacebook, logo do escândalo da Cambridge Analytica). Embora o filme aponte que o problema está no modelo de negócios que sustenta as plataformas, seu argumento é difuso, perdendo a oportunidade de gerar uma crítica mais sólida.

O filme aponta as formas pelas quais a inteligência artificial (IA) que gerencia os dados pessoais visa o cérebro dos usuários. Em resumo, alega que os manipula e os torna viciados. Mais uma vez, perde de vista um dos aspectos mais prejudiciais do uso desses sistemas de mediação algorítmica. Vários estudos, como os de Virginia Eubanks, Cathy O'Neil e Safiya Umoja Noble, analisam como essas decisões automáticas envolvem dados incompletos e algoritmos tendenciosos e concluem que, se forem usadas para sustentar políticas públicas, aumentam a desigualdade, reforçam estereótipos e intensificam a discriminação racial e sexual.

O "Dilema das Redes Sociais" apresenta um conjunto de simplificações que buscam impacto sensacionalista em vez de estímulo intelectual e reflexivo. Em primeiro lugar, a história foca nos Estados Unidos, mas tem a intenção de estender essa realidade a todo o planeta – ignorando descaradamente os distintos contextos em que as mídias sociais são utilizadas.

Existe uma generalização sobre o Facebook – seguido pelo Twitter – e o seu funcionamento, que não considera as particularidades das outras plataformas, tanto em termos de utilizações como de características principais. Por último, o filme ignora o 'ecossistema’ em que as redes sociais estão inseridas: estas não funcionam no vácuo, mas estabelecem laços e relações com outros agentes dentro da esfera pública. Os entrevistados afirmam repetidamente que as mídias sociais constituem uma ameaça sem precedentes.

Assim, eles não apenas parecem ignorar as centenas de estudos realizados sobre rádio e televisão (e sua influência sobre os usuários, como Robert K. Merton e Paul F. Lazzarfeld apontaram em uma famosa análise dos anos 1940, "Comunicação em massa, gosto popular e ação social organizada"), mas também omitem as várias análises comparativas entre essas novas plataformas e as já "clássicas".

O filme também contém equívocos, como considerar que a exposição ao discurso de ódio implica apoiar aqueles que a espalham. Segundo os criadores, ser exposto a uma mentira é o suficiente para acreditar nela. Finalmente, o filme omite a dimensão criativa que flutua nas redes sociais. Nessa linha, a jornalista Evan Greer produziu um fio no Twitter no qual ela enuncia uma série de omissões que poderiam ter enriquecido o documentário, mas que teriam enfraquecido o pânico social e moral que ele buscava gerar.

O "Dilema das Redes Sociais" apresenta um conjunto de simplificações que buscam impacto sensacionalista em vez de estímulo intelectual e reflexivo

A mídia social não é o único nicho para o surgimento de discurso de ódio, embora seja claro que esses discursos e teorias da conspiração usam os algoritmos de personalização e recomendação (principalmente do YouTube e Facebook) para potencializar sua circulação.

Sites como 8chan, 4chan ou Stormfront, entre outros, são o berço desses movimentos e onde muitas teorias da conspiração foram fabricadas. Também é estranho que uma plataforma como a Netflix, cujo sistema de recomendação foi visado várias vezes devido ao uso dos dados de seus usuários, hoje contribua para denunciar estes problemas.

Os algoritmos filtram as informações, hierarquizam-nas e ordenam-nas para exibir uma determinada concepção de mundo, enquanto as plataformas competem entre si pela atenção dos usuários, agregando funcionalidades, modificando-se a partir de usos desviantes (não planejados), homogeneizando-se (Twitter mudando a estrelinha para coração). Mas dizer que essas empresas competem pelo "tempo de tela" do usuário é muito diferente de afirmar, como os "arrependidos" do Vale do Silício fazem em "O Dilema das Redes Sociais", que monopolizar a atenção do usuário gera vício e "manipula as consciências".

Esse pânico para dummies, que desconhecem a história da mídia de massa, que confundem o vício do cigarro com o uso excessivo das redes sociais, que comparam a invenção da bicicleta com a invenção das redes sociais e que distribuem todos os males contemporâneos como parte do conspiração de alguns dos "vilões" do Vale do Silício, também visa oferecer uma "solução".

Ele apela para uma receita de várias etapas, uma igreja para lidar com o vício: o Center for Humane Technology. O dilema da mídia social é simples: o caos criado pelas plataformas pode ser desfeito simplesmente reescrevendo o algoritmo. O problema é que, quando você erra na análise, nenhuma solução pode ser criada.


Este artigo é publicado como parte de nossa aliança editorial com Nueva Sociedad. Leia o original em espanhol aqui.

Unete a nuestro boletín ¿Qué pasa con la democracia, la participación y derechos humanos en Latinoamérica? Entérate a través de nuestro boletín semanal. Suscríbeme al boletín.

Comentários

Aceitamos comentários, por favor consulte ás orientações para comentários de openDemocracy
Audio available Bookmark Check Language Close Comments Download Facebook Link Email Newsletter Newsletter Play Print Share Twitter Youtube Search Instagram WhatsApp yourData