O embate entre ser humano e máquina é um tema antigo explorado pela ficção científica. O levante das inteligências artificiais, a revolta contra os criadores e a superação das qualidades e pontos fortes das pessoas pelas máquinas. Apesar de tudo isso parecer uma utopia distante, está mais próximo de se acontecer do que imaginamos. A diferença é que a tecnologia não superou a inteligência humana, mas aprendeu a beneficiar-se de suas fraquezas.
Esse é o tema central de “The Social Dilemma”, (O Dilema das redes, em Português) novo documentário da Netflix dirigido por Jeff Orlowski que vem sendo polêmico por seu conteúdo assustador. Pessoas ex-funcionárias e desenvolvedoras de diversas redes sociais que dominam o cenário tecnológico mundial se juntaram neste novo documentário para alertar que as redes sociais podem ser responsáveis por vários e irreversíveis danos na humanidade e na democracia. Para elas, já vivemos dentro de um universo distópico como em “Admirável Mundo Novo” de Aldous Huxley.
Acompanhe nosso texto e confira um pouco do conteúdo abordado por “The Social Dilemma” nos tópicos a seguir:
- The Social Dilemma e a relação da tecnologia e do capital;
- The Social Dilemma e a influência das redes sociais na saúde mental;
- The Social Dilemma e a dissolução da democracia pelas redes sociais;
- Conclusão.
ATENÇÃO: O texto a seguir contém spoilers e revelações de enredo.
Boa Leitura!
The Social Dilemma e a relação da tecnologia e do capital
The Social Dilemma se abre com uma citação que remonta o dramaturgo e grego Sófocles, que diz que “nada extraordinário chega até a vida dos mortais sem que nela haja uma maldição”. Frase essa que poderia facilmente ser interpretada como o simples saber popular de que nada nesta vida sai de graça. É precisamente desse ponto que o raciocínio se inicia.
O ex-designer ético do Google e co-fundador do Center for Humane Technology (centro em prol de uma tecnologia humanizada) Tristan Harris é uma das vozes de The Social Dilemma. Ele afirma que nenhum produto ofertado é de graça, outra pessoa paga seu uso por você — no caso, os anunciantes. Entretanto, existe um interesse por trás disso. O ex-designer afirma: “se você não está pagando pelo produto, então você é o produto”.
As pessoas especialistas de The Social Dilemma dizem que, por mais que se acredite que as redes sociais, como o Facebook, vendem dados e informações, não é interessante que tais informações sejam compartilhadas. As redes utilizam esses dados para conseguir aprender mais sobre a pessoa usuária e prever aquilo que fará com que ela permaneça mais tempo.
O documentário então aponta para esse novo mercado que está se abrindo e que é tão problemático quanto foi o comércio de órgãos humanos ou de pessoas escravas. Nesse novo mercado, o que se vende é o futuro da humanidade. Grandes negociações acontecem para definir qual futuro da humanidade é mais rentável.
O cientista da computação e escritor Jaron Lanier explica que o produto dessas negociações é “a pequena, mínima, imperceptível mudança no nosso comportamento e percepção”. Isso significa que as redes sociais disputam para conseguir fazer com que as pessoas mantenham seus olhos em sua rede o máximo de tempo possível, e então, manipulam a informação para impelir que gradualmente a opinião e os desejos daquelas sejam alterados para uma direção desejada.
The Social Dilemma e a influência das redes sociais na saúde mental
Em um outro momento, The Social Dilemma muda o foco para abarcar as consequências desse método bárbaro de negociação de atenção das redes sociais. Tristan Harris discorda do uso do termo “ferramenta” para redes sociais. Para ele, as redes sociais deixaram de ser uma ferramenta a partir do momento em que elas se desenvolvem para ser um meio de manipulação com objetivos próprios e formas específicas de consegui-los.
Ao invés de nós utilizarmos as redes sociais como ferramenta, é ela que nos utiliza. E isso tem impacto catastrófico, acima de tudo na geração Z, como ficaram conhecidas as pessoas nascidas depois de 1996. Essa foi a primeira geração que teve que lidar com a influência das redes sociais na pré-adolescência, e os resultados são chocantes: um aumento indiscriminado no número de adolescentes que tentaram se machucar ou tiraram a própria vida.
Além disso, houve um aumento nos casos clínicos de depressão e ansiedade em adolescentes. O motivo para isso, explicam especialistas em The Social Dilemma, é que não estamos preparados e não somos evoluídos o suficiente para receber aprovação social em curtos períodos de tempo. Essa recompensa leva a um senso de perfeição que acaba confundindo realidade com essa popularidade vaga que deixa um vazio ainda maior quando passa.
Outro ponto importante em The Social Dilemma relacionado à alterações no comportamento humano é que a tecnologia e redes sociais — nas palavras de Harris — fazem o papel de chupetas digitais, condicionando uma geração inteira a escapar de situações de insegurança, medo ou qualquer emoção negativa, em vez de aprender a lidar com esses problemas.
The Social Dilemma e a dissolução da democracia pelas redes sociais
Uma outra consequência apresentada por The Social Dilemma é um problema macro que vem afetando o mundo todo na última década. A internet se transformou em um turbilhão de fake news, teorias da conspiração e disseminação de ódio gratuito. Grande parte da responsabilidade por esse fato é das redes sociais e sua utilização.
A explicação dada para isso é que, ao utilizar-se de alguma rede social, o algoritmo aprende gradativamente sobre seus gostos e personalidade, inserindo postagens e conteúdos que — em tese — são de seu interesse. Entretanto, o que não foi previsto é que esses algoritmos poderiam ser utilizados para aumentar a discrepância de informações recebidas por diferentes pessoas.
Um exemplo bem pertinente apresentado em The Social Dilemma que pode ilustrar bem essa situação é imaginar que a Wikipédia passe a expor informações diferentes para cada pessoa usuária baseada em sua personalidade ou interesses similares. É dessa forma que funciona o algoritmo das redes sociais.
As consequências dessa ação são nefastas, já que levam pessoas a acreditarem que muitas outras também pensam daquela maneira e acabam por alterar a compreensão da realidade. Isso as torna muito mais suscetíveis a cair em rabbit holes — sequências de vídeos recomendados no YouTube, por exemplo, que faz com que a pessoa espectadora assista sem parar — e acreditar em absurdos, mesmo que contrariem fatos científicos comprovados.
Isso tudo leva à criação de dois lados que não conseguem comunicar-se e nem ao menos ter empatia um pelo outro, já que o acesso à informação de ambos é de fato diferente. Essa divisão é prejudicial, uma vez que pode levar a eventos genocidas, como guerras civis e limpezas étnicas e religiosas.
Outro ponto destacado em The Social Dilemma que merece atenção é que essa tática pode ser utilizada por nações rivais para influenciar na organização política e social de diversos países, adulterando processos eleitorais e democráticos por meio de notícias falsas e conspiratórias. Tais notícias, aponta o documentário, têm capacidade de disseminação seis vezes maior que notícias verdadeiras.
A responsabilidade é depositada sobre as redes sociais, já que elas não têm qualquer capacidade de distinguir o que é verdade e o que não é através do fluxo de informação que passa por ela. The Social Dilemma ainda diz que tais processos não se tratam de hacking ou invasões, já que são utilizadas ferramentas disponibilizadas para clientes pelas próprias redes.
Conclusão
Em hipótese nenhuma se pode afirmar que o documentário posiciona-se contra o uso e o avanço da tecnologia. As pessoas que se posicionam em The Social Dilemma reconhecem seu caráter positivo e que ela proporcionou mudanças significativas e sistêmicas na sociedade. Muitos deles, ao desenvolver suas aplicações e algoritmos, tinham boas intenções e vontade de impactar o mundo de uma forma positiva. Entretanto, não se pode desconsiderar o outro lado da moeda.
A tecnologia e o uso desenfreado e desregulamentado de redes sociais, principalmente pelas grandes corporações, é instável e em breve pode apresentar consequências irreversíveis e drásticas para a sociedade. Isso porque a tecnologia sendo usada de forma irresponsável evidencia o que há de mais negativo dentro do comportamento humano.
The Social Dilemma termina como uma provocação e uma convocação para as pessoas que são profissionais da área de TI: precisamos mudar essa narrativa antes que seja tarde demais. Essa mudança não virá por parte das grandes redes sociais e pelos algoritmos que uma vez foram os causadores de toda essa problemática.
A mudança precisa vir de novas vozes, profissionais e pessoas acadêmicas que entendem como a tecnologia pode ser utilizada com papel exploratório que amplifica a manipulação e deterioração da sociedade. Os seres humanos criaram a tecnologia e agora cabe a nós alterá-la para que seu uso seja mais humanizado.
The Social Dilemma é um novo documentário da Netflix que visa explicitar e evidenciar as consequências do uso manipulatório das redes sociais, e como isso afeta a sociedade, nossa saúde mental e nossas estruturas democráticas.
Achou nosso artigo interessante? Se é fã de filmes e séries, confira agora o que podemos aprender com Black Mirror sobre tecnologia!
