O Dilema Social pode deixá-lo apavorado… mas há mais para lá do filme

Será que os medias sociais estão a arruinar o mundo? Uma dramática polarização política. Ansiedade e depressão crescentes. Um aumento nas taxas de suicídio de adolescentes. A desinformação que se espalha como um incêndio.

O denominador comum de todos esses fenómenos é que são alimentados em parte pela participação aparentemente inócua nas redes sociais digitais. Mas como actos simples de partilhar fotos e artigos, ler notícias e ligar-se com amigos podem ter consequências tão destrutivas?

Estas são as questões exploradas no novo docu-drama da Netflix, O Dilema Social (“The Social Dilemma”). Dirigido por Jeff Orlowski, apresenta vários ex-funcionários da Big Tech a falarem contra os produtos que em tempos ajudaram a desenvolver. As suas reflexões são intercaladas com cenas de uma família cujos dois filhos mais novos lutam contra o vício dos media sociais e dos seus efeitos colaterais. Também há clipes de notícias dos últimos anos em que repórteres criticam a tecnologia e relatam alguns dos seus impactos nefastos.

Tristan Harris, ex-especialista em ética de design da Google, que co-fundou o Center for Humane Technology (CHT) e se tornou um defensor da ética na tecnologia, é uma figura central do filme. “Quando se olha em redor, parece que o mundo está a enlouquecer”, diz. “Tem que se perguntar se isso é normal? Ou todos nós caímos sob algum tipo de feitiço?”

Também estão presentes Aza Raskin, que co-fundou o CHT com Harris, Justin Rosenstein, que co-fundou a Asana e é apontado como criador do botão “Like” no Facebook, o ex-presidente do Pinterest, Tim Kendall, e o escritor e pioneiro da realidade virtual Jaron Lanier. Eles e outros especialistas falam sobre como a media social deixa as pessoas “agarradas”, explorando a resposta à dopamina do cérebro e usando algoritmos de aprendizagem de máquina (“machine learning”) para fornecer o conteúdo personalizado mais provável de manter cada pessoa a fazer “scrolling”/assistir/clicar.

O filme entra em território explorado pelo seu predecessor de 2019, “The Great Hack” – que mergulhou no escândalo Cambridge Analytica e detalhou como os perfis psicométricos de utilizadores do Facebook ajudaram a manipular as suas inclinações políticas -, tendo os especialistas a falar sobre os milhões de pontos de dados que as empresas de tecnologia estão constantemente a recolher sobre nós. “Cada acção que se realiza é cuidadosamente monitorizada e registada”, diz Jeff Siebert, ex-executivo do Twitter. A inteligência obtida a partir dessas acções é então usada em conjunto com as nossas próprias fraquezas psicológicas para nos fazer assistir a mais vídeos, partilhar mais conteúdo, ver mais anúncios e continuar a conduzir o mecanismo de geração de dinheiro da Big Tech.

“É a mudança gradual, leve e imperceptível no seu próprio comportamento e percepção que é o produto”, diz Lanier. “Essa é a única coisa que eles têm para ganhar dinheiro: mudando o que você faz, como pensa, quem é”. O evasivo “eles” a que Lanier e outros ex-técnicos se referem é personificado no filme por três engenheiros que trabalham incansavelmente numa sala de controlo para manter a atenção das pessoas nos telemóveis a todo o custo.

O poder de processamento do computador, destaca um ex-gestor de produto da Nvidia, aumentou exponencialmente nos últimos 20 anos; mas, entretanto, o cérebro humano não evoluiu para lá da mesma capacidade de há centenas de anos. O foco dessa comparação parece ser que, se estamos num confronto entre humanos e computadores, nós, humanos, não temos hipóteses de lutar.

Mas estamos num confronto entre humanos e computadores? As empresas por trás dos nossos ecrãs são realmente tão insidiosas quanto os engenheiros da sala de controlo do mal sugerem, com o objectivo de transformar todos nós em robôs irracionais, escravos dos nossos impulsos cerebrais de lagarto? Mesmo que a química do nosso cérebro esteja a ser explorada pelo design de ferramentas como o Facebook e o YouTube, a responsabilidade pessoal não entra em acção nalgum momento?

Aza Raskin

O Dilema Social é um filme poderoso e bem feito que expõe os males da media social de forma crua e imediata. É uma chamada muito necessária para a regulação governamental e para um acerto de contas ético activo dentro da própria indústria da tecnologia.

Mas dramatiza exageradamente a intenção da Big Tech – afinal, são empresas com fins lucrativos que criaram produtos orientados pela procura – e subestima os utilizadores dos media sociais. Sim, somos vítimas da nossa necessidade inata de ligação e aprovação, e sempre teremos a propensão para nos tornarmos viciados em coisas que nos fazem sentir bem. Mas ainda somos responsáveis ​​e controlamos as nossas próprias escolhas.

O que estamos a ver com a media social agora é um ciclo comum com as novas tecnologias. Nos primeiros anos de existência da media social, pensámos que era a melhor coisa desde o pão às fatias. Agora está numa queda livre para a outra extremidade do espectro – estamos condenando e concentrando-nos nos seus males e consequências indesejadas. A próxima fase é encontrar algum tipo de equilíbrio, provavelmente por ajustes no design e, possivelmente, na regulação.

“A forma como a tecnologia funciona não é uma lei da física. Não está gravado em pedra. Essas são escolhas que seres humanos como eu têm feito, e os seres humanos podem mudar essas tecnologias ”, diz Rosenstein.

O problema com a media social é que vai ser muito mais complicado de consertar do que, por exemplo, colocar cintos de segurança e “airbags” nos carros. O tamanho e o alcance dessas ferramentas, e a maneira como elas se sobrepõem às questões da liberdade de expressão e da privacidade – sem mencionar como mudaram a forma dos humanos interagir – significa que provavelmente serão necessárias muitas tentativas e erros para que apareçam ferramentas que sejam boas para nós usarmos sem serem viciantes, nos dêem apenas informações verdadeiras e imparciais de uma forma que não abuse das nossas emoções e nos permita partilhar conteúdo e experiências, evitando desinformação e discurso de ódio.

Num episódio do seu podcast “Making Sense“, Sam Harris fala com Tristan Harris sobre o filme e as suas implicações. Diz Tristan: “Embora todos nós estivéssemos à procura do momento em que a IA superaria as forças humanas – quando obteríamos a Singularidade, quando a IA ficaria com os nossos empregos, quando seria mais inteligente do que os humanos – perdemos isso muito antes quando a tecnologia não superou as forças humanas, mas minou as fraquezas humanas”.

Cabe às empresas de tecnologia redesenhar os seus produtos de maneiras mais éticas para pararem de explorar os nossos pontos fracos. Mas cabe a nós exigir que elas façam isso, estar cientes dessas fraquezas e resistir a sermos engrenagens da máquina.

* Texto original publicado no Singularity Hub (reproduzido sob licença CC BY-ND 4.0). Foto: Rob Hampson

Deixe uma Resposta

Preencha os seus detalhes abaixo ou clique num ícone para iniciar sessão:

Logótipo da WordPress.com

Está a comentar usando a sua conta WordPress.com Terminar Sessão /  Alterar )

Google photo

Está a comentar usando a sua conta Google Terminar Sessão /  Alterar )

Imagem do Twitter

Está a comentar usando a sua conta Twitter Terminar Sessão /  Alterar )

Facebook photo

Está a comentar usando a sua conta Facebook Terminar Sessão /  Alterar )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.