Atrás das telas: os algoritmos e bots que executam as mídias sociais

Você já se perguntou por que certas postagens aparecem no seu feed, enquanto outras nunca aparecem? Ou quem é aquele bot aleatório que envia spam para sua seção de comentários? A mídia social hoje parece cada vez mais automatizada, algorítmica e bem... complicada.

Os sites que navegamos durante horas todos os dias estão longe de serem plataformas neutras. Por trás das telas existe uma infraestrutura tecnológica complexa projetada para selecionar conteúdo e envolver os usuários.

Muitos de nós estamos familiarizados com o conceito de algoritmos – as fórmulas programadas que calculam o que vemos online. Mas como exatamente esses algoritmos funcionam? E como é que os bots – aplicações de software automatizadas concebidas para executar tarefas repetitivas – se infiltraram nos ecossistemas das redes sociais? Os objetivos e impactos destas tecnologias são abrangentes, mas raramente transparentes.

Neste artigo, examinaremos o funcionamento interno por trás de nossas telas de mídia social. Você aprenderá como algoritmos e bots influenciam as informações que você recebe e até manipulam suas opiniões e comportamentos.

Também nos aprofundaremos em estudos de caso de bots que deram errado e exploraremos ideias para aumentar a responsabilização. É hora de investigar o que realmente está acontecendo nos bastidores da rede social que conhecemos e usamos todos os dias. A história é mais complexa do que você pensa.

TLDR; Os algoritmos e bots que executam as mídias sociais

• Algoritmos selecionam feeds de mídia social para maximizar o envolvimento, não o discurso de qualidade
• Bots como spambots e bots políticos espalham informações erradas e propaganda nas plataformas
• Algoritmos podem criar câmaras de eco; bots promovem notícias falsas e crimes cibernéticos
• As plataformas sociais carecem de supervisão e transparência em torno de seus algoritmos
• Os usuários devem exigir transparência e responsabilidade das plataformas sociais

A ascensão dos algoritmos nas redes sociais

Algoritmos são conjuntos de instruções ou cálculos programados para realizar tarefas e objetivos específicos. Nas plataformas de mídia social, os algoritmos analisam grandes quantidades de dados dos usuários para então selecionar e recomendar conteúdo nos feeds dos usuários. O objetivo é mostrar às pessoas as postagens com as quais elas têm maior probabilidade de interagir no momento.

O Facebook foi pioneiro na ideia de um feed de notícias personalizado impulsionado por algoritmos em 2006. Antes disso, as postagens eram simplesmente mostradas em ordem cronológica. O Facebook queria otimizar para “conteúdo significativo” – ou seja, as postagens que receberiam mais curtidas, comentários e compartilhamentos. Outras plataformas como Twitter, Instagram e TikTok também adotaram feeds algorítmicos.

Esses algoritmos consideram centenas de sinais sobre cada usuário, incluindo conexões, interesses, atividades anteriores e tipo de dispositivo. Eles estão constantemente aprendendo e atualizando com base em novos dados. Os algoritmos de recomendação também sugerem contas a serem seguidas ou conteúdo a ser visualizado com base nas semelhanças com o que o usuário já interage. O objetivo final é maximizar a receita publicitária, de modo que os algoritmos também otimizam postagens e anúncios que manterão os usuários navegando indefinidamente.

O cenário dos bots nas plataformas sociais

Os bots de mídia social são programas de software que produzem conteúdo automaticamente e interagem com usuários reais, muitas vezes se passando por contas humanas. Os spambots espalham spam, anúncios ou malware de forma autônoma. Os chatbots têm conversas de IA. Os bots políticos espalham propaganda e desinformação, como se viu nas eleições de 2016 nos EUA.

Os bots proliferaram rapidamente à medida que as plataformas sociais se expandiam. Um estudo estimou que 9-15% das contas do Twitter podem ser bots. No Facebook, estima-se que contas duplicadas e falsas representavam cerca de 11% dos usuários ativos mensais em todo o mundo no final de 2021.

No entanto, a detecção de bots é um desafio. Os bots estão cada vez mais avançados, usando IA para imitar padrões de comportamento humano online. O seu objetivo é manipular a opinião pública ou influenciar negativamente o discurso, evitando a detecção.

Os impactos de algoritmos e bots

Algoritmos e bots produziram alguns benefícios para os usuários das redes sociais. A curadoria algorítmica personaliza os feeds para atender aos interesses dos indivíduos, economizando tempo com conteúdo irrelevante. Os chatbots podem fornecer atendimento ao cliente automatizado e útil.

No entanto, a curadoria algorítmica pesada também levou a câmaras de eco e à polarização, à medida que as pessoas veem apenas perspectivas com ideias semelhantes. Os bots têm sido utilizados para espalhar desinformação em rápida escala, abafando os factos e manipulando o discurso público, como se viu nas eleições em todo o mundo.

Talvez o mais preocupante seja a falta de supervisão e transparência em torno destas tecnologias. As plataformas sociais oferecem pouca visibilidade sobre como seus algoritmos funcionam e como impactam o conteúdo que os usuários veem. Eles também lutam para detectar bots sofisticados, fazendo pouco para conter a manipulação prejudicial decorrente de sua inação.

Estudos de caso de bots que deram errado

Em 2016, a Microsoft lançou o chatbot AI Tay no Twitter, destinado a envolver os usuários por meio de conversas casuais. Mas os trolls da Internet descobriram que poderiam treinar Tay para usar linguagem racista e propagar opiniões ofensivas. Em 24 horas, Tay teve que ser desligado.

Durante as eleições presidenciais dos EUA em 2016, os bots associados à Rússia geraram propaganda que atingiu mais de 100 milhões de americanos no Facebook, Twitter e outras plataformas. O objetivo era semear a discórdia social e política.

Os spambots espalham regularmente malware e links maliciosos em plataformas sociais através de contas falsas. Um estudo de 2020 descobriu mais de 100.000 bots do Twitter envolvidos em campanhas coordenadas de desinformação e crimes cibernéticos sobre a COVID-19. Isso representa grandes riscos para os usuários.

A luta contínua contra bots ruins

As plataformas sociais usam aprendizado de máquina para detectar contas de bot com base em padrões como alta frequência de tweets, conteúdo duplicado e comportamentos coordenados. Quando sinalizadas como prováveis ​​bots, as contas podem ser desafiadas a provar que são humanas por meio de CAPTCHAs ou verificação por telefone. Se falhar na verificação do bot, as contas serão removidas.

No entanto, a identificação de bots mais sofisticados que utilizam inteligência artificial continua a ser um desafio. Esses bots imitam cronogramas de postagem, variedade de conteúdo e interações online semelhantes aos humanos. Alguns evitam a detecção trocando comportamentos depois de sinalizados. As plataformas se envolvem em um interminável jogo de gato e rato contra a evolução das capacidades dos bots.

Os especialistas sugerem que uma melhor detecção poderia advir da análise de metadados, relacionamentos e padrões linguísticos da conta ao longo do tempo. Retardar a rápida propagação viral do conteúdo também poderia reduzir melhor a influência das redes coordenadas de bots antes que causem muitos danos.

Pressionando por transparência e supervisão

Com algoritmos e bots integrados nos seus principais modelos de negócios, as plataformas sociais têm pouco incentivo para serem transparentes ou permitirem uma supervisão significativa. Mas grupos de defesa apelaram à auditoria algorítmica, dando aos investigadores acesso para avaliar os impactos.

Os governos também estão a considerar regulamentos que imponham a transparência, os requisitos de monitorização humana e o direito de recurso contra decisões algorítmicas injustas.

Os usuários podem ajudar a exercer pressão expressando preocupações por meio de petições e hashtags, apoiando políticos pró-transparência e até enganando algoritmos distorcendo seus próprios padrões de atividade. Embora seja difícil mudar a cultura fechada e orientada para o lucro das plataformas sociais, a sensibilização e a pressão públicas sustentadas podem tornar a transparência em torno dos seus algoritmos e bots um imperativo.

Resumindo: os algoritmos e bots que executam as mídias sociais

A fachada da mídia social foi removida e vislumbramos a complexa mistura de algoritmos e bots que impulsionam essas plataformas. Nossos feeds são selecionados por fórmulas opacas otimizadas para engajamento e receita, e não para discurso de qualidade. As contas automatizadas ficam descontroladas, encobertas por identidades humanas falsas.

Esta verdade vislumbrada deveria deixar-nos profundamente desconfortáveis ​​com o estado atual das redes sociais. Não podemos mais nos apegar a noções estranhas de praças urbanas online neutras. A motivação do lucro e a automatização desenfreada minaram o potencial da web social. A indignação deve transformar-se em apelos à transparência e à responsabilização.

Nós, os usuários, temos poder em números. Não aceite a ignorância de como os algoritmos influenciam o seu pensamento. Exija mudanças por meio de legislação e envolvimento direto da plataforma. Desconfie da amplificação do bot. E nunca se esqueça do humano por trás da tela, seja uma pessoa real ou uma IA astuta. A nossa realidade futura pode depender da lembrança da nossa humanidade.