Twitter enfrenta boicote de anunciantes devido a falhas ao policiar material de abuso infantil

O ano ruim e ruim do Twitter continua, com a empresa nesta semana sendo forçada a informar alguns anunciantes que seus anúncios foram exibidos no aplicativo ao lado de tweets solicitando pornografia infantil e outros materiais de abuso.

Conforme relatado pela Reuters:

“ Marcas como Walt Disney, NBCUniversal e Coca-Cola, a um hospital infantil, estavam entre os cerca de 30 anunciantes que apareceram nas páginas de perfil de contas do Twitter que vendem links para o material explorador.”

A descoberta foi feita pelo grupo de segurança cibernética Ghost Data, que trabalhou com a Reuters para descobrir as preocupações com a colocação de anúncios, causando outro grande golpe nas perspectivas de negócios em andamento do aplicativo.

Já em um estado de desordem em meio à contínua saga de aquisição de Elon Musk, e após revelações recentes de seu ex-chefe de segurança de que é negligente na segurança de dados e outras medidas, o Twitter agora também enfrenta um êxodo de anunciantes, com grandes marcas como Dyson, Mazda e Ecolab. suspendendo suas campanhas no Twitter em resposta.

O que, na verdade, é o elemento menos preocupante sobre a descoberta, com o relatório Ghost Data também identificando mais de 500 contas que compartilharam ou solicitaram abertamente material de abuso sexual infantil durante um período de 20 dias.

A Ghost Data diz que o Twitter não conseguiu remover mais de 70% das contas durante o estudo.

As descobertas levantam mais questões sobre a incapacidade ou disposição do Twitter de abordar material potencialmente prejudicial, com o The Verge relatando no final do mês passado que o Twitter “não pode detectar com precisão a exploração sexual infantil e nudez não consensual em escala”.

Essa descoberta resultou de uma investigação sobre o plano proposto pelo Twitter para dar aos criadores de conteúdo adulto a capacidade de começar a vender assinaturas pagas no estilo OnlyFans no aplicativo.

Em vez de trabalhar para lidar com a abundância de material pornográfico na plataforma, o Twitter considerou se apoiar nele – o que sem dúvida aumentaria o fator de risco para anunciantes que não querem que suas promoções apareçam ao lado de tweets potencialmente ofensivos.

O que provavelmente está acontecendo, em uma escala ainda maior do que este novo relatório sugere, porque a própria investigação interna do Twitter sobre sua proposta de OnlyFans descobriu que:

“ O Twitter não podia permitir que criadores adultos vendessem assinaturas com segurança porque a empresa não estava – e ainda não está – efetivamente policiando conteúdo sexual prejudicial na plataforma.”

Em outras palavras, o Twitter não poderia correr o risco de facilitar a monetização de material exploratório no aplicativo e, como não tem como lidar com isso, teve que descartar a proposta antes que ela realmente ganhasse força.

Com isso em mente, essas novas descobertas não são surpresa - mas, novamente, a reação dos anunciantes provavelmente será significativa, o que pode forçar o Twitter a lançar uma nova repressão de qualquer maneira.

Por sua vez, o Twitter diz que está investindo mais recursos dedicados à segurança infantil, 'incluindo a contratação de novos cargos para redigir políticas e implementar soluções'.

Então, ótimo, o Twitter está agindo agora. Mas esses relatórios, baseados na investigação dos próprios exames do Twitter, mostram que o Twitter está ciente desse possível problema há algum tempo – não especificamente a exploração infantil, mas o conteúdo adulto se preocupa com o fato de não ter como policiar.

De fato, o Twitter auxilia abertamente na promoção de conteúdo adulto, ainda que inadvertidamente. Por exemplo, na seção 'Para você' da minha guia 'Explorar' (ou seja, a primeira página do Explore no aplicativo), o Twitter recomenda continuamente que eu siga o 'Facebook' como um tópico, com base nos meus tweets e nas pessoas que sigo no aplicativo.

Aqui estão os tweets destacados como alguns dos principais tweets tópicos para o 'Facebook' ontem:

Não é material pornográfico em si, mas estou dizendo que, se eu acessar qualquer um desses perfis, vou encontrá-lo bem rápido. E, novamente, esses tweets são destacados com base no próprio algoritmo de tweets de tópicos do Twitter, que é baseado no engajamento com tweets que mencionam o termo do tópico. Esses tweets completamente não relacionados e fora do tópico estão sendo enviados pelo próprio Twitter, para usuários que não manifestaram nenhum interesse em conteúdo adulto.

Está claro, com base em todas as evidências disponíveis, que o Twitter tem um problema de pornografia e está fazendo pouco para resolvê-lo.

Distribuidores de conteúdo adulto veem o Twitter como a melhor rede social para publicidade, porque é menos restritivo que o Facebook e tem alcance muito mais amplo do que sites de nicho para adultos, enquanto o Twitter ganha os benefícios de uso e engajamento de hospedar material que outras plataformas sociais simplesmente não permitiriam .

É provavelmente por isso que está disposto a fechar os olhos para isso por tanto tempo, a ponto de agora estar sendo destacado como um problema muito maior.

Embora seja importante notar que o conteúdo adulto, por si só, não é inerentemente problemático, pelo menos entre os usuários adultos consentidos. É a abordagem do Twitter ao abuso infantil e conteúdo de exploração que é o verdadeiro problema em questão.

E os sistemas do Twitter são supostamente 'lamentavelmente inadequados' a esse respeito.

Conforme relatado pelo The Verge:

“ Um relatório de 2021 descobriu que os processos que o Twitter usa para identificar e remover material de exploração sexual infantil são lamentavelmente inadequados – em grande parte manuais em um momento em que empresas maiores se voltam cada vez mais para sistemas automatizados que podem capturar material que não é sinalizado pelo PhotoDNA. O principal software de fiscalização do Twitter é “uma ferramenta herdada e sem suporte” chamada RedPanda, de acordo com o relatório. “O RedPanda é de longe uma das ferramentas mais frágeis, ineficientes e sem suporte que temos para oferecer”, disse um engenheiro citado no relatório.

De fato, análises adicionais dos sistemas de detecção de CSE do Twitter descobriram que dos 1 milhão de relatórios enviados a cada mês, 84% contêm material recém-descoberto – “nenhum dos quais seria sinalizado” pelos sistemas do Twitter.

Portanto, embora sejam os anunciantes que estão pressionando a empresa neste caso, está claro que os problemas do Twitter vão muito além das preocupações apenas com o posicionamento dos anúncios.

Atingir os resultados do Twitter, no entanto, pode ser a única maneira de forçar a plataforma a agir - embora seja interessante ver o quão disposto e capaz o Twitter está de promulgar um plano mais amplo para lidar com isso em meio à sua batalha de propriedade em andamento.

Dentro de seu acordo de aquisição com Elon Musk, há uma cláusula que afirma que o Twitter precisa:

“Use seus esforços comercialmente razoáveis ​​para preservar substancialmente intactos os componentes materiais de sua organização comercial atual.”

Em outras palavras, o Twitter não pode fazer nenhuma mudança significativa em sua estrutura operacional enquanto estiver na fase de transição, que está atualmente em debate enquanto se dirige para uma batalha judicial com Musk.

Iniciar uma atualização significativa em seus modelos de detecção de CSE se qualificaria como uma mudança substancial - substancial o suficiente para alterar a estrutura operacional da empresa no momento do acordo inicial?

Em essência, o Twitter provavelmente não quer fazer grandes mudanças. Mas pode ser necessário, especialmente se mais anunciantes aderirem a esse novo boicote e pressionar a empresa a tomar medidas imediatas.

É provável que seja uma bagunça de qualquer maneira, mas esta é uma grande preocupação para o Twitter, que deve ser legitimamente responsabilizado por suas falhas sistêmicas a esse respeito.