Twitter fait face au boycott des annonceurs en raison de l'échec de la police concernant le matériel pédopornographique

Twitter n'est pas bon, la très mauvaise année continue, la société étant obligée d'informer cette semaine certains annonceurs que leurs publicités avaient été affichées dans l'application aux côtés de tweets sollicitant de la pornographie juvénile et d'autres contenus abusifs.

Tel que rapporté par Reuters :

« Des marques allant de Walt Disney, NBCUniversal et Coca-Cola, à un hôpital pour enfants, faisaient partie des quelque 30 annonceurs qui sont apparus sur les pages de profil des comptes Twitter qui colportent des liens vers le matériel d'exploitation.

La découverte a été faite par le groupe de cybersécurité Ghost Data, qui a travaillé avec Reuters pour découvrir les problèmes de placement d'annonces, portant un autre coup dur aux perspectives commerciales en cours de l'application.

Déjà dans un état de désarroi au milieu de la saga de rachat d'Elon Musk en cours, et suite aux récentes révélations de son ancien chef de la sécurité selon lesquelles il est laxiste en matière de sécurité des données et d'autres mesures, Twitter est désormais également confronté à un exode d'annonceurs, avec de grandes marques telles que Dyson, Mazda et Ecolab suspendant leurs campagnes Twitter en réponse.

Ce qui, vraiment, est l'élément le moins préoccupant de la découverte, le rapport Ghost Data identifiant également plus de 500 comptes qui ont ouvertement partagé ou demandé du matériel d'abus sexuel d'enfants sur une période de 20 jours.

Ghost Data indique que Twitter n'a pas réussi à supprimer plus de 70% des comptes pendant la durée de l'étude.

Les résultats soulèvent d'autres questions sur l'incapacité ou la volonté de Twitter de traiter des contenus potentiellement dangereux, The Verge rapportant à la fin du mois dernier que Twitter "ne peut pas détecter avec précision l'exploitation sexuelle des enfants et la nudité non consensuelle à grande échelle".

Cette découverte découle d'une enquête sur le plan proposé par Twitter pour donner aux créateurs de contenu pour adultes la possibilité de commencer à vendre des abonnements payants de style OnlyFans dans l'application.

Plutôt que de travailler pour remédier à l'abondance de matériel pornographique sur la plate-forme, Twitter a plutôt envisagé de s'y pencher, ce qui augmenterait sans aucun doute le facteur de risque pour les annonceurs qui ne souhaitent pas que leurs promotions apparaissent à côté de tweets potentiellement offensants.

Ce qui se produit probablement, à une échelle encore plus grande que ne le suggère ce nouveau rapport, car la propre enquête interne de Twitter sur sa proposition OnlyFans-esque a révélé que :

" Twitter ne pouvait pas autoriser en toute sécurité les créateurs adultes à vendre des abonnements, car la société n'était pas - et n'est toujours pas - efficace sur le contrôle du contenu sexuel préjudiciable sur la plate-forme."

En d'autres termes, Twitter ne pouvait pas risquer de faciliter la monétisation du matériel d'exploitation dans l'application, et comme il n'a aucun moyen de s'y attaquer, il a dû abandonner la proposition avant qu'elle ne gagne vraiment en popularité.

Dans cet esprit, ces nouvelles découvertes ne sont pas une surprise - mais encore une fois, le contrecoup de l'annonceur est susceptible d'être important, ce qui pourrait forcer Twitter à lancer une nouvelle répression de toute façon.

Pour sa part, Twitter indique qu'il investit davantage de ressources dédiées à la sécurité des enfants, "y compris l'embauche de nouveaux postes pour rédiger des politiques et mettre en œuvre des solutions".

Alors, super, Twitter agit maintenant. Mais ces rapports, basés sur une enquête sur les propres examens de Twitter, montrent que Twitter est conscient de ce problème potentiel depuis un certain temps – pas spécifiquement l'exploitation des enfants, mais le contenu pour adultes craint qu'il n'ait aucun moyen de contrôler.

En fait, Twitter aide ouvertement à la promotion de contenu pour adultes, quoique par inadvertance. Par exemple, dans la section « Pour vous » de mon onglet « Explorer » (c'est-à-dire la première page d'Explorer dans l'application), Twitter recommande en permanence que je suive « Facebook » comme sujet, en fonction de mes tweets et des personnes que je suis. dans l'application.

Voici les tweets qu'il a mis en évidence comme certains des meilleurs tweets d'actualité pour "Facebook" hier :

Ce n'est pas du matériel pornographique en tant que tel, mais je vous signale que si je tape sur l'un de ces profils, je le trouverai assez rapidement. Et encore une fois, ces tweets sont mis en évidence sur la base du propre algorithme de tweets thématiques de Twitter, qui est basé sur l'engagement avec des tweets qui mentionnent le terme du sujet. Ces tweets complètement indépendants et hors sujet sont ensuite poussés par Twitter lui-même, aux utilisateurs qui n'ont manifesté aucun intérêt pour le contenu pour adultes.

Il est clair, sur la base de toutes les preuves disponibles, que Twitter a un problème de pornographie et qu'il ne fait pas grand-chose pour y remédier.

Les distributeurs de contenu pour adultes considèrent Twitter comme le meilleur réseau social pour la publicité, car il est moins restrictif que Facebook et a une portée beaucoup plus large que les sites de niche pour adultes, tandis que Twitter bénéficie des avantages d'utilisation et d'engagement de l'hébergement de matériel que d'autres plateformes sociales ne permettraient tout simplement pas. .

C'est probablement pourquoi il a été disposé à fermer les yeux sur cela pendant si longtemps, au point qu'il est maintenant mis en évidence comme un problème beaucoup plus important.

Bien qu'il soit important de noter que le contenu pour adultes, en soi, n'est pas intrinsèquement problématique, du moins parmi les utilisateurs adultes consentants. C'est l'approche de Twitter vis-à-vis de la maltraitance des enfants et du contenu exploitant qui est le vrai problème.

Et les systèmes de Twitter seraient "terriblement inadéquats" à cet égard.

Tel que rapporté par The Verge :

« Un rapport de 2021 a révélé que les processus utilisés par Twitter pour identifier et supprimer le matériel d'exploitation sexuelle d'enfants sont terriblement inadéquats - en grande partie manuels à une époque où les grandes entreprises se tournent de plus en plus vers des systèmes automatisés capables de capturer du matériel qui n'est pas signalé par PhotoDNA. Le principal logiciel d'application de Twitter est "un outil hérité et non pris en charge" appelé RedPanda, selon le rapport. "RedPanda est de loin l'un des outils les plus fragiles, inefficaces et sous-supportés que nous proposons", a déclaré un ingénieur cité dans le rapport.

En effet, une analyse supplémentaire des systèmes de détection de CSE de Twitter a révélé que sur le million de rapports soumis chaque mois, 84 % contiennent du matériel nouvellement découvert - "dont aucun ne serait signalé" par les systèmes de Twitter.

Ainsi, alors que ce sont les annonceurs qui remettent la pression sur l'entreprise dans ce cas, il est clair que les problèmes de Twitter vont bien au-delà des seuls problèmes de placement d'annonces.

Atteindre les résultats de Twitter, cependant, peut être le seul moyen de forcer la plate-forme à agir – bien qu'il soit intéressant de voir à quel point Twitter est disposé et capable d'adopter un plan plus large pour résoudre ce problème au milieu de sa bataille de propriété en cours.

Dans son accord de rachat avec Elon Musk, il y a une disposition qui stipule que Twitter doit :

"Utiliser ses efforts commercialement raisonnables pour préserver substantiellement intacts les composants matériels de son organisation commerciale actuelle."

En d'autres termes, Twitter ne peut pas apporter de changements significatifs à sa structure opérationnelle pendant qu'il est dans la phase de transition, qui fait actuellement l'objet d'un débat alors qu'il se dirigeait vers une bataille judiciaire avec Musk.

Le lancement d'une mise à jour importante de ses modèles de détection de CSE serait-il considéré comme un changement substantiel - suffisamment substantiel pour modifier la structure opérationnelle de l'entreprise au moment de l'accord initial ?

Essentiellement, Twitter ne veut probablement pas apporter de changements majeurs. Mais cela pourrait être nécessaire, surtout si davantage d'annonceurs se joignent à ce nouveau boycott et poussent l'entreprise à prendre des mesures immédiates.

Il est probable que ce soit un gâchis de toute façon, mais c'est une énorme préoccupation pour Twitter, qui devrait à juste titre être tenu responsable de ses défaillances systémiques à cet égard.