Не пропустите завтрашние новости индустрии социальных сетей

Среди ключевых проблем, связанных с поглощением Илоном Маском Twitter, было предполагаемое смягчение прошлых правил, касающихся разжигания ненависти, дезинформации и других важных элементов.

Маск, который решительно выступает за разрешение любых высказываний, независимо от того, нежелательны они лично или нет, наблюдал за восстановлением десятков тысяч учетных записей, которые ранее были заблокированы руководством Twitter, а также снял ограничения, предназначенные для сдерживания дезинформации о COVID, отменил предупреждающие ярлыки. о контенте китайских и российских государственных СМИ, а также сам продвигает различные теории заговора среди своих 134 миллионов подписчиков.

Сообщается, что подобные изменения привели к тому, что многие рекламодатели Twitter избегали приложения из-за опасений по поводу потенциальной связи с ненавистническими высказываниями и оскорбительными материалами. , фактически уменьшая из-за обновленных процессов обнаружения и ограничения таковых в приложении?

Это стало ключевым моментом разногласий в интервью Маска Би-би-си на этой неделе, которое Маск транслировал в прямом эфире через Twitter Spaces. В целом, почти двухчасовое интервью не дало никакой новой информации: Маск рассказал о своих поспешных увольнениях в приложении и необходимости сократить расходы, чтобы спасти компанию, Маск заявил, что его собака теперь является генеральным директором Twitter. и сказал, что Twitter может выйти на безубыточность в течение нескольких месяцев.

Но разжигание ненависти и влияние, которое оно оказало на рекламодателей, было явно больным вопросом, и Маск поделился этим обменом мнениями, чтобы подчеркнуть то, что он считает предвзятым отношением СМИ к этому элементу.

Конечно, личный опыт одного пользователя не свидетельствует о масштабах потенциальной проблемы, если она есть, хотя, как уже отмечалось, Маск и его команда утверждают, что с тех пор, как он взял на себя управление приложением, разжигание ненависти стало намного реже.

Может ли это быть правдой? Опять же, после восстановления такого количества ранее заблокированных учетных записей, многие из которых были закрыты из-за нарушения правил платформы о разжигании ненависти, кажется, что этот элемент не может быть уменьшен. Так как же тогда Маск и Ко собирают эту статистику — и на какие исследования ссылается BBC в связи с ростом ненавистнического контента?

Во-первых, о внешнем исследовании, которое, как сообщается, показывает, что разжигание ненависти увеличилось. Как упоминалось в интервью BBC, Институт стратегического диалога (ISD) в прошлом месяце опубликовал исследование, в котором говорится, что объем антисемитских твитов увеличился более чем вдвое за трехмесячный период после того, как Маск возглавил приложение.

Это совсем другая диаграмма, чем та, которой поделился Твиттер — так в чем здесь разница и почему данные ISD показывают устойчивый рост, тогда как собственные цифры Твиттера отражают падение?

В некотором смысле можно сказать, что самый большой всплеск на этом графике отражает тот же инцидент, на который указывают данные Twitter, который, как утверждается, представляет собой увеличение атак ботов, направленных на дискредитацию лидерства Маска путем усиления оскорблений в приложении.

Действительно, согласно отчету ISD:

«Мы также выявили всплеск создания новых учетных записей с разжиганием ненависти, что связано с поглощением Маска. В общей сложности в период с 27 октября по 6 ноября было создано 3855 учетных записей, которые опубликовали хотя бы один антисемитский твит. Это более чем в три раза превышает количество потенциально ненавистных учетных записей за аналогичный период до захвата власти».

Это, вероятно, согласуется с обнаружением Twitter ботов, в то время как ISD также отмечает, что Twitter теперь удаляет больше контента:

«Доля антисемитского контента, удаляемого Twitter, по-видимому, увеличилась за период после захвата: 12% антисемитских твитов впоследствии стали недоступны для сбора по сравнению с 6% до захвата. Однако это потенциальное увеличение количества удалений не поспевает за увеличением общего антисемитского контента, в результате чего язык ненависти остается более доступным на платформе, чем до приобретения Маска. ”

Выводы ISD также коррелируют с аналогичными данными Центра противодействия цифровой ненависти , который обнаружил, что оскорбления в адрес чернокожих и трансгендеров значительно подскочили вскоре после того, как Маск возглавил приложение, в то время как активность разжигания ненависти также возросла.

«Среднее количество лайков, ответов и ретвитов постов с оскорблениями составляло 13,3 за несколько недель до Twitter Маска 2.0 . Согласно отчету, с момента поглощения среднее количество обращений к ненавистническому контенту подскочило до 49,5. ”

Но опять же, эти результаты были на ранних стадиях сдвига, что признает Твиттер. Тогда возникает вопрос, изменились ли вещи с тех пор — и как они изменились, если Twitter работает над снижением ограничений на свободу слова?

Данные, опубликованные Twitter, дают некоторый дополнительный контекст. В прошлом месяце Twitter опубликовал новую информацию от Sprinklr, которая проливает больше света на его усилия по обузданию разжигания ненависти и на то, как он подсчитывает свои цифры.

Согласно Твиттеру:

«Sprinklr определяет разжигание ненависти, оценивая оскорбления в нюансах их использования. К этому моменту Твиттер более широко рассматривал потенциальную токсичность использования оскорблений. Для количественной оценки разжигания ненависти Twitter и Sprinklr начинают с 300 наиболее распространенных англоязычных оскорблений. Мы подсчитываем не только то, как часто они пишут в Твиттере, но и то, как часто их видят (впечатления). Наши модели оценивают оскорбительные твиты по «токсичности», вероятности того, что они представляют собой разжигание ненависти».

Согласно этой методологии, большинство случаев использования оскорблений в твитах на самом деле не являются языком ненависти, поскольку определенные термины используются в определенных сообществах таким образом, что для оценки требуется больше нюансов, чем для простого подсчета данных. Термины, используемые в чернокожем сообществе, например, не могут рассматриваться как разжигание ненависти в целом, но будут считаться таковыми, если вы используете отслеживание ключевых слов.

Твиттер утверждает, что его процесс отслеживания учитывает это соображение, в то время как другие этого не делают, и когда использование любой такой терминологии используется ненавистным образом, Твиттер принимает меры, чтобы либо удалить твит, либо ограничить его охват.

«Анализ Sprinklr показал, что разжигание ненависти получает на 67% меньше показов на твит, чем нетоксичные твиты с оскорблениями. Ни одна модель не бывает идеальной, и эта работа никогда не выполняется. Мы продолжим бороться с ненавистническими высказываниями, используя другие языки, новые термины и более точные методологии — и все это при одновременном повышении прозрачности».

По сути, Твиттер говорит, что подсчет всех упоминаний потенциальных оскорблений согласно этим внешним исследованиям не является эффективным средством измерения их воздействия, потому что это не сами упоминания, а контекст, в котором они используются, и, следовательно, охват, который они получают.

Без учета этих соображений в какой-либо оценке она не может быть точной, что объясняет, почему данные Twitter так сильно отличаются от результатов стороннего анализа.

Это верно? Ну, без полных сравнительных данных перед вами трудно сказать, но расширенный процесс оценки имеет смысл, что может означать, что более бинарный анализ таких терминов ошибочен, по крайней мере, в некоторой степени.

Тем не менее, Twitter также грозит миллиардные штрафы в Германии за то, что он не смог своевременно удалить разжигание ненависти в соответствии с местным законодательством, и будет интересно посмотреть, какие именно конкретные примеры приводят немецкие власти в этом случае.

Таким образом, по-видимому, некоторые опасения все еще существуют, но расширенный контекст, на который ссылается Twitter, наряду с его активными усилиями по ограничению разжигания ненависти, имеет определенный смысл.

Мы, без сомнения, со временем получим больше данных об этом, но общая картина представляет собой более детальную картину, чем могут предложить некоторые результаты.