트위터, 아동 학대 자료에 대한 경찰 조사 실패로 인해 광고주 보이콧에 직면

Twitter는 좋지 않고 매우 나쁜 해가 계속되고 있으며 이번 주에 회사는 일부 광고주에게 아동 포르노 및 기타 학대 자료를 요청하는 트윗 과 함께 광고가 앱에 표시되었음을 알려야 했습니다.

로이터가 보도한 바와 같이:

" 월트 디즈니, NBC유니버설, 코카콜라에서 어린이 병원에 이르기까지 다양한 브랜드가 착취 자료에 대한 링크를 유매하는 트위터 계정의 프로필 페이지에 등장한 약 30명의 광고주 중 하나였습니다."

이 발견은 광고 배치 문제를 밝히기 위해 Reuters와 협력하여 앱의 지속적인 비즈니스 전망에 또 다른 큰 타격을 가한 사이버 보안 그룹 Ghost Data에 의해 이루어졌습니다.

Elon Musk 인수가 진행 중인 가운데 이미 혼란 상태에 있고, 데이터 보안 및 기타 조치에 느슨한 전 보안 책임자의 최근 폭로에 따라 Twitter는 이제 Dyson, Mazda 및 Ecolab을 포함한 대형 브랜드와 함께 광고주 이탈에 직면하고 있습니다. 이에 대응하여 트위터 캠페인을 중단합니다.

이것은 실제로 발견에서 가장 우려되는 요소입니다. Ghost Data 보고서는 또한 20일 동안 아동 성적 학대 자료를 공개적으로 공유하거나 요청한 500개 이상의 계정을 식별합니다.

고스트 데이터는 트위터가 연구 기간 동안 계정의 70% 이상을 제거하지 못했다고 말합니다.

이번 조사 결과는 트위터가 잠재적으로 해로운 자료를 다룰 수 없거나 다룰 의지가 없다는 점에 대해 더 많은 의문을 제기하며, 지난달 말 버지(Verge)는 트위터 가 '규모에 따라 아동의 성적 착취와 합의되지 않은 과도한 노출을 정확하게 감지할 수 없다'고 보도했다.

이 발견은 성인 콘텐츠 제작자에게 앱에서 OnlyFans 스타일의 유료 구독 판매를 시작할 수 있는 기능을 제공하려는 Twitter의 제안된 계획에 대한 조사에서 비롯되었습니다.

트위터는 플랫폼에 있는 풍부한 음란물을 다루기보다는 오히려 그것에 기대는 것을 고려했습니다. 이는 의심할 여지 없이 자신의 프로모션이 잠재적으로 공격적인 트윗과 함께 표시되는 것을 원하지 않는 광고주에게 위험 요소를 증가시킬 것입니다.

이 새로운 보고서가 시사하는 것보다 훨씬 더 큰 규모로 일어날 가능성이 있는 일입니다. Twitter의 OnlyFans-esque 제안에 대한 내부 조사에서 다음과 같은 사실이 밝혀졌기 때문입니다.

" 트위터는 회사가 플랫폼에서 유해한 성적인 콘텐츠를 효과적으로 단속하지 않았기 때문에 성인 크리에이터가 구독을 판매하는 것을 안전하게 허용할 수 없었습니다."

다시 말해, Twitter는 앱에서 착취 자료의 수익화를 촉진하는 위험을 감수할 수 없었고, 이를 해결할 방법이 없었기 때문에 실제로 주목을 받기 전에 제안을 폐기해야 했습니다.

이를 염두에 두고 이러한 새로운 발견은 놀라운 일이 아니지만 다시 말하지만 광고주의 반발이 상당할 가능성이 있어 트위터가 어느 쪽이든 새로운 단속을 시작해야 할 수 있습니다.

트위터는 '정책을 작성하고 솔루션을 구현하기 위해 새로운 직위를 고용하는 것을 포함하여' 아동 안전에 전념하는 더 많은 자원을 투자하고 있다고 밝혔습니다.

이제 트위터가 조치를 취하고 있습니다. 그러나 Twitter 자체 조사에 대한 조사를 기반으로 한 이러한 보고서는 Twitter가 이러한 잠재적인 문제를 한동안 인식했음을 보여줍니다. 특히 아동 착취가 아니라 성인 콘텐츠에 대해 단속할 방법이 없다고 우려하고 있습니다.

사실, 트위터는 의도하지 않았지만 성인 콘텐츠의 홍보를 공개적으로 지원합니다. 예를 들어, 내 '탐색' 탭의 'For You' 섹션(예: 앱 탐색의 첫 페이지)에서 Twitter는 내 트윗과 내가 팔로우하는 사람들을 기반으로 주제로 'Facebook'을 팔로우할 것을 지속적으로 추천합니다. 앱에서.

다음은 어제 'Facebook'에 대한 상위 주제 트윗 중 일부로 강조 표시된 트윗입니다.

음란물은 아니지만 이 프로필 중 하나를 탭하면 꽤 빨리 찾을 수 있을 것입니다. 그리고 다시, 이 트윗은 주제 용어를 언급하는 트윗에 대한 참여를 기반으로 하는 Twitter의 자체 주제 트윗 알고리즘을 기반으로 강조 표시됩니다. 완전히 관련이 없고 주제에서 벗어난 트윗은 Twitter 자체에서 성인 콘텐츠에 관심을 표시하지 않은 사용자에게 푸시됩니다.

사용 가능한 모든 증거에 따르면 트위터에는 포르노 문제가 있으며 이를 해결하기 위해 거의 노력하지 않고 있습니다.

성인 콘텐츠 배포자는 Twitter 를 광고를 위한 최고의 소셜 네트워크로 보고 있습니다. Twitter는 Facebook보다 덜 제한적이고 틈새 성인 사이트보다 훨씬 더 광범위한 도달 범위를 가지고 있기 때문입니다. 반면 Twitter는 다른 소셜 플랫폼이 허용하지 않는 호스팅 자료의 사용 및 참여 이점을 얻습니다. .

그것이 그것이 지금 훨씬 더 큰 문제로 강조되고 있는 지점까지 그렇게 오랫동안 그런 것에 기꺼이 눈을 돌리는 이유일 것입니다.

성인 콘텐츠 자체는 최소한 동의한 성인 사용자 사이에서 본질적으로 문제가 되지 않는다는 점에 유의하는 것이 중요합니다. 당면한 실제 문제는 아동 학대 및 착취 콘텐츠에 대한 Twitter의 접근 방식입니다.

그리고 트위터의 시스템은 이런 면에서 '비참하게 부적절하다'고 합니다.

The Verge에서 보고한 대로:

“ 2021년 보고서에 따르면 트위터가 아동 성 착취 자료를 식별하고 제거하는 데 사용하는 프로세스는 비참하게 부적절합니다. 대기업이 PhotoDNA에 의해 표시되지 않은 자료를 잡을 수 있는 자동화 시스템으로 점점 더 눈을 돌리는 시기에 대부분 수동입니다. 보고서에 따르면 Twitter의 주요 시행 소프트웨어는 RedPanda라는 "지원되지 않는 레거시 도구"입니다. 보고서에서 인용한 한 엔지니어는 "RedPanda는 지금까지 우리가 제공하는 도구 중 가장 취약하고 비효율적이며 지원이 부족한 도구 중 하나입니다."라고 말했습니다.

실제로 Twitter의 CSE 탐지 시스템에 대한 추가 분석에 따르면 매월 제출되는 100만 건의 보고서 중 84%에 새로 발견된 자료가 포함되어 있습니다.

따라서 이 경우 회사에 압력을 가하는 것은 광고주이지만 Twitter의 문제는 광고 배치 문제를 넘어서는 문제임이 분명합니다.

그러나 Twitter의 수익을 높이는 것이 플랫폼이 조치를 취하도록 강제하는 유일한 방법일 수 있습니다. 그러나 Twitter가 계속되는 소유권 싸움에서 이러한 문제를 해결하기 위해 얼마나 기꺼이 그리고 능력 있는 계획을 실행할 수 있는지 보는 것은 흥미로울 것입니다.

Elon Musk와의 인수 계약에는 Twitter가 다음을 수행해야 한다는 조항이 있습니다.

"현재 비즈니스 조직의 중요한 구성 요소를 실질적으로 손상되지 않게 보존하기 위해 상업적으로 합당한 노력을 기울입니다."

즉, 트위터는 현재 머스크와 법정 다툼을 벌이고 있는 과도기 단계에서 운영 구조에 큰 변화를 줄 수 없다 .

CSE 탐지 모델에 대한 중요한 업데이트를 시작하면 초기 계약 당시 회사의 운영 구조를 변경할 만큼 충분히 실질적인 변경으로 간주됩니까?

본질적으로 트위터는 큰 변화를 원하지 않을 것입니다. 그러나 더 많은 광고주가 이 새로운 보이콧에 동참하고 회사가 즉각적인 조치를 취하도록 압력을 가하는 경우 더욱 그렇습니다.

어느 쪽이든 엉망이 될 가능성이 큽니다. 그러나 이것은 트위터에 대한 큰 우려이며, 이 점에서 시스템적 실패를 정당하게 설명해야 합니다.