화면 뒤: 소셜 미디어를 실행하는 알고리즘과 봇

왜 특정 게시물은 피드에 표시되고 다른 게시물은 전혀 표시되지 않는지 궁금한 적이 있습니까? 아니면 당신의 댓글 섹션을 스팸하는 무작위 봇 팔로어가 누구인가요? 오늘날 소셜 미디어는 점점 더 자동화되고, 알고리즘적이며, 음...엉터리처럼 느껴지고 있습니다.

우리가 매일 몇 시간씩 스크롤하는 웹사이트는 중립적인 플랫폼과는 거리가 멀습니다. 화면 뒤에는 콘텐츠를 선별하고 사용자의 참여를 유도하도록 설계된 복잡한 기술 인프라가 있습니다.

우리 중 많은 사람들이 온라인에서 보는 내용을 계산하는 프로그래밍된 공식인 알고리즘의 개념에 익숙합니다. 하지만 이러한 알고리즘은 정확히 어떻게 작동합니까? 그리고 반복적인 작업을 실행하도록 설계된 자동화된 소프트웨어 애플리케이션인 봇이 소셜 미디어 생태계에 어떻게 침투했습니까? 이러한 기술의 목표와 영향은 광범위하지만 투명성이 거의 없습니다.

이 글에서는 소셜 미디어 화면 이면의 내부 작동 방식을 살펴보겠습니다. 알고리즘과 봇이 귀하가 받는 정보에 어떻게 영향을 미치고 심지어 귀하의 의견과 행동을 조작하는지 배우게 됩니다.

또한 잘못된 봇에 대한 사례 연구에 대해 알아보고 책임감을 높이기 위한 아이디어를 탐구할 것입니다. 우리가 알고 매일 사용하는 소셜 웹에서 실제로 무슨 일이 일어나고 있는지 조사해 볼 시간입니다. 이야기는 생각보다 복잡합니다.

TLDR; 소셜 미디어를 실행하는 알고리즘과 봇

• 알고리즘은 양질의 담론이 아닌 참여를 극대화하기 위해 소셜 미디어 피드를 관리합니다.
• 스팸봇 및 정치 봇과 같은 봇은 플랫폼에 잘못된 정보와 선전을 퍼뜨립니다.
• 알고리즘은 반향실을 생성할 수 있습니다. 가짜 뉴스와 사이버 범죄를 조장하는 봇
• 소셜 플랫폼은 알고리즘에 대한 감독과 투명성이 부족합니다.
• 사용자는 소셜 플랫폼에 투명성과 책임성을 요구해야 합니다.

소셜 미디어 알고리즘의 부상

알고리즘은 특정 작업과 목표를 달성하기 위해 프로그래밍된 일련의 지침 또는 계산입니다. 소셜 미디어 플랫폼에서 알고리즘은 엄청난 양의 사용자 데이터를 분석한 다음 사용자 피드의 콘텐츠를 선별하고 추천합니다. 목표는 사람들이 현재 참여할 가능성이 가장 높은 게시물을 보여주는 것입니다.

Facebook은 2006년에 알고리즘을 기반으로 한 개인화된 뉴스피드 아이디어를 개척했습니다. 이전에는 게시물이 단순히 시간순으로 표시되었습니다. Facebook은 "의미 있는 콘텐츠", 즉 가장 많은 좋아요, 댓글, 공유를 얻을 수 있는 게시물을 최적화하기를 원했습니다. Twitter, Instagram, TikTok과 같은 다른 플랫폼도 결국 알고리즘 피드를 채택했습니다.

이러한 알고리즘은 연결, 관심사, 과거 활동 및 장치 유형을 포함하여 각 사용자에 대한 수백 가지 신호를 고려합니다. 그들은 새로운 데이터를 기반으로 끊임없이 학습하고 업데이트하고 있습니다. 추천 알고리즘은 또한 사용자가 이미 참여하고 있는 것과의 유사성을 기반으로 팔로우할 계정이나 볼 콘텐츠를 제안합니다. 최종 목표는 광고 수익을 극대화하는 것이므로 알고리즘은 사용자가 끝없이 스크롤하도록 하는 게시물과 광고에 대해서도 최적화됩니다.

소셜 플랫폼의 봇 환경

소셜 미디어 봇은 자동으로 콘텐츠를 생성하고 종종 인간 계정으로 가장하여 실제 사용자와 상호 작용하는 소프트웨어 프로그램입니다. 스팸봇은 스팸, 광고 또는 악성 코드를 자동으로 확산시킵니다. 챗봇에는 AI 대화가 있습니다. 2016년 미국 선거에서 볼 수 있듯이 정치 봇은 선전과 잘못된 정보를 퍼뜨립니다.

소셜 플랫폼이 확장됨에 따라 봇도 빠르게 확산되었습니다. 한 연구에서는 트위터 계정의 9~15%가 봇일 수 있다고 추정했습니다. Facebook에서는 2021년 말을 기준으로 중복 및 가짜 계정이 전 세계 월간 활성 사용자의 약 11%를 차지하는 것으로 추정됩니다.

그러나 봇 탐지는 어렵습니다. AI를 사용하여 온라인에서 인간의 행동 패턴을 모방하는 봇이 더욱 발전하고 있습니다. 그들의 목표는 여론을 조작하거나 탐지를 피하면서 담론에 부정적인 영향을 미치는 것입니다.

알고리즘과 봇의 영향

알고리즘과 봇은 소셜 미디어 사용자에게 몇 가지 이점을 제공했습니다. 알고리즘 큐레이션은 개인의 관심사에 맞게 피드를 개인화하여 관련 없는 콘텐츠에 대한 시간을 절약합니다. 챗봇은 유용한 자동화된 고객 서비스를 제공할 수 있습니다.

그러나 과도한 알고리즘 큐레이션은 사람들이 같은 생각을 가진 관점만 보기 때문에 반향실과 양극화를 초래하기도 했습니다. 전 세계 선거에서 볼 수 있듯이 봇은 빠른 규모로 잘못된 정보를 퍼뜨리고 사실을 감추고 공개 담론을 조작하는 데 사용되었습니다.

아마도 가장 우려스러운 점은 이러한 기술에 대한 감독과 투명성이 부족하다는 것입니다. 소셜 플랫폼은 알고리즘의 작동 방식과 사용자가 보는 콘텐츠에 어떤 영향을 미치는지에 대한 가시성을 거의 제공하지 않습니다. 또한 그들은 정교한 봇을 탐지하는 데 어려움을 겪고 있으며, 무활동으로 인해 발생하는 유해한 조작을 억제하기 위해 거의 노력하지 않습니다.

봇이 잘못됨에 대한 사례 연구

2016년 마이크로소프트는 일상적인 대화를 통해 사용자의 참여를 유도하기 위해 트위터에 AI 챗봇 Tay를 출시했습니다. 그러나 인터넷 트롤들은 Tay가 인종차별적 언어를 사용하고 공격적인 견해를 퍼뜨리도록 훈련시킬 수 있다는 것을 발견했습니다. 24시간 이내에 Tay는 폐쇄되어야 했습니다.

2016년 미국 대통령 선거 기간 동안 러시아 관련 봇은 Facebook, Twitter 및 기타 플랫폼에서 1억 명 이상의 미국인에게 전파되는 선전을 생성했습니다. 이는 사회적, 정치적 갈등을 심는 것을 목표로 삼았습니다.

스팸봇은 가짜 계정을 통해 정기적으로 소셜 플랫폼에 악성 코드와 악성 링크를 퍼뜨립니다. 2020년 한 연구에서는 100,000개 이상의 트위터 봇이 공동으로 코로나19 허위 정보 및 사이버 범죄 캠페인에 참여하고 있는 것으로 나타났습니다. 이는 사용자에게 큰 위험을 초래합니다.

나쁜 봇과의 지속적인 투쟁

소셜 플랫폼은 기계 학습을 사용하여 높은 트윗 빈도, 중복 콘텐츠, 조정된 동작과 같은 패턴을 기반으로 봇 계정을 감지합니다. 봇일 가능성이 있는 것으로 신고되면 계정은 CAPTCHA 또는 전화 확인을 통해 사람임을 증명해야 할 수 있습니다. 봇 검사에 실패하면 계정이 제거됩니다.

그러나 인공 지능을 활용하는 보다 정교한 봇을 식별하는 것은 여전히 ​​어려운 일입니다. 이러한 봇은 인간과 유사한 게시 일정, 콘텐츠 다양성 및 온라인 상호 작용을 모방합니다. 일부는 플래그가 지정되면 동작을 전환하여 감지를 피합니다. 플랫폼은 진화하는 봇 기능에 맞서 끝없는 고양이와 쥐 게임을 벌입니다.

전문가들은 시간이 지남에 따라 계정 메타데이터, 관계, 언어 패턴을 분석하면 더 나은 탐지가 가능하다고 제안합니다. 콘텐츠의 급속한 바이러스 확산을 늦추면 조직화된 봇 네트워크가 너무 큰 피해를 입히기 전에 영향력을 더 잘 억제할 수도 있습니다.

투명성과 감독 추진

핵심 비즈니스 모델에 알고리즘과 봇이 내장되어 있기 때문에 소셜 플랫폼은 투명성을 유지하거나 의미 있는 감독을 허용할 인센티브가 거의 없습니다. 그러나 옹호 단체에서는 연구자들이 영향을 평가할 수 있는 접근 권한을 제공하는 알고리즘 감사를 요구했습니다.

또한 정부는 투명성, 인간 모니터링 요구 사항, 불공정한 알고리즘 결정에 대한 항소권을 강화하는 규정을 고려하고 있습니다.

사용자는 청원과 해시태그를 통해 우려를 표명하고, 투명성을 지지하는 정치인을 지지하고, 심지어 자신의 활동 패턴을 왜곡하여 알고리즘을 속임으로써 압력을 가하는 데 도움을 줄 수 있습니다. 소셜 플랫폼의 폐쇄적이고 이익 중심적인 문화는 바꾸기 힘들지만 지속적인 대중의 인식과 압력은 알고리즘과 봇에 대한 투명성을 필수로 만들 수 있습니다.

요약: 소셜 미디어를 실행하는 알고리즘과 봇

소셜 미디어의 겉모습은 벗겨졌고, 우리는 이러한 플랫폼을 구동하는 알고리즘과 봇의 복잡한 혼합을 엿볼 수 있었습니다. 우리의 피드는 품질 담론이 아닌 참여와 수익에 최적화된 불투명한 공식으로 선별됩니다. 자동화된 계정은 가짜 인간 신원으로 위장하여 미친 듯이 작동합니다.

이렇게 얼핏 드러난 진실은 우리를 현재 소셜 미디어 상태에 대해 매우 불편하게 만들 것입니다. 우리는 더 이상 중립적인 온라인 마을 광장이라는 기이한 개념에 집착할 수 없습니다. 이익 동기와 확인되지 않은 자동화는 소셜 웹의 잠재력을 약화시켰습니다. 분노는 투명성과 책임에 대한 요구로 바뀌어야 합니다.

우리 사용자들은 숫자에 있어서 힘을 가지고 있습니다. 알고리즘이 당신의 사고에 어떤 영향을 미치는지에 대한 무지를 받아들이지 마십시오. 입법과 직접적인 플랫폼 참여를 통해 변화를 요구합니다. 봇 증폭을 조심하세요. 그리고 실제 사람이든 교활한 AI이든 화면 뒤에 있는 인간을 결코 잊지 마십시오. 우리의 미래 현실은 우리의 인간성을 기억하느냐에 달려 있을지도 모릅니다.