Как G2 подходит к проверке модерации в эпоху генеративного ИИ

Опубликовано: 2023-07-24

Вы не будете винить исследователя за его любовь к компасу.

Инновационные технологии затрудняют ограничение нашего воодушевления. Когда появляется что-то, что оказывает радикальное влияние на то, как мы работаем или взаимодействуем с нашим миром, мы хотим принять это.

Иногда лучше немного передохнуть, чтобы копнуть глубже, даже если нам хочется думать, что какой-то новый инструмент или изобретение — панацея. Не понимая нюансов и последствий, скольжение головой вперед к домашней тарелке может оказаться более рискованным, чем мы думали.

Наступила эпоха генеративного искусственного интеллекта (ИИ). По мере того, как мы приближаемся к этой новой главе истории человечества, начинается гонка за тем, как принять эту новую технологию. В этой статье мы рассмотрим, как генеративный ИИ применяется к обзорам программного обеспечения B2B, и позицию G2 по этому поводу.

Инновации на головокружительных скоростях

Инструменты генеративного ИИ, такие как DALL-E 2 и ChatGPT, впервые попали в заголовки газет в конце 2022 года. Всего за несколько месяцев до 2023 года популярность и интерес к технологии ИИ резко возросли. Поскольку все больше поставщиков программного обеспечения изучают способы интеграции ИИ для создания новых решений, профессионалы из разных отраслей приветствуют это как новый рубеж для бизнеса.

Некоторые утверждают, что генеративный ИИ может увеличить мировой ВВП на 7% к 2030 году. С другой стороны, многие предвидят, как эта технология может повлиять на мировой рынок труда. Каковы будут масштабы, еще неизвестно, но эксперты предполагают, что очень скоро это изменит то, как мы работаем.

Хотя генеративный ИИ известен прежде всего созданием текста и изображений, у него есть потенциал для других вещей, таких как написание кода и помощь в анализе данных. В одной итерации ChatGPT пользователь успешно использовал этот инструмент для создания игровой версии Pong менее чем за 60 секунд.

Генеративный ИИ имеет далеко идущие последствия, независимо от отрасли. Но поскольку эта технология развивается такими быстрыми темпами, она также создает уникальные проблемы и потенциал для злоупотреблений со стороны злоумышленников. Прежде чем устанавливать связь между этой инновационной технологией и политиками и процессами G2, связанными с модерацией отзывов, важно установить контекст генеративного ИИ.

Проблемы захватывающих технологий на ранних этапах

Контент, созданный искусственным интеллектом , в ближайшие годы произведет революцию в создании контента и, вероятно, изменит существующие творческие индустрии. Поскольку эта технология обладает таким потенциалом, существует огромная вероятность широкомасштабного злоупотребления.

Нельзя отрицать, что генеративный ИИ впечатляет. Тем не менее, перед погружением рассмотрите следующие проблемы и риски.

  • Проблемы этики и авторского права. Многие противники контента, созданного ИИ, отмечают связанные с ним этические проблемы. Поскольку эти модели тренируются на существующем контенте, цитирование источников и указание авторства становится сложным. От студентов колледжей, использующих ИИ, до   писать курсовые работы в   «заимствуя» код в больших масштабах, риск плагиата и нарушения авторских прав вполне реален.
  • Качество контента :   Вообще говоря, инструменты генеративного ИИ привлекательны. Но, как вам скажет любой писатель или художник,   они не заменят человеческие рабочие места в ближайшее время. Будущее искусственного интеллекта, скорее всего, будет сочетанием технологий и людей-операторов, но пока не ждите, что эти инструменты заменят вашу творческую команду.
  • Дезинформация и неточности:   Как и в случае с качеством контента, генеративный ИИ мало что может предотвратить.   неточные, ложные или вводящие в заблуждение результаты. Публикация недостоверного контента может нанести ущерб репутации бренда, поэтому крайне важно сохранять бдительность в отношении проверки фактов, созданных искусственным интеллектом.
  • Заученные предубеждения:   Еще один аспект, поднятый критиками контента, созданного ИИ, заключается в том, что в их моделях используется человеческий контент. Аргумент состоит в том, что, поскольку люди имеют неявные и явные предубеждения, эти модели ИИ   изучить эти модели и модели поведения .

Наша позиция в отношении генеративного ИИ и обзоров программного обеспечения

С более чем 2 миллионами отзывов от реальных людей G2 является крупнейшим в мире рынком программного обеспечения B2B. Достижение этой точки потребовало тонны тяжелой работы и самоотверженности от нашей команды. Но это было бы невозможно без уважения силы беспристрастных, достоверных обзоров.

В основе всего этого мы знаем, что люди доверяют опыту других, поэтому мы отдаем предпочтение качеству отзывов, а не их количеству. Покупатели доверяют G2 при исследовании и оценке программного обеспечения, потому что мы делаем все возможное, чтобы гарантировать подлинность, например:

  • Проверка личности каждого пользователя на G2.
  • Использование более 43 точек данных для оценки подлинности.
  • Проверка каждого отзыва с использованием строгих правил.

G2 использует беспристрастный подход к модерированию отзывов. Наша цель — гарантировать, что каждый отзыв является честным мнением об опыте использования продукта рецензентом. Мы также активно отслеживаем шаблоны, указывающие на мошенническое поведение. Когда такие случаи происходят, мы проводим тщательный аудит, удаляем рассматриваемые проверки и принимаем необходимые меры.

Из-за нашей приверженности беспристрастной обратной связи с покупателями обзоры, в которых используется генеративный ИИ для написания большей части контента, не соответствуют правилам сообщества G2 .

Хотя мы по-прежнему твердо уверены, что обзоры должны исходить от реальных людей, единственным исключением является использование помощников по написанию ИИ. Поскольку этот инструмент направлен только на улучшение читабельности, грамматики и правописания, мы приглашаем рецензентов использовать эти инструменты.

Также стоит отметить, что G2 тщательно рассматривает преимущества включения инструментов искусственного интеллекта в процесс подачи отзывов. Подобно тому, как помощники по написанию могут помочь рецензентам, мы постоянно совершенствуем общий процесс отправки.

Как модерация обзора G2 обнаруживает контент, созданный ИИ

Наша команда проводит строгий процесс проверки и аудита всех новых представленных отзывов. Из-за огромного количества отзывов, которые мы собираем каждый день, мы должны использовать продуманное сочетание лучших в своем классе технологий и хорошо обученных членов команды с проницательным взглядом.

4К+

Обзоры, сгенерированные ИИ, G2 отклоняются в месяц, что составляет 5-8% от общего числа ежемесячных обзоров.

G2 использует ведущие сторонние инструменты и сервисы для обнаружения контента, созданного искусственным интеллектом, в отправленных на проверку материалах. Хотя мы не будем раскрывать конкретные используемые технологии, будьте уверены, что мы используем одно из лучших программ на рынке.

Инструменты, которыми располагает G2, представляют собой решения для обнаружения контента корпоративного уровня, которые сканируют и помечают контент, созданный искусственным интеллектом. После пометки этого контента наша штатная команда качественных модераторов проверяет эти экземпляры.

Добрые намерения против плохих актеров

Важно признать, что мы не одобряем и отклоняем заявки, в которых используется генеративный ИИ. Из-за нашей позиции в отношении силы подлинных обзоров мы стремимся отклонять отзывы, когда наши процессы обнаруживают контент, созданный ИИ, независимо от того, было ли это намерение законным или мошенническим.

Помимо использования сторонних инструментов, мы используем внутреннюю модель машинного обучения, которая учится на решении каждого модератора обнаруживать мошеннические отзывы. Эта модель машинного обучения также использует другие данные, такие как история просмотров пользователя, присутствие в социальных сетях, шаблон отправки, действия браузера, IP-адреса, информацию о местоположении и многое другое для обнаружения мошеннических действий.

И хотя обнаружение контента с помощью ИИ и наша модель машинного обучения помогают помечать поддельные отзывы в масштабе, мы также используем специализированный опыт наших модераторов для аудита отзывов, требующих более тщательной оценки. Наша команда умеет выявлять закономерности, обычно связанные с мошенническими действиями, и создавать эффективные методы предотвращения мошенничества.

Закладывая основу для светлого будущего с ИИ

Есть большая вероятность, что в ближайшие годы мир будет выглядеть совсем по-другому из-за стремительного развития технологий генеративного ИИ. Бесчисленным создателям контента и брендам придется адаптировать и освоить эти инструменты, чтобы оставаться конкурентоспособными.

Но столько пользы, сколько может принести эта технология, то же самое можно сказать и о потенциальном вреде, который она может нанести. G2 принимает и признает огромные преимущества генеративного ИИ. Тем не менее, мы по-прежнему считаем, что отзывы заслуживают доверия только тогда, когда они основаны на личном опыте реальных людей.

Поскольку мы верим в силу подлинных отзывов, вы всегда можете рассчитывать на то, что G2 защитит голос клиента.

Найдите подходящее программное обеспечение с возможностями искусственного интеллекта. Откройте для себя новый способ проведения исследований с помощью чат-бота G2 Monty с искусственным интеллектом.