Сохраняйте бдительность: обнаружение дезинформации в мире ИИ

В первый раз, когда вы использовали ChatGPT, вы, вероятно, думали, что новые роботы-повелители захватят мир. С тех пор, как он был представлен, мы знаем, что машины могут учиться, думать и принимать собственные решения.

Но, вероятно, это не так уж и плохо, поскольку Терминатор еще не вернулся во времени. В фильме Скайнет вызывает ядерную катастрофу. На самом деле мировые лидеры могут попасть под влияние дезинформации и спровоцировать ядерную катастрофу. Потенциал ущерба от манипулируемых алгоритмов, манипулируемых данных, преувеличенных заявлений или просто лжи безграничен.

Жизнь станет похожа на кривую из зеркал. Правда будет иметь изгибы и повороты, и каждый будет не уверен, какой реальности верить. Многие новостные сайты используют инструменты искусственного интеллекта, такие как ChatGPT, для создания контента и высокого рейтинга в Google. Стили неотличимы от человеческих, за исключением ситуации, когда сам текст содержит такие предложения, как: «Я не могу выполнить это приглашение», «в качестве языковой модели ИИ» или «Моя крайняя дата — сентябрь 2021 года».

Обнаружение дезинформации не будет легкой прогулкой. Это хитро. Это замаскировано под кричащие заголовки. Отличным примером является история ареста Трампа с фейковыми фотографиями. Требуется скептицизм и острый глаз, чтобы обнаружить дезинформацию в мире ИИ. Вот как вы можете это сделать.

Будьте осторожны при использовании ИИ

Причина, по которой ChatGPT является самым быстрорастущим продуктом с 1 миллионом пользователей, заключается в том, что он действительно повышает производительность. До того, как он был введен, всем приходилось проводить исследования вручную. Вы вводите вопрос в Google и получаете множество результатов. На основе иерархии доверия вы выбираете веб-сайты, которым доверяете. Google ранжирует страницы уже 25 лет, используя десятки факторов, чтобы определить, что вам показать.

Теперь процесс изменился. Вы задаете ChatGPT вопрос, и он дает вам ответ в течение нескольких секунд. Но вместо того, чтобы искать в Интернете лучший контент, он просто предсказывает вероятные сочетания слов. Это вызывает дезинформацию со стороны ИИ. В «Социальной дилемме» инженеры-компьютерщики демонстрируют влияние социальных сетей на управление миром. Даже если мнение может измениться на один процент за достаточно длительный период времени, это может иметь огромный эффект. В конце концов, социальные сети станут полем битвы для дезинформации, создаваемой ИИ. Вот почему так важно оставаться на ногах в этом новом ландшафте.

По теме: Искусственный интеллект в PR и маркетинге: будущие тенденции, которые могут повысить эффективность ваших кампаний по связям с общественностью.

Преднамеренная дезинформация

Хакеры и мошенники потирали руки, когда OpenAI выпустила ChatGPT. Наконец, у них появился инструмент для создания историй, изображений и видео. Киберпреступность быстро растет, тем более что вы можете попросить алгоритм написать на определенную тему в стиле дезинформации. Он может генерировать поддельные данные, несуществующие цитаты и убедительные истории, чтобы заставить вас поверить во что угодно.

Многие видные специалисты в этой области уволились с работы, чтобы забить тревогу, что человечеству необходимо остановить дальнейшее развитие этой технологии, прежде чем мы научимся ее контролировать. Невозможно помешать злоумышленникам использовать его в злых целях. Создавать фишинговые атаки, неверную информацию и преднамеренную дезинформацию опасно легко.

Сфабрикованные источники

Когда вы читаете статью, просмотр списка источников делает ее более достоверной. Что ж, ChatGPT известен тем, что выдумывает исходники. Конечно, он может генерировать правильные, но это не значит, что он не посыпает списки несколькими фальшивыми. Самое дикое в этом то, что сгенерированные цитаты правдоподобны. Они похожи на хорошо известные журналы и являются соавторами с большой репутацией. Если вы не потратите время на проверку источников, легко попасть в ловушку.

Другой часто встречающийся сценарий — противоречивые ответы на один и тот же вопрос. На просьбу разъяснить различия в ответах ChatGPT отвечает: «Иногда я делаю ошибки». Поскольку ответы сильно различаются, вы можете столкнуться с правдой или ложью.

Улучшите проверку фактов!

Не доверяйте ничему в Интернете, не проведя собственное исследование. Традиционные поисковые системы существуют уже давно. Google по-прежнему остается лучшим местом для проверки достоверности информации. Но возникает новая проблема, когда вы проводите много времени в социальных сетях. Большинство людей тратят слишком много времени на Tik Tok, Reels или YouTube. Вы видите людей, изображающих из себя экспертов, создающих контент по определенной теме или событию. В нашей природе доверять другим людям.

Иногда вы видите минутное видео на деликатную тему, и ему трудно доверять. Затем вы видите еще несколько. Не задумываясь, вы формируете мнение на основе того, что алгоритм решил вам показать. Даже если вы знаете, что смотрите эти видео исключительно для развлечения, они могут повлиять на ваше мнение.

Будьте бдительны

В будущем, вероятно, появятся ИИ-проверщики фактов (например, текстовых генераторов было недостаточно). Но прежде чем это время придет, мы должны сами проделать тяжелую работу. Быть бдительным крайне важно. Ваш друг может отправить вам короткое видео о проблеме, с которой вы столкнулись.

Вместо того, чтобы доверять всему, что вы видите в Интернете, лучше определить и оценить источники информации. Это чрезвычайно важно для таких тем, как изменение климата, вакцины или серьезные заболевания. Не существует волшебного продукта или комбинации трав, которые лечили бы рак. Изменение климата невозможно обратить вспять за один день. А бороться с болезнями без вакцин невозможно. Земля не плоская. Эти темы требуют, чтобы вы были преднамеренно вдумчивыми. Потратьте время на проверку источников и проведите реальное исследование.

См. также: Как искусственный интеллект меняет разработку программного обеспечения?

Использовать инструменты

Еще в 2016 году выборы в США прославились фейковым русским контентом, наполненным грамматическими ошибками. При наличии искусственного интеллекта и конфликте в Украине вероятность новой попытки создания фейковых новостей огромна. Зато теперь не будет ни грамматических ошибок, ни стилистических дефектов.

Злоумышленники могут создавать и перепрофилировать еще больше контента для всех платформ социальных сетей. Поддельными просмотрами, комментариями и лайками легко манипулировать. Добавьте к этому несколько откровенных фальсификаций лидеров, говорящих то, что им не положено, и вы сможете убедить общественность поверить во что угодно.

Цифровые подписи могут помочь в определении того, является ли онлайн-контент созданным человеком. Инструменты искусственного интеллекта с водяными знаками, такие как ChatGPT, — еще один вариант. Но разработка этих решений требует времени. На данный момент самый простой способ не стать мишенью — использовать VPN.

Виртуальные частные сети делают вас приватными в сети, из-за чего маркетологи, правительства или злоумышленники не могут узнать ваши демографические данные. Вы не будете получать файлы cookie с веб-сайтов, что означает отсутствие целевой рекламы или поддельных новостей.

Кроме того, вы можете изменить свое местоположение на любое место в мире. Вместо того, чтобы быть в эпицентре информационной войны, вы можете сменить свой IP на другой. VPN также защищают вас от хакеров, шифруя ваши данные.

Этот инструмент подобен волшебству, потому что вы можете отказаться от ценовой дискриминации. Вещи, которые стоят гораздо больше денег в Соединенных Штатах, стоят меньше в странах с более слабой экономикой. Вы можете изменить свое местоположение и купить цифровой продукт за полцены одним нажатием кнопки. Использование VPN для получения более дешевых авиабилетов и отелей тоже здорово, потому что вы можете притвориться местным жителем.

Сообщите окружающим

Когда кто-то формирует твердое мнение, его почти невозможно изменить. Если вы когда-нибудь спорили с конспирологом, то, наверное, знаете, как это тяжело. В условиях эпидемии фейковых новостей, бушующих у нас под ногами, каждому важно повышать свою цифровую грамотность. Подростки, учителя, родители и специалисты во всем мире должны помогать. В Интернете есть инструменты для поддержки цифровой грамотности, но этого недостаточно.

Необходимо повышать осведомленность о проблеме и о конкретных шагах, которые необходимо предпринять для проверки информации. Даже если вы не используете ChatGPT или подобные инструменты, вы, вероятно, сталкивались с чем-то, что он сгенерировал. Изучение информации требует времени и усилий, и каждому из нас решать, стоит ли оно того.

Связанный: Будущее VoIP-коммуникаций: как искусственный интеллект революционизирует способы нашего подключения.

Несколько заключительных слов

Дикое царство ИИ наполнено дезинформацией. Но если вы будете следовать истине, это будет похоже на обладание сверхдержавой в цифровом мире, полном лжи. Дезинформация существует уже тысячи лет, но теперь она адаптирована и развита для современной эпохи ИИ. Очень важно сохранять бдительность в эпоху дезинформации.

Всякий раз, когда вы видите заголовок, который звучит слишком хорошо или слишком абсурдно, чтобы быть точным, остановитесь на секунду. Наденьте шапку критического мышления, будьте любопытны, дважды проверяйте источники и постарайтесь использовать немного здорового скептицизма.

ИИ может быть силой добра, если его правильно использовать, но нет способа помешать злоумышленникам использовать его в личных целях. Распространяйте информацию среди самых близких вам людей, и это может создать волновой эффект, когда каждый станет лучше распознавать фальшивые новости и дезинформацию, созданную ИИ.