6 рисков ИИ-контента

1. Риск Google

Еще в апреле 2022 года Джон Мюллер из Google высказал довольно четкую позицию в отношении достоверности контента, созданного ИИ:

«В настоящее время все это противоречит правилам для веб-мастеров. Поэтому, с нашей точки зрения, если бы мы столкнулись с чем-то подобным, если бы группа веб-спама увидела это, они бы восприняли это как спам».

Вывод: Google будет наказывать сайты, создающие ИИ-контент, что Мюллер сравнил с «вращением» — процессом взятия существующего контента и использования синонимов и перестановки слов для создания чего-то, казалось бы, нового. Столкнувшись с технологией, которая могла снизить предельные затраты на создание контента почти до нуля (мечта веб-спаммера), Google приняла решение воздержаться от ее использования.

Но, как мы объясняли ранее, идея о том, что Google будет — или даже сможет — наказывать контент, созданный ИИ, была сильно упрощена:

• Контент, созданный ИИ, по большинству показателей является оригинальным. GPT-4 не вращает контент. Контент, созданный ИИ, содержит оригинальные тексты и даже может содержать совершенно новые идеи.
• Обнаружение контента ИИ сложно и становится все труднее. Технологии — это гонка вооружений, и на создание контента уходит больше денег, чем на обнаружение контента. Google вряд ли сможет обнаруживать контент, созданный ИИ, с какой-либо степенью согласованности.
• Существует размытая грань между контентом, отредактированным человеком, и контентом, написанным ИИ. Будет ли статья, созданная искусственным интеллектом, считаться спамом, если она отредактирована или переписана реальным человеком?

Десять месяцев спустя, в феврале 2023 года, Google выпустил обновленное руководство по контенту, созданному искусственным интеллектом. Стоит прочитать исходную статью и сделать собственное резюме, но мой вывод ясен: стремитесь создавать полезный, решающий проблемы контент, и Google будет в значительной степени неоднозначно относиться к тому, как он создается. Как они резюмируют:

«Автоматизация уже давно используется в издательском деле для создания полезного контента. ИИ может помогать и создавать полезный контент новыми захватывающими способами».

Когда я болтал о ИИ-контенте с Таем Магнином, главой бренда Vendr, он поделился: «Когда мы только начинали (это было всего несколько месяцев назад), Google говорил, что будет наказывать статьи, написанные с ИИ. Большинство из нас назвали их блефом, но в 2022 году это был реальный потенциальный риск. Удивительно, как быстро меняется предполагаемый профиль риска гене-ИИ».

Никто не может гарантировать, что любое действие будет застраховано от наказания — Google, в конце концов, компания , а не утилита, способная принимать решения, основанные в основном на собственных прихотях. Но есть веские основания полагать, что большинство случаев использования будут безопасными.

2. Риск канала

Что касается темы SEO, стоит рассмотреть еще один аспект. Вместо того, чтобы думать о риске, который Google представляет для вашего использования ИИ, стоит подумать о риске, который ИИ представляет для Google.

Конкуренция за ключевые слова растет с каждым днем. Отдача от SEO давно падала, и вполне возможно, что генеративный ИИ может ускорить это падение. Сопоставьте значительный всплеск создания контента с помощью ИИ с растущим скептицизмом в отношении легитимности онлайн-контента, и отдача от поиска может упасть еще больше (то, что мы назвали «сингулярностью поиска»).

Есть много способов, которые могут произойти:

Этот риск является спекулятивным, но стоит сохранять непредвзятость. Генеративный ИИ может стать переломным моментом для современного поиска. Что бы вы сделали, если бы поисковая оптимизация — смысл многих контент-стратегий — вдруг потребовала бы гораздо больше усилий или предложила бы гораздо меньшую отдачу? Куда бы вы перераспределили свои расходы? Об этом Тай уже думает:

«Поисковые системы экспериментируют с использованием чата в качестве основного взаимодействия, что означает, что меньше кликов будет переходить на другие веб-сайты. Таким образом, создание органического контента, ориентированного на поиск, может стать менее ценным для бизнеса.

Непонятно, как чат может ссылаться на свои источники и как это может повлиять на маркетинговую воронку».

3. Риск галлюцинаций

При использовании генеративного ИИ существует реальный риск того, что ваш контент будет приправлен ложью и вымыслом: вымышленными цитатами, приписываемыми реальным людям, данными, которых не существует, кажущимися здравыми идеями, которые разваливаются при ближайшем рассмотрении.

Эти ошибки (часто называемые «галлюцинациями») являются неотъемлемым свойством генеративного ИИ, следствием его основной задачи: предсказать следующее лучшее слово в любой заданной последовательности слов. Как мы объясняли ранее, генеративный ИИ — это машина ложной уверенности:

• В GPT-3 или GPT-4 нет механизма проверки фактов (и вряд ли он будет).
• Эти модели опираются на исходные данные, которые часто неверны.
• Генеративный ИИ предназначен для записи любой ценой, выкачивания контента, даже если в наборе данных мало данных.

Галлюцинации — это самый конкретный риск контента с искусственным интеллектом, но он также наиболее легко решается. Ошибки и ошибки можно обнаружить и исправить, подключив к процессу человека, которому поручено проанализировать достоверность вывода, найти ошибки и ложь и поставить печать одобрения на готовую статью.

Этот процесс также помогает со следующим источником риска: юридическим.

4. Юридический риск

Технологии имеют тенденцию развиваться быстрее, чем за ними успевают правила. Генеративный ИИ уже создал множество вопросов, на которые нужно ответить:

• Этично ли (или законно) использовать данные с веб-сайтов для обучения модели ИИ?
• Кто на самом деле «владеет» результатами генеративного инструмента искусственного интеллекта?
• Должны ли художники получать компенсацию за их роль в создании обучающих данных? («Пиши в стиле Эрнеста Хемингуэя» или даже «Пиши в стиле блога Animalz».)

Хотя на решение некоторых из этих проблем могут уйти годы или десятилетия, другие вызывают немедленную озабоченность у компаний, использующих генеративный ИИ. Я попросил Александра Горанина, специалиста по вопросам интеллектуальной собственности и искусственного интеллекта и партнера Duane Morris LLP (фирма, которую Animalz использует для юридических услуг), поделиться своими мыслями о текущих областях регуляторного риска:

• Утечка личных данных. Поскольку генеративные модели обучаются на общедоступных наборах данных, сгенерированный контент может непреднамеренно «утечь» личные данные, открывая издателя для принудительных мер со стороны Федеральной торговой комиссии и государственных агентств, особенно в Калифорнии, Нью-Йорке и Иллинойсе. Регулирующие органы чувствительны к несанкционированному раскрытию информации, позволяющей установить личность.
• Предвзятое содержание. Аналогичным образом Федеральная торговая комиссия или государственные органы могут предпринять принудительные действия в отношении контента, содержащего предвзятость (например, расовую или гендерную предвзятость), даже если эта предвзятость неявно возникает из данных, на которых обучалась модель ИИ.
• Отсутствие защиты авторских прав. Как поясняет Александр, «существует риск того, что Бюро регистрации авторских прав не зарегистрирует созданный контент как защищенное «произведение». Это область, в которой Бюро регистрации авторских прав в настоящее время выпустило наибольшее количество рекомендаций — по сути, в заявке на регистрацию необходимо раскрыть степень использования ИИ и отказаться от авторских прав на любые части, в значительной степени созданные LLM. Бюро регистрации авторских прав требуется «автор-человек».

Неудивительно, что самый безопасный вариант использования генеративного ИИ — это фоновые исследования, мозговой штурм и генерация идей. Во всем остальном создание схемы «проверки человеком» для сгенерированного контента должно помочь снизить наибольший регуляторный риск.

5. Посредственный риск

Многие люди беспокоятся, что ИИ-контент будет откровенно плохим. Но я думаю, что это относительно низкий риск. GPT-4 пишет лучше, чем большинство людей: более ясно формулирует, креативен и восприимчив к обратной связи (и это будет только улучшаться с будущими моделями и интерфейсами).

Мы не должны принимать это на свой счет: GPT-4 буквально сверхчеловеческий, по крайней мере, в измерениях чтения и записи. Как делится Тай: «Было совершенно очевидно, что технология достаточно хороша, чтобы с небольшим подъемом качество не больше беспокоило пост с помощью ИИ, чем пост, управляемый человеком».

Но содержание не должно быть плохим, чтобы быть проблематичным. Есть более коварный риск, который следует учитывать: ваш контент будет функциональным, но легко забываемым.

В погоне за увеличением частоты публикаций есть риск потерять ту мерцающую уникальность, которой в настоящее время обладает ваш контент. Ваш контент будет четким, точным, даже действенным… и все равно не принесет ничего полезного для вашей компании.

Хороший контент-маркетинг — это больше, чем просто слова на странице. Каждая отдельная статья требует согласованности с более крупной и целенаправленной стратегией. Он основан на эффективном распределении. Он должен идти дальше, чем просто соответствовать основным ожиданиям читателя: он должен оставить неизгладимое впечатление, решить проблему или развлечь .

Слишком много полагаясь на генеративный ИИ и слишком мало на квалифицированный опыт, вы рискуете создать своего рода бездушную имитацию хорошего контента, шатающегося зомби с видом «контент-маркетинга», но без его полезных качеств. Генеративный ИИ должен быть инструментом в вашем наборе инструментов, подчиненным вашей стратегии, а не самоцелью.

Как пишет венчурный капиталист Томаш Тунгуз: «Вопрос для стартапов, оценивающих автоматизированное производство контента: достаточно ли этого, чтобы выделиться в сознании покупателей. Для многих случаев использования уникальность не имеет значения. Документация по продукту, вечнозеленый контент для SEO, готовые ответы для электронной почты». Верно и обратное: в некоторых ситуациях уникальность — это все.

6. Риск последнего хода

Когда Тай развернул программу контента с помощью ИИ, он услышал, что больше всего беспокоит не юридический риск или низкое качество; это была озабоченность тем, что величайшая возможность уже упущена:

«Некоторые люди думали, что уже слишком поздно увеличивать объем контента, который мы производим, и что рынок будет насыщен в течение нескольких месяцев.

Но я думаю, что люди переоценивают скорость внедрения технологий. Я думаю, что люди все еще осознают, на что способен контент, созданный ИИ».

Как и любая новая технология, генеративный ИИ предполагает неопределенность и некоторую степень риска, но с риском приходят возможности. Возможность построить защищенный ров рейтинга и обратных ссылок перед вашими конкурентами. Возможность экспериментировать с совершенно новыми каналами трафика. Возможность внедрить персонализацию в сердце вашего маркетинга.

Когда дело доходит до содержания ИИ, самый явный и верный риск связан с неспособностью экспериментировать и учиться. Генеративный ИИ найдет свое применение в каждой маркетинговой стратегии. Это слишком хорошо и слишком дешево для чего-либо еще. Хотя «правильное» применение генеративного ИИ будет сильно различаться от компании к компании — учитывая толерантность к риску, ожидания аудитории, цели, ресурсы и личные убеждения — почти в каждой компании найдется применение.

Пора искать.