CALM от Google — решение для OpenAI?

Новая функция Google может произвести революцию в области больших языковых моделей (LLM). Передовая технология под названием CALM — уверенное адаптивное языковое моделирование — предназначена для ускорения LLM, таких как GPT-3 и LaMDA, без ущерба для уровня производительности.

Что такое СПОКОЙСТВИЕ?

CALM — это передовая технология языковой модели, разработанная Google для улучшения способности своей поисковой системы понимать и интерпретировать запросы на естественном языке. Это означает непрерывную адаптацию для языковой модели, что, по сути, означает, что технология постоянно учится и адаптируется для повышения своей производительности.

Google уже много лет использует технологию языковых моделей, но CALM — это значительный шаг вперед, поскольку он построен на архитектуре нейронной сети, которая позволяет ему более эффективно обрабатывать запросы на естественном языке. CALM использует модель на основе преобразователя, которая может анализировать и понимать контекст запроса, что делает его более способным решать, какие задачи требуют больше усилий. Подобно тому, как человеческий мозг делегирует энергию, чтобы мы не тратили столько же усилий на добавление сливок в наш кофе, сколько на написание электронной почты для всей компании, CALM успокаивает языковые модели ИИ.

Вообще говоря, LLM обучаются на огромных объемах текстовых данных, чтобы изучать шаблоны и отношения сущностей в языке. Например, первоначальная версия GPT была обучена в 2018 году на BookCorpus, состоящем из 985 миллионов слов. В том же году BERT прошел обучение на сочетании BookCorpus и английской Википедии, всего 3,3 миллиарда слов.

Более поздние LLM, такие как GPT-3, были обучены на еще больших наборах данных. GPT-3 имеет более 175 миллиардов параметров и был обучен примерно на 45 ТБ текста. Обучающие данные, используемые для GPT-3, публично не разглашаются, но считается, что они включают в себя различные источники, такие как книги, статьи и веб-сайты.

Теперь представьте все эти данные в библиотеке. Вы сидите один в библиотеке, и вдруг в дверь начинают ходить люди с вопросами. «Расскажи мне об истории Южной Америки». «Какое безмолочное молоко лучше для меня?» «Какую пользу может принести моему бизнесу использование маркетинга влияния?» «Напишите мне 10 вариантов текста для соцсетей» «Выступите в роли журналиста и напишите мне текст о надвигающейся рецессии». Вы бы тоже были немного ошеломлены, верно? Вы понятия не имеете, как расставить приоритеты в этих запросах, и вам приходится просеивать миллионы фрагментов данных, чтобы найти правильный ответ, который можно представить спрашивающему.

Это то, что LLM делают каждый раз, когда мы просим их что-то сгенерировать, и почему в течение дня могут быть моменты, когда платформа просит вас вернуться позже из-за большого трафика. Но если бы у LLM был способ более эффективно просеивать данные — чтобы знать, какие части каждого запроса должны быть приоритетными, что требует «полных усилий» по сравнению с «частичными усилиями», — они могли бы быть более эффективными.

В научной статье о CALM говорится так:

«Недавние достижения в больших языковых моделях (LLM) на основе Transformer привели к значительному повышению производительности во многих задачах.

Эти преимущества связаны с резким увеличением размера моделей, что может привести к медленному и дорогостоящему использованию во время вывода.

На практике, однако, серия поколений, созданных LLM, состоит из различных уровней сложности.

В то время как некоторые прогнозы действительно выигрывают от полной мощности моделей, другие продолжения более тривиальны и могут быть решены с меньшим объемом вычислений.

…Хотя большие модели в целом работают лучше, может не потребоваться одинаковый объем вычислений для каждого ввода для достижения одинаковой производительности (например, в зависимости от того, является ли ввод простым или сложным)».

Красный = Полная емкость/Зеленый = Менее половины емкости

Изображение выше показывает эту идею в действии. Исследователи писали:

«Цвета представляют количество слоев декодирования, используемых для каждого маркера — светло-зеленые оттенки указывают менее чем на половину от общего числа слоев. Только несколько выбранных токенов используют полную мощность модели (обозначены красным), в то время как для большинства токенов модель выходит после одного или нескольких слоев декодирования (обозначены зеленым цветом)».

Исследователи также отметили в своем заключении, что внедрение CALM в LLM требует лишь минимальных изменений, чтобы помочь языковой модели увеличить скорость. По сути, это позволяет LLM обучаться быстрее и эффективнее, а это означает, что они могут обрабатывать больше информации и получать более точные результаты за меньшее время.

Это имеет очевидные последствия для предприятий в любой отрасли, поскольку это означает, что они могут собирать информацию и принимать решения быстрее и с большей точностью. Но что все это значит для маркетологов B2B?

Значение CALM для маркетологов B2B

Контент-маркетинг

Функция CALM может оказать значительное влияние на стратегии контент-маркетинга B2B, поскольку она может помочь маркетологам создавать более точный и актуальный контент на основе данных и идей в реальном времени. Имея доступ к большему количеству более качественных данных, LLM могут помочь маркетологам быстрее выявлять новые тенденции и возможности, что позволит им быстрее реагировать и опережать конкурентов. Это может быть особенно важно в отраслях, которые быстро развиваются или сталкиваются с проблемами.

Взаимодействие с клиентами и персонализация

Маркетологи B2B могут улучшить стратегии привлечения клиентов, предоставляя персонализированный контент, который находит отклик у их целевой аудитории. LLM могут помочь определить модели поведения и предпочтений клиентов, позволяя маркетологам более эффективно адаптировать свои сообщения и контент. Это может быть особенно важно в отраслях со сложными или техническими продуктами, где целенаправленный обмен сообщениями может иметь большое значение. Маркетологи также могут использовать эту технологию для улучшения обслуживания клиентов, предоставляя точные и актуальные ответы на запросы клиентов.

Перевод

Технология CALM может повысить точность и эффективность инструментов автоматизированного перевода, что может оказаться неоценимым для компаний B2B, работающих на мировых рынках. Повышая точность перевода, CALM может позволить компаниям B2B более эффективно общаться со своими международными клиентами и партнерами.

Конечно, CALM — это лишь часть головоломки, когда речь идет о маркетинге B2B. Для маркетологов важно быть в курсе всех последних событий в своей области, от изменения поведения потребителей до новых маркетинговых каналов и маркетинговых тактик. Если вам нужна помощь в освоении этих последних разработок ИИ в вашей маркетинговой стратегии, свяжитесь с нами.