마케팅에서 대규모 언어 모델 사용을 확장하는 방법

생성 AI와 대규모 언어 모델은 우리가 알고 있는 마케팅 산업을 변화시킬 것입니다.

경쟁력을 유지하려면 기술과 그것이 우리의 마케팅 노력에 어떤 영향을 미칠지 이해해야 한다고 TrustInsights.ai의 수석 데이터 과학자인 Christopher Penn이 The MarTech Conference에서 연설하면서 말했습니다.

대규모 언어 모델(LLM) 사용을 확장하는 방법, 신속한 엔지니어링의 가치, 마케터가 미래에 대비할 수 있는 방법을 알아보세요.

대규모 언어 모델의 전제

출시 이후 ChatGPT는 대부분의 산업 분야에서 유행하는 주제였습니다. 모든 사람의 의견을 보지 않고는 온라인에 접속할 수 없습니다. 그러나 그 이면에 있는 기술을 이해하는 사람은 많지 않다고 Penn은 말했습니다.

ChatGPT는 OpenAI의 GPT-3.5 및 GPT-4 LLM을 기반으로 하는 AI 챗봇입니다.

LLM은 1957년 영국 언어학자인 John Rupert Firth가 "당신은 그것이 유지하는 회사에 의해 단어를 알게 될 것입니다."라는 전제를 기반으로 구축되었습니다.

이것은 단어의 의미가 일반적으로 단어 옆에 나타나는 단어를 기반으로 이해할 수 있음을 의미합니다. 간단히 말해서, 단어는 사전적 정의뿐만 아니라 사용되는 문맥에 의해서도 정의됩니다.

이 전제는 자연어 처리를 이해하는 데 핵심입니다.

예를 들어 다음 문장을 보십시오.

• "나는 차를 끓이고 있습니다."
• "차를 쏟고 있어요."

전자는 뜨거운 음료를 의미하고 후자는 험담을 뜻하는 속어입니다. 이 경우 "차"는 매우 다른 의미를 갖습니다.

단어 순서도 중요합니다.

• "나는 차를 끓이고 있습니다."
• “내가 끓이는 차.”

위의 문장들은 “brewing”이라는 같은 동사를 사용하지만 초점이 다른 주제를 가지고 있습니다.

대규모 언어 모델의 작동 방식

아래는 대형 언어 모델이 구축된 아키텍처 모델인 트랜스포머의 시스템 다이어그램입니다.

간단히 말해 변환기는 입력을 받아 다른 것으로 변환(즉, "변환")합니다.

LLM은 창작에 사용될 수 있지만 한 가지를 다른 것으로 바꾸는 데 더 좋습니다.

OpenAI 및 기타 소프트웨어 회사는 수백만 개의 문서, 학술 논문, 뉴스 기사, 제품 리뷰, 포럼 댓글 등을 포함하여 막대한 양의 데이터를 수집하는 것으로 시작합니다.

"I'm brewing the tea"라는 문구가 이러한 모든 섭취 텍스트에 얼마나 자주 나타날 수 있는지 고려하십시오.

위의 Amazon 제품 리뷰 및 Reddit 댓글은 몇 가지 예입니다.

이 문구가 유지하는 "the company"에 주목하십시오. 즉, "I'm brewing the tea" 근처에 나타나는 모든 단어입니다.

"맛", "냄새", "커피", "아로마" 등은 모두 이러한 LLM에 컨텍스트를 제공합니다.

기계는 읽을 수 없습니다. 따라서 이 모든 텍스트를 처리하기 위해 트랜스포머 아키텍처의 첫 번째 단계인 임베딩을 사용합니다.

임베딩을 통해 모델은 각 단어에 숫자 값을 할당할 수 있으며 해당 숫자 값은 텍스트 말뭉치에서 반복적으로 발생합니다.

단어 위치도 이러한 모델에 중요합니다.

위의 예에서 숫자 값은 동일하게 유지되지만 순서는 다릅니다. 이것은 위치 인코딩입니다.

간단히 말해서 대규모 언어 모델은 다음과 같이 작동합니다.

• 기계는 텍스트 데이터를 사용합니다.
• 모든 단어에 숫자 값을 할당합니다.
• 다른 단어 사이의 통계적 빈도와 분포를 살펴보십시오.
• 시퀀스의 다음 단어가 무엇인지 알아내십시오.

이 모든 작업에는 상당한 컴퓨팅 성능, 시간 및 리소스가 필요합니다.

마테크를 잡아라! 일일. 무료. 받은편지함에서

비즈니스 이메일 주소

구독하다 처리 중...

용어를 참조하십시오.

신속한 엔지니어링: 반드시 배워야 하는 기술

LLM에 더 많은 컨텍스트와 지침을 제공할수록 더 나은 결과를 반환할 가능성이 높아집니다. 이것이 신속한 엔지니어링의 가치입니다.

Penn은 프롬프트를 기계가 생산할 제품에 대한 난간으로 생각합니다. 기계는 우리의 입력에서 단어를 선택하고 출력을 개발할 때 컨텍스트에 대해 래치합니다.

예를 들어 ChatGPT 프롬프트를 작성할 때 자세한 지침이 더 만족스러운 응답을 반환하는 경향이 있음을 알 수 있습니다.

어떤 면에서 프롬프트는 작가를 위한 크리에이티브 브리핑과 같습니다. 프로젝트를 올바르게 수행하려면 작가에게 한 줄 지시를 내리지 않을 것입니다.

대신, 그들이 작성하기를 원하는 모든 내용과 작성 방법을 다루는 적절한 크기의 브리핑을 보낼 것입니다.

LLM 사용 확장

AI 챗봇을 생각할 때 사용자가 프롬프트를 입력한 다음 도구의 응답을 기다릴 수 있는 웹 인터페이스를 즉시 생각할 수 있습니다. 이것은 모두가 보는데 익숙한 것입니다.

“이것은 결코 이러한 도구의 최종 게임이 아닙니다. 여기는 놀이터입니다. 이것은 인간이 도구를 만지는 곳입니다.”라고 Penn이 말했습니다. "이것은 기업이 이것을 시장에 내놓는 방법이 아닙니다."

프롬프트 쓰기를 프로그래밍이라고 생각하십시오. 당신은 컴퓨터가 어떤 일을 하도록 하기 위해 컴퓨터에 명령을 쓰는 개발자입니다.

특정 사용 사례에 대한 프롬프트를 미세 조정한 후에는 API를 활용하고 실제 개발자가 이러한 프롬프트를 추가 코드로 래핑하여 프로그래밍 방식으로 규모에 맞게 데이터를 보내고 받을 수 있습니다.

이것이 LLM이 비즈니스를 더 나은 방향으로 확장하고 변화시키는 방법입니다.

이러한 도구는 모든 곳에서 배포되고 있기 때문에 모든 사람이 개발자라는 사실을 기억하는 것이 중요합니다.

이 기술은 Microsoft Office(Word, Excel 및 PowerPoint)와 우리가 매일 사용하는 다른 많은 도구 및 서비스에 포함될 것입니다.

Penn은 "자연어로 프로그래밍하기 때문에 전통적인 프로그래머가 반드시 최고의 아이디어를 가질 필요는 없습니다."라고 덧붙였습니다.

LLM은 글쓰기로 구동되기 때문에 프로그래머가 아닌 마케팅 또는 PR 전문가가 도구를 사용하는 혁신적인 방법을 개발할 수 있습니다.

검색 마케터를 위한 추가 팁

대규모 언어 모델이 마케팅, 특히 검색에 미치는 영향을 보기 시작했습니다.

2월에 Microsoft는 ChatGPT로 구동되는 새로운 Bing을 공개했습니다. 사용자는 검색 엔진과 대화하고 링크를 클릭하지 않고도 쿼리에 대한 직접적인 답변을 얻을 수 있습니다.

Penn은 "이러한 도구는 클릭이 필요 없는 방식으로 질문에 답하기 때문에 브랜드 없는 검색에서 약간의 이점을 얻을 수 있을 것입니다."라고 말했습니다.

"우리는 SEO 전문가로서 추천 스니펫과 제로 클릭 검색 결과를 통해 이미 이 문제에 직면했습니다. 하지만 상황은 더 나빠질 것입니다."

그는 Bing 웹마스터 도구 또는 Google 검색 콘솔로 이동하여 검색엔진 최적화의 가장 큰 위험 영역인 브랜드 없는 정보 검색에서 사이트가 얻는 트래픽의 비율을 살펴볼 것을 권장합니다.