Bagaimana menskalakan penggunaan model bahasa besar dalam pemasaran

AI generatif dan model bahasa besar diatur untuk mengubah industri pemasaran seperti yang kita ketahui.

Agar tetap kompetitif, Anda harus memahami teknologi dan bagaimana hal itu akan memengaruhi upaya pemasaran kami, kata Christopher Penn, kepala ilmuwan data di TrustInsights.ai, saat berbicara di The MarTech Conference.

Pelajari cara untuk menskalakan penggunaan model bahasa besar (LLM), nilai rekayasa yang cepat, dan bagaimana pemasar dapat mempersiapkan apa yang akan datang.

Premis di balik model bahasa besar

Sejak diluncurkan, ChatGPT telah menjadi trending topik di sebagian besar industri. Anda tidak dapat online tanpa melihat tanggapan semua orang. Namun, tidak banyak orang yang memahami teknologi di baliknya, kata Penn.

ChatGPT adalah chatbot AI berdasarkan GPT-3.5 dan GPT-4 LLM OpenAI.

LLM dibangun berdasarkan premis dari tahun 1957 oleh ahli bahasa Inggris John Rupert Firth: "Anda akan mengetahui sebuah kata dari perusahaan yang disimpannya."

Artinya, makna suatu kata dapat dipahami berdasarkan kata-kata yang biasanya muncul di sampingnya. Sederhananya, kata-kata didefinisikan tidak hanya oleh definisi kamusnya tetapi juga oleh konteks penggunaannya.

Premis ini adalah kunci untuk memahami pemrosesan bahasa alami.

Misalnya, lihat kalimat berikut:

• "Aku sedang menyeduh teh."
• "Aku menumpahkan teh."

Yang pertama mengacu pada minuman panas, sedangkan yang kedua adalah bahasa gaul untuk bergosip. "Teh" dalam hal ini memiliki arti yang sangat berbeda.

Urutan kata juga penting.

• "Aku sedang menyeduh teh."
• "Teh yang sedang kuseduh."

Kalimat-kalimat di atas memiliki subjek fokus yang berbeda, meskipun menggunakan kata kerja yang sama, “menyeduh”.

Seberapa besar model bahasa bekerja

Di bawah ini adalah diagram sistem transformer, model arsitektur di mana model bahasa besar dibangun.

Sederhananya, transformator mengambil input dan mengubahnya (yaitu, "mengubah") menjadi sesuatu yang lain.

LLM dapat digunakan untuk membuat tetapi lebih baik dalam mengubah satu hal menjadi sesuatu yang lain.

OpenAI dan perusahaan perangkat lunak lainnya mulai dengan menyerap kumpulan data yang sangat besar, termasuk jutaan dokumen, makalah akademis, artikel berita, ulasan produk, komentar forum, dan banyak lagi.

Pertimbangkan seberapa sering frasa "Saya sedang menyeduh teh" muncul di semua teks yang dicerna ini.

Ulasan produk Amazon dan komentar Reddit di atas adalah beberapa contohnya.

Perhatikan "perusahaan" yang dipertahankan frasa ini — yaitu, semua kata yang muncul di dekat "Saya sedang menyeduh teh".

"Rasa", "bau", "kopi", "aroma", dan lebih banyak lagi semuanya memberikan konteks pada LLM ini.

Mesin tidak bisa membaca. Jadi untuk memproses semua teks ini, mereka menggunakan penyematan, langkah pertama dalam arsitektur transformator.

Penyematan memungkinkan model menetapkan nilai numerik untuk setiap kata, dan nilai numerik tersebut muncul berulang kali dalam korpus teks.

Posisi kata juga penting untuk model ini.

Pada contoh di atas, nilai numeriknya tetap sama tetapi berada dalam urutan yang berbeda. Ini adalah pengkodean posisi.

Secara sederhana, model bahasa besar bekerja seperti ini:

• Mesin mengambil data teks.
• Tetapkan nilai numerik untuk semua kata.
• Lihatlah frekuensi statistik dan distribusi antara kata-kata yang berbeda.
• Cobalah untuk mencari tahu apa kata berikutnya dalam urutan itu.

Semua ini membutuhkan daya komputasi, waktu, dan sumber daya yang signifikan.

Rekayasa cepat: Keterampilan yang harus dipelajari

Semakin banyak konteks dan instruksi yang kami berikan LLM, semakin besar kemungkinan mereka akan memberikan hasil yang lebih baik. Ini adalah nilai rekayasa cepat.

Penn menganggap prompt sebagai pagar untuk apa yang akan dihasilkan mesin. Mesin akan mengambil kata-kata dalam input kami dan mengaitkannya dengan konteks saat mereka mengembangkan output.

Misalnya, saat menulis permintaan ChatGPT, Anda akan melihat bahwa instruksi mendetail cenderung memberikan respons yang lebih memuaskan.

Dalam beberapa hal, petunjuknya seperti pengarahan kreatif bagi penulis. Jika Anda ingin proyek Anda selesai dengan benar, Anda tidak akan memberikan instruksi satu baris kepada penulis Anda.

Sebagai gantinya, Anda akan mengirimkan brief berukuran layak yang mencakup semua hal yang Anda ingin mereka tulis dan bagaimana Anda ingin mereka menulisnya.

Menskalakan penggunaan LLM

Ketika Anda memikirkan AI chatbots, Anda mungkin langsung berpikir tentang antarmuka web tempat pengguna dapat memasukkan petunjuk dan kemudian menunggu respons alat tersebut. Inilah yang biasa dilihat semua orang.

“Ini bukanlah permainan akhir untuk alat-alat ini dengan cara apa pun. Ini adalah taman bermain. Di sinilah manusia bermain-main dengan alat itu, ”kata Penn. “Ini bukan bagaimana perusahaan akan membawa ini ke pasar.”

Pikirkan penulisan cepat sebagai pemrograman. Anda adalah pengembang yang menulis instruksi ke komputer untuk membuatnya melakukan sesuatu.

Setelah menyempurnakan perintah untuk kasus penggunaan tertentu, Anda dapat memanfaatkan API dan meminta pengembang nyata untuk membungkus perintah tersebut dalam kode tambahan sehingga Anda dapat mengirim dan menerima data secara terprogram dalam skala besar.

Ini adalah bagaimana LLM akan mengukur dan mengubah bisnis menjadi lebih baik.

Karena alat ini diluncurkan di mana-mana, penting untuk diingat bahwa setiap orang adalah pengembang.

Teknologi ini akan ada di Microsoft Office — Word, Excel, dan PowerPoint — serta banyak alat dan layanan lain yang kami gunakan setiap hari.

“Karena Anda memprogram dalam bahasa alami, belum tentu pemrogram tradisional memiliki ide terbaik,” tambah Penn.

Karena LLM didukung oleh penulisan, profesional pemasaran atau PR - bukan pemrogram - dapat mengembangkan cara inovatif untuk menggunakan alat tersebut.

Tip tambahan untuk pemasar pencarian

Kami mulai melihat dampak model bahasa besar pada pemasaran, khususnya penelusuran.

Pada bulan Februari, Microsoft meluncurkan Bing baru, yang didukung oleh ChatGPT. Pengguna dapat berkomunikasi dengan mesin pencari dan mendapatkan jawaban langsung atas pertanyaan mereka tanpa mengklik tautan apa pun.

“Anda seharusnya mengharapkan alat ini untuk menggigit pencarian tidak bermerek Anda karena mereka menjawab pertanyaan dengan cara yang tidak memerlukan klik,” kata Penn.

“Kami telah menghadapi ini sebagai profesional SEO, dengan cuplikan unggulan dan hasil pencarian tanpa klik… tetapi ini akan menjadi lebih buruk bagi kami.”

Dia merekomendasikan untuk pergi ke Bing Webmaster Tools atau Google Search Console dan melihat persentase lalu lintas yang didapat situs Anda dari pencarian informasi yang tidak bermerek, karena ini adalah area risiko terbesar untuk SEO.