CALM de la Google – Soluția pentru OpenAI?

Noua caracteristică Google are potențialul de a revoluționa domeniul modelelor de limbaj mari (LLM). Tehnologia revoluționară numită CALM — Confident Adaptive Language Modeling — este concepută pentru a accelera LLM-uri precum GPT-3 și LaMDA, fără a compromite nivelurile de performanță.

Ce este CALM?

CALM este o tehnologie avansată de model de limbaj pe care Google a dezvoltat-o ​​pentru a îmbunătăți capacitatea motorului său de căutare de a înțelege și interpreta interogări în limbaj natural. Aceasta înseamnă adaptarea continuă pentru modelul lingvistic, ceea ce înseamnă în esență că tehnologia învață și se adaptează continuu pentru a-și îmbunătăți performanța.

Google folosește tehnologia modelelor lingvistice de ani de zile, dar CALM este un pas semnificativ înainte, deoarece este construit pe o arhitectură de rețea neuronală care îi permite să proceseze mai eficient interogările în limbaj natural. CALM utilizează un model bazat pe transformator care poate analiza și înțelege contextul unei interogări, făcându-l mai capabil să decidă ce sarcini necesită mai mult efort. Așa cum creierul uman delegă energie, astfel încât să nu depunem același efort în a turna smântână în cafeaua noastră, precum scriem un e-mail la nivel de companie, CALM, ei bine, calmează modelele de limbaj AI.

În general, LLM-urile sunt instruite pe cantități masive de date text pentru a învăța modele și relații cu entități în limbă. De exemplu, versiunea inițială a GPT a fost instruită în 2018 pe BookCorpus, constând din 985 de milioane de cuvinte. În același an, BERT a fost instruit pe o combinație de BookCorpus și Wikipedia în limba engleză, însumând 3,3 miliarde de cuvinte.

LLM-urile mai recente, cum ar fi GPT-3, au fost instruite pe seturi de date și mai mari. GPT-3 are peste 175 de miliarde de parametri și a fost antrenat pe aproximativ 45 TB de text. Datele de antrenament utilizate pentru GPT-3 nu sunt dezvăluite public, dar se crede că includ o gamă variată de surse, cum ar fi cărți, articole și site-uri web.

Acum imaginați-vă toate acele date dintr-o bibliotecă. Stai singur în bibliotecă și, deodată, oamenii încep să intre pe ușă cu întrebări. „Spune-mi despre istoria Americii de Sud.” „Ce fel de lapte fără lactate este cel mai bun pentru mine?” „Cum poate beneficia afacerea mea din utilizarea marketingului de influență?” „Scrie-mi 10 opțiuni pentru o copie pe rețelele sociale” „Acționează ca jurnalist și scrie-mi o copie despre recesiunea iminentă.” Ai fi și tu puțin copleșit, nu? Habar n-ai cum să prioritizezi aceste interogări și trebuie să cercetezi milioane de date pentru a găsi răspunsul potrivit pentru a-l prezenta celui care solicită.

Acesta este ceea ce fac LLM-urile de fiecare dată când le cerem să genereze ceva - și de ce pot exista momente în ziua în care platforma vă cere să reveniți mai târziu din cauza traficului ridicat. Dar dacă LLM-urile ar avea o modalitate de a analiza datele mai eficient - pentru a ști ce părți ale fiecărei interogări să acorde prioritate, ce necesită „efort total” versus „efort parțial” – ar putea fi mai eficiente.

Lucrarea academică despre CALM spune astfel:

„Progresele recente în modelele de limbaj mari (LLM) bazate pe Transformer au condus la îmbunătățiri semnificative ale performanței în multe sarcini.

Aceste câștiguri vin cu o creștere drastică a dimensiunii modelelor, ceea ce poate duce la o utilizare lentă și costisitoare la momentul deducerii.

În practică, însă, seria de generații realizată de LLM este compusă din diferite niveluri de dificultate.

În timp ce anumite predicții beneficiază cu adevărat de capacitatea deplină a modelelor, alte continuări sunt mai banale și pot fi rezolvate cu un calcul redus.

… În timp ce modelele mari se descurcă mai bine în general, este posibil să nu fie necesară aceeași cantitate de calcul pentru fiecare intrare pentru a obține performanțe similare (de exemplu, în funcție de dacă intrarea este ușoară sau dificilă).”

Roșu = Capacitate completă/Verde = Capacitate mai mică de jumătate

Imaginea de mai sus arată această idee în acțiune. Cercetătorii au scris:

„Culorile reprezintă numărul de straturi de decodare utilizate pentru fiecare simbol – nuanțele de verde deschis indică mai puțin de jumătate din totalul straturilor. Doar câteva jetoane selectate folosesc întreaga capacitate a modelului (colorate în roșu), în timp ce pentru majoritatea jetoanelor modelul iese după unul sau câteva straturi de decodare (colorate în verde).

Cercetătorii au remarcat, de asemenea, în concluzia lor, că implementarea CALM într-un LLM necesită doar modificări minime pentru a ajuta modelul lingvistic să crească viteza. În esență, acest lucru permite LLM-urilor să fie instruiți mai rapid și mai eficient, ceea ce înseamnă că pot procesa mai multe informații și pot produce rezultate mai precise în mai puțin timp.

Acest lucru are implicații evidente pentru companiile din orice industrie, deoarece înseamnă că pot aduna informații și pot lua decizii mai rapid și cu o mai mare acuratețe. Dar ce înseamnă toate acestea pentru marketerii B2B?

Implicațiile CALM pentru agenții de marketing B2B

Marketing de conținut

Caracteristica CALM poate avea un impact semnificativ asupra strategiilor de marketing de conținut B2B, deoarece îi poate ajuta pe agenții de marketing să genereze conținut mai precis și mai relevant, bazat pe date și informații în timp real. Cu acces la date mai multe și mai bune, LLM-urile ar putea ajuta specialiștii în marketing să identifice noi tendințe și oportunități mai rapid, permițându-le să răspundă mai rapid și să rămână în fața concurenței. Acest lucru ar putea fi deosebit de important în industriile care evoluează rapid sau se confruntă cu perturbări.

Implicarea clienților și personalizare

Specialiștii de marketing B2B pot îmbunătăți strategiile de implicare a clienților oferind conținut personalizat care rezonează cu publicul țintă. LLM-urile pot ajuta la identificarea modelelor de comportament și preferințe ale clienților, permițând marketerilor să-și adapteze mesajele și conținutul mai eficient. Acest lucru poate fi deosebit de important în industriile cu produse complexe sau tehnice, unde mesajele direcționate pot face o mare diferență. De asemenea, marketerii pot folosi tehnologia pentru a-și îmbunătăți serviciile pentru clienți, oferind răspunsuri precise și relevante la întrebările clienților.

Traducere

Tehnologia CALM poate spori acuratețea și eficacitatea instrumentelor de traducere automată, care pot fi de neprețuit pentru companiile B2B care operează pe piețele globale. Îmbunătățind acuratețea traducerii, CALM poate permite companiilor B2B să comunice mai eficient cu clienții și partenerii lor internaționali.

Desigur, CALM este doar o piesă a puzzle-ului când vine vorba de marketing B2B. Este important ca agenții de marketing să țină pasul cu toate cele mai recente evoluții din domeniul lor, de la schimbarea comportamentului consumatorilor până la noile canale de marketing și tactici de marketing. Dacă doriți ajutor pentru a stăpâni aceste ultime evoluții ale AI în strategia dvs. de marketing, contactați.