การควบคุม AI: การตลาดควรมีบทบาทอย่างไร?

หากคุณมีโปรแกรมปัญญาประดิษฐ์ คุณก็มีคณะกรรมการ ทีม หรือหน่วยงานที่กำกับดูแลการพัฒนา ปรับใช้ และใช้งาน AI ถ้าคุณไม่ทำ ก็ต้องสร้างขึ้นมา

ในบทความที่แล้ว ฉันได้แบ่งปันประเด็นสำคัญสำหรับการใช้โมเดล AI และ ML ในด้านการตลาด และวิธีที่โมเดลเหล่านั้นสามารถช่วยคุณสร้างสรรค์นวัตกรรมและตอบสนองความต้องการของลูกค้า ที่นี่ฉันดูที่ความรับผิดชอบของการตลาดสำหรับการกำกับดูแล AI

ดังนั้นการกำกับดูแล AI คืออะไร?

การกำกับดูแล AI คือสิ่งที่เราเรียกว่ากรอบงานหรือกระบวนการที่จัดการการใช้ AI ของคุณ เป้าหมายของความพยายามในการกำกับดูแล AI นั้นง่าย - ลดความเสี่ยงที่เกี่ยวข้องกับการใช้ AI ในการทำเช่นนี้ องค์กรต้องสร้างกระบวนการสำหรับการประเมินความเสี่ยงของอัลกอริธึมที่ขับเคลื่อนด้วย AI และการใช้งานอย่างมีจริยธรรม

ความเข้มงวดของธรรมาภิบาลขึ้นอยู่กับอุตสาหกรรมเป็นอย่างมาก ตัวอย่างเช่น การใช้อัลกอริทึม AI ในการตั้งค่าทางการเงินอาจมีความเสี่ยงมากกว่าการนำ AI ไปใช้ในการผลิต การใช้ AI ในการกำหนดคะแนนเครดิตของผู้บริโภคต้องการความโปร่งใสและการกำกับดูแลมากกว่าอัลกอริธึม AI ที่กระจายชิ้นส่วนอย่างคุ้มค่ารอบโรงงาน

เพื่อจัดการความเสี่ยงอย่างมีประสิทธิภาพ โปรแกรมการกำกับดูแล AI ควรพิจารณาสามด้านของแอปพลิเคชันที่ขับเคลื่อนด้วย AI:

• ข้อมูล: อัลกอริทึมใช้ข้อมูลอะไร คุณภาพเหมาะสมกับรุ่นหรือไม่? นักวิทยาศาสตร์ข้อมูลสามารถเข้าถึงข้อมูลที่จำเป็นได้หรือไม่? ความเป็นส่วนตัวจะถูกละเมิดโดยเป็นส่วนหนึ่งของอัลกอริทึมหรือไม่? (แม้ว่าสิ่งนี้จะไม่ได้ตั้งใจ แต่โมเดล AI บางรุ่นอาจเปิดเผยข้อมูลที่ละเอียดอ่อนโดยไม่ได้ตั้งใจ) เนื่องจากข้อมูลอาจเปลี่ยนแปลงเมื่อเวลาผ่านไป จึงจำเป็นต้องควบคุมการใช้ข้อมูลในแบบจำลอง AI/ML อย่างสม่ำเสมอ
• อัลกอริทึม หากข้อมูลมีการเปลี่ยนแปลง จะเปลี่ยนแปลงผลลัพธ์ของอัลกอริธึมหรือไม่ ตัวอย่างเช่น หากแบบจำลองถูกสร้างขึ้นเพื่อคาดการณ์ว่าลูกค้ารายใดจะซื้อในเดือนถัดไป ข้อมูลจะมีอายุในแต่ละสัปดาห์ที่ผ่านไปและส่งผลต่อผลลัพธ์ของแบบจำลอง โมเดลยังคงสร้างการตอบสนองหรือการดำเนินการที่เหมาะสมหรือไม่? เนื่องจากโมเดล AI ที่ใช้กันทั่วไปในการตลาดคือแมชชีนเลิร์นนิง นักการตลาดจึงต้องจับตาดูโมเดลดริฟท์ โมเดลดริฟท์คือการเปลี่ยนแปลงใดๆ ในการคาดการณ์ของโมเดล หากตัวแบบทำนายบางสิ่งในวันนี้ที่แตกต่างจากที่คาดการณ์ไว้เมื่อวาน แสดงว่าตัวแบบนั้น "ลอย"
• ใช้. ผู้ที่ใช้ผลลัพธ์ของโมเดล AI ได้รับการฝึกอบรมเกี่ยวกับวิธีใช้งานหรือไม่? พวกเขากำลังตรวจสอบผลลัพธ์สำหรับความแปรปรวนหรือผลลัพธ์ที่หลอกลวงหรือไม่? นี่เป็นสิ่งสำคัญอย่างยิ่งหากโมเดล AI กำลังสร้างการกระทำที่การตลาดใช้ จากตัวอย่างเดียวกัน โมเดลระบุลูกค้าที่มีแนวโน้มจะซื้อมากที่สุดในเดือนหน้าหรือไม่ ถ้าเป็นเช่นนั้น คุณได้ฝึกอบรมตัวแทนขายหรือสนับสนุนเกี่ยวกับวิธีจัดการกับลูกค้าที่มีแนวโน้มจะซื้อหรือไม่ เว็บไซต์ของคุณ “รู้” ว่าจะทำอย่างไรกับลูกค้าเหล่านั้นเมื่อพวกเขาเยี่ยมชม? กระบวนการทางการตลาดใดที่ได้รับผลกระทบจากข้อมูลนี้

ควรมีการจัดโครงสร้างอย่างไรและใครควรมีส่วนร่วม?

การกำกับดูแล AI สามารถจัดโครงสร้างได้หลายวิธีด้วยแนวทางที่แตกต่างกันตั้งแต่การควบคุมอย่างสูงไปจนถึงการตรวจสอบตนเอง ซึ่งขึ้นอยู่กับอุตสาหกรรมและวัฒนธรรมองค์กรที่มีอยู่เป็นอย่างมาก

เพื่อให้สามารถนำไปสู่การพัฒนาแบบจำลองตลอดจนการตรวจสอบความถูกต้องและการปรับใช้ได้ ทีมการกำกับดูแลมักจะประกอบด้วยสมาชิกด้านเทคนิคที่เข้าใจวิธีการทำงานของอัลกอริธึมและผู้นำที่เข้าใจว่าทำไมแบบจำลองควรทำงานตามที่วางแผนไว้ นอกจากนี้ บุคคลที่เป็นตัวแทนของหน่วยงานตรวจสอบภายในมักจะนั่งอยู่ในโครงสร้างการกำกับดูแล

ไม่ว่าจะมีโครงสร้างการกำกับดูแล AI อย่างไร วัตถุประสงค์หลักควรเป็นทีมที่มีการทำงานร่วมกันสูงเพื่อให้แน่ใจว่าอัลกอริทึม AI ข้อมูลที่ใช้และกระบวนการที่ใช้ผลลัพธ์ได้รับการจัดการเพื่อให้องค์กรปฏิบัติตามกฎระเบียบภายในและภายนอกทั้งหมด

นี่คือตัวอย่างการออกแบบ AI Governance สำหรับองค์กรที่ใช้แนวทางแบบรวมศูนย์ ซึ่งพบได้ทั่วไปในอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด เช่น การดูแลสุขภาพ การเงิน และโทรคมนาคม:

นักการตลาดสามารถช่วยอะไรในการกำกับดูแล AI ได้บ้าง

มีเหตุผลหลายประการที่การตลาดจะมีส่วนร่วมในการกำกับดูแลโมเดล AI เหตุผลทั้งหมดเหล่านี้เกี่ยวข้องกับพันธกิจของการตลาด

1. ประชาสัมพันธ์ให้ลูกค้า . หน้าที่ของการตลาดคือดูแลให้มั่นใจว่าลูกค้ามีข้อมูลที่จำเป็นในการซื้อและซื้อต่อ เช่นเดียวกับการประกาศข่าวประเสริฐสำหรับข้อเสนอของบริษัท การตลาดมีหน้าที่รับผิดชอบต่อประสบการณ์ของลูกค้าและปกป้องข้อมูลของลูกค้า เนื่องจากความรับผิดชอบเหล่านี้ องค์กรการตลาดจึงควรมีส่วนร่วมในอัลกอริธึม AI ใดๆ ที่ใช้ข้อมูลลูกค้าหรือกับอัลกอริธึมใดๆ ที่มีผลกระทบต่อความพึงพอใจของลูกค้า พฤติกรรมการซื้อ หรือการสนับสนุน

2. ปกป้องแบรนด์ . ความรับผิดชอบหลักประการหนึ่งของการตลาดคือการปกป้องแบรนด์ หากมีการนำโมเดล AI ไปใช้ในทางที่อาจกระทบต่อภาพลักษณ์ของแบรนด์ การตลาดก็ควรเข้ามา เช่น หากใช้คะแนนความคุ้มค่าด้านเครดิตที่สร้างโดย AI เพื่อกำหนดล่วงหน้าว่าลูกค้ารายใดจะได้ส่วนลด "ครอบครัว" ควรทำการตลาด มีบทบาทสำคัญในการปรับใช้โมเดลนั้น การตลาดควรเป็นส่วนหนึ่งของทีมที่ตัดสินใจว่าโมเดลจะให้ผลลัพธ์ที่เหมาะสมหรือไม่ การตลาดต้องถามคำถามเสมอว่า “สถานการณ์นี้จะเปลี่ยนแปลงความรู้สึกของลูกค้าหลักในการทำธุรกิจกับเราหรือไม่”

3. รับรองการสื่อสารแบบเปิด ส่วนที่มักละเลยในการพัฒนาและปรับใช้โมเดล AI/ML คือการเล่าเรื่องที่จำเป็นเพื่อช่วยให้ผู้อื่นเข้าใจว่าแบบจำลองควรทำอย่างไร ความโปร่งใสและความสามารถในการอธิบายได้เป็นสองลักษณะที่สำคัญที่สุดของการสร้างแบบจำลอง AI/ML ที่ดีและควบคุม ความโปร่งใสหมายความว่าแบบจำลองที่สร้างขึ้นนั้นเป็นที่เข้าใจอย่างถ่องแท้โดยผู้ที่สร้างแบบจำลองและผู้ที่ใช้แบบจำลองเหล่านี้ ตลอดจนผู้จัดการและผู้นำขององค์กร โดยไม่สามารถอธิบายได้ว่าแบบจำลองนี้ใช้ทำอะไรและทำอย่างไรกับผู้นำธุรกิจภายใน ทีมงาน AI Governance จึงมีความเสี่ยงอย่างมากที่จะไม่สามารถอธิบายแบบจำลองภายนอกต่อหน่วยงานกำกับดูแลของรัฐบาล ที่ปรึกษาภายนอก หรือผู้ถือหุ้นได้ การสื่อสาร "เรื่องราว" ของสิ่งที่โมเดลกำลังทำและความหมายต่อธุรกิจคืองานของการตลาด
   

4. การปกป้องโมเดล AI ที่ปรับใช้การตลาด การตลาดควรเป็นผู้ใช้รายใหญ่ของโมเดล AI/ML เหล่านั้นที่ช่วยกำหนดว่าลูกค้ารายใดจะซื้อมากที่สุด ซึ่งลูกค้าจะยังคงเป็นลูกค้าอยู่นานที่สุด และลูกค้ารายใดที่พึงพอใจมากที่สุดมีแนวโน้มที่จะแนะนำให้คุณกับผู้มีโอกาสเป็นลูกค้ารายอื่นหรือเลิกรา . ในบทบาทนี้ ฝ่ายการตลาดควรมีที่นั่งที่โต๊ะการกำกับดูแล AI เพื่อให้แน่ใจว่าข้อมูลลูกค้าได้รับการจัดการอย่างดี อคติจะไม่เข้าสู่แบบจำลอง และรักษาความเป็นส่วนตัวไว้สำหรับลูกค้า

อ่านต่อ: AI และแมชชีนเลิร์นนิงในด้านการตลาด: คุณกำลังปรับใช้โมเดลที่ถูกต้องหรือไม่

แต่ก่อนอื่น มาทำความรู้จักกับพื้นฐานกันก่อน

ฉันอยากจะบอกว่าการกำกับดูแล AI ขององค์กรของคุณจะต้อนรับนักการตลาดเข้าร่วมโต๊ะ แต่การเตรียมตัวและทำการบ้านของคุณไม่ใช่เรื่องเสียหาย ต่อไปนี้คือทักษะและความสามารถบางอย่างที่คุณต้องทำความคุ้นเคยก่อนเริ่มต้น:

• ความเข้าใจ AI/ML คุณควรเข้าใจว่า AI/ML คืออะไรและทำงานอย่างไร นี่ไม่ได้หมายความว่าคุณต้องมีปริญญาเอก ในวิทยาศาสตร์ข้อมูล แต่ควรเรียนหลักสูตรออนไลน์เกี่ยวกับความสามารถเหล่านี้และสิ่งที่พวกเขาทำ สิ่งสำคัญที่สุดคือคุณต้องเข้าใจถึงผลกระทบที่ควรคาดหวังจากแบบจำลอง โดยเฉพาะอย่างยิ่งหากพวกเขาเสี่ยงต่อการเปิดเผยข้อมูลลูกค้าหรือทำให้องค์กรตกอยู่ในความเสี่ยงด้านการเงินหรือแบรนด์
• ข้อมูล. คุณควรมีความรอบรู้เกี่ยวกับข้อมูลที่ใช้ในแบบจำลอง วิธีรวบรวม และวิธีการอัปเดต การเลือกและจัดการข้อมูลสำหรับโมเดล AI เป็นที่แรกที่อคติสามารถป้อนอัลกอริทึมได้ ตัวอย่างเช่น หากคุณกำลังพยายามวิเคราะห์พฤติกรรมของลูกค้าเกี่ยวกับผลิตภัณฑ์ใดผลิตภัณฑ์หนึ่ง คุณมักจะต้องการข้อมูลประมาณสามในสี่ที่รวบรวมในลักษณะเดียวกันและดูแลจัดการเพื่อให้คุณมีข้อมูลที่สมบูรณ์และถูกต้อง หากอัลกอริทึมจะใช้เป็นข้อมูลการตลาด บทบาทของคุณก็สำคัญยิ่งกว่า
• กระบวนการ. คุณควรมีความเข้าใจที่ดีเกี่ยวกับกระบวนการที่จะปรับใช้อัลกอริทึม หากคุณกำลังนั่งอยู่ในทีมการกำกับดูแล AI ในฐานะตัวแทนการตลาด และอัลกอริทึม AI ที่กำลังได้รับการประเมินนั้นมีไว้สำหรับการขาย คุณควรทำความคุ้นเคยกับกระบวนการนั้นและวิธีการที่การตลาดอาจนำไปสู่กระบวนการ เนื่องจากนี่เป็นทักษะที่สำคัญที่ต้องมีหากคุณทำงานในทีม AI Governance ทีมการตลาดจำนวนมากจะแต่งตั้งหัวหน้าฝ่ายการตลาดเป็นตัวแทน

ไม่ว่าคุณจะมีบทบาทอย่างไรในการกำกับดูแล AI ให้จำไว้ว่ามันสำคัญแค่ไหน การทำให้มั่นใจว่า AI/ML ถูกปรับใช้อย่างมีความรับผิดชอบในองค์กรของคุณไม่เพียงแต่มีความจำเป็นเท่านั้น แต่ยังเป็นกระบวนการที่ต่อเนื่อง ซึ่งต้องใช้ความพากเพียรและความระมัดระวัง เนื่องจากตัวแบบยังคงเรียนรู้จากข้อมูลที่พวกเขาใช้ต่อไป

ความคิดเห็นที่แสดงในบทความนี้เป็นความคิดเห็นของผู้เขียนรับเชิญและไม่จำเป็นต้องเป็น MarTech ผู้เขียนพนักงานอยู่ที่นี่