อันตรายของ ChatGPT: เครื่องมือปรับแต่งส่วนบุคคลที่ยอดเยี่ยมหรือเทคโนโลยีฟิชชิ่งที่ยอดเยี่ยม?

ChatGPT ของ OpenAI ทำให้โลกต้องตกตะลึง

นอกเหนือจากผู้คนนับล้านที่ได้ทดลองใช้แล้ว ผู้ให้บริการอีเมล (ESP) กำลังฝึกอบรมโดยใช้ข้อมูลแคมเปญเพื่อสร้างหัวเรื่องและเนื้อหาอีเมลที่มีประสิทธิภาพสูง

ผู้ใช้ Salesforce กำลังสำรวจว่า ChatGPT สามารถสร้างสูตรและกฎการตรวจสอบได้อย่างไร และตอนนี้ Microsoft ได้รวมมันเข้ากับเสิร์ชเอ็นจิ้น Bing แล้ว ซึ่งก็มีการพูดถึงว่าสิ่งนี้อาจเป็น "นักฆ่าของ Google!"

แล้วเทคโนโลยีใหม่นี้ทำงานอย่างไร?

ChatGPT (Generative Pre-trained Transformer) ใช้เทคนิคการเรียนรู้เชิงลึกเพื่อประมวลผลข้อมูลเว็บหลายเทราไบต์ (ประกอบด้วย คำหลายพันล้านคำ) เพื่อสร้างคำตอบสำหรับการแจ้งเตือนหรือคำถามจากผู้ใช้

การโต้ตอบก็เหมือนกับการพูดคุยกับบุคคล หลายคนกล่าวว่า ChatGPT เป็นแอปพลิเคชัน AI ตัวแรกที่ผ่านการทดสอบของทัวริง ซึ่งหมายความว่าแอปพลิเคชันจะแสดงพฤติกรรมที่ชาญฉลาดเทียบเท่าหรือแยกไม่ออกจากมนุษย์

เราได้เห็นกรณีการใช้งานที่สะดุดตาแล้ว:

• หนังสือพิมพ์ Times ของสหราชอาณาจักรใช้ ChatGPT เพื่อเขียน บทบรรณาธิการรายวัน จากนั้นจึงขอให้ผู้อ่านระบุว่าเนื้อหาใดเขียนโดยเครื่องจักร ส่วนใหญ่ทำไม่ได้!
• Moonpig ผู้ค้าปลีกการ์ดอวยพรออนไลน์กำลังพิจารณาที่ จะรวม ChatGPT เข้ากับระบบของตน ลูกค้าสามารถขอให้สร้างข้อความหรือบทกวีส่วนตัวโดยไม่ต้องเกาหัวเพื่อหาคำที่เหมาะสม

ChatGPT ช่วยให้เกิดนวัตกรรมและประสิทธิภาพการทำงานที่อาจเป็นตัวเปลี่ยนเกม โดยเป็นคู่แข่งกับการสร้างเว็บเอง แต่ทุกเหรียญมีสองด้าน มีด้านมืดที่อาจเกิดขึ้นกับเทคโนโลยีใหม่นี้หรือไม่?

มาดูกันว่า ChatGPT จะสร้างโอกาสใหม่ๆ ให้กับทั้งผู้โจมตีและผู้ปกป้องความปลอดภัยในโลกไซเบอร์ได้อย่างไร

ความพยายามในการฟิชชิ่งที่ดีขึ้น

นักวิจัยเห็นรหัสที่สร้างโดย AI ซึ่งโพสต์ใน ฟอรัมอาชญากรรมทางไซเบอร์ แล้ว กรณีการใช้งาน ChatGPT หนึ่งจาก "ด้านมืด" คือสเปียร์ฟิชชิง—อีเมลหลอกลวงที่กำหนดเป้าหมายไปยังบุคคล องค์กร หรือธุรกิจที่เฉพาะเจาะจง เมื่อใช้กลยุทธ์นี้ ผู้โจมตีสามารถขโมยข้อมูลเพื่อจุดประสงค์ที่เป็นอันตรายหรือติดตั้งมัลแวร์บนคอมพิวเตอร์เป้าหมาย

ในตัวอย่างทั่วไป พนักงานของบริษัทอาจได้รับอีเมลจาก "CEO" พร้อมคำขอด่วนให้มีส่วนร่วมในเอกสารที่เชื่อมโยงหรืออ่านไฟล์แนบ ชื่อที่คุ้นเคยจับคู่กับคำขอที่พวกเขามักจะคาดหวังว่าจะเพิ่มความน่าเชื่อถือ—และโอกาสที่จะตอบสนอง

ในความเป็นจริง เป็นไปได้โดยสิ้นเชิงที่ การโจมตีของ Royal Mail ransomware เมื่อเร็ว ๆ นี้ เริ่มต้นด้วยอีเมลฟิชชิ่งแบบสเปียร์

เนื่องจาก ChatGPT สามารถสร้างเนื้อหาในรูปแบบของบุคคลที่ได้รับการเสนอชื่อ อีเมลฟิชชิ่งแบบสเปียร์จะยิ่ง น่าเชื่อถือมากขึ้นในไม่ช้าตอนนี้ผู้หลอกลวงสามารถร้องขอเนื้อหาที่ดูเหมือน CEO ของเป้าหมาย ทำให้ข้อความเป็นจริงยิ่งขึ้น และเพิ่มโอกาสที่พนักงานจะตกหลุมรักเนื้อหานั้น

วิศวกรรมต่อต้านสังคม

นอกจากนี้ ChatGPT ยังอาจปรับปรุงรูปแบบอื่นๆ ของการฉ้อโกงการแอบอ้างบุคคลอื่น โดยเฉพาะอย่างยิ่งในกรณีที่จำเป็นต้องสร้างความเชื่อถือ

การใช้ ChatGPT ทำให้มิจฉาชีพสามารถหลอกล่อได้อย่างน่าเชื่อถือมากขึ้น เช่น พนักงานธนาคาร เจ้าหน้าที่ตำรวจ เจ้าหน้าที่ภาษี (ที่บอกเหยื่อว่ามีใบเรียกเก็บเงินค้างชำระ) หรือตัวแทนผู้ให้บริการ (ที่อ้างว่าเราเตอร์ของเหยื่อถูกแฮ็ก และพวกเขาต้องการการเข้าถึงคอมพิวเตอร์จากระยะไกล เพื่อแก้ไขปัญหา)

ตัวอย่างที่พบบ่อยมากขึ้นคือข้อความจากเพื่อนหรือสมาชิกในครอบครัวที่อยู่ "ต่างประเทศ" โดยทั่วไปพวกเขาจะบอกว่ากระเป๋าสตางค์และโทรศัพท์ถูกขโมย และมีคนให้ยืมโทรศัพท์อีกเครื่องเพื่อขอรับเงินฉุกเฉิน

ความตายของเนื้อหาต้นฉบับ

นักการศึกษาหลายคนกังวลอย่างยิ่งว่า ChatGPT หมายความว่านักเรียนจะไม่จำเป็นต้องเขียนเรียงความอีก

บางคนได้ทดสอบสิ่งนี้แล้ว ส่งบทความที่สร้างโดย AI และได้รับคะแนนผ่านที่น่า เชื่อถือ นักการศึกษาเริ่มกังวลอย่างมากว่า AI จะนำไปสู่การโกงครั้งใหญ่ และบางโรงเรียนก็เลิกส่งการบ้านเพื่อตอบโต้แล้ว

ความกังวลเรื่องความเป็นส่วนตัว

ChatGPT อาจรู้ว่าดาวเคราะห์ดวงใดถูกถ่ายภาพด้วยกล้องโทรทรรศน์อวกาศเว็บบ์เป็นครั้งแรก (มันคือ HIP 65426 b) แต่แหล่งที่มาของข้อมูลนี้อาจขัดแย้งกับกฎหมายความเป็นส่วนตัวที่เกิดขึ้นใหม่ เช่น ระเบียบการคุ้มครองข้อมูลทั่วไป (GDPR) และพระราชบัญญัติความเป็นส่วนตัวของผู้บริโภคแห่งแคลิฟอร์เนีย (CCPA)

คดี AI ของ Clearview ซึ่งฐานข้อมูลการจดจำใบหน้าถูกสร้างขึ้นโดยใช้การขูดภาพ จบลงด้วยค่าปรับหลายล้านดอลลาร์จากหน่วยงานกำกับดูแลทั่วยุโรป

วิธีการทำงานของ ChatGPT นั้นไม่เหมือนเดิมโดยสิ้นเชิง—คล้ายกับเครื่องปั่นอาหารสำหรับข้อมูล โดยที่ส่วนผสมดั้งเดิมนั้นไม่สามารถจดจำได้อีกต่อไป แต่จะยังคงมีคำถามว่าบุคคลตั้งใจให้นำข้อมูลของตนไปใช้ในลักษณะนี้หรือไม่

การละเมิดลิขสิทธิ์เป็นสถานการณ์ที่มีแนวโน้มมากขึ้น ในสหรัฐอเมริกา มี การฟ้องร้อง ดำเนินคดีแบบกลุ่ม กับ Stability AI ผู้พัฒนา Stable Diffusion ซึ่งเป็นเครื่องกำเนิดงานศิลปะ AI อัยการกล่าวหาว่าละเมิดสิทธิ์ของเจ้าของภาพต้นฉบับ

และ Getty Images ห้องสมุดภาพถ่ายและศิลปะในสหราชอาณาจักรกล่าวว่าจะฟ้อง Stable Diffusion ด้วยเช่นกันสำหรับการใช้ภาพโดยไม่มีใบอนุญาต

GPT = รับความคุ้มครองวันนี้

แม้ว่าสถานการณ์เหล่านี้อาจฟังดูเลวร้าย แต่ก็มีแนวทางปฏิบัติที่ดีที่สุดที่สามารถใช้เป็นมาตรการป้องกันได้:

• การระแวดระวังเป็นแนวป้องกันด่านแรกเสมอ ธนาคารและเจ้าหน้าที่ตำรวจจะไม่ขอรายละเอียดบัตร PIN หรือรหัสผ่านธนาคารทางอินเทอร์เน็ต ดังนั้น โปรดอย่าสงสัยในคำขอที่คล้ายกันใดๆ
• เมื่อได้รับอีเมล ให้ตรวจสอบข้อมูลที่ผู้ส่งที่ถูกต้องเท่านั้นที่จะมี นี่คือเหตุผลที่ธนาคารมักจะใส่รหัสไปรษณีย์เป็นส่วนหนึ่งของข้อความ การใช้ตัวบ่งชี้แบรนด์สำหรับการรับรองความถูกต้องของข้อความ (BIMI) จะมีบทบาทสำคัญที่นี่เช่นกัน เนื่องจากโปรโตคอลการตรวจสอบความถูกต้องพื้นฐาน (DMARC) ยืนยันว่าอีเมลมาจากผู้ส่งที่ได้รับการยืนยัน
• ในที่ทำงาน ใช้กฎเพื่อเน้นอีเมลจากภายนอกองค์กรของคุณ อีเมลที่อ้างว่ามาจาก CEO ของคุณแต่นำหน้าด้วย "ภายนอก" จะเป็นสัญญาณสีแดงทันที

วิธีระบุเนื้อหาที่เขียนโดย AI

นอกจากนี้ เรายังเห็นกลยุทธ์ใหม่ๆ เกิดขึ้นเพื่อช่วยระบุเนื้อหาที่เขียนโดย AI ตัวอย่างเช่น เครื่องมืออย่าง GPTZero ได้รับการพัฒนาขึ้นเพื่อช่วยให้ครูและอาจารย์พิจารณาว่าเรียงความของนักเรียนเขียนด้วยคอมพิวเตอร์หรือไม่

นอกจากนี้ยังมีการคาดการณ์ว่า OpenAI จะแทรกลายน้ำให้กับข้อความที่มาจาก ChatGPT

บุคคลจะมีความคิดสร้างสรรค์มากขึ้นเกี่ยวกับวิธีที่พวกเขาปกป้องข้อมูลที่ AI กำเนิดอาจใช้ มีเรื่องราวที่โด่งดังเกี่ยวกับวงร็อค Van Halen ที่เรียกร้องชาม M&Ms โดยเอาสีน้ำตาลออกตามข้อกำหนดในคอนเสิร์ต นักวิจารณ์กล่าวหาว่าพวกเขาปล่อยให้ชื่อเสียงครอบงำ จากนั้น David Lee Roth นักร้องของพวกเขาอธิบายว่านี่คือเพื่อให้แน่ใจว่าสัญญาของพวกเขากับโปรโมเตอร์งาน (ที่มีข้อกำหนดด้านความปลอดภัยที่สำคัญ) ได้รับการอ่านอย่างครบถ้วน

เป็นไปได้ว่าผู้คนจะเริ่มสร้าง "ข้อเท็จจริง" ที่ไม่ถูกต้องเกี่ยวกับตนเองบนเว็บ

ตัวอย่างเช่น ฉันสามารถระบุในบล็อกว่าฉันเติบโตในออสเตรเลีย (ที่จริงคือแอฟริกาใต้) ใครก็ตามที่รู้จักฉันจะรู้ว่าการอ้างอิงของออสเตรเลียนั้นไม่จริง และมันจะเป็นธงสีแดงหากนำไปใช้ในเนื้อหาเกี่ยวกับฉันในภายหลัง!

AI ยังคงเป็นพลังที่ดี

แม้จะมีความกังวลที่ฉันได้ระบุไว้ในโพสต์นี้ แต่ผลกระทบโดยรวมของการปฏิวัติ AI นี้น่าจะเป็นไปในเชิงบวกอย่างท่วมท้น

เปรียบได้กับสิ่งประดิษฐ์ที่สำคัญอื่นๆ เช่น รถยนต์และคอมพิวเตอร์ งานจะเปลี่ยนไป (ชีวิตก็เช่นกัน) แต่งานใหม่ๆ จะเกิดขึ้น โดยเฉพาะในสาขาที่เกี่ยวข้องกับการพัฒนาและปรับใช้ AI สิ่งสำคัญที่สุดคือผลผลิตจะเพิ่มขึ้น

ต้องการฟังการคาดการณ์ของเราว่า AI เชิงกำเนิดจะให้บริการโลกของการตลาดได้อย่างไร ตรวจ สอบ การสัมมนาผ่านเว็บ เกี่ยวกับสถานะของ Email Live ล่าสุดของเรา ซึ่งเราจะเจาะลึกเกี่ยวกับโอกาสเหล่านี้

และเพื่อตอบคำถามที่ไม่ได้ถามของคุณ ไม่ ฉันไม่ได้ใช้ ChatGPT ในการเขียนบทความนี้!