Bahaya ChatGPT: Alat Personalisasi Hebat atau Teknologi Phishing Hebat?

ChatGPT OpenAI telah menggemparkan dunia.

Terlepas dari jutaan orang yang telah mencobanya, penyedia layanan email (ESP) melatihnya menggunakan data kampanye untuk menghasilkan baris subjek dan konten email yang sangat efektif.

Pengguna Salesforce mengeksplorasi bagaimana ChatGPT dapat membuat formula dan aturan validasi. Dan, Microsoft kini telah memasukkannya ke dalam mesin pencari Bing-nya—sudah ada pembicaraan bahwa ini berpotensi menjadi "pembunuh Google!"

Jadi, bagaimana cara kerja teknologi baru?

ChatGPT (Generative Pre-trained Transformer) menggunakan teknik pembelajaran mendalam untuk memproses terabyte data web (berisimiliarankata) untuk membuat jawaban atas permintaan atau pertanyaan dari pengguna.

Interaksi seperti berbicara dengan seseorang. Banyak yang mengatakan ChatGPT adalah aplikasi AI pertama yang lulus uji Turing—artinya menunjukkan perilaku cerdas yang setara, atau tidak dapat dibedakan dari, manusia.

Kami telah melihat beberapa kasus penggunaan yang menarik:

• Surat kabar Times Inggris menggunakan ChatGPT untuk menulis editorial hariannya , dan kemudian meminta pembaca untuk mengidentifikasi konten mana yang ditulis oleh mesin. Kebanyakan tidak bisa!
• Pengecer kartu ucapan online Moonpig sedang mempertimbangkan untuk mengintegrasikan ChatGPT ke dalam sistemnya. Pelanggan dapat memintanya untuk menghasilkan pesan atau puisi yang dipersonalisasi tanpa harus menggaruk-garuk kepala untuk mencari kata yang tepat.

ChatGPT memungkinkan inovasi dan produktivitas yang dapat menjadi pengubah permainan, menyaingi pembuatan web itu sendiri. Tapi setiap koin memiliki dua sisi. Apakah ada potensi sisi gelap dari teknologi baru ini?

Mari kita lihat bagaimana ChatGPT dapat menciptakan peluang baru bagi penyerang dan pembela keamanan siber.

Upaya phishing yang lebih baik

Para peneliti sudah melihat kode buatan AI diposting ke forum kejahatan dunia maya . Salah satu kasus penggunaan ChatGPT dari “sisi gelap” adalah spear phishing—penipuan email yang sengaja ditargetkan ke individu, organisasi, atau bisnis tertentu. Dengan menggunakan taktik ini, penipu dapat mencuri data untuk tujuan jahat atau memasang malware di komputer yang ditargetkan.

Dalam contoh tipikal, staf perusahaan mungkin menerima email dari "CEO" mereka, dengan permintaan mendesak untuk berkontribusi pada dokumen tertaut atau membaca lampiran. Nama akrab yang dipasangkan dengan permintaan yang biasanya mereka harapkan akan meningkatkan hal yang masuk akal—dan kemungkinan mereka untuk merespons.

Faktanya, sangat mungkin bahwa serangan ransomware Royal Mail baru-baru ini dimulai dengan email spear phishing.

Karena ChatGPT dapat menghasilkan konten dengan gaya orang yang dinominasikan, email spear phishing akan segera menjadi lebihmeyakinkan. Penipu sekarang dapat meminta konten yang terdengar seperti CEO target, membuat pesan menjadi lebih realistis, dan memaksimalkan peluang karyawan jatuh cinta.

Rekayasa antisosial

ChatGPT juga dapat meningkatkan bentuk penipuan peniruan identitas lainnya, terutama dalam kasus di mana kepercayaan perlu dibangun.

Menggunakan ChatGPT, penipu dapat berpura-pura lebih meyakinkan sebagai karyawan bank, petugas polisi, petugas pajak (yang memberi tahu korban bahwa mereka memiliki tagihan yang belum dibayar), atau perwakilan penyedia layanan (yang mengklaim router korban telah diretas, dan mereka memerlukan akses jarak jauh ke komputer mereka menyelesaikan masalah).

Contoh yang semakin umum melibatkan pesan dari teman atau anggota keluarga yang berada “di luar negeri”. Mereka biasanya akan mengatakan dompet dan telepon mereka telah dicuri, dan seseorang telah meminjamkan mereka telepon lain untuk meminta dana darurat.

Kematian konten asli

Banyak pendidik sangat khawatir bahwa ChatGPT berarti siswa tidak perlu menulis esai lagi.

Beberapa telah mengujinya , mengirimkan artikel yang dihasilkan oleh AI—dan menerima nilai kelulusan yang kredibel ( asalkan mereka baik-baik saja dengan tidak menjadi yang terbaik di kelasnya). Pendidik semakin khawatir AI akan menyebabkan kecurangan massal, dan beberapa sekolah sudah beralih dari esai pekerjaan rumah sebagai tanggapan.

Masalah privasi

ChatGPT mungkin mengetahui planet mana yang pertama kali difoto oleh teleskop luar angkasa Webb (HIP 65426 b). Namun cara sumber data ini mungkin berbenturan dengan undang-undang privasi yang muncul seperti Peraturan Perlindungan Data Umum (GDPR) dan Undang-Undang Privasi Konsumen California (CCPA).

Kasus Clearview AI , di mana basis data pengenalan wajah dibangun menggunakan pengikisan gambar, berakhir dengan denda jutaan dolar dari berbagai regulator pan-Eropa.

Cara kerja ChatGPT tidak sepenuhnya sama—lebih seperti blender makanan untuk data, di mana bahan aslinya tidak lagi dapat dikenali. Tapi masih akan ada pertanyaan apakah individumenginginkandata mereka digunakan dengan cara ini.

Pelanggaran hak cipta adalah skenario yang lebih mungkin terjadi. Di Amerika Serikat, gugatan class action telah diajukan terhadap Stability AI, pengembang generator seni AI Stable Diffusion. Jaksa menuduh pelanggaran hak pemilik gambar asli.

Dan, Getty Images, perpustakaan foto dan seni yang berbasis di Inggris, mengatakan akan menuntut Stable Diffusion karena menggunakan gambarnya tanpa lisensi.

GPT = Dapatkan Perlindungan Hari Ini

Meskipun skenario ini mungkin terdengar agak apokaliptik, ada praktik terbaik yang dapat digunakan sebagai perlindungan:

• Kewaspadaan selalu menjadi garis pertahanan pertama. Bank dan petugas kepolisian tidak akan pernah meminta detail kartu, PIN, atau kata sandi internet banking. Jadi, sangat skeptis terhadap permintaan serupa.
• Saat menerima email, periksa data yang hanya dimiliki oleh pengirim yang sah. Inilah sebabnya mengapa bank sering memasukkan kode pos sebagai bagian dari pesan mereka. Penggunaan Indikator Merek untuk Autentikasi Pesan (BIMI) juga akan memainkan peran kunci di sini, karena protokol autentikasi dasar (DMARC) mengonfirmasi bahwa email tersebut berasal dari pengirim yang terverifikasi.
• Di tempat kerja, terapkan aturan untuk menyoroti email dari luar organisasi Anda. Email yang mengaku berasal dari CEO Anda tetapi diawali dengan "Eksternal" akan langsung menjadi tanda bahaya.

Cara mengidentifikasi konten yang dibuat oleh AI

Kami juga melihat munculnya taktik baru untuk membantu mengidentifikasi konten yang dibuat oleh AI. Misalnya, alat seperti GPTZero dikembangkan untuk membantu guru dan dosen menentukan apakah esai siswa mereka ditulis oleh mesin.

Selain itu, ada prediksi bahwa OpenAI akan memasukkan tanda air ke teks yang bersumber dari ChatGPT.

Individu juga akan menjadi lebih kreatif tentang bagaimana mereka melindungi data yang mungkin digunakan oleh AI generatif. Ada sebuah cerita terkenal tentang band rock Van Halen yang meminta semangkuk M&M dengan mangkuk berwarna cokelat disingkirkan sebagai bagian dari persyaratan konser mereka. Kritikus menuduh mereka membiarkan ketenaran masuk ke kepala mereka. Kemudian, penyanyi mereka David Lee Roth menjelaskan ini untuk memastikan kontrak mereka dengan promotor acara (dengan persyaratan keamanan yang signifikan) telah dibaca sepenuhnya.

Sangat mungkin orang akan mulai menyebarkan "fakta" yang salah tentang diri mereka sendiri di web (mirip dengan bagaimana vendor antispam menyebarkan perangkap spam murni).

Misalnya, saya dapat menyatakan di blog bahwa saya dibesarkan di Australia. (Itu sebenarnya Afrika Selatan.) Siapa pun yang mengenal saya akan tahu bahwa referensi Australia itu tidak benar, dan itu akan menjadi tanda bahaya jika kemudian digunakan dalam konten tentang saya!

AI masih merupakan kekuatan untuk kebaikan

Terlepas dari kekhawatiran yang telah saya uraikan dalam postingan ini, dampak keseluruhan dari revolusi AI ini seharusnya sangat positif.

Ini sebanding dengan penemuan penting lainnya seperti mobil dan komputer. Pekerjaan akan berubah (demikian pula kehidupan), tetapi pekerjaan baru akan muncul—terutama di bidang yang terkait dengan pengembangan dan penyebaran AI. Mungkin yang terpenting, produktivitas akan meningkat.

Ingin mendengar prediksi kami tentang bagaimana AI generatif akan melayani dunia pemasaran? Lihat webinar State of Email Live kami baru-baru ini di mana kami mendalami peluang ini.

Dan sebagai tanggapan atas pertanyaan Anda yang tidak ditanyakan, tidak, saya tidak menggunakan ChatGPT untuk menulis artikel ini!