6 Risiko Konten AI

1. Risiko Google

Kembali pada April 2022, John Mueller dari Google, berbagi sikap yang cukup jelas tentang validitas konten yang dihasilkan AI:

“Saat ini, itu semua bertentangan dengan pedoman webmaster. Jadi dari sudut pandang kami, jika kami menemukan sesuatu seperti itu, jika tim webspam melihatnya, mereka akan melihatnya sebagai spam.”

Kesimpulannya: bahwa Google akan menghukum situs yang membuat konten AI, sesuatu yang dibandingkan dengan Mueller untuk "memutar" - proses mengambil konten yang ada dan menggunakan sinonim dan penataan ulang kata untuk membuat sesuatu yang tampaknya baru. Saat dihadapkan pada teknologi yang dapat mengurangi biaya marjinal pembuatan konten hingga hampir nol (impian webspammer), Google membuat keputusan untuk mencegah penggunaannya.

Namun seperti yang kami jelaskan sebelumnya, gagasan bahwa Google akan — atau bahkan dapat — menghukum konten yang dihasilkan oleh AI terlalu disederhanakan:

• Konten yang dihasilkan oleh AI, pada umumnya, adalah asli. GPT-4 tidak memutar konten. Konten buatan AI berisi tulisan orisinal, dan bahkan dapat berisi ide yang benar-benar baru.
• Deteksi konten AI sulit dan semakin sulit. Teknologi adalah perlombaan senjata, dan ada lebih banyak uang mengalir ke pembuatan konten daripada deteksi konten. Google tidak mungkin dapat mendeteksi konten buatan AI dengan tingkat konsistensi apa pun.
• Ada garis kabur antara konten yang diedit manusia dan yang ditulis oleh AI. Apakah artikel buatan AI masih dianggap sebagai spam jika diedit atau ditulis ulang oleh orang sungguhan?

Sepuluh bulan kemudian, pada Februari 2023, Google mengeluarkan panduan terbaru tentang konten yang dihasilkan AI. Ada baiknya membaca artikel sumber dan membuat ringkasan Anda sendiri, tetapi takeaway saya jelas: bertujuan untuk membuat konten yang bermanfaat dan memecahkan masalah, dan Google akan sangat ambivalen tentang cara pembuatannya. Seperti yang mereka rangkum:

“Otomasi telah lama digunakan dalam penerbitan untuk membuat konten yang bermanfaat. AI dapat membantu dan menghasilkan konten yang bermanfaat dengan cara baru yang menarik.”

Ketika saya mengobrol tentang konten AI dengan Ty Magnin, kepala merek di Vendr, dia berbagi, “Saat kami pertama kali memulai (ini baru beberapa bulan yang lalu), Google mengatakan akan menghukum artikel yang ditulis dengan AI. Sebagian besar dari kita menyebut gertakan mereka, tetapi itu adalah potensi risiko yang nyata di tahun 2022. Sungguh menakjubkan bagaimana persepsi profil risiko gen-AI terus berubah begitu cepat.

Tidak ada yang dapat menjamin bahwa tindakan apa pun akan kebal dari hukuman — bagaimanapun juga, Google adalah perusahaan dan bukan utilitas, yang mampu membuat keputusan sebagian besar berdasarkan keinginannya sendiri. Tetapi ada alasan bagus untuk berpikir bahwa sebagian besar kasus penggunaan akan aman.

2. Risiko Saluran

Pada topik SEO, ada sudut pandang lain yang patut dipertimbangkan. Alih-alih memikirkan risiko yang ditimbulkan Google terhadap penggunaan AI Anda, ada baiknya mempertimbangkan risiko yang ditimbulkan AI terhadap Google.

Persaingan untuk kata kunci semakin sengit dari hari ke hari. Pengembalian dari SEO telah lama menurun, dan AI generatif dapat mempercepat penurunan ini. Pasangkan peningkatan besar dalam pembuatan konten yang didorong oleh AI dengan skeptisisme yang berkembang pada legitimasi konten online, dan pengembalian pencarian dapat turun lebih jauh (apa yang kami sebut sebagai "singularitas pencarian").

Ada banyak cara yang bisa terjadi:

Risiko ini bersifat spekulatif, tetapi ada baiknya tetap berpikiran terbuka. AI generatif dapat mewakili momen penting untuk pencarian modern. Apa yang akan Anda lakukan jika SEO — raison d'etre dari banyak strategi konten — tiba-tiba membutuhkan lebih banyak usaha, atau menawarkan pengembalian yang jauh lebih rendah? Di mana Anda akan mengalokasikan kembali pembelanjaan Anda? Ini adalah sesuatu yang sudah Ty pikirkan:

“Mesin pencari bereksperimen dengan mengadopsi obrolan sebagai interaksi utama, yang berarti lebih sedikit klik yang masuk ke situs web lain. Jadi membuat konten yang berfokus pada pencarian organik mungkin menjadi kurang berharga untuk bisnis.

Tidak jelas bagaimana obrolan dapat memberi kredit pada sumbernya dan bagaimana hal itu dapat memengaruhi corong pemasaran.”

3. Risiko Halusinasi

Saat menggunakan AI generatif, ada risiko nyata bahwa konten Anda akan dibumbui dengan kepalsuan dan fiksi: kutipan buatan yang dikaitkan dengan orang sungguhan, data yang tidak ada, ide yang tampaknya masuk akal yang berantakan setelah diperiksa lebih dekat.

Kesalahan ini (sering dijuluki "halusinasi") adalah sifat intrinsik AI generatif, konsekuensi dari tujuan utamanya: memprediksi kata terbaik berikutnya dalam urutan kata tertentu. Seperti yang telah kami jelaskan sebelumnya, AI generatif adalah mesin kepercayaan palsu:

• Tidak ada mekanisme pengecekan fakta dalam GPT-3 atau GPT-4 (juga tidak mungkin ada).
• Model-model ini menggunakan data sumber yang seringkali salah.
• AI generatif dirancang untuk menulis dengan segala cara, mengeluarkan konten bahkan ketika data dalam kumpulan data terbatas.

Halusinasi adalah risiko konten AI yang paling nyata, tetapi juga yang paling mudah dipecahkan. Kesalahan dan kekeliruan dapat ditangkap dan diperbaiki dengan melibatkan manusia, seseorang yang bertugas menganalisis validitas keluaran, mencari kesalahan dan kebohongan, dan membubuhkan stempel persetujuan mereka pada artikel yang telah selesai.

Proses ini juga membantu sumber risiko berikutnya: legal.

4. Risiko Hukum

Teknologi memiliki kecenderungan untuk berkembang lebih cepat daripada yang dapat diikuti oleh regulasi. AI generatif telah menciptakan sejumlah pertanyaan yang perlu dijawab:

• Apakah etis (atau sah) menggunakan data situs web tergores untuk melatih model AI?
• Siapa yang benar-benar “memiliki” keluaran dari alat AI generatif?
• Haruskah artis diberi kompensasi atas peran mereka dalam membangun data pelatihan? (“Tulis dengan gaya Ernest Hemingway,” atau bahkan “Tulis dengan gaya blog Animalz.”)

Sementara beberapa dari masalah ini mungkin membutuhkan waktu bertahun-tahun atau dekade untuk diurai, yang lain memberikan perhatian langsung kepada perusahaan yang menggunakan AI generatif. Saya bertanya kepada Aleksander Goranin, spesialis dalam masalah kekayaan intelektual dan kecerdasan buatan dan bermitra di Duane Morris LLP (perusahaan yang digunakan Animalz untuk layanan hukum), untuk membagikan idenya tentang area risiko peraturan saat ini:

• Membocorkan data pribadi. Karena model generatif dilatih pada kumpulan data publik, konten yang dihasilkan mungkin tanpa disadari "membocorkan" data pribadi, sehingga penerbit dapat mengambil tindakan penegakan hukum dari Federal Trade Commission dan lembaga negara bagian, terutama di California, New York, dan Illinois. Otoritas pengatur peka terhadap pengungkapan informasi pengenal pribadi yang tidak sah.
• Konten bias. Dengan cara yang sama, FTC atau otoritas negara bagian dapat melakukan tindakan penegakan hukum untuk konten yang mengandung bias (seperti bias rasial atau gender), bahkan jika bias tersebut muncul secara implisit dari data yang dilatih oleh model AI.
• Kurangnya perlindungan hak cipta. Seperti yang dijelaskan Aleksander, “Ada risiko bahwa Kantor Hak Cipta tidak akan mendaftarkan konten yang dihasilkan sebagai 'karya' yang dilindungi. Ini adalah area di mana Kantor Hak Cipta telah mengeluarkan panduan paling banyak saat ini — pada dasarnya, seseorang perlu mengungkapkan dalam aplikasi pendaftaran sejauh mana AI digunakan dan menafikan hak cipta atas setiap bagian yang dihasilkan secara substansial oleh LLM. Kantor Hak Cipta membutuhkan 'penulis manusia.'”

Kasus penggunaan teraman untuk AI generatif adalah, tidak mengherankan, penelitian latar belakang, curah pendapat, dan pembuatan ide. Untuk hal lain, membuat skema "peninjauan manusia" untuk konten yang dihasilkan akan membantu mengurangi risiko regulasi terbesar.

5. Risiko Biasa-biasa Saja

Banyak orang khawatir konten AI akan sangat buruk. Tapi menurut saya ini relatif berisiko rendah. GPT-4 adalah penulis yang lebih baik daripada kebanyakan orang: lebih pandai bicara, kreatif, dan menerima umpan balik (dan ini hanya akan meningkat dengan model dan antarmuka masa depan).

Kita tidak boleh tersinggung: GPT-4 benar-benar manusia super, setidaknya dalam dimensi membaca dan menulis. Seperti yang Ty bagikan, “Sangat jelas bahwa teknologinya cukup hebat sehingga dengan sedikit peningkatan, kualitas tidak lagi menjadi perhatian dengan pos yang dibantu AI daripada pos yang digerakkan oleh manusia.”

Tetapi konten tidak harus buruk untuk menjadi masalah. Ada risiko yang lebih berbahaya untuk dipertimbangkan: bahwa konten Anda akan berfungsi tetapi dapat dilupakan.

Dalam mengejar peningkatan frekuensi penerbitan, ada risiko kehilangan kedipan keunikan apa pun yang dimiliki konten Anda saat ini. Konten Anda akan jelas, akurat, bahkan dapat ditindaklanjuti… dan masih gagal melakukan sesuatu yang berguna bagi perusahaan Anda.

Pemasaran konten yang hebat lebih dari sekadar kata-kata di halaman. Setiap artikel individu membutuhkan kohesi dengan strategi yang lebih besar dan terarah. Itu bergantung pada distribusi yang efektif. Itu perlu melangkah lebih jauh dari sekadar memenuhi harapan dasar pembaca: itu harus meninggalkan kesan abadi, atau memecahkan masalah, atau menghibur .

Terlalu mengandalkan AI generatif dan terlalu sedikit pada pengalaman terampil, dan Anda berisiko menciptakan semacam tiruan tanpa jiwa dari konten bagus, zombie yang meluncur dengan tampilan "pemasaran konten" tetapi tidak ada kualitasnya yang berguna. AI generatif perlu menjadi alat dalam perangkat Anda , tunduk pada strategi Anda — dan bukan tujuan itu sendiri.

Seperti yang ditulis VC Tomasz Tunguz, “Pertanyaan bagi para pemula yang mengevaluasi produksi konten otomatis: apakah ini cukup menonjol di benak pembeli. Untuk banyak kasus penggunaan, keunikan tidak menjadi masalah. Dokumentasi produk, konten selalu hijau untuk SEO, tanggapan kalengan untuk email.” Kebalikannya juga benar: dalam beberapa situasi, keunikan adalah segalanya.

6. Risiko Penggerak Terakhir

Saat Ty meluncurkan program konten yang dibantu AI, kekhawatiran utama yang dia dengar bukanlah risiko hukum atau kualitas yang buruk; kekhawatiran bahwa peluang terbesar telah berlalu:

“Beberapa orang mengira sudah terlambat untuk meningkatkan volume konten yang kami produksi, dan pasar akan jenuh dalam hitungan bulan.

Tapi saya pikir orang melebih-lebihkan seberapa cepat teknologi diadopsi. Saya pikir orang-orang masih menyadari apa yang dapat dilakukan oleh konten buatan AI.”

Seperti teknologi baru lainnya, AI generatif menawarkan ketidakpastian dan beberapa tingkat risiko — tetapi dengan risiko datanglah peluang. Peluang untuk membangun parit peringkat dan tautan balik yang dapat dipertahankan sebelum pesaing Anda. Peluang untuk bereksperimen dengan saluran lalu lintas yang sama sekali baru. Kesempatan untuk menanamkan personalisasi ke dalam inti pemasaran Anda.

Dalam hal konten AI, risiko yang paling jelas dan paling pasti berasal dari kegagalan untuk bereksperimen dan belajar. AI generatif akan menemukan jalannya ke dalam setiap strategi pemasaran. Itu terlalu bagus dan terlalu murah untuk hal lain. Meskipun penerapan AI generatif yang “tepat” akan sangat bervariasi dari satu perusahaan ke perusahaan lainnya — diinformasikan oleh toleransi risiko, ekspektasi audiens, sasaran, sumber daya, dan keyakinan pribadi — akan ada penerapan di hampir setiap perusahaan.

Saatnya pergi menemukannya.