Pandangan Pengacara tentang Penggunaan AI Secara Bertanggung Jawab dalam Pengalaman Pelanggan

Dunia menyaksikan dengan takjub saat AI generatif mengubah cara kami menggunakan platform perangkat lunak kami.

Dalam hal pengalaman pelanggan (CX), kami telah jauh dari chatbot robotik, terputus, dan membuat frustrasi di masa lalu. Asisten yang diberdayakan oleh AI kini dapat memberikan respons instan terhadap pertanyaan pelanggan, menjelaskan informasi produk, dan memecahkan masalah.

Kemampuan AI generatif untuk membuat konten secara mandiri dan mempersonalisasi interaksi membuka jendela kemungkinan untuk meningkatkan keterlibatan dan kepuasan pelanggan.

Meskipun teknologi ini menarik untuk setiap bisnis, teknologi ini juga dapat menghadirkan tantangan dalam melindungi data pelanggan Anda, tetap mematuhi peraturan yang ada, dan tetap etis. Dalam perjalanan Anda untuk menerapkan teknologi AI, Anda harus menimbang yang baik dan yang buruk.

Di Ada, kami telah membangun merek kami di sekitar AI tepercaya yang memberikan resolusi yang aman, akurat, dan relevan untuk pertanyaan pelanggan. Di bawah ini kami akan membagikan beberapa cara untuk menjaga kepercayaan pelanggan sambil tetap mematuhi hukum.  

Meningkatkan pengalaman pelanggan dengan AI

Data Laporan Perilaku Pembeli G2 tahun 2023 menunjukkan bahwa pembeli melihat AI sebagai dasar strategi bisnis mereka, dengan 81% responden mengatakan bahwa penting atau sangat penting bahwa perangkat lunak yang mereka beli di masa mendatang memiliki fungsi AI. AI berada di jalur yang tidak terpisahkan dari bisnis.

Di Ada, kami percaya AI generatif dalam layanan pelanggan memiliki potensi untuk:

• Dorong resolusi yang hemat biaya dan efisien. Terapkan pengalaman pelanggan yang mengutamakan AI. Anda dapat menghemat sumber daya menggunakan AI untuk mengotomatiskan respons pertanyaan yang paling umum dan spesialis pelanggan Anda dapat berfokus pada tugas lain yang lebih kompleks.
• Berikan pengalaman pelanggan yang modern. Dengan solusi bertenaga AI yang cerdas, layanan pelanggan dapat menjawab pertanyaan dengan informasi yang akurat dan andal dalam bahasa apa pun kapan pun di seluruh dunia.
• Angkat orang-orang di belakang teknologi . Dengan alat layanan pelanggan otomatis, bisnis dapat berinvestasi dalam pertumbuhan strategis agen layanan pelanggan dan memberdayakan orang-orang di belakang layar untuk sukses.

Meskipun manfaatnya sangat banyak, perusahaan harus menemukan keseimbangan antara mengeksplorasi AI generatif dan menjaga kepercayaan pelanggan.

Legalitas dan kepatuhan

Sebelum Anda mengatur AI generatif di perusahaan Anda, Anda harus memahami risiko hukum yang mungkin Anda hadapi. Dengan mengatasi tantangan ini sebelumnya, bisnis dapat melindungi data pelanggan, mematuhi kerangka hukum, dan membangun kepercayaan pelanggan.

“Skenario terburuk bagi perusahaan mana pun adalah kehilangan kepercayaan pelanggan.”

Tara Datatani
Direktur Hukum, Ada

Menurut Studi Tolok Ukur Privasi Data Cisco 2023 , 94% responden mengatakan pelanggan mereka tidak akan menggurui perusahaan yang tidak melindungi data mereka. Survei Privasi Konsumen Cisco 2022 menunjukkan bahwa 60% konsumen khawatir tentang bagaimana organisasi menerapkan AI saat ini, dan 65% sudah kehilangan kepercayaan pada organisasi atas praktik AI mereka.

Sumber : Survei Privasi Konsumen Cisco 2022

Semua ini untuk mengatakan bahwa ketika menyangkut hukum dan kepatuhan, penting untuk memperhatikan masalah seputar privasi, keamanan, dan hak kekayaan intelektual data pelanggan.

Dalam AI & Automation Toolkit untuk Customer Service Leaders dari Ada , kami menyelidiki pertanyaan hukum dan keamanan untuk ditanyakan saat Anda memikirkan tentang vendor layanan pelanggan bertenaga AI mana yang akan digunakan. Kami juga membahas risiko input dan output yang terkait dengan penerapan AI untuk solusi layanan pelanggan.

Sumber : Ada

Melindungi data dan privasi pelanggan

Keamanan dan privasi data adalah perhatian utama saat menggunakan AI generatif untuk pengalaman pelanggan. Dengan banyaknya data yang diproses oleh algoritme AI, kekhawatiran yang meningkat tentang pelanggaran data dan pelanggaran privasi selalu menjadi latar belakang.

Anda dan perusahaan Anda dapat memitigasi risiko ini dengan mempertimbangkan secara hati-hati praktik privasi dan keamanan dari vendor AI generatif mana pun yang Anda pertimbangkan untuk diintegrasikan. Pastikan vendor yang bermitra dengan Anda dapat melindungi data pada tingkat yang sama dengan organisasi Anda. Pelajari kebijakan privasi dan keamanan data mereka dengan cermat untuk memastikan Anda merasa nyaman dengan praktik mereka.

“Berkomitmen hanya kepada vendor yang memahami dan menjunjung tinggi nilai-nilai inti perusahaan Anda dalam mengembangkan AI yang dapat dipercaya.”

Tara Datatani
Direktur Hukum, Ada

Pelanggan juga semakin penasaran tentang bagaimana data mereka akan digunakan dengan jenis teknologi ini. Jadi saat memutuskan vendor Anda, pastikan Anda tahu apa yang mereka lakukan dengan data yang diberikan kepada mereka untuk tujuan mereka sendiri, seperti untuk melatih model AI mereka.

Keuntungan yang dimiliki perusahaan Anda di sini adalah saat Anda membuat kontrak dengan vendor AI, Anda memiliki kesempatan untuk menegosiasikan persyaratan ini dan menambahkan persyaratan untuk penggunaan data yang diberikan. Manfaatkan fase ini karena ini adalah waktu terbaik untuk menambahkan batasan tentang bagaimana data Anda digunakan.

Kepemilikan dan kekayaan intelektual

AI generatif secara mandiri membuat konten berdasarkan informasi yang didapatnya dari Anda, yang menimbulkan pertanyaan, "Siapa sebenarnya pemilik konten ini?"

Kepemilikan kekayaan intelektual (IP) adalah topik yang menarik namun rumit yang dapat terus didiskusikan dan dikembangkan, terutama seputar undang-undang hak cipta.

Saat Anda menggunakan AI di CX, Anda harus menetapkan pedoman kepemilikan yang jelas untuk karya yang dihasilkan. Di Ada, itu milik pelanggan. Saat kami mulai bekerja dengan klien, kami setuju sejak awal bahwa keluaran apa pun yang dapat dimiliki yang dihasilkan oleh chatbot Ada atau masukan yang diberikan ke model adalah milik mereka. Menetapkan hak kepemilikan dalam tahap negosiasi kontrak dengan vendor membantu mencegah perselisihan dan memungkinkan organisasi untuk bermitra secara adil.

Memastikan model AI Anda dilatih berdasarkan data yang diperoleh secara legal dan dilisensikan dengan tepat dapat melibatkan pencarian perjanjian lisensi yang tepat, mendapatkan izin yang diperlukan, atau membuat konten yang sepenuhnya orisinal. Perusahaan harus jelas tentang undang-undang kekayaan intelektual dan hak cipta serta prinsip-prinsipnya, seperti penggunaan wajar dan penggunaan transformatif, untuk memperkuat kepatuhan.

Mengurangi risiko

Dengan semua kegembiraan dan hype seputar AI generatif dan topik terkait, ini benar-benar bidang hukum yang menarik untuk dipraktikkan saat ini. Peluang yang baru ditemukan ini menarik, tetapi kami juga perlu mengidentifikasi potensi risiko dan area untuk pengembangan.

Bermitra dengan vendor yang tepat dan mengikuti perkembangan peraturan, tentu saja, merupakan langkah besar dalam perjalanan AI generatif Anda. Banyak dari kami di Ada menganggap bergabung dengan grup diskusi yang berfokus pada industri sebagai cara yang berguna untuk tetap mengikuti semua berita yang relevan.

Tapi apa lagi yang bisa Anda lakukan untuk memastikan transparansi dan keamanan sambil mengurangi beberapa risiko yang terkait dengan penggunaan teknologi ini?

Membentuk komite tata kelola AI

Sejak awal, kami di Ada membentuk komite tata kelola AI untuk menciptakan proses internal formal untuk kolaborasi lintas dan berbagi pengetahuan. Ini adalah kunci untuk membangun kerangka kerja AI yang bertanggung jawab. Topik yang ditinjau komite kami mencakup pembaruan kepatuhan terhadap peraturan, masalah IP, dan manajemen risiko vendor, semuanya dalam konteks pengembangan produk dan penyebaran teknologi AI

Hal ini tidak hanya membantu mengevaluasi dan memperbarui kebijakan internal kami, tetapi juga memberikan visibilitas yang lebih baik tentang bagaimana karyawan kami dan pemangku kepentingan lainnya menggunakan teknologi ini dengan cara yang aman dan bertanggung jawab.

Lanskap regulasi AI menyesuaikan kecepatan dengan teknologi. Kami harus tetap di atas perubahan ini dan menyesuaikan cara kami bekerja untuk terus memimpin lapangan.

ChatGPT telah membawa lebih banyak perhatian pada jenis teknologi ini. Komite tata kelola AI Anda akan bertanggung jawab untuk memahami peraturan atau risiko lain yang mungkin timbul: hukum, kepatuhan, keamanan, atau organisasi. Panitia juga akan fokus pada bagaimana AI generatif berlaku untuk pelanggan dan bisnis Anda secara umum.

Mengidentifikasi AI yang dapat dipercaya

Meskipun Anda mengandalkan model bahasa besar (LLM) untuk menghasilkan konten, pastikan ada konfigurasi dan tindakan kepemilikan lain yang ditambahkan bisnis Anda di atas teknologi ini untuk mengurangi risiko bagi pelanggan Anda. Misalnya, di Ada, kami menggunakan berbagai jenis filter untuk menghapus konten yang tidak aman atau tidak dapat dipercaya.

Di luar itu, Anda harus memiliki program keamanan standar industri dan menghindari penggunaan data untuk apa pun selain tujuan yang telah ditentukan sebelumnya. Di Ada, apa yang kami masukkan ke dalam pengembangan produk kami selalu didasarkan pada perolehan data dan informasi pribadi paling sedikit yang Anda perlukan untuk memenuhi tujuan Anda.

Jadi produk apa pun yang Anda miliki, perusahaan Anda harus memastikan bahwa semua fiturnya mempertimbangkan faktor-faktor ini. Beri tahu pelanggan Anda bahwa potensi risiko terhadap data mereka ini sejalan dengan penggunaan AI generatif. Bermitra dengan organisasi yang menunjukkan komitmen yang sama untuk menjunjung tinggi kejelasan, transparansi, dan privasi dalam desain produk mereka sendiri.

Ini membantu Anda menjadi lebih transparan dengan pelanggan Anda. Ini memberdayakan mereka untuk memiliki kontrol lebih besar atas informasi pribadi mereka dan membuat keputusan yang tepat tentang bagaimana Anda menggunakan data mereka.

Memanfaatkan loop umpan balik terus menerus

Karena teknologi AI generatif berubah begitu cepat, Ada terus mengevaluasi potensi jebakan melalui umpan balik pelanggan.

Departemen kami juga fokus pada lintas fungsi, yang sangat penting. Produk, kesuksesan pelanggan, dan tim penjualan semuanya bergabung bersama untuk memahami apa yang diinginkan pelanggan kami dan bagaimana memberikannya kepada mereka.

Dan pelanggan kami adalah sumber informasi penting bagi kami! Mereka mengajukan pertanyaan bagus tentang fitur baru dan memberikan banyak umpan balik produk. Ini benar-benar menantang kita untuk tetap berada di depan keprihatinan mereka.

Kemudian, tentu saja, sebagai departemen hukum, kami bekerja dengan tim produk dan keamanan kami setiap hari untuk memberi mereka informasi tentang kemungkinan masalah peraturan dan kewajiban kontrak yang sedang berlangsung dengan pelanggan kami.

Menerapkan AI generatif adalah upaya total perusahaan. Semua orang di Ada didorong dan diberdayakan untuk menggunakan AI setiap hari dan terus mengevaluasi kemungkinan – dan risiko – yang mungkin menyertainya.

Masa depan AI dan CX

CEO Ada, Mike Murchison, memberikan pidato utama di Ada Interact Conference kami pada tahun 2022 tentang masa depan AI, di mana dia memperkirakan bahwa setiap perusahaan pada akhirnya akan menjadi perusahaan AI. Dari sudut pandang kami, menurut kami keseluruhan pengalaman akan meningkat secara dramatis, baik dari perspektif agen pelanggan maupun pelanggan.

Pekerjaan agen layanan pelanggan akan meningkat. Akan ada lebih banyak kepuasan dari peran tersebut karena AI akan mengambil alih beberapa tugas layanan pelanggan yang lebih biasa dan berulang, memungkinkan agen untuk fokus pada aspek pemenuhan peran lainnya.

Menjadi pengadopsi awal

Alat AI generatif sudah ada di sini, dan akan tetap ada. Anda harus mulai menggali cara menggunakannya sekarang.

“AI generatif adalah hal besar berikutnya. Bantu organisasi Anda menggunakan teknologi ini secara bertanggung jawab, daripada mengadopsi pendekatan menunggu dan menonton.”

Tara Datatani
Direktur Hukum, Ada

Anda bisa mulai dengan mempelajari apa yang dilakukan alat dan bagaimana mereka melakukannya. Kemudian Anda dapat menilai alur kerja ini untuk memahami apa yang nyaman bagi perusahaan Anda dan apa yang akan memungkinkan organisasi Anda menerapkan alat AI generatif dengan aman.

Anda harus tetap terlibat dengan tim bisnis Anda untuk mempelajari bagaimana alat ini mencoba mengoptimalkan alur kerja sehingga Anda dapat terus bekerja dengannya. Terus ajukan pertanyaan dan evaluasi risiko seiring perkembangan teknologi.

Ada cara untuk bertanggung jawab dan tetap menjadi yang terdepan dalam teknologi baru ini. Semoga artikel ini membantu Anda menemukan garis itu.

Posting ini adalah bagian dari seri Wawasan Industri G2. Pandangan dan pendapat yang diungkapkan adalah milik penulis dan tidak mencerminkan sikap resmi G2 atau stafnya.