Mengapa perempuan harus bersuara di meja AI

Katya Moskalenko, manajer pemasaran produk di Measure Protocol yang berbasis di London, menyuarakan kekhawatiran bahwa kecerdasan buatan mungkin berdampak negatif pada kesenjangan gender yang ada di industri teknologi. Meskipun hal ini menciptakan banyak kemungkinan yang menarik, hal ini juga menciptakan – hampir secara inheren – risiko bias dan pengucilan.

Untuk menghindari jebakan tersebut, katanya kepada kami, diperlukan “serangkaian keputusan dan strategi seperti memastikan kumpulan data yang beragam, memastikan tim yang beragam, memastikan pertimbangan etis dalam setiap solusi yang didukung AI.”

Jalan masih panjang. Moskalenko mengutip data Forum Ekonomi Dunia pada tahun 2021 yang menunjukkan bahwa hanya 26% posisi data dan AI dipegang oleh perempuan; tidak ada alasan untuk menganggap bahwa statistik tersebut telah meningkat secara dramatis.

Ini akan menjadi perjalanan yang panjang

Katya mengakui tidak ada solusi ajaib untuk mengatasi hal ini. “Kami tidak bisa menyelesaikan semuanya sekaligus,” katanya. “Ini akan menjadi perjalanan yang panjang untuk memastikan bahwa AI dapat melayani semua individu. Dengan memiliki representasi yang lebih seimbang, kami dapat memastikan bahwa semua teknologi baru, termasuk AI, bersifat inklusif dan tidak memihak dalam desainnya.”

Namun waktu untuk memulainya adalah sekarang. Kadang-kadang sepertinya setiap perusahaan, besar dan kecil, memiliki tim yang mengembangkan solusi baru yang didukung AI – mulai dari Adobe dan AirBnB hingga perusahaan rintisan kecil, katanya.

“Jadi yang pertama adalah, mari kita diversifikasi tim dengan lebih banyak perempuan, lebih banyak orang kulit berwarna, dengan lebih banyak kelompok minoritas untuk memastikan perspektif yang beragam dan inklusif,” lanjutnya. “Selain itu, pastikan kita memiliki kumpulan data yang inklusif dan beragam untuk dimasukkan ke dalam sistem, untuk dimasukkan ke dalam model bahasa yang besar.”

Kekhawatiran bahwa model AI, terutama yang dilatih di web, akan mengembangkan bias bawaan bukanlah hal baru. Dan tidak ada solusi yang mudah, meskipun Moskalenko mengakui bahwa beberapa pemain besar sedang melakukan upaya untuk mengatasi masalah ini.

“Saya cukup terkesan bahwa OpenAI memiliki pedoman yang baik; instruksi tentang bagaimana berhati-hati dan bagaimana bertanggung jawab,” katanya. “Selain itu, sangatlah penting untuk berbagi praktik terbaik, dan juga berbagi beberapa kelemahan dan kerentanan yang kami temukan. Mengurangi dampak buruk yang tidak disengaja itu penting.”

Dia meminta kerja sama yang bijaksana; kita perlu menyadari bahwa ada masalah dan bekerja sama untuk menyelesaikannya. “Dengan banyaknya persaingan ekonomi dan bisnis yang terjadi, kita juga harus memikirkan masyarakat secara keseluruhan, kemanusiaan secara keseluruhan. Kita akan hidup dalam masyarakat dan kemanusiaan yang telah kita bangun. Kerja sama yang efektif adalah kuncinya.”

Memperbaiki kumpulan data tersebut

Penginjil data dan kontributor MarTech, Theresa Kushner, juga banyak berinvestasi dalam keberagaman dan inklusi terkait perempuan di bidang AI. Kami bertanya kepadanya tentang hubungan antara keberagaman dalam tim dan kumpulan data yang beragam dan tidak memihak.

“Memastikan kesetaraan gender dimulai jauh sebelum Anda memasuki tahap perancangan algoritma AI,” tegasnya. “Ini dimulai dengan data apa yang Anda kumpulkan. Menariknya, sebagian besar perusahaan tidak selalu percaya bahwa mempertimbangkan gender adalah sebuah keharusan. Oleh karena itu, mereka benar-benar tidak dapat memberi tahu Anda apakah data mereka bias atau tidak. Saya telah bekerja dengan beberapa perusahaan yang harus menyimpulkan gender dari informasi yang mereka kumpulkan seperti nama, afiliasi perguruan tinggi, kegiatan ekstrakurikuler. Ini bukanlah cara yang baik untuk mengamankan gender, namun sering kali hanya itulah yang mereka miliki.”

Dia setuju bahwa perlu adanya tim yang beragam untuk mengevaluasi algoritma AI. “Seiring dengan semakin banyaknya data yang dipandang sebagai sebuah produk, tim AI harus mulai berpikir seperti pengembang produk dalam mempertimbangkan pengguna dan pasarnya. Saya pernah mendengar seorang insinyur berbicara tentang tim yang menciptakan produk mirip Fitbit. Ini adalah alat yang dapat melacak semua fungsi tubuh Anda, namun para desainer, yang semuanya laki-laki, tidak menyertakan satu hal yang setiap wanita lacak dalam desain mereka, yakni menstruasi. Tanpa beragam kelompok yang menciptakan produk data, kita akan menghadapi situasi serupa.”

Gali lebih dalam: Mengapa kami peduli dengan AI dalam pemasaran

Pekerjakan, tetapi pertahankan juga

Dalam mengambil langkah untuk mendiversifikasi tim yang bekerja di bidang ini, merekrut karyawan yang mendukung keberagaman saja tidaklah cukup. “Harus ada upaya yang mendorong tidak hanya perekrutan tetapi juga retensi – karena sayangnya ini bukanlah akhir dari misi untuk mempekerjakan seorang perempuan, penting juga untuk memastikan bahwa dia telah ditingkatkan keterampilannya dan bahwa dia memiliki semua yang dia butuhkan untuk berkembang.”

Satu hal yang jelas, penekanan pada prioritas pelatihan ulang pekerja laki-laki dalam AI generatif – dan dalam AI serta data secara umum – hanya akan memperburuk situasi yang buruk.

Kushner setuju dan memperluas maksudnya. “Tentu saja, Anda harus melatih AI secara setara, namun bukan alatnya yang perlu kita khawatirkan. Akses terhadap alat harus mudah didapatkan oleh wanita mana pun di bidang TI. Namun, kita harus memastikan bahwa perempuan juga terlibat dalam tata kelola alat dan algoritme yang dibuat oleh AI. Ingatlah, bahwa keberagaman bukan hanya sekedar gender dan etnis, namun juga keberagaman pemikiran dan pendekatan. Memasukkan wanita juga sering kali memberi Anda keberagaman seperti itu.”

Women in Tech: Sebuah gerakan global

Moskalenko telah terlibat dalam isu-isu ini, tidak hanya terkait AI, melalui partisipasinya dalam gerakan Women in Tech. Dia menjelaskan alasannya.

“Saya telah melalui jalur yang menarik dari bidang pemasaran yang sangat tradisional, dari perusahaan media yang sangat tradisional, hingga realita startup teknologi yang serba cepat,” katanya kepada kami (Measure Protocol menawarkan perangkat lunak untuk melacak intelijen kompetitif dan perilaku konsumen) . “Saya merasa penting bagi saya untuk berbagi pengalaman dan membantu perempuan lain menjelajahi industri yang sangat menarik dan dinamis ini – dan menjadikan gelembung yang bias ini sedikit lebih beragam dan inklusif.”

Lebih lanjut mengenai misi Women in Tech di seluruh dunia dapat ditemukan di sini.