Dlaczego kobiety muszą mieć głos przy stole AI

Katya Moskalenko, menedżerka ds. marketingu produktów w londyńskim Measure Protocol, alarmuje, że sztuczna inteligencja może mieć negatywny wpływ na istniejące różnice między płciami w branży technologicznej. Chociaż stwarza świat ekscytujących możliwości, stwarza także – niemal nieodłącznie – ryzyko uprzedzeń i wykluczenia.

Uniknięcie tych pułapek – powiedziała nam – będzie wymagało „całego łańcucha decyzji i strategii, takich jak zapewnienie różnorodnych zbiorów danych, zapewnienie różnorodnych zespołów i zapewnienie względów etycznych we wszelkich rozwiązaniach opartych na sztucznej inteligencji”.

Przed nami długa droga. Moskalenko przytacza dane Światowego Forum Ekonomicznego z 2021 r., z których wynika, że ​​jedynie 26% stanowisk w zakresie danych i sztucznej inteligencji zajmują kobiety; Nie ma powodu przypuszczać, że statystyki te uległy radykalnej poprawie.

To będzie długa podróż

Katya przyznaje, że nie ma na to magicznego lekarstwa. „Nie możemy rozwiązać wszystkiego na raz” – powiedziała. „Zapewnienie, że sztuczna inteligencja będzie służyć wszystkim, będzie długą drogą. Dzięki bardziej zrównoważonej reprezentacji możemy zapewnić, że wszystkie nowe technologie, w tym sztuczna inteligencja, będą włączające i bezstronne już z założenia”.

Ale czas zacząć jest teraz. Czasami wydaje się, że każda firma, duża i mała, ma zespół opracowujący nowe rozwiązania oparte na sztucznej inteligencji – od Adobe i AirBnB po małe start-upy – powiedziała.

„Więc pierwszą rzeczą jest zróżnicowanie zespołów, w których będzie więcej kobiet, osób innego koloru skóry i grup mniejszościowych, aby zapewnić zróżnicowaną i włączającą perspektywę” – kontynuowała. „Upewnijmy się także, że mamy zbiory danych, które są inkluzywne i różnorodne, aby można je było wprowadzić do systemów i wprowadzić do dużych modeli językowych”.

Obawa, że ​​modele sztucznej inteligencji, zwłaszcza te szkolone w Internecie, rozwiną wbudowane błędy, nie są niczym nowym. Nie ma łatwego rozwiązania, chociaż Moskalenko przyznaje, że niektórzy z dużych graczy w branży starają się rozwiązać ten problem.

„Jestem pod wrażeniem, że OpenAI ma dobre wytyczne; instrukcje, jak zachować ostrożność i jak być odpowiedzialnym” – powiedziała. „Niezwykle ważne jest także dzielenie się najlepszymi praktykami, a także niektórymi znalezionymi przez nas słabymi stronami i podatnościami. Ważne jest łagodzenie niezamierzonych szkód.

Prosi o przemyślaną współpracę; musimy przyznać, że problemy istnieją i współpracować, aby je rozwiązać. „W obliczu całej rywalizacji gospodarczej i biznesowej powinniśmy myśleć także o społeczeństwie jako całości, o ludzkości jako całości. Będziemy żyć w społeczeństwie i z człowieczeństwem, które zbudowaliśmy. Skuteczna współpraca to podstawa.”

Poprawne uzyskanie tych zbiorów danych

Theresa Kushner, ewangelistka danych i współpracowniczka MarTech, również mocno inwestuje w różnorodność i włączenie społeczne, jeśli chodzi o kobiety w sztucznej inteligencji. Zapytaliśmy ją o związek między różnorodnością w zespołach a różnorodnymi, bezstronnymi zbiorami danych.

„Zapewnienie równości płci zaczyna się na długo przed fazą projektowania algorytmów AI” – podkreśliła. „Zaczyna się od tego, jakie dane zbierasz. Co ciekawe, większość firm nie zawsze uważa, że ​​uchwycenie płci jest koniecznością. Dlatego tak naprawdę nie mogą powiedzieć, czy ich dane są stronnicze, czy nie. Współpracowałem z niektórymi firmami, które musiały wnioskować o płci na podstawie zebranych informacji, takich jak imię i nazwisko, przynależność do uczelni, zajęcia pozalekcyjne. Nie jest to dobry sposób na zabezpieczenie płci, ale często to jedyne, co im pozostaje”.

Zgadza się, że niezbędny jest zróżnicowany zespół oceniający algorytmy sztucznej inteligencji. „W miarę jak dane są coraz częściej postrzegane jako produkt, zespoły AI muszą zacząć myśleć jak twórcy produktów, biorąc pod uwagę swoich użytkowników i rynki. Słyszałem kiedyś, jak inżynier mówił o zespole, który stworzył produkt podobny do Fitbit. Oto narzędzie, które powinno śledzić wszystkie funkcje Twojego organizmu, ale projektanci, którymi byli wyłącznie mężczyźni, pominęli w projekcie jedyną rzecz, którą śledzi każda kobieta – okres. Bez różnorodnych grup tworzących produkty oparte na danych mielibyśmy podobne sytuacje”.

Kop głębiej: dlaczego zależy nam na sztucznej inteligencji w marketingu

Zatrudniaj, ale i zatrzymaj

Podejmując kroki w kierunku dywersyfikacji zespołów pracujących w tej przestrzeni, zatrudnianie ze względu na różnorodność nie wystarczy. „Należy podjąć wysiłki, które promują nie tylko zatrudnianie, ale także utrzymanie kobiety w miejscu pracy — ponieważ zatrudnienie kobiety niestety to nie koniec misji. Ważne jest również zapewnienie jej podnoszenia i zmiany kwalifikacji oraz posiadania wszystkiego, czego potrzebuje, aby prosperować”.

Jeśli jedno jest jasne, to fakt, że nacisk na priorytetowe traktowanie przekwalifikowania pracowników płci męskiej w zakresie generatywnej sztucznej inteligencji – oraz ogólnie w zakresie sztucznej inteligencji i danych – tylko pogorszy złą sytuację.

Kushner zgodził się i rozwinął tę tezę. „Oczywiście w równym stopniu powinniście trenować sztuczną inteligencję, ale to nie narzędziami powinniśmy się martwić. Dostęp do narzędzi powinien być łatwy dla każdej kobiety pracującej w branży IT. Powinniśmy jednak dopilnować, aby kobiety były również zaangażowane w zarządzanie narzędziami i algorytmami tworzonymi przez sztuczną inteligencję. Pamiętaj, że różnorodność to nie tylko płeć i pochodzenie etniczne, to także różnorodność myśli i podejścia. Uwzględnianie kobiet często zapewnia również tego rodzaju różnorodność”.

Kobiety w technologii: ruch globalny

Moskalenko angażowała się w te kwestie, nie tylko dotyczące sztucznej inteligencji, poprzez udział w ruchu Women in Tech. Wyjaśniła dlaczego.

„Przeszłam interesującą ścieżkę od bardzo tradycyjnych dziedzin marketingu, od bardzo tradycyjnych firm medialnych, do szybkiej rzeczywistości start-upów technologicznych” – powiedziała nam (Measure Protocol oferuje oprogramowanie do śledzenia inteligencji konkurencyjnej i zachowań konsumentów) . „Uznałam, że ważne jest dla mnie, aby podzielić się swoim doświadczeniem i pomóc innym kobietom w odkrywaniu tej niezwykle interesującej i tętniącej życiem branży oraz uczynić tę stronniczą bańkę nieco bardziej zróżnicowaną i włączającą”.

Więcej informacji na temat ogólnoświatowej misji Women in Tech można znaleźć tutaj.