De ce femeile trebuie să aibă voce la masa AI

Katya Moskalenko, manager de marketing de produs la Measure Protocol din Londra, trage un semnal de alarmă că inteligența artificială ar putea avea un impact negativ asupra decalajului de gen existent în industria tehnologiei. Deși creează o lume de posibilități interesante, creează și – aproape inerent – ​​riscuri de părtinire și excludere.

Evitarea acelor capcane, ne-a spus ea, va necesita „un întreg lanț de decizii și strategii, cum ar fi asigurarea unor seturi de date diverse, asigurarea unor echipe diverse, asigurarea considerațiilor etice în orice soluție bazată pe inteligență artificială”.

Mai e un drum lung de parcurs. Moskalenko citează date ale Forumului Economic Mondial din 2021, sugerând că doar 26% dintre date și pozițiile AI sunt ocupate de femei; nu există motive să presupunem că acea statistică s-a îmbunătățit dramatic.

Va fi o călătorie lungă

Katya admite că nu există o soluție magică pentru asta. „Nu putem rezolva totul deodată”, a spus ea. „Va fi o cale lungă pentru a ne asigura că AI este de folos tuturor persoanelor. Având o reprezentare mai echilibrată, ne putem asigura că toate noile tehnologii, inclusiv inteligența artificială, sunt incluzive și nepărtinitoare prin proiectare.”

Dar momentul să începem este acum. Uneori pare că fiecare companie, mare și mică, are o echipă care dezvoltă noi soluții bazate pe inteligență artificială - de la Adobe și AirBnB până la mici start-up-uri, a spus ea.

„Deci, primul lucru este să diversificăm echipele cu mai multe femei, cu mai multe persoane de culoare, cu mai multe grupuri minoritare pentru a asigura o perspectivă diversă și incluzivă”, a continuat ea. „De asemenea, să ne asigurăm că avem seturi de date care sunt incluzive și diverse pentru a fi introduse în sisteme, pentru a fi alimentate în modele mari de limbaj.”

Preocuparea că modelele AI, în special cele instruite pe web, vor dezvolta părtiniri încorporate este departe de a fi nouă. Și nu există o soluție ușoară, deși Moskalenko recunoaște că unii dintre marii jucători din spațiu fac eforturi pentru a aborda problema.

„Sunt destul de impresionat că OpenAI are linii directoare bune; instrucțiuni despre cum să fii precaut și cum să fii responsabil”, a spus ea. „De asemenea, este incredibil de important să împărtășim cele mai bune practici și, de asemenea, să împărtășim unele dintre slăbiciunile și vulnerabilitățile pe care le găsim. Atenuarea vătămării neintenționate este importantă.”

Ea cere o cooperare atentă; trebuie să recunoaștem că problemele există și să lucrăm împreună pentru a le rezolva. „Cu toată rivalitatea economică și de afaceri care are loc, ar trebui să ne gândim și la societate ca întreg, la umanitate ca întreg. Vom trăi în societate și cu umanitatea pe care am construit-o. Cooperarea eficientă este cheia.”

Obținerea corectă a acestor seturi de date

Evanghelistul de date și colaboratorul MarTech Theresa Kushner este, de asemenea, foarte investit în diversitate și incluziune atunci când vine vorba de femei în IA. Am întrebat-o despre relația dintre diversitatea în echipe și seturile de date diverse și imparțiale.

„Asigurarea egalității de gen începe cu mult înainte de a ajunge la faza de proiectare a algoritmilor AI”, a subliniat ea. „Începe cu datele pe care le colectezi. Destul de interesant, majoritatea companiilor nu cred întotdeauna că captarea genului este un imperativ. Prin urmare, chiar nu vă pot spune dacă datele lor sunt părtinitoare sau nu. Am lucrat cu unele companii care au fost nevoite să deducă genul din informațiile pe care le-au colectat, cum ar fi numele, afilierea la facultate, activități extracurriculare. Aceasta nu este o modalitate bună de a asigura genul, dar este adesea tot ceea ce au.”

Ea este de acord că este necesar să existe o echipă diversă care evaluează algoritmii AI. „Pe măsură ce datele sunt privite din ce în ce mai mult ca un produs, echipele AI trebuie să înceapă să gândească ca dezvoltatorii de produse, luând în considerare utilizatorii și piețele lor. Am auzit odată un inginer vorbind despre echipa care a creat un produs asemănător Fitbit. Iată un instrument care ar trebui să urmărească toate funcțiile tale corporale, dar designerii, care erau toți bărbați, au lăsat în afara designului singurul lucru pe care fiecare femeie îl urmărește - menstruația. Fără grupuri diverse care creează produse de date, avem situații similare.”

Sapă mai profund: de ce ne pasă de AI în marketing

Angajați, dar și păstrați

În luarea măsurilor pentru diversificarea echipelor care lucrează în acest spațiu, angajarea pentru diversitate nu este suficientă. „Ar trebui să existe eforturi care să promoveze nu doar angajarea, ci și menținerea — pentru că, din păcate, nu este sfârșitul misiunii de a angaja o femeie, este, de asemenea, important să ne asigurăm că aceasta este calificată și recalificată și că are tot ce are nevoie pentru a se dezvolta.”

Dacă un lucru este clar, este că un accent pe prioritizarea recalificării lucrătorilor de sex masculin în IA generativă - și în AI și date în general - nu va face decât să înrăutățească o situație proastă.

Kushner a fost de acord și a extins punctul. „Desigur, ar trebui să te antrenezi în IA în mod egal, dar nu ar trebui să ne îngrijorăm instrumentele. Accesul la instrumente ar trebui să fie ușor de obținut pentru orice femeie din domeniul IT. Cu toate acestea, ar trebui să ne asigurăm că femeile sunt implicate și în guvernarea instrumentelor și a algoritmilor creați de IA. Amintiți-vă că diversitatea nu este doar gen și etnie, este și diversitate de gândire și abordare. Includerea femeilor îți oferă adesea și acest tip de diversitate.”

Femeile în tehnologie: o mișcare globală

Moskalenko a fost implicată în aceste probleme, nu doar în ceea ce privește IA, prin participarea ei la mișcarea Women in Tech. Ea a explicat de ce.

„Am trecut printr-o cale interesantă, de la domenii de marketing foarte tradiționale, de la companii media foarte tradiționale, până la realitatea rapidă a start-up-urilor tehnologice”, ne-a spus ea (Measure Protocol oferă software pentru a urmări inteligența competitivă și comportamentul consumatorilor) . „Am simțit că este important pentru mine să împărtășesc experiența mea și să ajut alte femei să exploreze această industrie incredibil de interesantă și vibrantă – și să facă această bulă părtinitoare un pic mai diversă și incluzivă.”

Mai multe despre misiunea la nivel mondial a Women in Tech pot fi găsite aici.