Pourquoi les femmes doivent avoir une voix à la table de l’IA

Katya Moskalenko, responsable du marketing produit chez Measure Protocol, basée à Londres, tire la sonnette d'alarme : l'intelligence artificielle pourrait avoir un impact négatif sur l'écart entre les sexes existant dans l'industrie technologique. Même si cela crée un monde de possibilités passionnantes, cela crée également – ​​presque intrinsèquement – ​​des risques de préjugés et d’exclusion.

Pour éviter ces pièges, nous a-t-elle dit, il faudra « toute une chaîne de décisions et de stratégies telles que garantir la diversité des ensembles de données, garantir la diversité des équipes, garantir des considérations éthiques dans toute solution basée sur l’IA ».

Il y a un long chemin à parcourir. Moskalenko cite les données du Forum économique mondial de 2021 suggérant que seulement 26 % des postes dans les domaines des données et de l'IA sont occupés par des femmes ; il y a peu de raisons de supposer que cette statistique se soit considérablement améliorée.

Ça va être un long voyage

Katya admet qu'il n'y a pas de solution magique à ce problème. « Nous ne pouvons pas tout résoudre d’un coup », a-t-elle déclaré. « Le chemin sera long pour garantir que l’IA soit au service de tous les individus. En ayant une représentation plus équilibrée, nous pouvons garantir que toutes les nouvelles technologies, y compris l’IA, sont conçues de manière inclusive et impartiale.

Mais il est temps de commencer maintenant. Il semble parfois que chaque entreprise, grande ou petite, dispose d’une équipe développant de nouvelles solutions basées sur l’IA – d’Adobe et AirBnB aux petites start-ups, a-t-elle déclaré.

"La première chose est donc de diversifier les équipes avec plus de femmes, avec plus de personnes de couleur, avec plus de groupes minoritaires pour garantir une perspective diversifiée et inclusive", a-t-elle poursuivi. "Assurons-nous également que nous disposons d'ensembles de données inclusifs et diversifiés à alimenter dans les systèmes, dans de grands modèles de langage."

La crainte que les modèles d’IA, en particulier ceux formés sur le Web, développent des biais inhérents est loin d’être nouvelle. Et il n’y a pas de solution facile, même si Moskalenko reconnaît que certains des grands acteurs du secteur font des efforts pour résoudre le problème.

« Je suis assez impressionné par le fait qu'OpenAI ait de bonnes lignes directrices ; des instructions sur la façon d’être prudent et responsable », a-t-elle déclaré. « En outre, il est extrêmement important de partager les meilleures pratiques, ainsi que certaines des faiblesses et vulnérabilités que nous trouvons. Il est important d’atténuer les dommages involontaires.

Elle demande une coopération réfléchie ; nous devons reconnaître que des problèmes existent et travailler ensemble pour les résoudre. « Avec toute la rivalité économique et commerciale qui existe, nous devrions également penser à la société dans son ensemble, à l’humanité dans son ensemble. Nous vivrons dans la société et avec l’humanité que nous avons construite. Une coopération efficace est la clé.

Réussir ces ensembles de données

Theresa Kushner, évangéliste des données et contributrice de MarTech, est également fortement investie dans la diversité et l'inclusion en ce qui concerne les femmes dans l'IA. Nous l'avons interrogée sur la relation entre la diversité au sein des équipes et des ensembles de données diversifiés et impartiaux.

« Garantir l’égalité des sexes commence bien avant d’arriver à la phase de conception des algorithmes d’IA », a-t-elle souligné. « Cela commence par les données que vous collectez. Il est intéressant de noter que la plupart des entreprises ne croient pas toujours que la prise en compte du genre soit un impératif. Par conséquent, ils ne peuvent vraiment pas vous dire si leurs données sont biaisées ou non. J'ai travaillé avec certaines entreprises qui ont dû déduire le sexe à partir des informations collectées telles que le nom, l'affiliation universitaire et les activités parascolaires. Ce n’est pas un bon moyen de garantir le genre, mais c’est souvent tout ce dont ils disposent.

Elle convient qu'il est nécessaire de disposer d'une équipe diversifiée pour évaluer les algorithmes d'IA. « Alors que les données sont de plus en plus considérées comme un produit, les équipes d’IA doivent commencer à penser comme des développeurs de produits, en considérant leurs utilisateurs et leurs marchés. J'ai entendu un jour un ingénieur parler de l'équipe qui a créé un produit de type Fitbit. Voici un outil qui devrait suivre toutes vos fonctions corporelles, mais les concepteurs, qui étaient tous des hommes, ont laissé de côté la seule chose que chaque femme suit : ses règles. Sans groupes diversifiés créant des produits de données, nous nous retrouverons dans des situations similaires.

Creusez plus profondément : pourquoi nous nous soucions de l'IA dans le marketing

Embaucher, mais aussi fidéliser

En prenant des mesures visant à diversifier les équipes travaillant dans cet espace, le recrutement pour la diversité ne suffit pas. « Des efforts devraient être déployés pour promouvoir non seulement l'embauche, mais également la rétention. Car malheureusement, embaucher une femme n'est pas la fin de la mission, il est également important de s'assurer qu'elle se perfectionne et se reconvertit et qu'elle dispose de tout ce dont elle a besoin pour s'épanouir. »

Si une chose est claire, c’est que donner la priorité à la reconversion des travailleurs masculins dans le domaine de l’IA générative – et dans l’IA et les données en général – ne fera qu’empirer la situation.

Kushner a accepté et a développé le point. « Bien sûr, il faut également se former à l'IA, mais ce ne sont pas les outils qui doivent nous inquiéter. L’accès aux outils devrait être facile pour toute femme travaillant dans le domaine informatique. Nous devons cependant veiller à ce que les femmes soient également impliquées dans la gouvernance des outils et des algorithmes créés par l’IA. N'oubliez pas que la diversité n'est pas seulement une question de genre et d'origine ethnique, c'est aussi une diversité de pensée et d'approche. L’inclusion des femmes donne souvent aussi ce genre de diversité.

Women in Tech : un mouvement mondial

Moskalenko s'est impliquée dans ces questions, pas seulement concernant l'IA, à travers sa participation au mouvement Women in Tech. Elle a expliqué pourquoi.

"J'ai parcouru un chemin intéressant depuis des domaines de marketing très traditionnels, des sociétés de médias très traditionnelles jusqu'à la réalité trépidante des start-ups technologiques", nous a-t-elle déclaré (Measure Protocol propose un logiciel pour suivre la veille concurrentielle et le comportement des consommateurs). . "J'ai senti qu'il était important pour moi de partager mon expérience et d'aider d'autres femmes à explorer cette industrie incroyablement intéressante et dynamique – et à rendre cette bulle biaisée un peu plus diversifiée et inclusive."

Pour en savoir plus sur la mission mondiale de Women in Tech, cliquez ici.