Perché le donne devono avere voce in capitolo al tavolo dell’IA

Katya Moskalenko, product marketing manager presso Measure Protocol con sede a Londra, lancia l’allarme sul fatto che l’intelligenza artificiale potrebbe avere un impatto negativo sul divario di genere esistente nel settore tecnologico. Sebbene crei un mondo di possibilità entusiasmanti, crea anche – quasi intrinsecamente – rischi di pregiudizi ed esclusione.

Evitare queste trappole, ci ha detto, richiederà “un’intera catena di decisioni e strategie come garantire set di dati diversi, garantire team diversificati, garantire considerazioni etiche in qualsiasi soluzione basata sull’intelligenza artificiale”.

C'è molta strada da fare. Moskalenko cita i dati del World Economic Forum del 2021 che suggeriscono che solo il 26% dei dati e delle posizioni nell’intelligenza artificiale sono ricoperti da donne; ci sono poche ragioni per supporre che quella statistica sia notevolmente migliorata.

Sarà un lungo viaggio

Katya ammette che non esiste una soluzione magica per questo. "Non possiamo risolvere tutto in una volta", ha detto. “Sarà un lungo percorso per garantire che l’intelligenza artificiale sia al servizio di tutti gli individui. Avendo una rappresentanza più equilibrata, possiamo garantire che tutte le nuove tecnologie, compresa l’intelligenza artificiale, siano inclusive e imparziali fin dalla progettazione”.

Ma il momento di iniziare è adesso. A volte sembra che ogni azienda, grande e piccola, abbia un team che sviluppa nuove soluzioni basate sull’intelligenza artificiale, da Adobe e AirBnB alle piccole start-up, ha affermato.

“Quindi la prima cosa è diversificare i team con più donne, con più persone di colore, con più gruppi minoritari per garantire una prospettiva diversificata e inclusiva”, ha continuato. "Inoltre, assicuriamoci di disporre di set di dati inclusivi e diversificati da inserire nei sistemi, da inserire in modelli linguistici di grandi dimensioni."

La preoccupazione che i modelli di intelligenza artificiale, in particolare quelli formati sul web, sviluppino pregiudizi incorporati è tutt’altro che nuova. E non esiste una soluzione semplice, anche se Moskalenko riconosce che alcuni dei grandi attori del settore stanno facendo uno sforzo per affrontare il problema.

“Sono piuttosto colpito dal fatto che OpenAI abbia buone linee guida; istruzioni su come essere prudenti e responsabili", ha affermato. “Inoltre, è incredibilmente importante condividere le migliori pratiche e condividere anche alcune delle debolezze e delle vulnerabilità che riscontriamo. Mitigare i danni involontari è importante”.

Chiede una premurosa collaborazione; dobbiamo riconoscere che i problemi esistono e lavorare insieme per risolverli. “Con tutta la rivalità economica e commerciale in atto, dovremmo anche pensare alla società nel suo insieme, all’umanità nel suo insieme. Vivremo nella società e con l’umanità che abbiamo costruito. La chiave è una cooperazione efficace”.

Ottenere i set di dati corretti

Anche Theresa Kushner, divulgatrice dei dati e collaboratrice di MarTech, è fortemente impegnata nella diversità e nell’inclusione quando si tratta di donne nell’intelligenza artificiale. Le abbiamo chiesto della relazione tra la diversità nei team e set di dati diversi e imparziali.

“Garantire l’uguaglianza di genere inizia molto prima di arrivare alla fase di progettazione degli algoritmi di intelligenza artificiale”, ha sottolineato. “Inizia con i dati che raccogli. È interessante notare che la maggior parte delle aziende non sempre crede che catturare il genere sia un imperativo. Pertanto, non possono davvero dirti se i loro dati sono distorti o meno. Ho lavorato con alcune aziende che hanno dovuto dedurre il genere dalle informazioni raccolte come nome, appartenenza al college, attività extrascolastiche. Questo non è un buon modo per garantire il genere, ma spesso è tutto ciò che hanno”.

Concorda sulla necessità di avere un team diversificato che valuti gli algoritmi di intelligenza artificiale. “Poiché i dati vengono visti sempre più come un prodotto, i team di intelligenza artificiale devono iniziare a pensare come sviluppatori di prodotti considerando i loro utenti e i loro mercati. Una volta ho sentito un ingegnere parlare del team che ha creato un prodotto simile a Fitbit. Ecco uno strumento che dovrebbe tenere traccia di tutte le tue funzioni corporee, ma i designer, che erano tutti uomini, hanno escluso dal design l'unica cosa che ogni donna tiene traccia: il ciclo mestruale. Senza gruppi diversi che creano prodotti di dati, abbiamo situazioni simili”.

Approfondimento: perché ci interessa l'intelligenza artificiale nel marketing

Assumere, ma anche trattenere

Nell’adottare misure verso la diversificazione dei team che lavorano in questo spazio, assumere per la diversità non è sufficiente. "Dovrebbero essere compiuti sforzi che promuovano non solo le assunzioni ma anche la fidelizzazione: poiché purtroppo assumere una donna non è il fine della missione, è anche importante garantire che abbia competenze e riqualificazioni e che abbia tutto ciò di cui ha bisogno per prosperare".

Se una cosa è chiara, è che l’enfasi nel dare priorità alla riqualificazione dei lavoratori di sesso maschile nell’intelligenza artificiale generativa – e nell’intelligenza artificiale e nei dati in generale – non farà altro che peggiorare una situazione già difficile.

Kushner fu d'accordo e approfondì il punto. “Naturalmente, dovresti ugualmente formarti sull'intelligenza artificiale, ma non sono gli strumenti di cui dovremmo preoccuparci. L’accesso agli strumenti dovrebbe essere facile per qualsiasi donna nel campo IT. Dovremmo, tuttavia, garantire che anche le donne siano coinvolte nella governance degli strumenti e degli algoritmi creati dall’intelligenza artificiale. Ricorda che la diversità non è solo genere ed etnia, è anche diversità di pensiero e di approccio. Includere le donne spesso dà anche questo tipo di diversità”.

Donne nella tecnologia: un movimento globale

Moskalenko è stata coinvolta in queste questioni, non solo riguardanti l’intelligenza artificiale, attraverso la sua partecipazione al movimento Women in Tech. Ha spiegato perché.

"Ho attraversato un percorso interessante da campi di marketing molto tradizionali, da società di media molto tradizionali, alla realtà frenetica delle start-up tecnologiche", ci ha detto (Measure Protocol offre software per monitorare l'intelligenza competitiva e il comportamento dei consumatori) . “Ho sentito che era importante per me condividere la mia esperienza e aiutare altre donne a esplorare questo settore incredibilmente interessante e vivace – e rendere questa bolla distorta un po’ più diversificata e inclusiva”.

Maggiori informazioni sulla missione mondiale di Women in Tech possono essere trovate qui.