Gouverner l'IA : quel rôle le marketing devrait-il jouer ?

Si vous avez un programme d'intelligence artificielle, vous avez également un comité, une équipe ou un organisme qui assure la gouvernance du développement, du déploiement et de l'utilisation de l'IA. Si vous ne le faites pas, il faut en créer un.

Dans mon dernier article, j'ai partagé les domaines clés de l'application des modèles d'IA et de ML dans le marketing et comment ces modèles peuvent vous aider à innover et à répondre aux demandes des clients. Ici, j'examine la responsabilité du marketing dans la gouvernance de l'IA.

Alors, qu'est-ce que la gouvernance de l'IA ?

La gouvernance de l'IA est ce que nous appelons le cadre ou le processus qui gère votre utilisation de l'IA. L'objectif de tout effort de gouvernance de l'IA est simple : atténuer les risques liés à l'utilisation de l'IA. Pour ce faire, les organisations doivent établir un processus d'évaluation des risques des algorithmes basés sur l'IA et de leur utilisation éthique.

La rigueur de la gouvernance dépend fortement de l'industrie. Par exemple, le déploiement d'algorithmes d'IA dans un contexte financier pourrait présenter des risques plus importants que le déploiement de l'IA dans le secteur manufacturier. L'utilisation de l'IA pour attribuer des cotes de crédit aux consommateurs nécessite plus de transparence et de surveillance qu'un algorithme d'IA qui distribue les pièces de manière rentable dans une usine.

Pour gérer efficacement les risques, un programme de gouvernance de l'IA doit examiner trois aspects des applications basées sur l'IA :

• Données : quelles données l'algorithme utilise-t-il ? La qualité est-elle adaptée au modèle ? Les data scientists ont-ils accès aux données nécessaires ? La confidentialité sera-t-elle violée dans le cadre de l'algorithme ? (Bien que cela ne soit jamais intentionnel, certains modèles d'IA pourraient exposer par inadvertance des informations sensibles.) Comme les données peuvent changer au fil du temps, il est nécessaire de régir de manière cohérente l'utilisation des données dans le modèle AI/ML.
• Algorithmes. Si les données ont changé, cela modifie-t-il la sortie de l'algorithme ? Par exemple, si un modèle a été créé pour prédire quels clients achèteront le mois prochain, les données vieilliront à chaque semaine qui passe et affecteront la sortie du modèle. Le modèle génère-t-il toujours des réponses ou des actions appropriées ? Étant donné que le modèle d'IA le plus courant en marketing est l'apprentissage automatique, les spécialistes du marketing doivent surveiller la dérive des modèles. La dérive du modèle est tout changement dans les prédictions du modèle. Si le modèle prédit aujourd'hui quelque chose qui est différent de ce qu'il avait prédit hier, on dit alors que le modèle a « dérivé ».
• Utilisation. Ceux qui utilisent les résultats du modèle d'IA ont-ils été formés à leur utilisation ? Surveillent-ils les sorties pour détecter des écarts ou des résultats erronés ? Ceci est particulièrement important si le modèle d'IA génère des actions utilisées par le marketing. En utilisant le même exemple, le modèle identifie-t-il les clients les plus susceptibles d'acheter au cours du mois prochain ? Si oui, avez-vous formé des représentants commerciaux ou d'assistance sur la manière de gérer les clients susceptibles d'acheter ? Votre site Web "sait-il" quoi faire avec ces clients lorsqu'ils visitent ? Quels processus de marketing sont affectés à la suite de ces informations ?

Comment doit-il être structuré et qui doit être impliqué ?

La gouvernance de l'IA peut être structurée de différentes manières avec des approches qui varient de hautement contrôlées à auto-surveillées, ce qui dépend fortement de l'industrie ainsi que de la culture d'entreprise dans laquelle elle réside.

Pour pouvoir diriger le développement du modèle ainsi que sa validation et son déploiement, les équipes de gouvernance sont généralement composées à la fois de membres techniques qui comprennent le fonctionnement des algorithmes et de dirigeants qui comprennent pourquoi les modèles doivent fonctionner comme prévu. De plus, une personne représentant la fonction d'audit interne siège généralement au sein de la structure de gouvernance.

Quelle que soit la structure de la gouvernance de l'IA, l'objectif principal doit être une équipe hautement collaborative pour s'assurer que les algorithmes d'IA, les données qu'ils utilisent et les processus qui utilisent les résultats sont gérés afin que l'organisation soit conforme à toutes les réglementations internes et externes.

Voici un exemple de conception de gouvernance de l'IA pour une organisation adoptant une approche centralisée, courante dans des secteurs hautement réglementés comme la santé, la finance et les télécommunications :

Quelle contribution les spécialistes du marketing peuvent-ils apporter à la gouvernance de l'IA ?

Il existe plusieurs raisons pour lesquelles le marketing est impliqué dans la gouvernance des modèles d'IA. Toutes ces raisons sont liées à la mission du marketing.

1. Plaidoyer pour les clients . Le travail du marketing consiste à s'assurer que les clients disposent des informations dont ils ont besoin pour acheter et continuer à acheter, ainsi qu'à promouvoir les offres de l'entreprise. Le marketing est responsable des expériences des clients et de la protection des informations des clients. En raison de ces responsabilités, l'organisation marketing doit être impliquée dans tout algorithme d'IA qui utilise des informations client ou dans tout algorithme ayant un impact sur la satisfaction client, le comportement d'achat ou la promotion.

2. Protéger la marque . L'une des principales responsabilités du marketing est de protéger la marque. Si des modèles d'IA sont déployés d'une manière qui pourrait nuire à l'image de la marque, le marketing doit intervenir. Par exemple, si les scores de solvabilité générés par l'IA sont utilisés pour déterminer à l'avance quels clients bénéficient de la remise « familiale », alors le marketing doit être jouer un rôle important dans la façon dont ce modèle est déployé. Le marketing devrait faire partie de l'équipe qui décide si le modèle produira des résultats appropriés ou non. Le marketing doit toujours poser la question : "Cette situation va-t-elle changer la façon dont nos principaux clients se sentent à l'idée de faire affaire avec nous ?"

3. Assurer des communications ouvertes. L'un des domaines les plus souvent négligés du développement et du déploiement de modèles d'IA/ML est la narration nécessaire pour aider les autres à comprendre ce que les modèles devraient faire. La transparence et l'explicabilité sont les deux caractéristiques les plus importantes d'une bonne modélisation IA/ML gouvernée. La transparence signifie que les modèles qui sont créés sont parfaitement compris par ceux qui les créent et ceux qui les utilisent ainsi que par les gestionnaires et les dirigeants des organisations. Sans être en mesure d'expliquer ce que fait le modèle et comment il le fait aux chefs d'entreprise internes, l'équipe de gouvernance de l'IA court le risque énorme de ne pas être en mesure d'expliquer le modèle en externe aux régulateurs gouvernementaux, aux conseils externes ou aux actionnaires. Communiquer «l'histoire» de ce que fait le modèle et de ce qu'il signifie pour l'entreprise est le travail du marketing.
   

4. Protéger les modèles d'IA déployés par le marketing. Le marketing devrait également être un grand utilisateur de ces modèles AI / ML qui aident à déterminer quels clients achèteront le plus, quels clients resteront clients le plus longtemps et lesquels des clients les plus satisfaits sont susceptibles de vous recommander à d'autres clients potentiels ou même de se désabonner. . Dans ce rôle, le marketing devrait avoir un siège à la table de gouvernance de l'IA pour s'assurer que les informations client sont bien gérées, que les préjugés n'entrent pas dans le modèle et que la confidentialité est préservée pour le client.

Lire ensuite : IA et machine learning dans le marketing : déployez-vous les bons modèles ?

Mais d'abord, apprenez à connaître les bases

Je voudrais dire que la gouvernance de l'IA de votre organisation accueillera les spécialistes du marketing à la table, mais cela ne fait jamais de mal d'être préparé et de faire ses devoirs. Voici quelques compétences et capacités avec lesquelles vous familiariser avant de commencer :

• Compréhension IA/ML. Vous devez comprendre ce que sont l'IA/ML et comment ils fonctionnent. Cela ne signifie pas que vous avez besoin d'un doctorat. en science des données, mais c'est une bonne idée de suivre un cours en ligne sur ce que sont ces capacités et ce qu'elles font. Il est très important que vous compreniez l'impact attendu des modèles, en particulier s'ils risquent d'exposer des informations sur les clients ou de mettre l'organisation en danger sur le plan financier ou de la marque.
• Données. Vous devez bien connaître les données utilisées dans le modèle, comment elles ont été collectées et comment et quand elles sont mises à jour. La sélection et la conservation des données pour un modèle d'IA est le premier endroit où le biais peut entrer dans l'algorithme. Par exemple, si vous essayez d'analyser le comportement des clients autour d'un produit spécifique, vous aurez généralement besoin d'environ les trois quarts des données collectées de la même manière et organisées afin que vous disposiez d'informations complètes et précises. Si ce sont des données marketing que l'algorithme utilisera, votre rôle est encore plus important.
• Traiter. Vous devez avoir une bonne compréhension du processus dans lequel l'algorithme sera déployé. Si vous faites partie de l'équipe de gouvernance de l'IA en tant que représentant marketing et que les algorithmes d'IA évalués sont destinés aux ventes, vous devez vous familiariser avec ce processus et comment et où le marketing peut contribuer au processus. Parce qu'il s'agit d'une compétence importante à posséder si vous faites partie de l'équipe de gouvernance de l'IA, de nombreuses équipes marketing nommeront le responsable des opérations marketing comme leur représentant.

Quel que soit le rôle que vous jouez dans la gouvernance de l'IA, rappelez-vous à quel point c'est important. S'assurer que l'IA/ML est déployée de manière responsable dans votre organisation est non seulement impératif, mais également un processus continu, nécessitant de la persévérance et de la vigilance, car les modèles continuent d'apprendre des données qu'ils utilisent.

Les opinions exprimées dans cet article sont celles de l'auteur invité et pas nécessairement celles de MarTech. Les auteurs du personnel sont répertoriés ici.