Governare l'IA: quale ruolo dovrebbe svolgere il marketing?

Se disponi di un programma di intelligenza artificiale, hai anche un comitato, un team o un organismo che fornisce la governance sullo sviluppo, la distribuzione e l'utilizzo dell'IA. In caso contrario, è necessario crearne uno.

Nel mio ultimo articolo, ho condiviso le aree chiave per l'applicazione dei modelli AI e ML nel marketing e come tali modelli possono aiutarti a innovare e soddisfare le richieste dei clienti. Qui esamino la responsabilità del marketing per la governance dell'IA.

Allora, cos'è la governance dell'IA?

La governance dell'IA è ciò che chiamiamo il framework o il processo che gestisce l'uso dell'IA da parte dell'utente. L'obiettivo di qualsiasi sforzo di governance dell'IA è semplice: mitigare i rischi associati all'utilizzo dell'IA. Per fare ciò, le organizzazioni devono stabilire un processo per valutare i rischi degli algoritmi basati sull'intelligenza artificiale e il loro utilizzo etico.

Il rigore della governance dipende fortemente dall'industria. Ad esempio, l'implementazione di algoritmi di intelligenza artificiale in un ambiente finanziario potrebbe comportare rischi maggiori rispetto a quella di distribuzione dell'IA nella produzione. L'uso dell'intelligenza artificiale per l'assegnazione dei punteggi di credito al consumo richiede maggiore trasparenza e supervisione rispetto a un algoritmo di intelligenza artificiale che distribuisce le parti in modo conveniente in un impianto.

Per gestire il rischio in modo efficace, un programma di governance dell'IA dovrebbe considerare tre aspetti delle applicazioni basate sull'IA:

• Dati: quali dati utilizza l'algoritmo? La qualità è adeguata al modello? I data scientist hanno accesso ai dati necessari? La privacy sarà violata come parte dell'algoritmo? (Sebbene ciò non sia mai intenzionale, alcuni modelli di IA potrebbero esporre inavvertitamente informazioni sensibili.) Poiché i dati possono cambiare nel tempo, è necessario governare in modo coerente l'utilizzo dei dati nel modello AI/ML.
• Algoritmi. Se i dati sono cambiati, altera l'output dell'algoritmo? Ad esempio, se è stato creato un modello per prevedere quali clienti acquisteranno nel mese successivo, i dati invecchieranno ogni settimana che passa e influiranno sull'output del modello. Il modello sta ancora generando risposte o azioni appropriate? Poiché il modello di intelligenza artificiale più comune nel marketing è l'apprendimento automatico, gli esperti di marketing devono prestare attenzione alla deriva del modello. La deriva del modello è qualsiasi cambiamento nelle previsioni del modello. Se il modello prevede oggi qualcosa di diverso da quello che aveva previsto ieri, si dice che il modello si è "derivato".
• Uso. Coloro che utilizzano l'output del modello di intelligenza artificiale sono stati addestrati su come utilizzarlo? Stanno monitorando gli output per variazioni o risultati spuri? Ciò è particolarmente importante se il modello di intelligenza artificiale sta generando azioni utilizzate dal marketing. Utilizzando lo stesso esempio, il modello identifica i clienti che hanno maggiori probabilità di acquistare nel mese successivo? In tal caso, hai formato i rappresentanti di vendita o di supporto su come gestire i clienti che probabilmente acquisteranno? Il tuo sito web "sa" cosa fare con quei clienti quando visitano? Quali processi di marketing sono interessati da queste informazioni?

Come dovrebbe essere strutturato e chi dovrebbe essere coinvolto?

La governance dell'IA può essere strutturata in vari modi con approcci che variano dall'alto controllo all'automonitoraggio, che dipende fortemente dal settore e dalla cultura aziendale in cui risiede.

Per essere in grado di indirizzare allo sviluppo del modello, nonché alla sua convalida e distribuzione, i team di governance di solito sono costituiti sia da membri tecnici che comprendono come funzionano gli algoritmi, sia da leader che capiscono perché i modelli dovrebbero funzionare come pianificato. Inoltre, all'interno della struttura di governance siede solitamente qualcuno che rappresenta la funzione di revisione interna.

Indipendentemente da come è strutturata la governance dell'IA, l'obiettivo principale dovrebbe essere un team altamente collaborativo per garantire che gli algoritmi dell'IA, i dati da essi utilizzati e i processi che utilizzano i risultati siano gestiti in modo che l'organizzazione sia conforme a tutte le normative interne ed esterne.

Ecco un esempio di progetto di governance dell'IA per un'organizzazione che adotta un approccio centralizzato, comune in settori altamente regolamentati come sanità, finanza e telecomunicazioni:

Cosa possono contribuire i marketer alla governance dell'IA?

Ci sono diversi motivi per cui il marketing è coinvolto nella governance dei modelli di IA. Tutti questi motivi si riferiscono alla missione del marketing.

1. Sostegno per i clienti . Il compito del marketing è garantire che i clienti dispongano delle informazioni di cui hanno bisogno per acquistare e continuare ad acquistare, nonché evangelizzare per le offerte dell'azienda. Il marketing è responsabile delle esperienze dei clienti e della protezione delle informazioni dei clienti. A causa di queste responsabilità, l'organizzazione di marketing dovrebbe essere coinvolta in qualsiasi algoritmo di intelligenza artificiale che utilizzi le informazioni sui clienti o con qualsiasi algoritmo che abbia un impatto sulla soddisfazione del cliente, sul comportamento di acquisto o sulla difesa.

2. Tutela del marchio . Una delle responsabilità primarie del marketing è proteggere il marchio. Se i modelli di intelligenza artificiale vengono implementati in qualsiasi modo che potrebbe danneggiare l'immagine del marchio, il marketing dovrebbe intervenire. Ad esempio, se i punteggi di solvibilità generati dall'intelligenza artificiale vengono utilizzati per determinare in anticipo quali clienti ottengono lo sconto "famiglia", allora il marketing dovrebbe essere giocando un ruolo importante nel modo in cui quel modello viene implementato. Il marketing dovrebbe far parte del team che decide se il modello produrrà risultati appropriati o meno. Il marketing deve sempre porsi la domanda: "Questa situazione cambierà il modo in cui i nostri clienti principali si sentono nel fare affari con noi?"

3. Garantire comunicazioni aperte. Una delle aree più spesso trascurate dello sviluppo e della distribuzione di modelli AI/ML è la narrazione necessaria per aiutare gli altri a capire cosa dovrebbero fare i modelli. Trasparenza ed esplicabilità sono le due caratteristiche più importanti di una buona modellazione AI/ML governata. Trasparenza significa che i modelli che vengono creati sono pienamente compresi da coloro che li creano e da coloro che li utilizzano, nonché dai manager e dai leader delle organizzazioni. Senza essere in grado di spiegare cosa fa il modello e come lo fa ai leader aziendali interni, il team di AI Governance corre l'enorme rischio di non essere in grado di spiegare il modello anche esternamente alle autorità di regolamentazione del governo, ai consulenti esterni o agli azionisti. Comunicare la “storia” di ciò che la modella sta facendo e cosa significa per l'azienda è compito del marketing.
   

4. Protezione dei modelli di intelligenza artificiale implementati nel marketing. Il marketing dovrebbe anche essere un grande utente di quei modelli AI/ML che aiutano a determinare quali clienti acquisteranno di più, quali clienti rimarranno clienti più a lungo e quali dei clienti più soddisfatti probabilmente ti consiglieranno ad altri potenziali clienti o addirittura abbandoneranno . In questo ruolo, il marketing dovrebbe occupare un posto al tavolo della governance dell'IA per garantire che le informazioni sui clienti siano ben gestite, che i pregiudizi non entrino nel modello e che la privacy sia mantenuta per il cliente.

Leggi avanti: AI e machine learning nel marketing: stai implementando i modelli giusti?

Ma prima, impara le basi

Vorrei dire che l'AI Governance della vostra organizzazione accoglierà i marketer al tavolo, ma non fa mai male essere preparati e fare i compiti. Ecco alcune abilità e capacità con cui familiarizzare prima di iniziare:

• Comprensione AI/ML. Dovresti capire cosa sono l'IA/ML e come funzionano. Questo non significa che tu abbia bisogno di un dottorato di ricerca. nella scienza dei dati, ma è una buona idea seguire un corso online su quali sono queste capacità e cosa fanno. È molto importante capire quale impatto ci si dovrebbe aspettare dai modelli, soprattutto se corrono il rischio di esporre le informazioni sui clienti o mettere l'organizzazione a rischio finanziario o del marchio.
• Dati. Dovresti conoscere bene quali dati vengono utilizzati nel modello, come sono stati raccolti e come e quando vengono aggiornati. La selezione e la cura dei dati per un modello di intelligenza artificiale è il primo posto in cui la distorsione può entrare nell'algoritmo. Ad esempio, se stai cercando di analizzare il comportamento dei clienti attorno a un prodotto specifico, di solito avrai bisogno di circa tre quarti dei dati raccolti nello stesso modo e curati in modo da avere informazioni complete e accurate. Se l'algoritmo utilizzerà i dati di marketing, il tuo ruolo è ancora più importante.
• Processi. Dovresti avere una buona comprensione del processo in cui verrà distribuito l'algoritmo. Se fai parte del team AI Governance in qualità di rappresentante di marketing e gli algoritmi AI in fase di valutazione sono per le vendite, dovresti familiarizzare con quel processo e come e dove il marketing può contribuire al processo. Poiché questa è un'abilità importante da possedere se fai parte del team di governance dell'IA, molti team di marketing nomineranno il responsabile delle operazioni di marketing come loro rappresentante.

Indipendentemente dal ruolo che svolgi nella governance dell'IA, ricorda quanto sia importante. Garantire che l'IA/ML sia distribuito in modo responsabile nella tua organizzazione non è solo un imperativo, ma anche un processo continuo, che richiede persistenza e vigilanza, poiché i modelli continuano a imparare dai dati che utilizzano.

Le opinioni espresse in questo articolo sono quelle dell'autore ospite e non necessariamente di MarTech. Gli autori dello staff sono elencati qui.