Regierende KI: Welche Rolle sollte Marketing spielen?

Wenn Sie ein Programm für künstliche Intelligenz haben, haben Sie auch ein Komitee, Team oder Gremium, das die Entwicklung, den Einsatz und die Nutzung von KI steuert. Wenn nicht, muss eine erstellt werden.

In meinem letzten Artikel habe ich die Schlüsselbereiche für die Anwendung von KI- und ML-Modellen im Marketing erläutert und erläutert, wie diese Modelle Ihnen helfen können, innovativ zu sein und Kundenanforderungen zu erfüllen. Hier betrachte ich die Verantwortung des Marketings für die KI-Governance.

Was ist also KI-Governance?

KI-Governance ist das, was wir den Rahmen oder Prozess nennen, der Ihre Nutzung von KI verwaltet. Das Ziel jeder KI-Governance-Bemühung ist einfach – die mit der Verwendung von KI verbundenen Risiken zu mindern. Dazu müssen Organisationen einen Prozess zur Bewertung der Risiken von KI-gesteuerten Algorithmen und ihrer ethischen Nutzung etablieren.

Die Strenge der Governance hängt stark von der Branche ab. Beispielsweise könnte der Einsatz von KI-Algorithmen in einem Finanzumfeld größere Risiken bergen als der Einsatz von KI in der Fertigung. Die Verwendung von KI zur Vergabe von Verbraucherkredit-Scores erfordert mehr Transparenz und Übersicht als ein KI-Algorithmus, der Teile kostengünstig in einer Fabrikhalle verteilt.

Um Risiken effektiv zu managen, sollte ein KI-Governance-Programm drei Aspekte von KI-gesteuerten Anwendungen berücksichtigen:

• Daten: Welche Daten verwendet der Algorithmus? Ist die Qualität dem Modell angemessen? Haben Data Scientists Zugriff auf die benötigten Daten? Wird die Privatsphäre als Teil des Algorithmus verletzt? (Obwohl dies niemals beabsichtigt ist, könnten einige KI-Modelle versehentlich vertrauliche Informationen preisgeben.) Da sich Daten im Laufe der Zeit ändern können, ist es notwendig, die Verwendung der Daten im KI/ML-Modell konsequent zu regeln.
• Algorithmen. Wenn sich die Daten geändert haben, ändert sich dadurch die Ausgabe des Algorithmus? Wenn beispielsweise ein Modell erstellt wurde, um vorherzusagen, welche Kunden im nächsten Monat einkaufen werden, altern die Daten mit jeder verstreichenden Woche und wirken sich auf die Ausgabe des Modells aus. Generiert das Modell noch angemessene Reaktionen oder Aktionen? Da das häufigste KI-Modell im Marketing maschinelles Lernen ist, müssen Marketingspezialisten auf Modellabweichungen achten. Modelldrift ist jede Änderung in den Vorhersagen des Modells. Wenn das Modell heute etwas anderes vorhersagt als gestern, dann spricht man von einer „Abdrift“ des Modells.
• Verwenden. Wurden diejenigen, die die Ergebnisse des KI-Modells verwenden, in der Verwendung geschult? Überwachen sie die Ausgaben auf Abweichungen oder falsche Ergebnisse? Dies ist besonders wichtig, wenn das KI-Modell Aktionen generiert, die vom Marketing verwendet werden. Identifiziert das Modell anhand des gleichen Beispiels die Kunden, die am ehesten im nächsten Monat etwas kaufen werden? Wenn ja, haben Sie Vertriebs- oder Supportmitarbeiter darin geschult, wie sie mit Kunden umgehen, die wahrscheinlich kaufen? „Weiß“ Ihre Website, was mit diesen Kunden zu tun ist, wenn sie sie besuchen? Welche Marketingprozesse sind aufgrund dieser Informationen betroffen?

Wie sollte es strukturiert sein und wer sollte beteiligt sein?

KI-Governance kann auf verschiedene Weise strukturiert sein, mit Ansätzen, die von stark kontrolliert bis selbstüberwachend reichen, was stark von der Branche sowie der Unternehmenskultur abhängt, in der sie angesiedelt ist.

Um die Modellentwicklung sowie deren Validierung und Bereitstellung steuern zu können, bestehen Governance-Teams normalerweise sowohl aus technischen Mitgliedern, die verstehen, wie die Algorithmen funktionieren, als auch aus Führungskräften, die verstehen, warum die Modelle so funktionieren sollten, wie sie geplant sind. Darüber hinaus sitzt normalerweise jemand, der die interne Revisionsfunktion vertritt, in der Governance-Struktur.

Unabhängig davon, wie die KI-Governance strukturiert ist, sollte das Hauptziel ein hoch kooperatives Team sein, um sicherzustellen, dass KI-Algorithmen, die von ihnen verwendeten Daten und die Prozesse, die die Ergebnisse verwenden, so verwaltet werden, dass die Organisation alle internen und externen Vorschriften einhält.

Hier ist ein Beispiel für ein KI-Governance-Design für eine Organisation, die einen zentralisierten Ansatz verfolgt, der in stark regulierten Branchen wie dem Gesundheitswesen, dem Finanzwesen und der Telekommunikation üblich ist:

Was können Marketer zur KI-Governance beitragen?

Es gibt mehrere Gründe, warum sich das Marketing an der Governance von KI-Modellen beteiligen sollte. All diese Gründe beziehen sich auf die Mission des Marketings.

1. Für Kunden werben . Die Aufgabe des Marketings besteht darin, sicherzustellen, dass Kunden über die Informationen verfügen, die sie zum Kaufen und Fortsetzung des Kaufs benötigen, sowie für die Angebote des Unternehmens zu werben. Das Marketing ist für die Kundenerfahrungen und den Schutz der Kundeninformationen verantwortlich. Aufgrund dieser Verantwortlichkeiten sollte die Marketingorganisation an jedem KI-Algorithmus beteiligt sein, der Kundeninformationen verwendet, oder an jedem Algorithmus, der sich auf die Kundenzufriedenheit, das Kaufverhalten oder die Interessenvertretung auswirkt.

2. Schutz der Marke . Eine der Hauptaufgaben des Marketings ist der Schutz der Marke. Wenn KI-Modelle in irgendeiner Weise eingesetzt werden, die dem Markenimage schaden könnten, sollte das Marketing eingreifen. Wenn beispielsweise KI-generierte Kreditwürdigkeits-Scores verwendet werden, um im Voraus zu bestimmen, welche Kunden den „Familien“-Rabatt erhalten, dann sollte das Marketing sein spielen eine wichtige Rolle bei der Umsetzung dieses Modells. Das Marketing sollte Teil des Teams sein, das entscheidet, ob das Modell angemessene Ergebnisse liefert oder nicht. Das Marketing muss sich immer die Frage stellen: „Wird diese Situation die Einstellung unserer Hauptkunden zu einer Geschäftsbeziehung mit uns ändern?“

3. Gewährleistung einer offenen Kommunikation. Einer der am häufigsten vernachlässigten Bereiche der Entwicklung und Bereitstellung von KI/ML-Modellen ist das Geschichtenerzählen, das erforderlich ist, um anderen zu helfen, zu verstehen, was die Modelle tun sollten. Transparenz und Erklärbarkeit sind die beiden wichtigsten Merkmale einer guten, geregelten KI/ML-Modellierung. Transparenz bedeutet, dass die erstellten Modelle von denen, die sie erstellen und verwenden, sowie von Managern und Führungskräften der Organisationen vollständig verstanden werden. Ohne in der Lage zu sein, den internen Führungskräften zu erklären, was das Modell tut und wie es es tut, läuft das AI-Governance-Team Gefahr, das Modell auch nicht extern gegenüber staatlichen Aufsichtsbehörden, externen Anwälten oder Aktionären erklären zu können. Es ist die Aufgabe des Marketings, die „Geschichte“ darüber zu vermitteln, was das Modell tut und was es für das Unternehmen bedeutet.
   

4. Schutz von im Marketing eingesetzten KI-Modellen. Das Marketing sollte auch ein großer Nutzer dieser KI/ML-Modelle sein, die dabei helfen, festzustellen, welche Kunden am meisten kaufen, welche Kunden am längsten Kunden bleiben und welche der zufriedensten Kunden Sie wahrscheinlich anderen potenziellen Kunden empfehlen oder sogar abwandern werden . In dieser Rolle sollte das Marketing einen Sitz am Tisch der KI-Governance haben, um sicherzustellen, dass Kundeninformationen gut verwaltet werden, dass keine Voreingenommenheit in das Modell eindringt und dass die Privatsphäre des Kunden gewahrt bleibt.

Lesen Sie weiter: KI und maschinelles Lernen im Marketing: Setzen Sie die richtigen Modelle ein?

Aber zuerst lernen Sie die Grundlagen kennen

Ich würde gerne sagen, dass die KI-Governance Ihrer Organisation Marketer willkommen heißen wird, aber es schadet nie, vorbereitet zu sein und Ihre Hausaufgaben zu machen. Hier sind einige Fertigkeiten und Fähigkeiten, mit denen Sie sich vertraut machen sollten, bevor Sie beginnen:

• KI/ML-Verständnis. Sie sollten verstehen, was KI/ML sind und wie sie funktionieren. Dies bedeutet nicht, dass Sie einen Ph.D. benötigen. in Data Science, aber es ist eine gute Idee, einen Online-Kurs darüber zu belegen, was diese Fähigkeiten sind und was sie tun. Es ist äußerst wichtig, dass Sie verstehen, welche Auswirkungen von den Modellen zu erwarten sind, insbesondere wenn sie das Risiko eingehen, Kundeninformationen preiszugeben oder das Unternehmen einem finanziellen oder Markenrisiko auszusetzen.
• Daten. Sie sollten sich damit auskennen, welche Daten im Modell verwendet werden, wie sie erfasst wurden und wie und wann sie aktualisiert werden. Die Auswahl und Kuratierung der Daten für ein KI-Modell ist der erste Ort, an dem Vorurteile in den Algorithmus einfließen können. Wenn Sie beispielsweise versuchen, das Kundenverhalten in Bezug auf ein bestimmtes Produkt zu analysieren, benötigen Sie normalerweise etwa drei Viertel der Daten, die auf die gleiche Weise gesammelt und kuratiert werden, damit Sie über vollständige und genaue Informationen verfügen. Wenn es Marketingdaten sind, die der Algorithmus verwendet, dann ist Ihre Rolle sogar noch wichtiger.
• Verfahren. Sie sollten den Prozess, in dem der Algorithmus eingesetzt wird, gut verstehen. Wenn Sie als Marketingmitarbeiter im AI Governance-Team sitzen und die evaluierten KI-Algorithmen für den Vertrieb bestimmt sind, sollten Sie sich mit diesem Prozess vertraut machen und wissen, wie und wo das Marketing zu diesem Prozess beitragen kann. Da dies eine wichtige Fähigkeit ist, wenn Sie im KI-Governance-Team arbeiten, ernennen viele Marketingteams den Marketing Operations Head zu ihrem Vertreter.

Ganz gleich, welche Rolle Sie bei der KI-Governance spielen, denken Sie daran, wie wichtig sie ist. Sicherzustellen, dass KI/ML in Ihrem Unternehmen verantwortungsvoll eingesetzt wird, ist nicht nur zwingend erforderlich, sondern auch ein fortlaufender Prozess, der Beharrlichkeit und Wachsamkeit erfordert, da die Modelle weiterhin aus den von ihnen verwendeten Daten lernen.

Die in diesem Artikel geäußerten Meinungen sind die des Gastautors und nicht unbedingt die von MarTech. Mitarbeiter Autoren sind hier aufgelistet.