Die Meinung eines Anwalts zum verantwortungsvollen Einsatz von KI im Kundenerlebnis

Die Welt sah mit Erstaunen zu, wie generative KI die Art und Weise veränderte, wie wir unsere Softwareplattformen nutzen.

Wenn es um das Kundenerlebnis (CX) geht, haben wir von den roboterhaften, unverbundenen und frustrierenden Chatbots vergangener Zeiten einen langen Weg zurückgelegt. KI-gestützte Assistenten können jetzt sofort auf Kundenfragen antworten, Produktinformationen beschreiben und Probleme beheben.

Die Fähigkeit der generativen KI, selbstständig Inhalte zu erstellen und Interaktionen zu personalisieren, eröffnet ein Fenster voller Möglichkeiten zur Verbesserung der Kundenbindung und -zufriedenheit.

Obwohl diese Technologie für jedes Unternehmen spannend ist, kann sie auch Herausforderungen mit sich bringen, wenn es um den Schutz Ihrer Kundendaten, die Einhaltung bestehender Vorschriften und die Einhaltung ethischer Grundsätze geht. Auf Ihrem Weg zum Einsatz von KI-Technologien müssen Sie die Vor- und Nachteile abwägen.

Bei Ada haben wir unsere Marke auf vertrauenswürdiger KI aufgebaut, die sichere, genaue und relevante Lösungen für Kundenanfragen liefert. Im Folgenden stellen wir Ihnen einige Möglichkeiten vor, wie wir das Vertrauen unserer Kunden bewahren und gleichzeitig die gesetzlichen Vorschriften einhalten können.  

Das Kundenerlebnis mit KI verbessern

Die Daten des G2 Buyer Behavior Report 2023 haben gezeigt, dass Käufer KI als grundlegend für ihre Geschäftsstrategie ansehen. 81 % der Befragten gaben an, dass es wichtig oder sehr wichtig ist, dass die Software, die sie in Zukunft kaufen, über KI-Funktionalität verfügt. KI ist auf dem besten Weg, untrennbar mit dem Geschäft verbunden zu werden.

Wir bei Ada glauben, dass generative KI im Kundenservice das Potenzial hat:

• Fördern Sie kostengünstige und effiziente Lösungen. Implementieren Sie ein KI-orientiertes Kundenerlebnis. Mithilfe von KI können Sie Ressourcen sparen, indem Sie die häufigsten Anfragenbeantwortungen automatisieren, und Ihre Kundenspezialisten können sich auf andere, komplexere Aufgaben konzentrieren.
• Bieten Sie ein modernes Kundenerlebnis. Mit einer intelligenten KI-gestützten Lösung kann der Kundenservice jederzeit und überall auf der Welt Fragen mit genauen und zuverlässigen Informationen in jeder Sprache beantworten.
• Fördern Sie die Menschen hinter der Technologie . Mit automatisierten Kundendiensttools können Unternehmen in das strategische Wachstum ihrer Kundendienstmitarbeiter investieren und die Menschen hinter den Kulissen zum Erfolg befähigen.

Obwohl die Vorteile zahlreich sind, müssen Unternehmen ein Gleichgewicht zwischen der Erforschung generativer KI und der Wahrung des Kundenvertrauens finden.

Legalität und Compliance

Bevor Sie generative KI in Ihrem Unternehmen einführen, müssen Sie die rechtlichen Risiken verstehen, denen Sie möglicherweise ausgesetzt sind. Durch die frühzeitige Bewältigung dieser Herausforderungen können Unternehmen Kundendaten schützen, rechtliche Rahmenbedingungen einhalten und das Vertrauen der Kunden aufbauen.

„Das schlimmste Szenario für jedes Unternehmen wäre, das Vertrauen der Kunden zu verlieren.“

Tara Dattani
Leiterin der Rechtsabteilung, Ada

Laut der Data Privacy Benchmark Study 2023 von Cisco gaben 94 % der Befragten an, dass ihre Kunden kein Unternehmen unterstützen würden, das ihre Daten nicht schützt. Die Cisco Consumer Privacy Survey 2022 zeigte, dass 60 % der Verbraucher besorgt darüber sind, wie Unternehmen heute KI einsetzen, und 65 % haben bereits das Vertrauen in Organisationen hinsichtlich ihrer KI-Praktiken verloren.

Quelle : Ciscos Verbraucherdatenschutzumfrage 2022

All dies bedeutet, dass es in Bezug auf Recht und Compliance wichtig ist, auf Probleme im Zusammenhang mit dem Datenschutz, der Sicherheit und den Rechten des geistigen Eigentums der Kunden zu achten.

In Adas KI- und Automatisierungs-Toolkit für Kundendienstleiter gehen wir auf die rechtlichen und sicherheitsrelevanten Fragen ein, die Sie stellen müssen, wenn Sie darüber nachdenken, welchen KI-gestützten Kundendienstanbieter Sie verwenden sollten. Wir diskutieren auch die Input- und Output-Risiken, die mit der Implementierung von KI für Kundenservicelösungen verbunden sind.

Quelle : Ada

Schutz der Kundendaten und Privatsphäre

Datensicherheit und Datenschutz sind die Hauptanliegen beim Einsatz generativer KI für das Kundenerlebnis. Angesichts der riesigen Datenmengen, die von KI-Algorithmen verarbeitet werden, besteht immer eine zunehmende Sorge über Datenschutzverletzungen und Datenschutzverletzungen.

Sie und Ihr Unternehmen können dieses Risiko mindern, indem Sie eine sorgfältige Bestandsaufnahme der Datenschutz- und Sicherheitspraktiken aller generativen KI-Anbieter vornehmen, die Sie einbinden möchten. Stellen Sie sicher, dass der Anbieter, mit dem Sie zusammenarbeiten, Daten auf dem gleichen Niveau schützen kann wie Ihr Unternehmen. Studieren Sie deren Datenschutz- und Datensicherheitsrichtlinien genau, um sicherzustellen, dass Sie sich mit ihren Praktiken wohl fühlen.

„Verpflichten Sie sich nur gegenüber Anbietern, die Ihre zentralen Unternehmenswerte rund um die Entwicklung vertrauenswürdiger KI verstehen und wahren.“

Tara Dattani
Leiterin der Rechtsabteilung, Ada

Kunden sind auch zunehmend daran interessiert, wie ihre Daten mit dieser Art von Technologie genutzt werden. Wenn Sie sich also für Ihren Anbieter entscheiden, stellen Sie sicher, dass Sie wissen, was er mit den ihm zur Verfügung gestellten Daten für seine eigenen Zwecke macht, etwa zum Trainieren seines KI-Modells.

Der Vorteil für Ihr Unternehmen besteht darin, dass Sie beim Abschluss eines Vertrags mit einem KI-Anbieter die Möglichkeit haben, diese Bedingungen auszuhandeln und Bedingungen für die Nutzung der bereitgestellten Daten hinzuzufügen. Nutzen Sie diese Phase, denn es ist der beste Zeitpunkt, Einschränkungen für die Verwendung Ihrer Daten hinzuzufügen.

Eigentum und geistiges Eigentum

Generative KI erstellt selbstständig Inhalte basierend auf den Informationen, die sie von Ihnen erhält, was die Frage aufwirft: „Wem gehören diese Inhalte eigentlich?“

Der Besitz von geistigem Eigentum (IP) ist ein faszinierendes, aber heikles Thema, das Gegenstand ständiger Diskussionen und Entwicklungen ist, insbesondere im Bereich des Urheberrechts.

Wenn Sie KI in CX verwenden, müssen Sie klare Eigentumsrichtlinien für die generierte Arbeit festlegen. Bei Ada gehört es dem Kunden. Wenn wir beginnen, mit einem Kunden zusammenzuarbeiten, vereinbaren wir von Anfang an, dass alle vom Ada-Chatbot generierten besitzbaren Ausgaben oder Eingaben, die dem Modell bereitgestellt werden, ihnen gehören. Die Festlegung von Eigentumsrechten in der Phase der Vertragsverhandlungen mit dem Anbieter hilft, Streitigkeiten vorzubeugen und ermöglicht Organisationen eine faire Partnerschaft.

Um sicherzustellen, dass Ihre KI-Modelle auf Daten trainiert werden, die legal erworben und ordnungsgemäß lizenziert wurden, kann es erforderlich sein, ordnungsgemäße Lizenzvereinbarungen einzuholen, die erforderlichen Genehmigungen einzuholen oder völlig originelle Inhalte zu erstellen. Unternehmen sollten sich über die Gesetze zu geistigem Eigentum und Urheberrecht sowie deren Grundsätze wie faire Nutzung und transformative Nutzung im Klaren sein, um die Einhaltung zu stärken.

Reduzierung des Risikos

Bei all der Aufregung und dem Hype rund um generative KI und verwandte Themen ist es wirklich ein spannendes Rechtsgebiet, das man derzeit praktizieren kann. Diese neu entdeckten Chancen sind verlockend, aber wir müssen auch potenzielle Risiken und Entwicklungsbereiche identifizieren.

Die Partnerschaft mit dem richtigen Anbieter und die Einhaltung der Vorschriften sind natürlich ein großer Schritt auf Ihrem Weg zur generativen KI. Für viele von uns bei Ada ist die Teilnahme an branchenspezifischen Diskussionsgruppen eine nützliche Möglichkeit, über alle relevanten Neuigkeiten auf dem Laufenden zu bleiben.

Aber was können Sie sonst noch tun, um Transparenz und Sicherheit zu gewährleisten und gleichzeitig einige der mit der Nutzung dieser Technologie verbundenen Risiken zu mindern?

Einrichtung eines KI-Governance-Komitees

Von Anfang an haben wir bei Ada ein KI-Governance-Komitee eingerichtet, um einen formellen internen Prozess für die übergreifende Zusammenarbeit und den Wissensaustausch zu schaffen. Dies ist der Schlüssel zum Aufbau eines verantwortungsvollen KI-Frameworks. Zu den Themen, die unser Ausschuss prüft, gehören Aktualisierungen der Einhaltung gesetzlicher Vorschriften, IP-Probleme und Anbieterrisikomanagement, alles im Zusammenhang mit der Produktentwicklung und dem Einsatz von KI-Technologie

Dies hilft nicht nur bei der Bewertung und Aktualisierung unserer internen Richtlinien, sondern bietet auch eine bessere Sichtbarkeit darüber, wie unsere Mitarbeiter und andere Interessengruppen diese Technologie auf sichere und verantwortungsvolle Weise nutzen.

Die Regulierungslandschaft der KI passt sich dem Tempo der Technologie an. Wir müssen mit diesen Veränderungen Schritt halten und unsere Arbeitsweise anpassen, um weiterhin führend zu sein.

ChatGPT hat dieser Art von Technologie viel mehr Aufmerksamkeit geschenkt. Ihr KI-Governance-Ausschuss ist dafür verantwortlich, die Vorschriften und alle anderen Risiken zu verstehen, die auftreten können: rechtliche, Compliance-, Sicherheits- oder organisatorische Risiken. Das Komitee wird sich auch darauf konzentrieren, wie sich generative KI auf Ihre Kunden und Ihr Unternehmen im Allgemeinen anwenden lässt.

Identifizierung vertrauenswürdiger KI

Während Sie sich bei der Generierung von Inhalten auf große Sprachmodelle (LLMs) verlassen, stellen Sie sicher, dass Ihr Unternehmen zusätzlich zu dieser Technologie Konfigurationen und andere proprietäre Maßnahmen hinzufügt, um das Risiko für Ihre Kunden zu verringern. Bei Ada verwenden wir beispielsweise verschiedene Arten von Filtern, um unsichere oder nicht vertrauenswürdige Inhalte zu entfernen.

Darüber hinaus sollten Sie über branchenübliche Sicherheitsprogramme verfügen und die Verwendung von Daten für andere als vorher festgelegte Zwecke vermeiden. Was wir bei Ada in unsere Produktentwicklung einbeziehen, basiert immer darauf, die geringste Menge an Daten und persönlichen Informationen zu erhalten, die Sie zur Erfüllung Ihres Zwecks benötigen.

Unabhängig davon, welches Produkt Sie haben, muss Ihr Unternehmen sicherstellen, dass alle seine Funktionen diese Faktoren berücksichtigen. Machen Sie Ihre Kunden darauf aufmerksam, dass diese potenziellen Risiken für ihre Daten mit dem Einsatz generativer KI einhergehen. Arbeiten Sie mit Organisationen zusammen, die das gleiche Engagement für die Wahrung von Erklärbarkeit, Transparenz und Datenschutz bei der Gestaltung ihrer eigenen Produkte zeigen.

Dies hilft Ihnen, gegenüber Ihren Kunden transparenter zu sein. Dadurch haben sie mehr Kontrolle über ihre persönlichen Daten und können fundierte Entscheidungen darüber treffen, wie Sie ihre Daten verwenden.

Nutzung einer kontinuierlichen Feedbackschleife

Da sich die generative KI-Technologie so schnell verändert, bewertet Ada ständig mögliche Fallstricke anhand des Kundenfeedbacks.

Unsere Abteilungen konzentrieren sich auch auf die funktionsübergreifende Funktionalität, was von entscheidender Bedeutung ist. Die Produkt-, Kundenerfolgs- und Vertriebsteams arbeiten alle zusammen, um zu verstehen, was unsere Kunden wollen und wie wir es ihnen bieten können.

Und unsere Kunden sind für uns eine so wichtige Informationsquelle! Sie stellen tolle Fragen zu neuen Funktionen und geben jede Menge Produktfeedback. Das fordert uns wirklich heraus, ihren Anliegen immer einen Schritt voraus zu sein.

Dann arbeiten wir als Rechtsabteilung natürlich täglich mit unseren Produkt- und Sicherheitsteams zusammen, um sie über mögliche regulatorische Probleme und laufende vertragliche Verpflichtungen mit unseren Kunden auf dem Laufenden zu halten.

Der Einsatz generativer KI ist eine umfassende Unternehmensanstrengung. Jeder in Ada wird ermutigt und befähigt, KI jeden Tag zu nutzen und weiterhin die damit verbundenen Möglichkeiten – und Risiken – zu bewerten.

Die Zukunft von KI und CX

Mike Murchison, CEO von Ada, hielt auf unserer Ada Interact-Konferenz im Jahr 2022 eine Grundsatzrede über die Zukunft der KI, in der er voraussagte, dass jedes Unternehmen irgendwann ein KI-Unternehmen sein würde. Aus unserer Sicht gehen wir davon aus, dass sich das Gesamterlebnis erheblich verbessern wird, sowohl aus Sicht des Kundenbetreuers als auch aus Sicht des Kunden.

Die Arbeit eines Kundendienstmitarbeiters wird sich verbessern. Diese Rollen werden Ihnen viel mehr Freude bereiten, da die KI einige der alltäglicheren und sich wiederholenden Aufgaben im Kundenservice übernimmt und es den Agenten ermöglicht, sich auf andere erfüllende Aspekte ihrer Rolle zu konzentrieren.

Werden Sie ein Early Adopter

Generative KI-Tools gibt es bereits und sie werden auch bleiben. Sie müssen sich jetzt damit befassen, wie Sie sie verwenden.

„Generative KI ist das nächste große Ding. Helfen Sie Ihrem Unternehmen dabei, diese Technologie verantwortungsvoll einzusetzen, anstatt einen abwartenden Ansatz zu verfolgen.“

Tara Dattani
Leiterin der Rechtsabteilung, Ada

Sie können damit beginnen, zu lernen, was die Tools tun und wie sie es tun. Anschließend können Sie diese Arbeitsabläufe bewerten, um zu verstehen, womit Ihr Unternehmen vertraut ist und was es Ihrem Unternehmen ermöglicht, generative KI-Tools sicher zu implementieren.

Sie müssen mit Ihren Geschäftsteams in Kontakt bleiben, um zu erfahren, wie diese Tools versuchen, Arbeitsabläufe zu optimieren, damit Sie weiterhin mit ihnen arbeiten können. Stellen Sie weiterhin Fragen und bewerten Sie Risiken, während sich die Technologie weiterentwickelt.

Es gibt eine Möglichkeit, Verantwortung zu übernehmen und auf dem neuesten Stand dieser neuen Technologie zu bleiben. Hoffentlich hilft Ihnen dieser Artikel, diese Zeile zu finden.

Dieser Beitrag ist Teil der Industry Insights-Reihe von G2. Die geäußerten Ansichten und Meinungen sind die des Autors und spiegeln nicht unbedingt die offizielle Haltung von G2 oder seinen Mitarbeitern wider.