顧客エクスペリエンスにおける AI の責任ある使用に関する弁護士の見解

生成 AI がソフトウェア プラットフォームの使用方法を変革する様子を、世界中が驚きの目で見ていました。

カスタマー エクスペリエンス(CX) に関して言えば、私たちは、ロボットのような、接続されていない、イライラする昔のチャットボットから大きく進歩しました。 AI を活用したアシスタントは、顧客の質問に即座に回答し、製品情報を説明し、問題のトラブルシューティングを行うことができるようになりました。

コンテンツを自律的に作成し、インタラクションをパーソナライズする生成 AI の機能により、顧客エンゲージメントと満足度を向上させる可能性の窓が開きます。

このテクノロジーはあらゆるビジネスにとって興味深いものですが、顧客データの保護、既存の規制への準拠、倫理の維持に関して課題が生じる可能性もあります。 AI テクノロジーを導入する過程では、良い点と悪い点を比較検討する必要があります。

Ada では、顧客からの問い合わせに対して安全かつ正確で適切な解決策を提供する、信頼できる AI を中心にブランドを構築してきました。 以下では、法的準拠を維持しながら顧客の信頼を維持する方法をいくつか紹介します。  

AIによる顧客体験の向上

G2 の 2023 年購入者行動レポートデータによると、購入者は AI をビジネス戦略の基礎と考えており、回答者の 81% が、今後購入するソフトウェアに AI 機能が搭載されていることが重要または非常に重要であると回答しています。 AI はビジネスと切り離せないものになりつつあります。

Ada では、顧客サービスにおける生成 AI には次のような可能性があると考えています。

• 費用対効果が高く、効率的な解決を推進します。 AI ファーストの顧客エクスペリエンスを実装します。 AI を使用してリソースを節約し、最も一般的な問い合わせへの回答を自動化することで、顧客スペシャリストは他のより複雑なタスクに集中できます。
• 最新の顧客エクスペリエンスを提供します。 AI を活用したインテリジェントなソリューションにより、カスタマー サービスは、世界中でいつでも、正確で信頼できる情報をあらゆる言語で質問に答えることができます。
• テクノロジーの背後にある人々を引き上げます。 自動化されたカスタマー サービス ツールを使用すると、企業はカスタマー サービス エージェントの戦略的成長に投資し、舞台裏のスタッフが成功できるように支援できます。

メリットは数多くありますが、企業は生成 AI の探求と顧客の信頼の保護との間のバランスを見つける必要があります。

合法性とコンプライアンス

会社で生成 AI をセットアップする前に、遭遇する可能性のある法的リスクを理解しておく必要があります。 これらの課題に事前に対処することで、企業は顧客データを保護し、法的枠組みを遵守し、顧客の信頼を築くことができます。

「どの企業にとっても、顧客の信頼を失うことは最悪のシナリオだ。」

タラ・ダッタニ
法務部長、Ada

シスコの 2023 年データ プライバシー ベンチマーク調査によると、回答者の 94% が、データを保護しない企業を顧客はひいきにしないと回答しました。 シスコの 2022 年消費者プライバシー調査によると、消費者の 60% が今日の組織の AI 適用方法に懸念を抱いており、65% が AI の実践をめぐってすでに組織への信頼を失っています。

出典:シスコの 2022 年消費者プライバシー調査

これは、法律とコンプライアンスに関しては、顧客データのプライバシー、セキュリティ、知的財産権に関する問題に注意することが重要であることを意味します。

Ada のカスタマー サービス リーダー向け AI および自動化ツールキットでは、どの AI を活用したカスタマー サービス ベンダーを使用するかを検討する際に尋ねるべき法的およびセキュリティ上の質問を詳しく掘り下げています。 また、顧客サービス ソリューションへの AI の導入に関連するインプットとアウトプットのリスクについても説明します。

出典：エイダ

顧客データとプライバシーの保護

顧客エクスペリエンスに生成 AI を使用する場合、データのセキュリティとプライバシーが主な懸念事項になります。 AI アルゴリズムによって処理される膨大な量のデータにより、データ侵害やプライバシー侵害に対する懸念が常に背景にあります。

あなたとあなたの会社は、オンボーディングを検討している生成 AI ベンダーのプライバシーとセキュリティの実践を注意深く調査することで、このリスクを軽減できます。 提携するベンダーが組織と同じレベルでデータを保護できることを確認してください。 プライバシーとデータ セキュリティ ポリシーをよく調べて、その慣行を安心して利用できるようにしてください。

「信頼できる AI の開発に関する企業の中核的な価値観を理解し、支持するベンダーのみにコミットしてください。」

タラ・ダッタニ
法務部長、Ada

顧客は、自分たちのデータがこの種のテクノロジーでどのように使用されるかについても、ますます興味を持っています。 したがって、ベンダーを決定する際には、AI モデルのトレーニングなど、独自の目的で提供されたデータをベンダーがどのように扱うのかを必ず理解してください。

ここであなたの会社が持つ利点は、AI ベンダーと契約を結ぶ際に、これらの条件を交渉し、提供されたデータの使用条件を追加する機会があることです。 データの使用方法に関する制限を追加するのに最適な時期であるため、このフェーズを活用してください。

所有権と知的財産

生成 AI は、ユーザーから取得した情報に基づいてコンテンツを自律的に作成します。そのため、「このコンテンツの所有者は実際に誰なのか?」という疑問が生じます。

知的財産 (IP)の所有権は魅力的ですが扱いにくいトピックであり、特に著作権法に関しては継続的な議論と展開が行われています。

CX で AI を使用する場合は、生成された作品に対する明確な所有権ガイドラインを確立する必要があります。 Ada では、それはお客様のものです。 クライアントとの作業を開始するとき、私たちは最初に、Ada チャットボットによって生成された所有可能な出力またはモデルに提供された入力はクライアントのものであることに同意します。 ベンダーとの契約交渉段階で所有権を確立すると、紛争を防止し、組織が公平に提携できるようになります。

AI モデルが合法的に取得され、適切にライセンスされたデータでトレーニングされていることを確認するには、適切なライセンス契約を求めたり、必要な許可を取得したり、完全にオリジナルのコンテンツを作成したりする必要がある場合があります。 企業は、コンプライアンスを強化するために、知的財産法と著作権法、およびフェアユースやトランスフォーマティブユースなどの原則を明確にする必要があります。

リスクの軽減

生成 AI とその関連トピックをめぐるあらゆる興奮と誇大宣伝により、これはまさに今実践すべきエキサイティングな法律分野です。 これらの新たな機会は魅力的ですが、潜在的なリスクと開発分野を特定する必要もあります。

適切なベンダーと提携し、最新の規制を遵守することは、当然のことながら、生成 AI の旅の大きな一歩となります。 Ada の私たちの多くは、業界に焦点を当てたディスカッション グループに参加することが、すべての関連ニュースを常に把握するのに役立つ方法であると考えています。

しかし、このテクノロジーの使用に伴うリスクの一部を軽減しながら、透明性とセキュリティを確保するには他に何ができるでしょうか?

AIガバナンス委員会の設置

Ada では当初から、相互協力と知識共有のための正式な社内プロセスを作成するために AI ガバナンス委員会を設立しました。 これは、責任ある AI フレームワークを構築するための鍵となります。 私たちの委員会が検討するトピックには、規制遵守の最新情報、知的財産の問題、ベンダーのリスク管理が含まれており、すべて製品開発と AI テクノロジーの展開に関連しています。

これは、社内ポリシーの評価と更新に役立つだけでなく、従業員やその他の関係者がこのテクノロジーを安全かつ責任ある方法でどのように使用しているかについての可視性を高めることにもなります。

AI の規制状況はテクノロジーのペースと一致しつつあります。 私たちはこうした変化を常に把握し、この分野をリードし続けるために仕事のやり方を適応させなければなりません。

ChatGPT により、この種のテクノロジに対する注目がさらに高まりました。 AI ガバナンス委員会は、法律、コンプライアンス、セキュリティ、組織などの規制や発生する可能性のあるその他のリスクを理解する責任を負います。 委員会はまた、生成 AI が顧客やビジネスに一般的にどのように適用されるかにも焦点を当てます。

信頼できるAIを特定する

大規模言語モデル (LLM) に依存してコンテンツを生成する一方で、顧客のリスクを軽減するために、このテクノロジーに加えて企業が追加する構成やその他の独自の対策があることを確認してください。 たとえば、Ada では、さまざまな種類のフィルターを利用して、安全でないコンテンツや信頼できないコンテンツを削除しています。

さらに、業界標準のセキュリティ プログラムを導入し、事前に決められた目的以外の目的でデータを使用しないようにする必要があります。 Ada では、目的を達成するために必要な最小限のデータと個人情報を取得することに常に基づいて製品開発を行っています。

したがって、どのような製品を使用していても、企業はそのすべての機能がこれらの要素を考慮していることを確認する必要があります。 データに対するこうした潜在的なリスクは生成 AI の使用と密接に関係していることを顧客に警告してください。 自社製品の設計において説明可能性、透明性、プライバシーを維持することに同様の取り組みを行う組織と提携します。

これにより、顧客に対する透明性が高まります。 これにより、ユーザーは自分の個人情報をより詳細に管理し、データの使用方法について情報に基づいた意思決定を行うことができます。

継続的なフィードバック ループの利用

生成 AI テクノロジーは急速に変化しているため、Ada は顧客からのフィードバックを通じて潜在的な落とし穴を常に評価しています。

私たちの部門は、重要な機能横断性にも重点を置いています。 製品、カスタマー サクセス、営業チームがすべて協力して、顧客が何を望んでいるのか、そしてそれをどのように提供すればよいのかを理解します。

そして、お客様は私たちにとって非常に重要な情報源です。 彼らは新機能について熱心に質問し、製品に関するフィードバックを大量に提供します。 このことは、私たちが彼らの懸念を先取りし続けることを本当に困難にしています。

そしてもちろん、法務部門として、当社の製品チームとセキュリティ チームと日々連携して、潜在的な規制上の問題や、お客様との継続的な契約上の義務について常に情報を提供しています。

生成 AI の適用は企業全体の取り組みです。 Ada の全員が、毎日 AI を使用し、AI に伴う可能性とリスクを評価し続けることが奨励され、権限を与えられています。

AIとCXの未来

Ada の CEO であるマイク・マーチソンは、 2022 年の Ada Interact Conferenceで AI の将来について基調講演を行い、最終的にはすべての企業が AI 企業になるだろうと予測しました。 私たちの観点からすると、顧客エージェントの観点と顧客の観点の両方から、全体的なエクスペリエンスが劇的に向上すると考えています。

カスタマーサービスエージェントの仕事は改善されます。 AI がより日常的で反復的な顧客サービス業務の一部を引き継ぎ、エージェントが自分の役割の他の充実した側面に集中できるようになるため、これらの役割の満足度はさらに高まるでしょう。

早期導入者になる

生成 AI ツールはすでに存在しており、今後も存在し続けます。 今すぐその使用方法を掘り下げ始める必要があります。

「生成 AI は次の大きなものです。 組織が様子見のアプローチを採用するのではなく、責任を持ってこのテクノロジーを採用できるよう支援してください。」

タラ・ダッタニ
法務部長、Ada

まずは、ツールが何をするのか、どのように行うのかを学ぶことから始めましょう。 次に、これらのワークフローを評価して、会社が満足しているものと、組織が生成 AI ツールを安全に実装できるようにするものを理解することができます。

ビジネス チームとの連携を維持し、これらのツールがどのようにワークフローを最適化しようとしているかを学び、ビジネス チームとの作業を継続できるようにする必要があります。 テクノロジーが発展するにつれて、質問を続け、リスクを評価し続けます。

責任を持ってこの新しいテクノロジーの最先端を走り続ける方法があります。 この記事がその境界線を見つけるのに役立つことを願っています。

この投稿は、G2 の Industry Insights シリーズの一部です。 表明された見解や意見は著者のものであり、必ずしも G2 またはそのスタッフの公式立場を反映するものではありません。