A opinião de um advogado sobre o uso responsável da IA ​​na experiência do cliente

O mundo assistiu com espanto como a IA generativa transformou a forma como usamos nossas plataformas de software.

Quando se trata de experiência do cliente (CX), percorremos um longo caminho desde os chatbots robóticos, desconectados e frustrantes do passado. Os assistentes com tecnologia de IA agora podem fornecer respostas instantâneas às perguntas dos clientes, descrever informações do produto e solucionar problemas.

A capacidade da IA ​​generativa de criar conteúdo de forma autônoma e personalizar interações abre uma janela de possibilidades para aprimorar o envolvimento e a satisfação do cliente.

Embora essa tecnologia seja empolgante para todos os negócios, ela também pode apresentar desafios quando se trata de proteger os dados de seus clientes, manter a conformidade com os regulamentos existentes e manter a ética. Em sua jornada para implantar tecnologias de IA, você deve pesar o que é bom e o que é ruim.

Na Ada, construímos nossa marca em torno de uma IA confiável que oferece soluções seguras, precisas e relevantes para as consultas dos clientes. A seguir, compartilharemos algumas maneiras de preservar a confiança do cliente e, ao mesmo tempo, manter a conformidade legal.  

Elevando a experiência do cliente com IA

Os dados do Relatório de Comportamento do Comprador 2023 da G2 mostraram que os compradores veem a IA como fundamental para sua estratégia de negócios, com 81% dos entrevistados dizendo que é importante ou muito importante que o software que eles compram no futuro tenha funcionalidade de IA. A IA está a caminho de se tornar inseparável dos negócios.

Na Ada, acreditamos que a IA generativa no atendimento ao cliente tem o potencial de:

• Impulsione resoluções econômicas e eficientes. Implemente uma experiência de cliente que prioriza a IA. Você pode economizar recursos usando IA para automatizar as respostas de consulta mais comuns e seus especialistas em clientes podem se concentrar em outras tarefas mais complexas.
• Ofereça uma experiência moderna ao cliente. Com uma solução inteligente baseada em IA, o atendimento ao cliente pode responder a perguntas com informações precisas e confiáveis ​​em qualquer idioma, a qualquer momento, em todo o mundo.
• Levante as pessoas por trás da tecnologia . Com ferramentas automatizadas de atendimento ao cliente, as empresas podem investir no crescimento estratégico dos agentes de atendimento ao cliente e capacitar as pessoas nos bastidores para o sucesso.

Embora os benefícios sejam numerosos, as empresas precisam encontrar um equilíbrio entre explorar a IA generativa e proteger a confiança do cliente.

Legalidade e conformidade

Antes de configurar a IA generativa em sua empresa, você deve entender os riscos legais que pode encontrar. Ao enfrentar esses desafios com antecedência, as empresas podem proteger os dados do cliente, cumprir as estruturas legais e conquistar a confiança do cliente.

“O pior cenário para qualquer empresa seria perder a confiança dos clientes.”

Tara Dattani
Diretor Jurídico, Ada

De acordo com o Estudo comparativo de privacidade de dados de 2023 da Cisco , 94% dos entrevistados disseram que seus clientes não patrocinariam uma empresa que não protegesse seus dados. A Pesquisa de privacidade do consumidor de 2022 da Cisco mostrou que 60% dos consumidores estão preocupados com a forma como as organizações aplicam a IA hoje e 65% já perderam a confiança nas organizações em relação às suas práticas de IA.

Fonte : Pesquisa de privacidade do consumidor de 2022 da Cisco

Tudo isso para dizer que, quando se trata de questões jurídicas e de conformidade, é importante ficar atento a questões relacionadas à privacidade, segurança e direitos de propriedade intelectual dos dados do cliente.

No kit de ferramentas de IA e automação da Ada para líderes de atendimento ao cliente , analisamos as questões legais e de segurança a serem feitas quando você estiver pensando em qual fornecedor de atendimento ao cliente com tecnologia de IA usar. Também discutimos os riscos de entrada e saída associados à implementação de IA para soluções de atendimento ao cliente.

Fonte : Ada

Protegendo os dados e a privacidade do cliente

A segurança e a privacidade dos dados são as principais preocupações ao usar IA generativa para a experiência do cliente. Com a grande quantidade de dados processados ​​por algoritmos de IA, uma preocupação crescente com violações de dados e privacidade está sempre em segundo plano.

Você e sua empresa podem mitigar esse risco fazendo um balanço cuidadoso das práticas de privacidade e segurança de qualquer fornecedor de IA generativa que esteja pensando em integrar. Certifique-se de que o fornecedor com o qual você faz parceria pode proteger os dados no mesmo nível da sua organização. Estude suas políticas de privacidade e segurança de dados de perto para garantir que você se sinta confortável com suas práticas.

“Comprometa-se apenas com os fornecedores que entendem e defendem os principais valores de sua empresa em relação ao desenvolvimento de IA confiável.”

Tara Dattani
Diretor Jurídico, Ada

Os clientes também estão cada vez mais intrigados sobre como seus dados serão usados ​​com esse tipo de tecnologia. Portanto, ao decidir sobre seu fornecedor, certifique-se de saber o que eles fazem com os dados fornecidos a eles para seus próprios fins, como treinar seu modelo de IA.

A vantagem que sua empresa tem aqui é que, ao fechar um contrato com um fornecedor de IA, você tem a oportunidade de negociar esses termos e adicionar condições para o uso dos dados fornecidos. Aproveite esta fase porque é o melhor momento para adicionar restrições sobre como seus dados são usados.

Propriedade e propriedade intelectual

A IA generativa cria conteúdo de forma autônoma com base nas informações que recebe de você, o que levanta a questão: “Quem realmente possui esse conteúdo?”

A propriedade da propriedade intelectual (PI) é um tópico fascinante, mas complicado, sujeito a discussões e desenvolvimentos contínuos, especialmente em torno da lei de direitos autorais.

Ao usar IA em CX, você deve estabelecer diretrizes de propriedade claras para o trabalho gerado. Na Ada, é do cliente. Quando começamos a trabalhar com um cliente, concordamos desde o início que qualquer saída própria gerada pelo chatbot Ada ou entrada fornecida ao modelo é dele. Estabelecer direitos de propriedade na fase de negociação do contrato com o fornecedor ajuda a evitar disputas e permite que as organizações façam parcerias de forma justa.

Garantir que seus modelos de IA sejam treinados em dados obtidos legalmente e licenciados adequadamente pode envolver a busca de acordos de licenciamento adequados, a obtenção das permissões necessárias ou a criação de conteúdo totalmente original. As empresas devem ser claras sobre as leis de PI e direitos autorais e seus princípios, como uso justo e uso transformativo, para fortalecer a conformidade.

Reduzindo o risco

Com toda a empolgação e entusiasmo em torno da IA ​​generativa e tópicos relacionados, é realmente uma área empolgante do direito para praticar agora. Essas novas oportunidades são atraentes, mas também precisamos identificar riscos potenciais e áreas de desenvolvimento.

Fazer parceria com o fornecedor certo e manter-se atualizado com os regulamentos é, obviamente, um grande passo em sua jornada de IA generativa. Muitos de nós na Ada achamos que participar de grupos de discussão focados no setor é uma maneira útil de ficar por dentro de todas as notícias relevantes.

Mas o que mais você pode fazer para garantir transparência e segurança enquanto mitiga alguns dos riscos associados ao uso dessa tecnologia?

Estabelecimento de um comitê de governança de IA

Desde o início, nós da Ada estabelecemos um comitê de governança de IA para criar um processo interno formal para colaboração cruzada e compartilhamento de conhecimento. Isso é fundamental para criar uma estrutura de IA responsável. Os tópicos que nosso comitê analisa incluem atualizações de conformidade regulatória, questões de propriedade intelectual e gerenciamento de riscos de fornecedores, tudo no contexto de desenvolvimento de produtos e implantação de tecnologia de IA

Isso não apenas ajuda a avaliar e atualizar nossas políticas internas, mas também fornece maior visibilidade sobre como nossos funcionários e outras partes interessadas estão usando essa tecnologia de maneira segura e responsável.

O cenário regulatório da IA ​​está acompanhando o ritmo da tecnologia. Temos que ficar por dentro dessas mudanças e adaptar a forma como trabalhamos para continuar liderando o campo.

O ChatGPT trouxe muito mais atenção para esse tipo de tecnologia. Seu comitê de governança de IA será responsável por entender os regulamentos ou qualquer outro risco que possa surgir: legal, conformidade, segurança ou organizacional. O comitê também se concentrará em como a IA generativa se aplica a seus clientes e negócios em geral.

Identificando IA confiável

Enquanto você depende de modelos de linguagem grandes (LLMs) para gerar conteúdo, certifique-se de que haja configurações e outras medidas proprietárias que sua empresa adiciona a essa tecnologia para reduzir o risco para seus clientes. Por exemplo, na Ada, utilizamos diferentes tipos de filtros para remover conteúdo inseguro ou não confiável.

Além disso, você deve ter programas de segurança padrão do setor e evitar o uso de dados para qualquer outra finalidade que não seja predeterminada. Na Ada, o que incorporamos ao desenvolvimento de nossos produtos é sempre baseado na obtenção da menor quantidade de dados e informações pessoais que você precisa para cumprir sua finalidade.

Portanto, seja qual for o produto que você tenha, sua empresa deve garantir que todos os seus recursos considerem esses fatores. Alerte seus clientes de que esses riscos potenciais para seus dados andam de mãos dadas com o uso de IA generativa. Faça parceria com organizações que demonstrem o mesmo compromisso de manter a explicabilidade, transparência e privacidade no design de seus próprios produtos.

Isso ajuda você a ser mais transparente com seus clientes. Isso os capacita a ter mais controle sobre suas informações pessoais e tomar decisões informadas sobre como você usa seus dados.

Utilizando um loop de feedback contínuo

Como a tecnologia de IA generativa está mudando tão rapidamente, Ada está constantemente avaliando possíveis armadilhas por meio do feedback dos clientes.

Nossos departamentos também se concentram na multifuncionalidade, o que é crítico. O produto, o sucesso do cliente e as equipes de vendas se unem para entender o que nossos clientes desejam e como atender a eles.

E nossos clientes são uma fonte de informação tão importante para nós! Eles fazem ótimas perguntas sobre novos recursos e fornecem muitos comentários sobre o produto. Isso realmente nos desafia a ficar à frente de suas preocupações.

Então, é claro, como departamento jurídico, trabalhamos diariamente com nossas equipes de produtos e segurança para mantê-los informados sobre possíveis questões regulatórias e obrigações contratuais em andamento com nossos clientes.

A aplicação de IA generativa é um esforço total da empresa. Todos na Ada estão sendo encorajados e capacitados a usar IA todos os dias e continuar avaliando as possibilidades – e os riscos – que podem vir junto com ela.

O futuro da IA ​​e CX

O CEO da Ada, Mike Murchison, fez um discurso de abertura em nossa Conferência Ada Interact em 2022 sobre o futuro da IA, na qual ele previu que toda empresa acabaria sendo uma empresa de IA. Do nosso ponto de vista, acreditamos que a experiência geral melhorará drasticamente, tanto do ponto de vista do agente quanto do cliente.

O trabalho de um agente de atendimento ao cliente vai melhorar. Haverá muito mais satisfação com essas funções porque a IA assumirá algumas das tarefas de atendimento ao cliente mais mundanas e repetitivas, permitindo que os agentes se concentrem em outros aspectos satisfatórios de sua função.

Torne-se um dos primeiros a adotar

As ferramentas generativas de IA já estão aqui e vieram para ficar. Você precisa começar a pesquisar como usá-los agora.

“IA generativa é a próxima grande novidade. Ajude sua organização a empregar essa tecnologia com responsabilidade, em vez de adotar uma abordagem de esperar para assistir.”

Tara Dattani
Diretor Jurídico, Ada

Você pode começar aprendendo o que as ferramentas fazem e como elas fazem. Em seguida, você pode avaliar esses fluxos de trabalho para entender com o que sua empresa se sente confortável e o que permitirá que sua organização implemente com segurança ferramentas de IA generativas.

Você precisa se manter envolvido com suas equipes de negócios para saber como essas ferramentas estão tentando otimizar os fluxos de trabalho para que você possa continuar trabalhando com elas. Continue fazendo perguntas e avaliando os riscos à medida que a tecnologia se desenvolve.

Existe uma maneira de ser responsável e permanecer na vanguarda dessa nova tecnologia. Espero que este artigo ajude você a encontrar essa linha.

Este post faz parte da série Industry Insights do G2. As visões e opiniões expressas são do autor e não refletem necessariamente a posição oficial do G2 ou de sua equipe.