Os perigos do ChatGPT: ótima ferramenta de personalização ou ótima tecnologia de phishing?

O ChatGPT da OpenAI conquistou o mundo.

Além dos milhões de pessoas que já experimentaram, os provedores de serviços de e-mail (ESPs) estão treinando usando dados de campanha para produzir linhas de assunto e conteúdo de e-mail altamente eficazes.

Os usuários do Salesforce estão explorando como o ChatGPT pode criar fórmulas e regras de validação. E a Microsoft agora o incorporou em seu mecanismo de busca Bing - já se fala que isso é um potencial "assassino do Google!"

Então, como funciona a nova tecnologia?

O ChatGPT (Transformador pré-treinado generativo) usa técnicas de aprendizado profundo para processar terabytes de dados da web (contendobilhõesde palavras) para criar respostas a solicitações ou perguntas dos usuários.

As interações são como falar com uma pessoa. Muitos dizem que o ChatGPT é o primeiro aplicativo de IA a passar no teste de Turing, o que significa que exibe um comportamento inteligente equivalente ou indistinguível de um ser humano.

Já vimos alguns casos de uso atraentes:

• O jornal britânico Times usou o ChatGPT para escrever seu editorial diário e, em seguida, pediu aos leitores que identificassem qual conteúdo era de autoria automática. A maioria não poderia!
• O varejista online de cartões comemorativos Moonpig está considerando a integração do ChatGPT em seus sistemas. Os clientes podem pedir para gerar uma mensagem ou poema personalizado sem ter que coçar a cabeça para encontrar as palavras certas.

O ChatGPT permite inovação e produtividade que podem mudar o jogo, rivalizando com a criação da própria web. Mas toda moeda tem dois lados. Existe um potencial lado obscuro para esta nova tecnologia?

Vejamos como o ChatGPT pode criar novas oportunidades para invasores e defensores da segurança cibernética.

Melhores tentativas de phishing

Os pesquisadores já estão vendo códigos gerados por IA publicados em fóruns de crimes cibernéticos . Um caso de uso do ChatGPT do “lado negro” é o spear phishing – golpes de e-mail direcionados intencionalmente a indivíduos, organizações ou empresas específicas. Usando essa tática, os fraudadores podem roubar dados para fins maliciosos ou instalar malware nos computadores visados.

Em um exemplo típico, a equipe de uma empresa pode receber um e-mail de seu “CEO” com uma solicitação urgente para contribuir com um documento vinculado ou ler um anexo. O nome familiar emparelhado com uma solicitação que eles normalmente esperam aumenta a plausibilidade - e sua probabilidade de responder.

Na verdade, é perfeitamente possível que o recente ataque de ransomware do Royal Mail tenha começado com um e-mail de spear phishing.

Como o ChatGPT pode produzir conteúdo no estilo de uma pessoa indicada, os e-mails de spear phishing se tornarão aindamaisconvincentes em breve. Os fraudadores agora podem solicitar conteúdo que soe como o CEO do alvo, tornando a mensagem ainda mais realista e maximizando a chance de os funcionários caírem nela.

engenharia antissocial

O ChatGPT também pode aprimorar outras formas de fraude de representação, especialmente nos casos em que a confiança precisa ser estabelecida.

Usando o ChatGPT, os fraudadores podem se passar por funcionários de banco, policiais, fiscais (que dizem às vítimas que têm uma conta pendente) ou representantes de provedores de serviços (que afirmam que os roteadores das vítimas foram hackeados e precisam de acesso remoto ao computador para consertar o problema).

Um exemplo cada vez mais comum envolve mensagens de amigos ou familiares que estão “no exterior”. Eles normalmente dizem que sua carteira e telefone foram roubados e que alguém lhes emprestou outro telefone para solicitar fundos de emergência.

A morte do conteúdo original

Muitos educadores estão extremamente preocupados com o fato de que o ChatGPT significa que os alunos nunca mais precisarão escrever outra redação.

Alguns já colocaram isso à prova , enviando artigos gerados por IA - e recebendo notas de aprovação confiáveis ​​(desde que aceitem não ser os primeiros da classe). Os educadores estão ficando seriamente preocupados que a IA leve à trapaça em massa, e algumas escolas já estão se afastando dos trabalhos de casa em resposta.

Preocupações com a privacidade

O ChatGPT pode saber qual planeta foi fotografado pela primeira vez pelo telescópio espacial Webb (era HIP 65426 b). Mas a forma como esses dados foram obtidos pode entrar em conflito com as leis de privacidade emergentes, como o Regulamento Geral de Proteção de Dados (GDPR) e a Lei de Privacidade do Consumidor da Califórnia (CCPA).

O caso Clearview AI , onde um banco de dados de reconhecimento facial foi construído usando raspagem de imagens, terminou em multas multimilionárias de uma seção transversal pan-europeia de reguladores.

A maneira como o ChatGPT funciona não é exatamente a mesma - mais como um liquidificador de alimentos para dados, onde os ingredientes originais não são mais reconhecíveis. Mas ainda haverá a questão de saber se os indivíduospretendiamque seus dados fossem usados ​​dessa maneira.

A violação de direitos autorais é um cenário mais provável. Nos Estados Unidos, uma ação coletiva foi movida contra a Stability AI, desenvolvedora do gerador de arte AI Stable Diffusion. Os promotores alegaram violação dos direitos dos proprietários da imagem original.

E a Getty Images, a biblioteca de fotos e arte com sede no Reino Unido, diz que também processará a Stable Diffusion por usar suas imagens sem licença.

GPT = Fique Protegido Hoje

Embora esses cenários possam parecer um pouco apocalípticos, existem práticas recomendadas estabelecidas que podem ser usadas como proteção:

• A vigilância é sempre a primeira linha de defesa. Bancos e policiais nunca pedirão detalhes de cartões, PINs ou senhas de internet banking. Portanto, seja altamente cético em relação a quaisquer solicitações semelhantes.
• Ao receber um e-mail, verifique os dados que apenas um remetente legítimo teria. É por isso que os bancos geralmente incluem códigos postais como parte de suas mensagens. O uso de indicadores de marca para autenticação de mensagens (BIMI) também desempenhará um papel fundamental aqui, pois o protocolo de autenticação subjacente (DMARC) confirma que o e-mail vem de um remetente verificado.
• No trabalho, implemente regras para destacar e-mails de fora da sua organização. Um e-mail alegando ser do seu CEO, mas precedido por “Externo” seria uma bandeira vermelha imediata.

Como identificar conteúdo criado por IA

Também estamos vendo o surgimento de novas táticas para ajudar a identificar conteúdo criado por IA. Por exemplo, ferramentas como GPTZero foram desenvolvidas para ajudar professores e palestrantes a determinar se as redações de seus alunos são de autoria automática.

Além disso, há previsões de que o OpenAI inserirá uma marca d'água no texto proveniente do ChatGPT.

Os indivíduos também se tornarão mais criativos sobre como proteger os dados que a IA generativa pode usar. Há uma história famosa sobre a banda de rock Van Halen exigindo tigelas de M&Ms com as marrons removidas como parte de seus requisitos para shows. Os críticos os acusaram de deixar a fama subir à cabeça. Então, seu cantor David Lee Roth explicou que isso era para garantir que seus contratos com promotores de eventos (com requisitos de segurança significativos) fossem totalmente lidos.

É totalmente possível que as pessoas comecem a semear “fatos” incorretos sobre si mesmas na web (semelhante a como os fornecedores de antispam implantam armadilhas de spam primitivas).

Por exemplo, eu poderia declarar em um blog que fui criado na Austrália. (Na verdade, era a África do Sul.) Qualquer um que me conhece sabe que a referência australiana é falsa e seria uma bandeira vermelha se fosse posteriormente usada em conteúdo sobre mim!

AI ainda é uma força para o bem

Apesar das preocupações que descrevi neste post, o impacto geral dessa revolução da IA ​​deve ser extremamente positivo.

É comparável a outras invenções críticas como o automóvel e o computador. Os empregos mudarão (assim como as vidas), mas novos surgirão – especialmente em campos relacionados ao desenvolvimento e implantação de IA. Talvez o mais importante, a produtividade aumentará.

Quer ouvir nossas previsões sobre como a IA generativa servirá ao mundo do marketing? Confira nosso recente webinar State of Email Live , onde mergulhamos profundamente nessas oportunidades.

E em resposta à sua pergunta não feita, não, não usei o ChatGPT para escrever este artigo!