Permanecendo vigilante: detectando desinformação no mundo da IA

A primeira vez que você usou o ChatGPT, provavelmente pensou que novos senhores robôs iriam dominar o mundo. Desde que foi introduzido, sabemos que as máquinas podem aprender, pensar e tomar suas próprias decisões.

Mas provavelmente não é tão ruim, já que o Terminator ainda não voltou no tempo. No filme, a Skynet desencadeia uma catástrofe nuclear. Na realidade, os líderes mundiais podem ser arrastados pela desinformação e desencadear uma catástrofe nuclear. O potencial de danos causados ​​por algoritmos manipulados, dados manipulados, reivindicações exageradas ou simplesmente mentiras é infinito.

A vida se tornará semelhante a um parque de diversões de espelhos. A verdade terá curvas e reviravoltas, e todos não terão certeza em qual realidade acreditar. Muitos sites de notícias usam ferramentas de IA como o ChatGPT para criar conteúdo e ter uma classificação alta no Google. Os estilos são indistinguíveis dos humanos, exceto em uma situação em que o próprio texto contém frases como: “Não consigo concluir este prompt”, “como um modelo de linguagem de IA” ou “Minha data limite é setembro de 2021”.

Detectar desinformação não será um passeio no parque. É manhoso. Está disfarçado em manchetes chamativas. Um ótimo exemplo é a história da prisão de Trump com fotos falsas. É preciso ceticismo e um olhar aguçado para detectar desinformação no mundo da IA. Veja como você pode fazer isso.

Tenha cuidado ao usar IA

A razão pela qual o ChatGPT é o produto que mais cresce, com 1 milhão de usuários, é porque ele realmente ajuda na produtividade. Antes de ser introduzido, todos tinham que fazer pesquisas manualmente. Você digita uma pergunta no Google e obtém muitos resultados. Com base na hierarquia de confiança, você seleciona os sites em que confia. O Google classifica páginas há 25 anos, usando dezenas de fatores para determinar o que mostrar a você.

Agora, o processo mudou. Você faz uma pergunta ao ChatGPT e ele responde em segundos. Mas, em vez de vasculhar a web em busca do melhor conteúdo, ele apenas prevê prováveis ​​combinações de palavras. Isso causa desinformação feita pela IA. Em The Social Dilemma, engenheiros de ciência da computação mostram o impacto das mídias sociais no controle do mundo. Mesmo que uma opinião pudesse mudar em um por cento em um período de tempo longo o suficiente, isso poderia ter um efeito enorme. Eventualmente, a mídia social se tornará o campo de batalha da desinformação feita pela IA. É por isso que ficar atento a esse novo cenário é tão importante.

Relacionado: Inteligência artificial em relações públicas e marketing: as tendências futuras que podem melhorar a eficiência de suas campanhas de relações públicas.

Desinformação intencional

Hackers e golpistas estavam esfregando as mãos quando o OpenAI lançou o ChatGPT. Finalmente, eles tinham uma ferramenta para fabricar histórias, imagens e vídeos. O cibercrime está aumentando rapidamente, especialmente porque você pode pedir ao algoritmo para escrever sobre um tópico específico no estilo da desinformação. Ele pode gerar dados falsos, citações inexistentes e histórias convincentes para fazer você acreditar em qualquer coisa.

Muitos especialistas proeminentes na área deixaram seus empregos para soar o alarme de que a humanidade precisa parar o desenvolvimento desta tecnologia antes de aprender como controlá-la. Não há como impedir que maus atores o usem para propósitos malignos. Criar ataques de phishing, informações incorretas e desinformação intencional é perigosamente fácil.

Fontes fabricadas

Quando você lê um artigo, ver uma lista de fontes o torna mais confiável. Bem, o ChatGPT é famoso por inventar fontes. Claro, ele pode gerar listas corretas, mas isso não significa que não polvilhe listas com algumas falsas. A parte selvagem sobre isso é que as citações geradas são plausíveis. Eles soam semelhantes a periódicos renomados e são co-autores de grandes reputações. Se você não tiver tempo para verificar as fontes, é fácil cair na armadilha.

Outro cenário que costuma acontecer são as respostas conflitantes para a mesma pergunta. Quando solicitado a esclarecer as diferenças nas respostas, o ChatGPT responde: “Às vezes eu cometo erros”. Como as respostas são totalmente diferentes, você pode ser atingido por uma verdade ou uma mentira.

Melhore sua verificação de fatos!

Não confie em nada na internet sem fazer sua própria pesquisa. Os mecanismos de pesquisa tradicionais existem há muito tempo. O Google ainda é o melhor lugar para verificar se a informação é verdadeira ou falsa. Mas um novo problema surge quando você passa muito tempo nas redes sociais. A maioria das pessoas gasta muito tempo no Tik Tok, Reels ou shorts do YouTube. Você vê pessoas se passando por especialistas criando conteúdo em torno de um tópico ou evento específico. É da nossa natureza confiar nas outras pessoas.

Às vezes, você vê um vídeo de um minuto sobre um assunto delicado e fica difícil confiar. Então, você vê mais alguns. Sem pensar, você forma uma opinião com base no que o algoritmo decidiu te mostrar. Mesmo que você saiba que está assistindo a esses vídeos por puro entretenimento, eles podem ter um impacto sobre o que você pensa.

Fique Vigilante

No futuro, provavelmente haverá verificadores de fatos de IA (como se os geradores de texto não fossem suficientes). Mas antes que esse tempo chegue, devemos fazer o trabalho duro nós mesmos. Estar vigilante é extremamente importante. Seu amigo pode enviar a você um pequeno vídeo relacionado a um problema que você possa estar enfrentando.

Em vez de confiar em tudo que você vê online, é melhor identificar e avaliar as fontes de informação. Isso é extremamente importante para tópicos como mudanças climáticas, vacinas ou doenças graves. Não existe nenhum produto mágico ou combinação de ervas que cure o câncer. Não há como reverter a mudança climática em um dia. E não há como combater doenças sem vacinas. A terra não é plana. Esses tópicos exigem que você seja deliberadamente atencioso. Reserve um tempo para examinar fontes e fazer pesquisas reais.

Veja também: Como a Inteligência Artificial está mudando o desenvolvimento de software?

Usar ferramentas

Em 2016, as eleições nos Estados Unidos se tornaram famosas pelo falso conteúdo russo cheio de erros gramaticais. Com a IA disponível e um conflito na Ucrânia, o potencial para outra tentativa de notícias falsas é enorme. Mas agora, não haverá erros gramaticais ou déficits estilísticos.

Os atores mal-intencionados podem criar e redirecionar ainda mais conteúdo para todas as plataformas de mídia social. Visualizações, comentários e curtidas falsos são fáceis de manipular. Acrescente a isso algumas falsificações profundas de líderes dizendo algo que não deveriam, e você pode convencer o público a acreditar em qualquer coisa.

As assinaturas digitais podem ajudar a determinar se o conteúdo online é feito por humanos. As ferramentas de IA de marca d'água, como o ChatGPT, são outra opção. Mas desenvolver essas soluções leva tempo. Por enquanto, a maneira mais fácil de não ser um alvo é usar uma VPN.

As redes privadas virtuais tornam você privado online, o que impossibilita que profissionais de marketing, governos ou atores mal-intencionados conheçam seus dados demográficos. Você não receberá nenhum cookie de sites, o que significa que não haverá anúncios direcionados ou notícias falsas.

Além disso, você pode alterar sua localização para qualquer lugar do mundo. Em vez de estar no meio de uma guerra de informações, você pode mudar seu IP para outro lugar. As VPNs também protegem você contra hackers criptografando seus dados.

Esta ferramenta é como mágica porque você pode optar por não discriminar preços. Coisas que custam muito mais dinheiro nos Estados Unidos custam menos em países com economias mais fracas. Você pode alterar sua localização e comprar um produto digital pela metade do preço com um único clique de um botão. Usar VPN para obter voos e hotéis mais baratos também é ótimo, porque você pode fingir ser um local.

Informe as pessoas ao seu redor

Quando alguém forma uma opinião forte, é quase impossível mudar de ideia. Se você já discutiu com um teórico da conspiração, provavelmente sabe como é difícil. Com uma epidemia de notícias falsas fervendo sob nossos pés, é essencial que todos melhorem sua alfabetização digital. Adolescentes, professores, pais e profissionais de todos os lugares devem ajudar. Existem ferramentas online para apoiar a alfabetização digital, mas isso não é suficiente.

É necessário aumentar a conscientização sobre o problema e as medidas concretas que devem ser tomadas para verificar os fatos. Mesmo que você não use o ChatGPT ou ferramentas semelhantes, provavelmente já encontrou algo gerado por ele. Pesquisar informações exige tempo e esforço, e cabe a cada um de nós determinar se vale a pena.

Relacionado: O futuro da comunicação VoIP: como a inteligência artificial está revolucionando a maneira como nos conectamos.

Algumas palavras finais

O reino selvagem da IA ​​está cheio de desinformação. Mas se você seguir a verdade, vai se sentir como se tivesse um superpoder em um mundo digital cheio de mentiras. A desinformação existe há milhares de anos, mas agora se adaptou e evoluiu para a era moderna da IA. Manter-se vigilante na era da desinformação é essencial.

Sempre que você vir uma manchete que parece boa demais ou absurda demais para ser precisa, pare por um segundo. Coloque seu boné de pensamento crítico, seja curioso, verifique as fontes e tente usar um pouco de ceticismo saudável.

A IA pode ser uma força do bem se for usada corretamente, mas não há como impedir que os malfeitores a usem para ganho pessoal. Espalhe a conscientização para as pessoas mais próximas a você e isso pode criar um efeito cascata, onde todos se tornam melhores em detectar notícias falsas e desinformação produzidas pela IA.