Meta tem uma nova ferramenta de IA que permite aos usuários fazer vídeos estranhos de Mish-Mash

Eu totalmente não consigo ver isso sendo usado para fins inúteis e deturpação de todas as novas maneiras.

Como você provavelmente sabe, nos últimos meses, a arte gerada por IA se tornou uma nova tendência, com ferramentas como DALL·E e Midjourney facilitando todos os novos processos de criação, que permitem que qualquer pessoa crie obras de arte digitais estranhas, únicas e às vezes bonitas baseadas em prompts de texto.

Essas ferramentas obtêm uma variedade de imagens de toda a Web - da mesma forma que, digamos, o Imagens do Google mostra exemplos visuais de qualquer termo que você digita - e então essencialmente 'amostras' e as mescla em novas obras de arte, com base em como o sistema entende seus prompts de texto.

O que é um uso interessante de IA e aprendizado de máquina. Mas e se você pudesse ir mais longe? E se você também pudesse criar vídeos da mesma maneira?

Evidentemente, Meta tinha a capacidade de descobrir.

Os clipes acima são exemplos do novo sistema Make-A-Video AI da Meta, que permite que as pessoas transformem prompts de texto em 'clipes de vídeo breves e de alta qualidade'.

Conforme explicado por Meta:

“ [Make-A-Video] usa imagens com descrições para aprender como é o mundo e como ele é frequentemente descrito. Ele também usa vídeos não rotulados para aprender como o mundo se move. Com esses dados, o Make-A-Video permite que você dê vida à sua imaginação gerando vídeos extravagantes e únicos com apenas algumas palavras ou linhas de texto.”

O processo também permite aos usuários criar variações de videoclipes, ou adicionar movimento a uma imagem estática, o que pode fornecer uma nova capacidade de criação de vídeo, de várias maneiras.

Mas os resultados que a Meta está divulgando atualmente são um pouco estranhos.

Sim, isso é uma coisa de aparência totalmente normal que não vai assombrar meus sonhos.

Sim, absolutamente legal – e absolutamente não parece uma foto granulada de um filme de terror found footage.

Claro, é cedo, e o sistema ainda está evoluindo. Mas, como observado, você já pode ver como esse processo pode acabar sendo usado para maus propósitos, seja para difamar, desumanizar ou criar conteúdo assustador e ofensivo, com base em prompts de texto.

Meta está trabalhando para negar isso.

Em suas notas de pesquisa, a Meta afirma que:

“ Como forma de reduzir o risco de geração de conteúdo nocivo, examinamos, aplicamos e iteramos filtros para reduzir o potencial de exibição de conteúdo nocivo em vídeos.”

Você imaginaria que isso também incluiria a remoção de figuras públicas do banco de dados, o que poderia se tornar rapidamente um problema, bem como restrições a termos potencialmente ofensivos como o prompt da fonte.

Mas, novamente, dado o escopo do conteúdo de origem, provavelmente há muitas maneiras de tudo isso dar errado, com alguém, em algum lugar, já preparando algum conceito anteriormente inexistente que quebrará completamente o sistema.

Foi o que aconteceu com muitas outras ferramentas de IA. Por exemplo, em 2016, a Microsoft lançou uma conta no Twitter para mostrar a capacidade de sua ferramenta de resposta de IA conversacional chamada 'Tay', que era capaz de responder às perguntas das pessoas via tweet. Em 24 horas, Tay estava twittando comentários misóginos e racistas .

A internet é uma representação da humanidade, boa e ruim, e na maioria das vezes, é o mal que aparece, especialmente quando as pessoas recebem um desafio e um meio de constranger pessoas inteligentes que trabalham em conceitos inteligentes, como pesquisa de IA.

O que também é provável porque a Meta não está lançando o Make-A-Video para o público ainda.

“Nosso objetivo é eventualmente disponibilizar essa tecnologia ao público, mas por enquanto continuaremos a analisar, testar e testar o Make-A-Video para garantir que cada etapa do lançamento seja segura e intencional.”

Isso é bom, especialmente para o Meta, que tem um histórico de se mover rápido e quebrar coisas. Mas ainda assim, ainda parece questionável, parece que essa tecnologia pode ser quebrada e pode acabar sendo usada para maus propósitos.

Ou talvez seja usado apenas para criar vídeos esquisitos que você pode compartilhar com seus amigos.

'Aqui, Martha, está uma preguiça careca que parece ter saído do mundo Dark Crystal para invadir seu PC e roubar seus segredos vergonhosos – legal, certo?'

Eu não sei, o avanço tecnológico em exibição é incrível, mas ferramentas como essa são realmente benéficas em geral?

Há também questões sobre direitos autorais e os artistas que perdem, apesar de seu material de origem alimentar essas criações.

Para as marcas, pode acabar sendo uma consideração valiosa, como um meio de criar conteúdo de vídeo (por mais estranho que seja) que você possa usar em suas campanhas e postagens sociais – e potencialmente, esse uso estaria dentro dos fundamentos legais, pois é atualmente o caso da atual safra de ferramentas de arte de IA.

Mas ainda assim, parece que, no geral, o impacto líquido talvez não seja positivo?

Vendo de outra perspectiva, é interessante notar como a Meta está procurando dar aos criadores e artistas mais maneiras de ganhar dinheiro com seu trabalho em seus aplicativos, por meio de novos processos e opções de monetização, mas, ao mesmo tempo, essas ferramentas de IA desvalorizam o artista contente.

É um conflito que se tornou parte da estrutura do Meta, inadvertidamente ou não, onde o benefício geral de suas ferramentas acaba sendo obscurecido por motivações conflitantes e seus esforços para continuar avançando, sem considerar totalmente os impactos.

Essencialmente, ferramentas geradas por IA como essa parecem prontas para desencadear um novo campo de batalha sobre o 'uso justo', o que poderia eventualmente fazer com que todas elas fossem encerradas de qualquer maneira - então, se você estiver interessado em criar seus próprios vídeos esquisitos, você quero torcer para que Meta o disponibilize em breve.

Por enquanto, porém, o aplicativo está disponível apenas para pesquisadores, que podem se cadastrar para ter acesso.

Você pode ler mais sobre o sistema 'Make-A-Video' aqui.