Meta a un nouvel outil d'IA qui permet aux utilisateurs de créer des vidéos Freaky Mish-Mash

Je ne vois absolument pas que cela soit utilisé à des fins malveillantes et de fausses déclarations de toutes nouvelles manières.

Comme vous le savez probablement, ces derniers mois, l'art généré par l'IA est devenu une nouvelle tendance, avec des outils comme DALL·E et Midjourney facilitant tous les nouveaux processus de création, qui permettent à quiconque de créer des œuvres d'art numériques étranges, uniques et parfois belles basées sur sur les invites de texte.

Ces outils se procurent une gamme d'images sur le Web - de la même manière que, par exemple, Google Images vous montre des exemples visuels de n'importe quel terme que vous entrez - puis essentiellement des "échantillons" et les fusionne tous dans de nouvelles œuvres d'art, en fonction de la façon dont le le système comprend vos invites textuelles.

Ce qui est une utilisation intéressante de l'IA et de l'apprentissage automatique. Et si vous pouviez aller plus loin ? Et si vous pouviez également créer des vidéos de la même manière ?

De toute évidence, Meta avait la capacité de le découvrir.

Les clips ci-dessus sont des exemples du nouveau système d'IA Make-A-Video de Meta , qui permet aux utilisateurs de transformer des invites de texte en "clips vidéo brefs et de haute qualité".

Comme l'explique Meta :

“ [Make-A-Video] utilise des images avec des descriptions pour apprendre à quoi ressemble le monde et comment il est souvent décrit. Il utilise également des vidéos sans étiquette pour apprendre comment le monde bouge. Avec ces données, Make-A-Video vous permet de donner vie à votre imagination en générant des vidéos fantaisistes et uniques en quelques mots ou lignes de texte.

Le processus permet également aux utilisateurs de créer des variations de clips vidéo, ou d'ajouter un mouvement à une image statique, ce qui pourrait fournir une nouvelle capacité de création vidéo, de différentes manières.

Mais les résultats que Meta vante actuellement sont un peu bizarres.

Ouais, c'est une chose totalement normale qui ne hantera pas mes rêves.

Oui, absolument cool - et ne ressemble absolument pas à un plan granuleux d'un film d'horreur trouvé.

Bien sûr, ce n'est qu'un début et le système évolue encore. Mais comme indiqué, vous pouvez déjà voir comment ce processus pourrait finir par être utilisé à des fins malveillantes, soit pour diffamer, déshumaniser ou créer d'une autre manière un contenu effrayant et offensant, basé sur des invites textuelles.

Meta travaille pour nier cela.

Dans ses notes de recherche, Meta déclare que :

« Afin de réduire le risque de génération de contenu préjudiciable, nous examinons, appliquons et réitérons les filtres afin de réduire le potentiel de contenu préjudiciable à apparaître dans les vidéos. »

Vous imaginez que cela inclurait également la suppression des personnalités publiques de la base de données, ce qui pourrait rapidement devenir un problème, ainsi que des restrictions sur les termes potentiellement offensants comme l'invite de la source.

Mais encore une fois, compte tenu de l'étendue du contenu source, il y a probablement de nombreuses façons pour que tout cela se passe mal, avec quelqu'un, quelque part, qui prépare déjà un concept auparavant inexistant qui cassera complètement le système.

C'est ce qui s'est passé avec de nombreux autres outils basés sur l'IA. Par exemple, en 2016, Microsoft a lancé un compte Twitter pour montrer la capacité de son outil de réponse IA conversationnel appelé « Tay », qui était capable de répondre aux questions des gens via tweet. Dans les 24 heures, Tay tweetait des remarques misogynes et racistes .

Internet est une représentation de l'humanité, bonne et mauvaise, et le plus souvent, c'est le mal qui apparaît, en particulier lorsque les gens sont confrontés à un défi, et un moyen d'embarrasser les gens intelligents travaillant sur des concepts intelligents, comme la recherche sur l'IA.

Ce qui est également probablement la raison pour laquelle Meta ne publie pas encore Make-A-Video au public.

"Notre objectif est de rendre cette technologie accessible au public, mais pour l'instant, nous continuerons d'analyser, de tester et d'essayer Make-A-Video pour nous assurer que chaque étape de la publication est sûre et intentionnelle."

C'est bien, surtout pour Meta, qui a l'habitude d'aller vite et de casser des choses. Mais encore, cela semble toujours discutable, on a l'impression que cette technologie pourrait être cassée et pourrait finir par être utilisée à de mauvaises fins.

Ou peut-être qu'il sera simplement utilisé pour créer des vidéos bizarres que vous pourrez partager avec vos amis.

"Ici, Martha, est un paresseux chauve qui semble s'être échappé du monde de Dark Crystal afin de pirater votre PC et de voler vos honteux secrets - cool, non ?"

Je ne sais pas, les avancées technologiques présentées sont incroyables, mais des outils comme celui-ci sont-ils réellement bénéfiques dans l'ensemble ?

Il y a aussi des questions autour du droit d'auteur et des artistes qui y perdent, malgré leur matériel source qui alimente ces créations.

Pour les marques, cela pourrait finir par être une considération précieuse, comme un moyen de créer du contenu vidéo (aussi bizarre qu'il puisse être) que vous pouvez ensuite utiliser dans vos campagnes et vos publications sociales - et potentiellement, cette utilisation serait conforme à la loi, comme est actuellement le cas avec la récolte actuelle d'outils d'art IA.

Mais malgré tout, on a l'impression que, dans l'ensemble, l'impact net n'est peut-être pas positif ?

D'un autre point de vue, il est intéressant de noter comment Meta cherche à donner aux créateurs et aux artistes plus de moyens de gagner de l'argent grâce à leur travail dans ses applications, grâce à de nouveaux processus et options de monétisation, mais en même temps, ces outils d'IA dévalorisent l'artiste contenu.

C'est un conflit qui fait désormais partie du cadre de Meta, par inadvertance ou non, où le bénéfice global de ses outils finit par être brouillé par des motivations contradictoires et ses efforts pour continuer à faire avancer les choses, sans tenir pleinement compte des impacts.

Essentiellement, des outils générés par l'IA comme celui-ci semblent devoir déclencher un nouveau champ de bataille sur «l'utilisation équitable» dans ce domaine, ce qui pourrait éventuellement les voir tous fermés de toute façon – donc si vous êtes intéressé à créer vos propres vidéos bizarres, vous le feriez voulons espérer que Meta le rendra bientôt disponible.

Pour l'instant, cependant, l'application n'est disponible que pour les chercheurs, qui peuvent s'inscrire pour y accéder.

Vous pouvez en savoir plus sur le système "Make-A-Video" ici.