У Meta есть новый инструмент искусственного интеллекта, который позволяет пользователям делать причудливые видео Mish-Mash

Я совершенно не вижу, чтобы это использовалось для злонамеренных целей и для искажения фактов всеми новыми способами.

Как вы, вероятно, знаете, в последние месяцы искусство, созданное искусственным интеллектом, стало новой тенденцией, а такие инструменты, как DALL·E и Midjourney, облегчают все новые процессы создания, которые позволяют любому создавать странные, уникальные, а иногда и красивые цифровые произведения искусства на основе на текстовые подсказки.

Эти инструменты извлекают ряд изображений из Интернета — так же, как, скажем, Google Images показывает вам наглядные примеры любого термина, который вы вводите, — а затем, по сути, «сэмплирует» и объединяет их все в новые произведения искусства, основываясь на том, как система понимает ваши текстовые подсказки.

Это интересное использование ИИ и машинного обучения. Но что, если бы вы могли пойти дальше? Что, если бы вы могли создавать видео таким же образом?

Очевидно, у Меты была возможность это выяснить.

Приведенные выше клипы являются примерами новой системы искусственного интеллекта Meta -A-Video от Meta , которая позволяет людям превращать текстовые подсказки в «короткие видеоклипы высокого качества».

Как объяснила Мета:

« [Make-A-Video] использует изображения с описаниями, чтобы узнать, как выглядит мир и как его часто описывают. Он также использует немаркированные видео, чтобы узнать, как движется мир. С помощью этих данных Make-A-Video позволяет вам воплотить в жизнь свое воображение, создавая причудливые, единственные в своем роде видеоролики, используя всего несколько слов или строк текста».

Этот процесс также позволяет пользователям создавать варианты видеоклипов или добавлять движение к статическому изображению, что может предоставить новые возможности для создания видео различными способами.

Но результаты, которые в настоящее время рекламирует Мета, немного причудливы.

Да, это совершенно нормально выглядящая вещь, которая не будет преследовать меня во сне.

Ага, совершенно круто — и совершенно не похоже на зернистый кадр из найденного фильма ужасов.

Конечно, это только начало, и система все еще развивается. Но, как уже отмечалось, вы уже можете видеть, как этот процесс может в конечном итоге использоваться в злонамеренных целях, либо для клеветы, дегуманизации или иного создания пугающего, оскорбительного контента на основе текстовых подсказок.

Мета работает над тем, чтобы свести на нет это.

В своих исследовательских заметках Meta заявляет, что:

« Чтобы снизить риск создания вредоносного контента, мы изучаем, применяем и повторяем фильтры, чтобы уменьшить вероятность появления вредоносного контента в видео».

Вы можете себе представить, что это также будет включать удаление публичных фигур из базы данных, что может быстро стать проблемой, а также ограничения на потенциально оскорбительные термины в качестве подсказки источника.

Но опять же, учитывая объем исходного контента, вероятно, есть много способов, которыми все может пойти не так, когда кто-то где-то уже придумывает какую-то ранее не существовавшую концепцию, которая полностью сломает систему.

То же самое произошло со многими другими инструментами на основе ИИ. Например, еще в 2016 году Microsoft запустила учетную запись в Твиттере, чтобы продемонстрировать возможности своего инструмента диалогового ИИ под названием «Tay», который мог отвечать на вопросы людей с помощью твитов. В течение 24 часов Тэй писал в Твиттере женоненавистнические и расистские высказывания.

Интернет — это представление человечества, хорошего и плохого, и чаще всего проявляется именно плохое, особенно когда людям бросают вызов, и средство поставить в неловкое положение умных людей, работающих над умными концепциями, такими как исследования ИИ.

Вероятно, именно поэтому Meta пока не выпускает Make-A-Video для широкой публики.

«Наша цель — в конечном итоге сделать эту технологию общедоступной, но сейчас мы продолжим анализировать, тестировать и тестировать Make-A-Video, чтобы гарантировать, что каждый шаг выпуска является безопасным и преднамеренным».

Это хорошо, особенно для Меты, которая умеет быстро двигаться и ломать вещи. Но, тем не менее, это все еще кажется сомнительным, кажется, что эту технологию можно сломать и в конечном итоге использовать не по назначению.

Или, может быть, он просто будет использоваться для создания причудливых видеороликов, которыми вы сможете поделиться со своими друзьями.

«Вот, Марта, лысый ленивец, который выглядит так, будто вырвался из мира Темного Кристалла, чтобы взломать ваш компьютер и украсть ваши постыдные секреты — круто, правда?»

Я не знаю, демонстрируемый технологический прогресс поразителен, но действительно ли такие инструменты полезны в целом?

Есть также вопросы об авторском праве и художниках, которые проигрывают, несмотря на то, что их исходный материал служит основой для этих творений.

Для брендов это может оказаться ценным соображением как средство для создания видеоконтента (каким бы причудливым он ни был), который затем можно использовать в своих кампаниях и публикациях в социальных сетях — и, возможно, такое использование будет на законных основаниях, поскольку в настоящее время так обстоит дело с текущим набором художественных инструментов ИИ.

Но все же, кажется, в целом чистое влияние, может быть, не положительное?

Рассматривая это с другой точки зрения, интересно отметить, что Meta стремится предоставить создателям и художникам больше способов зарабатывать деньги на своей работе в своих приложениях с помощью новых процессов и опций монетизации, но в то же время эти инструменты ИИ обесценивают художников. содержание.

Это конфликт, который стал частью структуры Meta, непреднамеренно или нет, когда общая польза от его инструментов в конечном итоге становится размытой из-за противоречивых мотивов и его усилий по дальнейшему продвижению вперед без полного учета последствий.

По сути, созданные ИИ инструменты, подобные этому, выглядят настроенными на то, чтобы разжечь новое поле битвы за «добросовестное использование», что в конечном итоге может привести к тому, что все они будут закрыты в любом случае. хочется надеяться, что Meta сделает его доступным в ближайшее время.

Однако на данный момент приложение доступно только исследователям, которые могут зарегистрироваться, чтобы получить доступ.

Подробнее о системе Make-A-Video можно прочитать здесь.