Meta는 사용자가 이상한 Mish-Mash 비디오를 만들 수 있도록 하는 새로운 AI 도구를 얻었습니다.

나는 이것이 악의적으로 사용되고 모든 새로운 방식으로 허위 진술을 하는 것을 전혀 볼 수 없습니다.

아시다시피 , 최근 몇 달 동안 AI 생성 예술은 DALL·E 및 Midjourney 와 같은 도구를 통해 모든 새로운 창작 과정을 촉진함으로써 새로운 트렌드가 되었습니다. 텍스트 프롬프트에서.

이러한 도구는 웹에서 다양한 이미지를 소싱합니다. 예를 들어 Google 이미지가 입력한 용어의 시각적 예를 보여주는 것과 같은 방식으로 기본적으로 '샘플링'하고 모든 이미지를 새로운 아트웍으로 병합합니다. 시스템은 텍스트 프롬프트를 이해합니다.

AI와 머신 러닝의 흥미로운 사용입니다. 그러나 더 나아갈 수 있다면 어떨까요? 같은 방식으로 동영상도 만들 수 있다면 어떨까요?

분명히 Meta는 알아낼 수 있는 능력이 있었습니다.

위의 클립은 사람들이 텍스트 프롬프트를 '간단한 고품질 비디오 클립'으로 전환할 수 있는 Meta의 새로운 Make-A-Video AI 시스템의 예입니다.

메타가 설명하는 대로:

“ [Make-A-Video]는 설명이 포함된 이미지를 사용하여 세상이 어떻게 생겼는지, 그리고 자주 묘사되는 방식을 학습합니다. 또한 레이블이 지정되지 않은 비디오를 사용하여 세상이 어떻게 움직이는지 학습합니다. 이 데이터를 사용하여 Make-A-Video를 사용하면 몇 단어 또는 텍스트 줄로 기발하고 독특한 비디오를 생성하여 상상력에 생명을 불어넣을 수 있습니다.”

또한 이 프로세스를 통해 사용자는 다양한 방식으로 비디오 생성을 위한 새로운 기능을 제공할 수 있는 다양한 비디오 클립을 만들거나 정적 이미지에 모션을 추가할 수 있습니다.

그러나 Meta가 현재 선전하고 있는 결과는 약간 이상합니다.

그래, 그건 내 꿈을 방해하지 않을 완전히 평범해 보이는 일이야.

네, 정말 멋집니다. 그리고 파운드 푸티지 공포 영화의 거친 장면처럼 보이지 않습니다.

물론 아직 초기이고 시스템은 계속 발전하고 있습니다. 그러나 언급한 바와 같이 이 프로세스가 텍스트 프롬프트를 기반으로 명예를 훼손하거나 비인간화하거나 무섭고 공격적인 콘텐츠를 만드는 등 악의적인 목적으로 사용될 수 있음을 이미 알 수 있습니다.

Meta는 이를 무효화하기 위해 노력하고 있습니다.

연구 노트에서 Meta는 다음과 같이 말합니다.

" 유해 콘텐츠가 생성될 위험을 줄이는 방법으로 필터를 검토, 적용 및 반복하여 유해 콘텐츠가 동영상에 나타날 가능성을 줄입니다."

데이터베이스에서 유명인을 제거하는 것도 포함될 것이라고 상상할 수 있을 것입니다. 이는 빠르게 문제가 될 수 있을 뿐만 아니라 잠재적으로 공격적인 용어를 소스 프롬프트로 제한합니다.

그러나 다시, 소스 콘텐츠의 범위를 감안할 때 시스템을 완전히 깨뜨릴 이전에는 존재하지 않는 개념을 누군가가 이미 요리하고 있기 때문에 이 모든 것이 잘못될 수 있는 여러 가지 방법이 있을 수 있습니다.

그것은 다른 많은 AI 소스 도구에서 일어난 일입니다. 예를 들어, 마이크로소프트는 2016년 트위터 계정을 개설해 트윗을 통해 사람들의 질문에 답할 수 있는 대화형 AI 응답 도구 '테이(Tay)'의 능력을 과시했다. 24시간 이내에 Tay는 여성혐오적이고 인종차별적인 발언을 트윗했습니다.

인터넷은 선과 악을 가리지 않고 인류를 대표하며, 특히 사람들에게 도전이 주어졌을 때 나타나며 AI 연구와 같은 영리한 개념을 연구하는 똑똑한 사람들을 당황하게 하는 수단인 경우가 많습니다.

이것이 Meta가 Make-A-Video를 아직 대중에게 공개하지 않는 이유이기도 합니다.

"우리의 목표는 궁극적으로 이 기술을 대중에게 제공하는 것이지만 현재로서는 Make-A-Video를 계속 분석, 테스트 및 시험하여 릴리스의 각 단계가 안전하고 의도적인지 확인할 것입니다."

특히 빠르게 움직이고 깨는 이력이 있는 메타의 경우 좋습니다. 그러나 여전히 의문의 여지가 있고 이 기술이 고장날 수 있고 결국 악의적으로 사용될 수 있다고 느낍니다.

아니면 친구들과 공유할 수 있는 이상한 비디오를 만드는 데 사용될 수도 있습니다.

'여기 마사, PC를 해킹하고 수치스러운 비밀을 훔치기 위해 Dark Crystal 세계에서 나온 것처럼 보이는 대머리 나무늘보가 있습니다. 멋지죠?'

저는 모릅니다. 디스플레이의 기술 발전은 놀랍습니다. 하지만 이와 같은 도구가 실제로 전반적으로 유익한가요?

저작권과 이러한 창작물에 힘을 실어주는 소스 자료에도 불구하고 손해를 보는 아티스트에 대한 질문도 있습니다.

브랜드의 경우 캠페인 및 소셜 게시물에서 사용할 수 있는 비디오 콘텐츠(이상할 수 있지만)를 만드는 수단으로 가치 있는 고려 사항이 될 수 있습니다. 현재 AI 아트 도구의 현재 작물이 그렇습니다.

그러나 여전히 전체적으로 순 영향이 긍정적이지 않은 것 같습니까?

다른 관점에서 볼 때 Meta가 새로운 수익 창출 프로세스와 옵션을 통해 크리에이터와 아티스트가 앱에서 작업으로 돈을 벌 수 있는 더 많은 방법을 제공하면서도 동시에 이러한 AI 도구가 아티스트의 가치를 떨어뜨리는 방법을 주목하는 것은 흥미롭습니다. 콘텐츠.

메타의 프레임워크의 일부가 된 갈등입니다. 우연이든 아니든, 도구의 전반적인 이점은 충돌하는 동기와 영향을 충분히 고려하지 않고 계속 추진하려는 노력으로 인해 흐려집니다.

본질적으로, 이와 같은 AI 생성 도구는 '공정 사용'에 대한 새로운 전쟁터를 ​​촉발하도록 설정되어 있으며 결국 어느 쪽이든 모두 종료될 수 있습니다. 따라서 자신의 이상한 비디오를 만드는 데 관심이 있다면 Meta에서 곧 사용할 수 있기를 바랍니다.

그러나 현재 응용 프로그램은 액세스 권한을 얻기 위해 등록할 수 있는 연구원만 사용할 수 있습니다.

여기에서 'Make-A-Video' 시스템에 대해 자세히 알아볼 수 있습니다.