OpenAI, 텍스트에서 비디오를 생성할 수 있는 도구 공개

OpenAI는 텍스트 프롬프트를 기반으로 짧은 비디오를 생성할 수 있는 새로운 도구를 공개했습니다.

Sora라고 불리는 이 앱은 사용자가 만들고 싶은 내용에 대한 짧은 텍스트 기반 설명만을 기반으로 최대 1분 길이의 비디오를 만들 수 있습니다.

반응형

ChatGPT 제조사인 OpenAI는 Sora가 안전 테스터에게 제공되어 "중요한 영역의 위험이나 위험을 평가"할 수 있을 뿐만 아니라 다양한 "비주얼 아티스트, 디자이너 및 영화 제작자"에게 시험적으로 제공할 수 있도록 제공되고 있다고 밝혔습니다. 피드백.

OpenAI는 새로운 도구에 대해 “우리는 사람들이 실제 상호 작용이 필요한 문제를 해결하는 데 도움이 되는 훈련 모델을 목표로 AI가 움직이는 물리적 세계를 이해하고 시뮬레이션하도록 가르치고 있습니다.”라고 말했습니다.

Introducing Sora, our text-to-video model.

Sora can create videos of up to 60 seconds featuring highly detailed scenes, complex camera motion, and multiple characters with vibrant emotions. https://t.co/7j2JN27M3W

Prompt: “Beautiful, snowy… pic.twitter.com/ruTEWn87vf

— OpenAI (@OpenAI) February 15, 2024

회사는 이 모델이 "언어에 대한 깊은 이해"를 갖고 있어 "프롬프트를 정확하게 해석하고 생생한 감정을 표현하는 매력적인 캐릭터를 생성"할 수 있다고 말했습니다.

그러나 OpenAI는 Sora를 더 널리 사용할 수 있도록 하기 전에 Sora에 대해 "몇 가지 중요한 안전 조치"를 취하고 있다고 말했습니다.

이 도구는 취약점과 악용 가능성을 테스트하고 있으며 AI가 생성한 콘텐츠로 식별하는 탐지 분류기를 Sora 비디오의 메타데이터에 추가하고 있음을 의미하는 "레드 팀 구성"이라고 밝혔습니다.

OpenAI 웹사이트에서 실행 중인 Sora의 비디오 예시에는 콘텐츠가 AI에서 생성되었음을 식별하는 워터마크도 포함되어 있습니다. 이는 잘못된 정보에 맞서 싸우는 중요한 도구입니다.

ChatGPT 제작자는 다음과 같이 덧붙였습니다. “우리는 전 세계의 정책 입안자, 교육자 및 예술가를 참여시켜 그들의 우려 사항을 이해하고 이 신기술에 대한 긍정적인 사용 사례를 식별할 것입니다.

우리는 실제 사용을 통해 배우는 것이 시간이 지남에 따라 점점 더 안전한 AI 시스템을 만들고 출시하는 데 중요한 구성 요소라고 믿습니다.

오픈AI
“광범위한 연구와 테스트에도 불구하고 우리는 사람들이 우리 기술을 사용하는 유익한 방식이나 남용하는 방식을 모두 예측할 수는 없습니다.

"그래서 우리는 실제 사용을 통해 배우는 것이 시간이 지남에 따라 점점 더 안전한 AI 시스템을 만들고 출시하는 데 중요한 구성 요소라고 믿습니다."

이번 주 초, 회사는 피싱 공격에 사용될 콘텐츠 작업을 포함하여 악의적인 활동에 AI 도구를 사용하는 여러 국가 지원 그룹을 탐지하고 제거했다고 밝혔습니다.

OpenAI와 Microsoft 팀 중국 , 이란 , 북한 및 러시아와 연관된 그룹을 발견했다고 회사는 밝혔습니다.

회사의 바쁜 한 주 동안 ChatGPT에 더 나은 메모리를 제공하여 사용자의 채팅을 더 많이 기억할 수 있다는 계획도 공개했습니다.

서리 대학교 인간 중심 AI 연구소의 Andrew Rogoyski 박사는 OpenAI의 Sora에 대한 안전 접근 방식에 고무되었지만 발표 전에 AI 안전 연구소가 도구에 어떤 접근 권한을 가졌는지 의문을 제기했다고 말했습니다.

“OpenAI는 그러한 시스템으로 인한 피해 가능성을 인식했습니다.”라고 그는 말했습니다.

“예를 들어 정치인이 바람직하지 못한 행동을 하는 모습을 보여주는 초현실적인 비디오를 AI가 만들 수 있다는 생각은 2024년에 60번이 넘는 민주 선거가 있고 2024년에 60번이 넘는 민주 선거가 있는 인류 역사상 가장 선거가 많은 해로 접어들면서 경고음을 울려야 합니다. 행성의 인구 투표.

OpenAI의 Sora 시스템은 잠재적으로 비디오의 ChatGPT 순간을 표시합니다.

서리대학교 Andrew Rogoyski 박사
“흥미롭게도 OpenAI는 정보의 출처를 추적하는 수단으로 인기가 높아지고 있는 디지털 인증 시스템인 C2PA를 통해 Sora의 출력물에 워터마크를 표시할 계획입니다.

“OpenAI가 Sora에 적용되는 안전 조치에 대한 추가 세부 정보를 약속하지만 지난 11월 Bletchley Park에서 Rishi Sunak이 발표한 영국의 AI 안전 연구소가 대형 AI 회사로부터 획기적인 성과를 공유하겠다는 약속을 받고 있는지 여부를 묻고 싶습니다. , 어제 출시되기 전에 실제로 소라를 본 적이 있습니다.”

그러나 Rogoyski 박사는 Sora의 잠재력을 인정하면서 이를 AI 비디오의 "큰 진전"이라고 불렀습니다.

그는 “OpenAI의 Sora 시스템은 잠재적으로 비디오의 ChatGPT 순간을 표시합니다.

“약 1년 전에 출시된 텍스트 기반 ChatGPT가 대본 작성에서 이메일 마케팅에 이르기까지 텍스트 기반 작업을 변화시키고 중단시켰던 것과 마찬가지로 Sora 시스템은 비디오에서도 동일한 작업을 수행할 수 있습니다.

 

“간단한 텍스트 기반 프롬프트를 통해 Sora는 놀랍도록 현실감 있고 명확하게 비디오 시퀀스를 만들 것입니다.

"OpenAI의 쇼릴을 믿는다면(AI 회사가 자체 시스템의 출력을 위조하는 사례가 있었습니다) 이는 중요한 진전입니다."