<div style="border:1px dotted; padding:16px;" data-tomark-pass="">
<ul data-tomark-pass="">
<li data-tomark-pass="">대량 학습이 필요한 Sora의 아키텍처는 시뮬레이션적 특성 발현으로 연결</li> 
<li data-tomark-pass="">급작스럽게 등장한 배경에는 동영상 생성 AI 시장의 경쟁 격화의 영향도 존재 판단
</li> 
<li data-tomark-pass="">차세대 LLM 모델은 로봇 및 SW 산업 발달과 연계된 시너지 효과 창출 가능
</li>
</ul>
</div>
 

WHAT’S THE STORY? 
Sora, Diffusion과 Transformer의 위대한 결합: 공개된 오픈AI 자료에는 명확한 Sora의 아키텍처에 대한 설명은 부재. GPT의 토큰과 유사한 작은 단위 데이터인 Patch가 중요한 역할. Patch 활용에 따라 학습에서 다양한 길이, 해상도, 비율을 가진 데이터 활용 가능. 또한 일반적 Diffusion 모델이 노이즈 및 디노이즈 과정에 U-Net 아키텍처를 활용한 것과 달리 Vision Transformer(ViT)로 대체. 인접한 픽셀끼리 높은 상관 관계를 가지고 있다고 가정하는 U-Net과 다르게 ViT는 1차원으로 학습하기 때문에 Inductive bias가 적음. 아키텍처적 특성에 대응하기 위해 많은 학습 데이터 필요. 오히려 이 과정에서 기존 동영상 생성 AI 모델의 학습처럼 특정 사이즈나 해상도로 조정하는 것보다 조정하지 않은 대량 데이터 학습의 효율성과 순전하게 규모(Scale)를 통해 물리 엔진과 같은 시뮬레이션적 특성 발현도 확인
 Sora 전격 등장! 이유는?: Sora에 대한 기대감은 높은 성능에도 기초하지만, 단순히 프롬프트를 이해하는 것에 그치는 것이 아니라, 물리적 세계에서 여러 대상이 어떻게 존재하는 지를 이해하는 시뮬레이션 모델이라는 점이 중요. 짧게는 멀티모달 모델 발전을 가속화할 수 있지만 AGI 달성에도 중요한 이정표가 될 수 있음.
 어마어마한 성능에 압도당했지만, 사실 아무도 예상하지 못하게 급작스럽게 공개한 느낌. 동영상 생성 AI 분야에 먼저 깃발을 꼽는다는 목적 내포. 경영진은 Sora가 받고 있는 스포트라이트를 쉽게 내어 주지 않기 위한 전략을 고려할 것. 이는 결국 밸류에이션으로 연결, 지난해 거론되던 오픈AI 가치는 290억 달러 수준이었으나, 24년 2월 800억 달러로 2배 이상 상승. 물론 매출도 빠르게 상승 중. 최근 경영진이 거론하는 24년 연 환산 매출 50억 달러도 무난히 달성 가능하다 판단
 GPT 4 이후 1년, 업데이트는 언제: 프런티어 LLM으로 꼽히던 GPT 4가 공개된 지 1년이 지난 상황. Context Window 확장, 비용 개선을 포함한 업데이트가 진행되었지만, 사람들이 기대하는 것은 차세대 GPT 시리즈. 최근 공개된 경쟁 AI 모델은 GPT 4와 유사하거나 이를 뛰어넘는 성능을 보유. 시장도 더 이상 처음 GPT 4 수준 모델이 등장했을 당시의 주목도를 부여하지 않음. 경쟁 모델도 단순 벤치마크 성능보다 여러 차별점을 강조
 오픈AI가 GPT 5 연구에 이미 착수했다는 것은 지난해부터 언급되던 공공연한 사실. 다만 11월 샘 알트먼이 회사에서 퇴출 후 복귀하는 일련의 이벤트 발생. 회사의 내홍은 개발 타임라인뿐 아니라 정책에도 영향. 2월 들어 샘 알트먼의 차기 모델 관련 코멘트가 여러 차례 등장. 최근 여러 루머와 함께 오픈AI의 업데이트에 대한 기다림도 깊어지고 있는 상황. 차세대 모델의 등장은 단순하게 프론티어 AI 모델만의 혁신이 아니라 로봇 산업 및 자율 에이전트 SW 산업 발달과 연계된 시너지 효과도 기대 가능

[오픈 AI] - 모든 생성 AI의 길은 결국 저로 통합니다