文：任澤平團隊
2月16日，OpenAI發(fā)布視頻生成模型Sora，極大拓展AI在視頻內(nèi)容生成方面能力。Sora在關(guān)鍵指標(biāo)上大幅領(lǐng)先之前的一些視頻生成類模型，用它生成視頻，會發(fā)現(xiàn)其對物理世界的空間模擬能力甚至達到了逼近真實的水平。
Sora為什么可以堪稱是AI界的新里程碑？它是如何突破AIGC即AI內(nèi)容創(chuàng)作上限的？客觀來看，當(dāng)前版本的Sora還有沒有什么局限性和不足？
Sora等視頻生成類模型，未來更新迭代的方向是什么?它的出現(xiàn)會顛覆哪些行業(yè)？對我們每個人產(chǎn)生何種影響？它的背后又有什么新產(chǎn)業(yè)機遇？???
1、Sora是怎么實現(xiàn)的？為什么是AI界的新里程碑？
Sora之所以是AI里程碑，是因為它再一次突破了AIGC用AI驅(qū)動內(nèi)容創(chuàng)作的上限。此前大家已經(jīng)開始使用 Chatgpt 等文本類輔助內(nèi)容創(chuàng)作，輔助插圖和畫面生成，用虛擬人做短視頻。而 Sora 是視頻生成類大模型，通過輸入文本或圖片可生成、連接、擴展等多種方式編輯視頻，屬于多模態(tài)大模型范疇，該類模型是在 GPT 這類語言類大模型上 進一步 延伸、拓展。 Sora 通過一種類似于 GPT-4 對文本令牌進行操作的方式來處理視頻“補丁”。該模型的關(guān)鍵創(chuàng)新在于將視頻幀視為補丁序列，類似于語言模型中的單詞令牌，使其能夠有效地管理各種視頻。這種方法與文本條件生成相結(jié)合，使 Sora 能夠根據(jù)文本提示生成上下文相關(guān)且視覺上連貫的視頻。
具體原理上，Sora主要通過三個步驟實現(xiàn)視頻訓(xùn)練。首先是視頻壓縮網(wǎng)絡(luò)，將視頻或圖片降維成一個緊湊、高效的形式。其次是時空補丁提取，將視圖信息分解成一個個更小的單元，每個單元都含有視圖中一部分的空間和時間信息，便于Sora在之后的步驟中能進行針對性處理。最后是視頻生成，輸入文本或圖片進行解碼加碼，由Transformer模型（即ChatGPT基礎(chǔ)轉(zhuǎn)換器）決定如何將這些單元轉(zhuǎn)換或組合，從而將文本和圖片提示中的內(nèi)容形成完整的視頻。
Sora在視頻生成模型最關(guān)鍵的兩項指標(biāo)——時長和分辨率上大幅超越先前模型，并且具備較強的文本理解深度和細節(jié)生成能力，可以說是AI界的又一里程碑級的產(chǎn)品。Sora 發(fā)布前 ， 主要模型如 Pika1.0 、 Emu Video 、 Gen-2 可生成時長分別為 3~7 秒、 4 秒、 4~16 秒；而 Sora 可生成時長高達 60 秒，能實現(xiàn) 1080p 分辨率，且 Sora不僅能基于文本提示生成視頻，也具備視頻編輯和擴展能力。Sora 對文本的深度理解也較強。在大量文本解析的訓(xùn)練下， Sora 可以準(zhǔn)確捕捉、理解文本指令背后的情感用意，并流暢、自然地將文本提示轉(zhuǎn)變?yōu)榧毠?jié)豐富、場景匹配的視頻內(nèi)容。
Sora在視頻生成中可以較好地模擬一個虛擬世界的物理規(guī)律，更好的理解物理世界，從而產(chǎn)生真實的鏡頭感。其技術(shù)特點主要有二：
一是能多鏡頭生成連貫的三維空間運動視頻。
二是能保持同一物體在不同視角鏡頭下的一致性。以此，模型能保持視頻中人物、物體、場景的運動連貫性和持續(xù)性，并可以通過微調(diào)對世界中的元素產(chǎn)生影響，進行簡單互動。對比此前的Pika等模型，Sora生成視頻還可以對視頻色彩風(fēng)格等要素精確理解，創(chuàng)造出人物表情豐富、情感生動的視頻內(nèi)容。且注重主體和背景的關(guān)系，使視頻主體與背景的互動高度流暢、穩(wěn)定，分鏡切換符合邏輯。
在官方給出的一則 生成視頻的 例證中： “一位時尚女性走在東京的街道上，街道上到處都是暖色調(diào)的霓虹燈和動畫城市標(biāo)志。她身穿黑色皮夾克、紅色長裙和黑色靴子，手拿黑色皮包。她戴著太陽鏡，涂著紅色唇膏。她走起路來自信而隨意。街道潮濕而反光，與五顏六色的燈光形成鏡面效果。許多行人走來走去”，Sora做到了完全細致細節(jié)的描述，甚至到皮膚細節(jié)描繪，且對于光影反射運動方式、鏡頭移動等細節(jié)處理都具備真實感。
2、Sora處于什么水平？還有哪些局限？
Sora相當(dāng)于語言類模型的ChatGPT3.5，是業(yè)內(nèi)重大突破，處于非常領(lǐng)先水平，但還是有其本身的局限性。
Sora 和 ChatGPT 同源與 Transformer 架構(gòu)，前者在架構(gòu)基礎(chǔ)上搭建了擴散模型，在 展示深度、物體永久性和自然動力學(xué) 方面十分出色。之前的真實世界模擬通常是用 GPU 驅(qū)動的 游戲引擎 來進行三維物理建模來運行 ， 需要人為搭建且過程復(fù)雜，精準(zhǔn)度也高，能實現(xiàn)高標(biāo)準(zhǔn)的環(huán)境模擬和各種交互動作 。 但 Sora 模型沒有 數(shù)據(jù)驅(qū)動的物理引擎 和圖形編程 ，在 更高要求的三維搭建中準(zhǔn)確度低 。因此，實現(xiàn)多個角色自然交互并與環(huán)境進行逼真的模擬仍然很困難。
例如，舉兩個Sora生成視頻出現(xiàn)bug的例子：
當(dāng)Sora輸入的文本是“一個被打翻了的玻璃杯濺出液體來”時，顯示的是玻璃杯融化成桌子，液體跳過了玻璃杯，但沒有任何玻璃碎裂效果。
再比如，從沙灘里突然挖出來一個椅子，而且AI認為這個椅子是一個極輕的物質(zhì)，以至于可以直接飄起來。
出現(xiàn)這類“錯誤”的原因主要有兩點：
一是因為模型在自動補齊生成中內(nèi)容，自發(fā)地產(chǎn)生了不在文本規(guī)劃內(nèi)的對象或?qū)嶓w，這種情況尤為常見，特別是在擁擠或雜亂的場景中。在某些場景中，這會增加視頻的真實感，比如在OpenAI給出的“漫步在冬天日本街頭”的案例中，但在更多環(huán)境中這會降低物理規(guī)律在視頻中的合理性，例如第一個例子中憑空生成的桌子是水變成的。
二是當(dāng)發(fā)生許多動作在Sora的模擬中時，很容易混淆順序，包括時間順序與空間順序。例如，當(dāng)輸入“跑步機上跑步的人”時它有幾率會生成一個在跑步機上向錯誤方向行走的人。因此Sora準(zhǔn)確地模擬更復(fù)雜的現(xiàn)實世界物理交互、動態(tài)和因果關(guān)系，對簡單的物理和物體屬性模擬也仍具有挑戰(zhàn)性。
盡管存在這些持續(xù)性的問題，但Sora展現(xiàn)了視頻模型未來的潛力，只要有足夠的數(shù)據(jù)和計算能力，視頻轉(zhuǎn)換器可能開始更深入地理解現(xiàn)實世界的物理、因果關(guān)系。這或許會讓基于視頻的模擬世界訓(xùn)練AI系統(tǒng)的新方法成為可能。
3、Sora的發(fā)展方向，面臨什么挑戰(zhàn)和機遇？
Sora代表視頻生成類AI前沿，但是其未來效能的提升或許可以從三大方向切入：
一是從數(shù)據(jù)維度入手。隨著訓(xùn)練的數(shù)據(jù)需求激增，未來面臨可訓(xùn)練數(shù)據(jù)樣本匱乏問題。當(dāng)前主要大模型依賴于語言文本，雖然Sora也可以進行圖片輸入，但訓(xùn)練泛度不及文本。數(shù)據(jù)種類單一且高質(zhì)量數(shù)據(jù)有限，在參數(shù)量指數(shù)級提升的背景下或?qū)⒖焖俸谋M。
康納爾大學(xué)研究表明，大模型訓(xùn)練的高質(zhì)量數(shù)據(jù)很有可能在2026年前就耗盡，低質(zhì)量文本數(shù)據(jù)在2030后耗盡。擴大數(shù)據(jù)來源的維度是Sora的解法。除文字和圖像外，音頻、視頻、熱能、勢能、深度都能成為Sora學(xué)習(xí)的拓展領(lǐng)域。幫助其成為真正的多模態(tài)大模型。例如Meta開源的ImageBind擁有多種感官，不僅具有DINOv2的圖片、視頻識別能力，還擁有紅外輻射和慣性測量單元，能對深度、熱能、勢能等不同模態(tài)進行感知學(xué)習(xí)。Sora在輸入端拓展后也可以將上述維度與視頻生成更好的結(jié)合，訓(xùn)練模擬更真實的物理世界。
二是從算法層進行優(yōu)化，解決模型學(xué)習(xí)中存在的“過擬合”和“欠擬合”現(xiàn)象是關(guān)鍵。在前文例子中提到過，Sora會自發(fā)地產(chǎn)生不在文本規(guī)劃內(nèi)的對象或?qū)嶓w，這有助于完善視頻效果的真實性。但是，某些情況下兩個高度關(guān)聯(lián)的元素可能會在不適用的場景下同時出現(xiàn)，也就是算法為了達到特定結(jié)果而出現(xiàn)了“過擬合”。這種現(xiàn)象類似人類在備考中為了答對一類問題反復(fù)強化訓(xùn)練，反而導(dǎo)致考試中同類問題大量出錯。
而同一個例子中杯子被打翻了卻沒有碎裂效果卻是融化了，則是因為模型“欠擬合”。模型出現(xiàn)這兩類問題的原因是將并不準(zhǔn)確分類的樣本選取進行了訓(xùn)練，形成的決策樹也就不是最優(yōu)模型，導(dǎo)致真實應(yīng)用的泛化表現(xiàn)下降。過擬合和欠擬合無法被徹底消除，但未來可以通過一些方法進行緩解減少，例如：正則化、數(shù)據(jù)清洗、降低訓(xùn)練樣本量、Dropout棄用，剪枝算法等。
三是算力產(chǎn)業(yè)。Sora持續(xù)引爆AI浪潮，這也將導(dǎo)致2024年算力需求將在多模態(tài)模型發(fā)展下持續(xù)高漲，AI企業(yè)尋求更大力度的產(chǎn)業(yè)鏈上游切入，向芯片研發(fā)設(shè)計布局，甚至向EDA和晶圓領(lǐng)域進發(fā)。
當(dāng)下AI模型訓(xùn)練主要依靠英偉達GPU，但主流算力芯片已經(jīng)供不應(yīng)求，預(yù)測的到2024年需求將達到150-200萬。
OpenAI創(chuàng)始人Sam Altman從2018年起就重視其芯片供需問題，投資了AI芯片公司Rain Neuromorphics，2019 年購買Rain的芯片，再到2023年11月Sam為一家代號為“Tigris”的芯片企業(yè)尋求數(shù)十億美元融資。作為行業(yè)龍頭，已經(jīng)在早期布局構(gòu)建一套由自家領(lǐng)導(dǎo)的算力產(chǎn)業(yè)鏈，旨在通過AI產(chǎn)業(yè)革命重塑全球半導(dǎo)體格局。
以智能汽車切入AI賽道的特斯拉，也在自動駕駛算法的基本盤上向上游的芯片設(shè)計進發(fā)，并在逐漸謀求對中游的控制。
可以預(yù)見的是，由ARM、英偉達、臺積電構(gòu)建的全球AI半導(dǎo)體產(chǎn)業(yè)鏈雖然是短期的最大收益者，但在中長期看或迎來更大的競爭。算力基礎(chǔ)設(shè)施的自主化建設(shè)、尤其是算力芯片，仍是中國在AI賽道上與全球保持同步進步的重要方向。
4、Sora的應(yīng)用領(lǐng)域，會顛覆哪些行業(yè)？
從年初蘋果發(fā)布Vision Pro頭戴式顯示設(shè)備、到各家PC大廠接連發(fā)布AIPC，再到這次的OpenAI發(fā)布Sora，全世界對于人工智能的創(chuàng)新在加速，迭代地越來越快。
今后用AI自動創(chuàng)作生成的內(nèi)容會影響很多的行業(yè)領(lǐng)域，對于熱點話題的“時效性覆蓋”將主要是AI的任務(wù)，比拼的主要是AIGC的效率，比拼的是大家能夠駕馭AI的能力，比拼的是誰能夠駕馭類似于Sora這種強勢能的AI生產(chǎn)工具。以后“扔一部小說、出一部大片”不是不可能了，Sora可以生成長達1分鐘的視頻，視頻可以一鏡到底，多角度鏡頭切換，并且對象始終不變。Sora視頻，更可以運用景物、表情和色彩等鏡頭語言，表達出如孤獨、繁華、呆萌等情感色彩?？傊绻磥沓霈F(xiàn)更多的Sora、或者這些生成視頻大模型從以上所述的幾個角度進行更多的改良滯后，未來的AI視頻效果，或許幾乎和人工拍攝不相上下。
多模態(tài)模型的應(yīng)用在2024將迎來黎明，影響影視、直播、媒體、廣告、動漫、藝術(shù)設(shè)計等數(shù)個行業(yè)。在當(dāng)下的短視頻時代，Sora“一個人”就全包了短視頻的攝影、導(dǎo)演、剪輯等任務(wù)。未來，Sora生成的各種不同用途的視頻，對于現(xiàn)在的短視頻、直播、影視、動漫、廣告等行業(yè)都會產(chǎn)生深遠影響。
比如，在短視頻創(chuàng)作領(lǐng)域，Sora 有望極大降低短劇制作的綜合成本，解決“重制作而輕創(chuàng)作”的共性問題，短劇制作的重心未來有望回歸高質(zhì)量的劇本內(nèi)容創(chuàng)作，考驗的是優(yōu)秀創(chuàng)作者的構(gòu)思能力。Sora有望真正為相關(guān)行業(yè)的企業(yè)降本增效，廣告制作公司通過Sora 模型生成符合品牌的廣告視頻，顯著減少拍攝和后期制作成本；游戲與動畫公司使用Sora直接生成游戲場景和角色動畫，減少了 3D模型和動畫制作成本。企業(yè)節(jié)省下來的成本可以用于提高產(chǎn)品、服務(wù)質(zhì)量或者技術(shù)創(chuàng)新，推動生產(chǎn)力進一步提升。如果說2023年是全球AI大模型大爆發(fā)，是圖文生成元年的話，那2024年行業(yè)會進入AI視頻生成和多模態(tài)大模型元年。從Chatgpt到Sora，AI對每個個人、每個行業(yè)的現(xiàn)實影響與改變正在逐步發(fā)生。
澤平宏觀人工智能系列研究報告：
7.《》，2024年2月3日
6.《》，2023年8月18日
5.《》，2023年4月10日
4.《》，2023年3月23日
3.《》，2023年2月9日
2.《》，2022年9月24日
1.《》，2022年9月7日
添加助理領(lǐng)取專屬研報
