Video-R1是什么？

Video-R1是由香港中文大學(xué)和清華大學(xué)聯(lián)合推出的全球首個(gè)視頻版R1模型，它可以通過強(qiáng)化學(xué)習(xí)提升多模態(tài)大語言模型（MLLMs）的視頻推理能力。

Video-R1功能

• 時(shí)間感知推理：Video-R1引入了T-GRPO算法，通過對(duì)比亂序輸入和順序輸入的視頻幀，鼓勵(lì)模型利用時(shí)間信息進(jìn)行推理，從而更好地理解視頻中的時(shí)序關(guān)系。

• 混合數(shù)據(jù)訓(xùn)練：為解決高質(zhì)量視頻推理數(shù)據(jù)稀缺的問題，Video-R1采用圖像和視頻混合數(shù)據(jù)集進(jìn)行訓(xùn)練，包括Video-R1-COT-165k（用于SFT冷啟動(dòng)）和Video-R1-260k（用于RL訓(xùn)練），使模型能夠從靜態(tài)圖像推理能力遷移到動(dòng)態(tài)視頻推理。

• 多種輸出類型：Video-R1支持多種答案輸出類型，包括多項(xiàng)選擇、數(shù)值、OCR、自由形式和回歸等。

• 自我反思推理行為：模型在推理過程中會(huì)進(jìn)行自我反思，調(diào)整推理方向以得出更準(zhǔn)確的結(jié)論，這種“啊哈時(shí)刻”表明模型在積極進(jìn)行內(nèi)部反饋循環(huán)。

Video-R1技術(shù)

• 時(shí)間感知算法T-GRPO：該算法增強(qiáng)了模型對(duì)時(shí)間序列的理解能力，使模型能夠深度思考事件之間的因果關(guān)系。與傳統(tǒng)GRPO算法相比，T-GRPO通過獎(jiǎng)勵(lì)機(jī)制綁定時(shí)間理解，讓模型在順序輸入上答對(duì)題的比例更高時(shí)才會(huì)獲得獎(jiǎng)勵(lì)。

• 混合圖像視頻數(shù)據(jù)集：研究人員創(chuàng)建了兩個(gè)高質(zhì)量數(shù)據(jù)集：Video-R1-COT-165k（以圖像為主）和Video-R1-260k（以高質(zhì)量視頻為核心），解決了視頻推理數(shù)據(jù)稀缺的問題。這種混合訓(xùn)練方式讓模型從“看圖說話”進(jìn)化到“視頻深思”，真正實(shí)現(xiàn)了多模態(tài)理解。

• 強(qiáng)化學(xué)習(xí)訓(xùn)練策略：Video-R1通過強(qiáng)化學(xué)習(xí)訓(xùn)練，模型在訓(xùn)練過程中逐漸拋棄次優(yōu)推理模式，形成更高效、更具邏輯的表達(dá)路徑。

Video-R1應(yīng)用

• 視頻內(nèi)容分析：Video-R1能夠?qū)σ曨l中的動(dòng)態(tài)內(nèi)容進(jìn)行高效解析和理解，可用于自動(dòng)生成關(guān)鍵視頻片段、行為識(shí)別、智能標(biāo)簽生成等功能。

• 視頻搜索與推薦：通過深度推理，Video-R1可以更精準(zhǔn)地理解用戶需求，提供更符合用戶興趣的視頻內(nèi)容推薦。

• 自動(dòng)駕駛視覺理解：模型能夠理解視頻中的時(shí)序關(guān)系和因果邏輯，有助于自動(dòng)駕駛系統(tǒng)更好地感知和預(yù)測(cè)道路環(huán)境。

• 視頻監(jiān)控與安全：Video-R1可以用于監(jiān)控視頻的實(shí)時(shí)分析，快速識(shí)別異常行為或事件，提升公共安全。

• 教育與培訓(xùn)：在教育領(lǐng)域，Video-R1可以用于智能輔導(dǎo)系統(tǒng)，通過分析教學(xué)視頻內(nèi)容，為學(xué)生提供個(gè)性化的學(xué)習(xí)建議。

• 智能家居：模型可以集成到智能家居系統(tǒng)中，通過視頻分析實(shí)現(xiàn)更智能的環(huán)境感知和自動(dòng)化控制。

GitHub 地址：https://github.com/tulerfeng/Video-R1

論文：https://arxiv.org/abs/2503.21776