英偉達近期震撼發布了Eagle 2.5視覺-語言模型，該模型專為大規模視頻與圖像的處理而設計，展現了卓越的多模態學習能力。在復雜的視覺與語言融合任務中，Eagle 2.5憑借其出色的性能，成為了業界的焦點。

Eagle 2.5不僅擅長解析高分辨率圖像，更在處理長視頻序列時游刃有余。盡管其參數規模僅為80億，但在Video-MME基準測試中，Eagle 2.5以72.4%的高分脫穎而出，這一成績令人矚目，甚至與參數量遠超其上的Qwen2.5-VL-720億和InternVL2.5-780億等模型相媲美。

Eagle 2.5的成功背后，兩大創新訓練策略功不可沒：信息優先采樣與漸進式后訓練。信息優先采樣策略通過兩項獨特技術，進一步優化了模型的訓練過程。

首先，圖像區域保留（IAP）技術確保了超過60%的原始圖像區域得以保留，有效避免了寬高比失真，從而保證了圖像的完整性和真實性。其次，自動降級采樣（ADS）技術根據上下文長度，智能地平衡視覺與文本輸入，既保證了文本的完整性，又優化了視覺細節的呈現，使得模型在處理復雜場景時更加游刃有余。

而漸進式后訓練策略，則是通過逐步擴展模型的上下文窗口，從32K到128K token，使模型能夠靈活應對不同長度的輸入。這一策略不僅增強了模型的泛化能力，還避免了模型對單一上下文范圍的過擬合，確保了模型在各種情況下的穩定性能。

為了訓練Eagle 2.5，英偉達整合了豐富的開源資源與定制數據集Eagle-Video-110K。該數據集專為理解長視頻而設計，采用了獨特的雙重標注方式。自上而下的方法，通過故事級分割，結合人類標注的章節元數據和GPT-4生成的密集描述，為模型提供了宏觀的敘事結構。而自下而上的方法，則利用GPT-4為短片段生成問答對，捕捉時空細節，為模型提供了微觀的信息補充。

數據集還通過余弦相似度篩選，確保了數據的多樣性和非冗余性。這一舉措不僅提升了數據的敘事連貫性和細粒度標注質量，還顯著增強了模型在高幀數（128幀）任務中的表現。Eagle 2.5在處理長視頻和復雜圖像時展現出的卓越能力，正是得益于這一精心設計的訓練數據管道。