騰訊近期在AI領域邁出重要一步,其元寶平臺迎來了技術革新。據了解,騰訊已將先進的混元Turbo模型整合至元寶系統中,旨在迅速響應用戶的各種查詢需求。
近日,騰訊正式宣布,升級版的Turbo S模型即將在元寶平臺分階段灰度上線,并預計很快實現全面覆蓋。此次升級的核心目的,在于為用戶帶來更加卓越的大模型問答體驗。具體而言,Turbo S模型將回答速度提升了一倍,并將首字時延降低了44%。
騰訊方面介紹,Turbo S模型采用了革命性的Hybrid-Mamba-Transformer融合架構。這一創新設計結合了Mamba在處理長序列方面的高效性,以及Transformer在捕捉復雜上下文信息方面的優勢,成功打造了一個顯存和計算效率均表現出色的混合模型。
尤為騰訊此次成功地將Mamba架構無損應用于超大型MoE模型,這在業界尚屬首次。這一突破意味著,騰訊在AI模型處理能力和效率上取得了顯著提升。
通過長短思維鏈的融合,Turbo S模型在保持對文科類問題快速響應的同時,顯著增強了理科推理能力,整體表現有了質的飛躍。這一改進無疑將為用戶帶來更加全面和精準的問答體驗。
騰訊還為開發者和企業用戶提供了在騰訊云上通過API調用Turbo S模型的服務。自發布之日起,用戶將有一周的免費試用期,這無疑將吸引更多企業和開發者加入騰訊的AI生態,共同探索AI技術的無限可能。