午夜日韩久久影院,亚洲欧美在线观看首页,国产情侣真实露脸在线最新,一级毛片在线观看免费

資訊在沃

兆芯整機全面擁抱AI,DeepSeek-R1大模型本地部署展現強勁算力

   發布時間:2025-02-24 22:18 作者:陸辰風

兆芯公司近期宣布了一項重大技術突破,其處理器平臺現已全面支持DeepSeek-R1 Distill模型的本地部署,覆蓋了從1.5B到671B等多種參數規模,這一進展適用于PC筆記本、臺式機、工作站以及服務器等多種終端設備。

在操作系統兼容性方面,兆芯展現了極高的靈活性,原生支持Linux、Windows以及多種國產操作系統,并且與國產GPU AI加速卡實現了無縫對接,進一步拓寬了應用生態。

以開先KX-7000桌面處理器為基礎的臺式機,通過配備國內顯卡和加速卡,成功運行了DeepSeek-R1-7B模型,這一組合充分展現了DeepSeek在語義理解和推理方面的強大能力。通過與WPS Office套件(包括Word、Excel)以及VSCode等常用軟件的集成,用戶現在能夠享受到智能文檔處理、數據處理以及智能編程等便捷功能。

智能文檔處理界面示例

智能數據處理應用場景

基于KH-40000/16服務器處理器的工作站“聯和東海XRS302”,也成功部署了DeepSeek-R1的7B、14B和32B模型。該工作站配備了四塊高性能國產GPU推理加速卡,不僅提供了高性價比和穩定的推理能力,還通過優化的CPU與多GPU互連架構,顯著提升了數據傳輸帶寬并降低了延遲。其低功耗和靜音設計,使其非常適合智能辦公等桌面本地化AI推理場景。

聯和東海XRS302 AI工作站外觀

在服務器端,開勝KH-40000/32處理器憑借其雙路64核心的高性能計算能力、對2TB海量內存的支持以及強大的擴展能力,成功適配并部署了DeepSeek-R1-70B版本。這一配置特別適用于數學、編程、推理等多個應用領域。針對DeepSeek-R1-671B這一更大規模的模型,開勝KH-40000/32處理器在不依賴任何外部加速卡的情況下,也完成了本地部署,這充分驗證了兆芯服務器CPU架構在承載千億參數模型方面的硬件實力。

兆芯服務器上DeepSeek-R1-70B版本的部署實例

 
 
更多>同類內容
全站最新
熱門內容
本欄最新