國產GPU領域近日傳來喜訊,景嘉微公司正式宣布,其JM系列、景宏系列GPU已成功適配DeepSeek R1系列模型,這一里程碑式的進展預示著DeepSeek將在云計算、邊緣計算及終端設備等多元場景下實現更廣泛的應用。
具體而言,景嘉微的JM系列GPU已經成功完成了對DeepSeek-R1-Distill-Qwen-1.5B和DeepSeek-R1-Distill-Qwen-7B兩大模型的適配工作,這標志著JM系列在處理大規模語言模型時的能力得到了顯著提升。
與此同時,景宏系列GPU也展現出了強大的兼容性,全面適配了DeepSeek R1全系列模型,覆蓋了從1.5B到70B參數規模的LLaMA及千問模型架構,為用戶提供了更為豐富的選擇。
基于vLLM推理框架的部署方案,景嘉微實現了高效推理性能與經濟性的完美結合,為開發者提供了極大的便利。該方案簡化了啟動和使用的流程,無需復雜的配置,大大加速了AI技術的規?;涞貞谩?/p>
景嘉微官方對此表示,這次國產GPU與國產大模型的結合,是一次夢幻般的聯動,也是向中國AI開發者的一次致敬。這一舉措不僅彰顯了國產GPU的實力,更為AI領域的發展注入了新的活力。
值得注意的是,摩爾線程也在近期實現了對DeepSeek蒸餾模型推理服務的高效部署。開發者可以基于摩爾線程的全功能GPU進行AI應用的創新,這無疑為AI領域的發展提供了更多的可能性。
用戶還可以利用摩爾線程的MTT S80和MTT S4000顯卡進行DeepSeek-R1蒸餾模型的推理部署,這進一步拓寬了AI技術的應用場景,為用戶提供了更為便捷和高效的解決方案。