京東云近期發(fā)布了一款創(chuàng)新的vGPU智算一體機(jī),該產(chǎn)品在性能上相較于開源方案實(shí)現(xiàn)了顯著提升,推理速度提高了50%,且單臺設(shè)備即能運(yùn)行DeepSeek V3/R1大模型的滿血版本。
這款智算一體機(jī)依托于京東云自主研發(fā)的算力池化技術(shù)和智能推理加速引擎,其強(qiáng)大的性能支持高達(dá)千人規(guī)模的并發(fā)處理,而每日運(yùn)營成本僅需百元,極大地降低了企業(yè)的使用門檻。
具體來說,京東云vGPU智算一體機(jī)帶來了四大顯著優(yōu)勢:
首先,硬件成本的大幅降低。企業(yè)無需再額外采購昂貴的高端GPU,單臺智算一體機(jī)即可滿足其業(yè)務(wù)需求,從而節(jié)省了大量的硬件投資。
其次,部署和運(yùn)維成本的優(yōu)化。這款設(shè)備開箱即用,從硬件上架到AI服務(wù)上線,僅需簡單的電源網(wǎng)絡(luò)接入和軟件啟動兩步操作,大大簡化了部署流程。
再者,能效比的提升。京東云與廠商合作多年,對硬件進(jìn)行了深度優(yōu)化和合理配置,使得功耗顯著降低,能效比大幅提升。
最后,算力池化和推理加速。智算一體機(jī)預(yù)置了京東云的vGPU AI算力平臺能力,實(shí)現(xiàn)了整機(jī)算力的細(xì)粒度管理與優(yōu)化,資源利用率提升至70%以上,推理性能更是提高了50%。
京東云vGPU智算一體機(jī)還支持NVIDIA GPU以及多種國產(chǎn)GPU,并通過了互認(rèn)證,確保了兼容性和穩(wěn)定性。同時,它還支持單機(jī)內(nèi)RAID配置,有效降低了數(shù)據(jù)丟失的風(fēng)險。