午夜日韩久久影院,亚洲欧美在线观看首页,国产情侣真实露脸在线最新,一级毛片在线观看免费

資訊在沃

英偉達DeepSeek-R1模型登陸NIM微服務(wù)平臺,加速AI部署

   發(fā)布時間:2025-01-31 09:19 作者:柳晴雪

英偉達今日正式揭曉,其DeepSeek-R1模型已在build.nvidia.com平臺上以NVIDIA NIM微服務(wù)的預(yù)覽形式亮相。這一創(chuàng)新服務(wù)在NVIDIA HGX H200系統(tǒng)上實現(xiàn)了驚人的性能,每秒可處理高達3,872個tokens,標(biāo)志著AI處理能力的又一次飛躍。

據(jù)悉,開發(fā)人員現(xiàn)在即可通過該平臺測試和體驗全新的應(yīng)用程序編程接口(API)。這一API預(yù)計很快將以可下載的NIM微服務(wù)形式推出,成為NVIDIA AI Enterprise軟件平臺的重要組成部分。通過這一平臺,英偉達正不斷推動AI技術(shù)的邊界,為企業(yè)和個人開發(fā)者提供更多可能性。

DeepSeek-R1 NIM微服務(wù)不僅簡化了部署流程,還通過支持行業(yè)標(biāo)準(zhǔn)API,進一步降低了技術(shù)門檻。企業(yè)可以在自己的加速計算基礎(chǔ)設(shè)施上運行NIM微服務(wù),從而確保數(shù)據(jù)的安全性和隱私性。結(jié)合NVIDIA AI Foundry和NVIDIA NeMo軟件,企業(yè)還能為特定的AI代理定制專屬的DeepSeek-R1 NIM微服務(wù),實現(xiàn)更加個性化和高效化的AI應(yīng)用。

回顧過去,英偉達在2024年3月推出了NIM(Nvidia Inference Microservices)云原生微服務(wù),旨在幫助各種規(guī)模的企業(yè)更便捷地部署AI服務(wù)。NIM微服務(wù)經(jīng)過精心優(yōu)化,旨在縮短產(chǎn)品上市時間,并簡化生成式AI模型在云、數(shù)據(jù)中心和GPU加速工作站等任何地點的部署過程。通過采用行業(yè)標(biāo)準(zhǔn)API,NIM微服務(wù)成功地將AI模型開發(fā)和生產(chǎn)包裝的復(fù)雜性抽象化,從而吸引了更多開發(fā)者加入這一領(lǐng)域。

英偉達的這一系列舉措不僅展示了其在AI技術(shù)領(lǐng)域的深厚積累,也彰顯了其致力于推動AI技術(shù)普及和發(fā)展的決心。隨著DeepSeek-R1 NIM微服務(wù)的推出,我們有理由相信,未來將有更多創(chuàng)新性的AI應(yīng)用涌現(xiàn),為人們的生活和工作帶來更多便利和可能性。

 
 
更多>同類內(nèi)容
全站最新
熱門內(nèi)容
本欄最新