摩爾線程近日宣布,其針對(duì)PyTorch深度學(xué)習(xí)框架的MUSA插件“Torch-MUSA”已推出重大更新的v1.3.0版本,該版本全面兼容PyTorch 2.2.0,進(jìn)一步提升了模型在摩爾線程GPU上的性能與覆蓋度。
作為全球廣泛應(yīng)用的深度學(xué)習(xí)框架,PyTorch在自然語(yǔ)言處理、計(jì)算機(jī)視覺等領(lǐng)域具有強(qiáng)大的實(shí)力。摩爾線程的Torch-MUSA插件為PyTorch用戶提供了MUSA后端加速,使得深度學(xué)習(xí)模型能夠在MUSA架構(gòu)上更加流暢地運(yùn)行。
自Torch-MUSA首次發(fā)布以來(lái),已經(jīng)歷了多個(gè)版本的迭代升級(jí),不斷優(yōu)化兼容性與性能。從v1.0.0版本開始,該插件就率先支持了PyTorch 2.0,為用戶帶來(lái)了顯著的計(jì)算加速與更好的易用性。
最新發(fā)布的v1.3.0版本除了全面支持PyTorch 2.2.0外,還極大地提升了模型訓(xùn)練與推理的效率,更好地滿足了高性能深度學(xué)習(xí)任務(wù)的需求。該版本還增加了對(duì)FSDP等特性的支持,使得用戶能夠處理更復(fù)雜的模型和更大規(guī)模的數(shù)據(jù)。
目前,Torch-MUSA項(xiàng)目已完全開源,開發(fā)者可通過GitHub獲取源代碼,并積極參與項(xiàng)目的開發(fā)與改進(jìn)。摩爾線程鼓勵(lì)開發(fā)者通過提交問題報(bào)告或代碼修改申請(qǐng)等方式,共同推動(dòng)Torch-MUSA及MUSA軟件生態(tài)的持續(xù)發(fā)展。
Torch-MUSA的功能特性包括輕松遷移現(xiàn)有的PyTorch模型到MUSA架構(gòu)GPU上運(yùn)行,完全兼容PyTorch的自動(dòng)微分與動(dòng)態(tài)圖機(jī)制,并支持多種神經(jīng)網(wǎng)絡(luò)模塊、優(yōu)化算法及關(guān)鍵深度學(xué)習(xí)算子的加速。該插件還支持多種PyTorch特性,為用戶提供了更為豐富的功能選擇。
隨著深度學(xué)習(xí)技術(shù)的不斷發(fā)展,摩爾線程將繼續(xù)跟進(jìn)PyTorch的版本更新,并計(jì)劃支持更高版本的PyTorch,以滿足用戶不斷增長(zhǎng)的需求。