在今日的“2024科大訊飛全球1024開發(fā)者節(jié)”上，科大訊飛揭曉了其最新的技術(shù)成果——汽車端側(cè)星火大模型。這一創(chuàng)新旨在解決用戶在無(wú)網(wǎng)絡(luò)環(huán)境或隱私保護(hù)需求下的使用難題。

科大訊飛指出，新發(fā)布的汽車端側(cè)星火大模型無(wú)需依賴云端網(wǎng)絡(luò)，即可在本地運(yùn)行，且效果與云端大模型相當(dāng)。該技術(shù)通過減少參數(shù)規(guī)模至1.3B，雖較通用模型大幅降低，但在汽車應(yīng)用場(chǎng)景中效果僅微降1%。

該模型的端側(cè)首響應(yīng)時(shí)間縮短至40毫秒，復(fù)雜場(chǎng)景下端云融合響應(yīng)時(shí)間也僅為1.3秒，技術(shù)領(lǐng)先行業(yè)。

據(jù)悉，汽車端側(cè)星火大模型已開始集成至奇瑞、廣汽、長(zhǎng)城等多款車型，并預(yù)計(jì)于今年第四季度陸續(xù)上市，供消費(fèi)者體驗(yàn)。