Mistral公司近期隆重推出了兩款全新的AI模型——Ministral 3B與Ministral 8B，專為提升筆記本電腦和智能手機等設備的本地化AI體驗而設計。據官方宣稱，這兩款模型堪稱“全球頂尖的邊緣模型”。
隨著企業對在個人設備上運行AI模型的需求日益增長，Mistral公司此次推出的模型旨在確保數據處理的安全性，并顯著提升響應速度。這兩款模型均能在無互聯網連接的情況下，執行翻譯、本地分析及機器人等多項任務。
值得注意的是，Ministral 3B與8B均擁有128K的上下文窗口，能夠一次性處理長達50頁的文檔內容。
價格方面，Ministral 8B的定價為每百萬個tokens售價0.1美元，而3B版本則更為親民，售價為0.04美元，非常適合小規模操作或初創開發者使用。尤為Ministral 8B采用了獨特的交錯滑動窗口注意力機制，這一設計使得其在推理過程中更為迅速且內存占用更少。
這兩款AI模型的推出，無疑為需要在本地設備上高效運行AI應用的企業和個人提供了更為優質的選擇。
