Mistral AI 推出全新小規模 LLM Ministral 3B 和 Ministral 8B

Mistral AI 最近推出兩款新的語言模型，Ministral 3B 和 Ministral 8B，Mistral AI 稱之為「les Ministraux」，宣稱這些模型儘管體積小，但效能相當優秀。

Ministral 3B 只有有 30 億參數，卻在大多數基準測試中超越了 Mistral 原有的 70 億參數模型。而規模細小的模型優勢在於可以在終端裝置上本機運作，包括智能手機、手提電腦甚至物聯網裝置上都能夠應用，解決雲端運算所帶來的私隱和速度問題，甚至可以在離線狀態下運作。

Mistral 將自己定位為 AI 市場中具有環保意識的選擇，透過更高效率的模型，避免了大規模模型需要極龐大能源供應的問題。不過在邊緣部署 AI 也同時帶來了模型管理、版本控制和安全性方面的難題。Mistral 因此也未有打算用小規模的模型取代雲端大模型運算，新的模型定位將會是大型雲端系統的補充，互補優勢。