close
人工智能

Mistral AI 推出全新小規模 LLM Ministral 3B 和 Ministral 8B

Mistral AI 最近推出兩款新的語言模型,Ministral 3B 和 Ministral 8B,Mistral AI 稱之為「les Ministraux」,宣稱這些模型儘管體積小,但效能相當優秀。

Ministral 3B 只有有 30 億參數,卻在大多數基準測試中超越了 Mistral 原有的 70 億參數模型。而規模細小的模型優勢在於可以在終端裝置上本機運作,包括智能手機、手提電腦甚至物聯網裝置上都能夠應用,解決雲端運算所帶來的私隱和速度問題,甚至可以在離線狀態下運作。

Mistral 將自己定位為 AI 市場中具有環保意識的選擇,透過更高效率的模型,避免了大規模模型需要極龐大能源供應的問題。不過在邊緣部署 AI 也同時帶來了模型管理、版本控制和安全性方面的難題。Mistral 因此也未有打算用小規模的模型取代雲端大模型運算,新的模型定位將會是大型雲端系統的補充,互補優勢。

來源:VentureBeat

Tags : Mistral AI
Antony Shum

The author Antony Shum