close

AI 推理

IT 基建人工智能微電子業

百度李彥宏看好 AI 推理晶片需求 崑崙芯 M300 2027 年推出

百度天池1024卡超節點發布會現場大屏與觀眾群體.
百度李彥宏在百度世界 2026 指出,AI 智能體規模化將推高推理算力需求。崑崙芯 M100 已開始出貨,但公司最新公告預計年底才具備量產條件;旗艦 M300 計劃 2027 年推出,2028 年再推全新 N 架構晶片。百度第三季 AI 雲端基建收入按年增長 94%,並公布採用全光互聯的天池 1024 卡超節點,展示其從晶片到雲端的部署方向。
閱讀文章
IT 基建人工智能

DeepSeek 開源 DeepInfer 推理框架 支援 NVIDIA 與華為晶片 企業上線仍需補齊服務組件

DeepInfer 開源推理框架,支援 NVIDIA 與華為晶片,適用於深度學習模型推理.
DeepSeek 公開支撐旗下大型 AI 服務的 DeepInfer 推理框架,採用 Apache 2.0 授權,首階段支援 DeepSeek-V4.1-Flash、NVIDIA SM100 GPU 與華為 Ascend 950 NPU。框架涵蓋 MoE 平行推理、非同步排程及結構化輸出,但目前只開放離線推理;企業若要建成正式 API 服務,仍需整合 KV Cache、分階段服務及負載平衡系統,相關效能測試亦使用多達 64 張 GPU。由於測試硬件與實際負載未必相同,企業仍須自行量度效能、記憶體需求與維運成本。
閱讀文章
IT 基建人工智能企業趨勢

阿里雲 Aegaeon 新技術揭秘:減少 NVIDIA H20 晶片 GPU 用量 82% 企業 AI 部署迎來轉捩點

阿里雲 (Alibaba Cloud) 發表 Aegaeon GPU 池化技術,在測試中成功節省 82% Nvidia H20 資源。此技術專注於「推理」階段成本最佳化,與 DeepSeek 的「訓練」突破不同。本文深入分析此技術如何在中美晶片制裁背景下誕生,以及企業決策者應如何利用此類 GPU 效率技術,降低 AI 營運成本。
閱讀文章