IT 基建人工智能微電子業 百度李彥宏看好 AI 推理晶片需求 崑崙芯 M300 2027 年推出 by n8nflowpro on 16 十一月, 2026 IT 基建人工智能微電子業 AI 推理 Baidu Kunlunxin M100 M300 分享分享複製連結WhatsAppFacebookThreads 百度李彥宏在百度世界 2026 指出,AI 智能體規模化將推高推理算力需求。崑崙芯 M100 已開始出貨,但公司最新公告預計年底才具備量產條件;旗艦 M300 計劃 2027 年推出,2028 年再推全新 N 架構晶片。百度第三季 AI 雲端基建收入按年增長 94%,並公布採用全光互聯的天池 1024 卡超節點,展示其從晶片到雲端的部署方向。 閱讀文章
IT 基建人工智能 DeepSeek 開源 DeepInfer 推理框架 支援 NVIDIA 與華為晶片 企業上線仍需補齊服務組件 by n8nflowpro on 21 十月, 2026 IT 基建人工智能 AI 推理 DeepInfer Deepseek GPU 華為 Ascend 分享分享複製連結WhatsAppFacebookThreads DeepSeek 公開支撐旗下大型 AI 服務的 DeepInfer 推理框架,採用 Apache 2.0 授權,首階段支援 DeepSeek-V4.1-Flash、NVIDIA SM100 GPU 與華為 Ascend 950 NPU。框架涵蓋 MoE 平行推理、非同步排程及結構化輸出,但目前只開放離線推理;企業若要建成正式 API 服務,仍需整合 KV Cache、分階段服務及負載平衡系統,相關效能測試亦使用多達 64 張 GPU。由於測試硬件與實際負載未必相同,企業仍須自行量度效能、記憶體需求與維運成本。 閱讀文章
IT 基建人工智能企業趨勢 阿里雲 Aegaeon 新技術揭秘:減少 NVIDIA H20 晶片 GPU 用量 82% 企業 AI 部署迎來轉捩點 by anskar on 21 十月, 2025 IT 基建人工智能企業趨勢 Aegaeon AI 推理 GPU NVIDIA 阿里雲 分享分享複製連結WhatsAppFacebookThreads 阿里雲 (Alibaba Cloud) 發表 Aegaeon GPU 池化技術,在測試中成功節省 82% Nvidia H20 資源。此技術專注於「推理」階段成本最佳化,與 DeepSeek 的「訓練」突破不同。本文深入分析此技術如何在中美晶片制裁背景下誕生,以及企業決策者應如何利用此類 GPU 效率技術,降低 AI 營運成本。 閱讀文章