close
IT 基建人工智能

NVIDIA 推 DSX POD 模組化 AI 工廠 場地備妥最快 14 日部署

高密度伺服器機櫃內部,展示數據中心硬件設備.

NVIDIA 於 10 月 21 日在德國 GTC Berlin 大會發表 DSX POD 模組化 AI 工廠參考設計,讓合作夥伴預先在工廠整合及測試整套 Vera Rubin 運算基建,再運送至客戶場地。NVIDIA 宣稱若場地已具備所需電力、冷卻及網絡設施,相關設備的部署時間可由傳統方式約 6 個月縮至最快 14 日,首批合作夥伴方案預計於 2027 年初在全球交付。

預先完成接線及測試 減少現場整合工作

DSX POD 把運算伺服器、網絡、儲存、機櫃級供電及液冷設備納入標準化貨櫃設計。合作夥伴可在出貨前完成機櫃之間的網絡接線、電力線路、冷卻管道及功能驗證,取代以往在數據中心逐項安裝及測試的大部分工序。工廠整合與客戶場地準備亦可同步進行,減少兩個階段互相等待的時間。

NVIDIA 技術文件指出,出貨前的測試可涵蓋韌體及設定、網絡連線、感測器、液冷系統完整性,以及系統功能。設備抵達後仍須檢查運送狀況,接駁不同貨櫃之間的系統,並完成現場驗收。DSX POD 屬於 NVIDIA DSX AI Factory Platform 的一種部署方式,並不代表所有 AI 工廠都必須採用貨櫃設計。

核心貨櫃採 800V DC 介面 場地工程仍須自行準備

DSX POD 參考設計為核心貨櫃訂定標準 800V DC 電力輸入介面,涵蓋保護、配電、接地及監控等要求。合作夥伴仍須按當地電網、法規及客戶場地條件設計上游供電及轉換設備。液冷部分可在工廠預先接駁及進行壓力測試,但貨櫃到場後仍需連接外部供水及散熱系統。

因此「最快 14 日」指已完成場地準備後的部署時間,不能理解為由選址、興建供電及冷卻基建到正式啟用只需兩星期。企業評估方案時,仍要把場地供電容量、冷卻配套、網絡接入、交付及驗收安排納入項目時間表。NVIDIA 的時間數字屬公司公布的部署目標,現階段不宜當作所有項目的保證工期。

合作夥伴計劃 2027 年初交付 以投產時間衡量價值

NVIDIA 公布的合作夥伴包括 Dell Technologies、HPE、Lenovo、Foxconn(Ingrasys)、GIGABYTE、Schneider Electric、Vertiv、QCT 及 Wistron 等,涵蓋運算系統製造、供電冷卻及模組化基建。各合作夥伴將按參考設計提供製造、客製化、安裝及維護服務,NVIDIA 計劃於 2027 年初透過生態系統交付相關 AI 工廠。

NVIDIA 行政總裁黃仁勳把「首個正式生產 Token 的時間」(time to first token)視為衡量 AI 工廠何時開始產生實際價值的指標。這裏的意思是整套基建開始處理正式生產工作負載,與單次 AI 推理請求的首個 Token 回應延遲不同。提早投產可讓營運商更早提供算力服務,但實際成本及投資回報仍取決於場地工程、採購條件與運算需求。

資料來源:NVIDIA 官方新聞稿、NVIDIA 技術文章

Tags : AI 工廠DSX PODNVIDIAVera Rubin模組化數據中心