IT 基建

您及競爭對手都在談論 AI，董事會在追問 AI 策略。但當深夜獨自面對投資決策時，心中是否也有這個疑問：「我們真的知道自己在做什麼嗎？」

如果這問題讓您感不安，其實您並不孤單。在 VMware Explore 2025 大會上，Broadcom 和 VMware 的頂尖專家分享了他們從全球企業 AI 部署中汲取的寶貴經驗。集結他們講及的  8 個失敗共同原因及其解決方法，幫助您在 AI 時代找到明確方向。

為了 AI 而 AI 缺乏清晰的商業目標

董事會要求 AI 策略您批准預算，IT 團隊開始建設⋯⋯但三個月過去，除了燒錢看不到任何實質進展？您的企業是否也陷入了這種循環？

Broadcom 香港及台灣區總經理 Barry Chen 一針見血地描述這普遍現象：當他問每位 CIO 的首要任務是什麼，每人皆回答 AI 為先。但當進一步詢問具體在建構什麼時，「most of them have no idea」 (大多數人都毫無頭緒)。

Broadcom 亞太區銷售總裁 Sylvain Cazard 直言，企業在 AI 應用上仍處於非常早期階段。他的建議簡單而有力：「first they have to clarify what the use case is」 (首先必須釐清使用案例)。與其為了 AI 而 AI，不如從一個具體業務問題開始。Barry Chen 建議從內部客戶服務的「knowledge base」這類務實專案著手。這種小步快跑策略，能讓您在三個月內看到實際成效，而非陷入無止境的「平台建設」。

忽視總擁有成本 (TCO) 與底層設施的瓶頸

在為 AI 投資簽署巨額支票前，您是否算清楚這筆隱形成本？

VMware Cloud Foundation 部門 AI 與進階服務全球主管 Chris Wolf 揭露一個令人震驚的事實：「typically in a public cloud, you’re looking at at least a 3x cost delta」 (在公有雲上，您通常面臨至少 3 倍成本差異)。更驚人的是，有客戶實測發現：「we were half the cost」 (我們的成本只有一半)。

這種「回流」趨勢背後，是企業對數據控制權和成本最佳化的雙重追求。但請注意 Private AI 不只是簡單地買幾台 GPU 伺服器。Broadcom 核心交換事業群資深副總裁 Ram Velaga 警告：「GPUs… drive at least 100 times more bandwidth than a traditional CPU」 (GPU 驅動的頻寬需求是傳統 CPU 的 100 倍)。如果企業網路設備成為瓶頸，再強大的 GPU 也將因等待數據而閒置形同廢鐵

Chris Wolf 建議採用混合策略：先在公有雲上實驗，確定使用案例後，「Then you bring the model in」 (然後將模型帶回內部)。這種策略能幫您建立真正的「經濟護城河」——以最佳成本結構運行 AI，同時保持對核心資產的控制。

而支援這一戰略的核心平台，正是 VMware Cloud Foundation (VCF)。其價值不僅停留在理論上：NVIDIA 的基準測試表明，VCF 上的 GPU 性能與裸機相當，甚至在某些情況下更優。Broadcom 自己 IT 部門在部署 VCF 後，更成功將數據中心從 31 個整合到 7 個，這就是 VCF 在現實世界中帶來的驚人效率。

Broadcom 核心交換事業群資深副總裁 Ram Velaga : 「如果企業網路設備成為瓶頸，再強大的 GPU 也將因等待數據而閒置形同廢鐵」(手上展示 Tomahawk Ultra 的 50 Tbps 晶片 ，全球首款具備「網路內運算 (in-network computing)」功能的乙太網路交換器晶片

被單一供應商鎖定 失去長期戰略靈活性

您願意將企業的 AI 未來押注在單一供應商身上嗎？在這技術日新月異的時代，今天的領先者可能明天就被顛覆。Chris Wolf 的警告值得每位決策者深思：「They do not want to buy an appliance from an OEM… that locks them into a very specific set of models」 (他們不想購買將自己鎖定在特定 AI 模型的 OEM 裝置)。

真正平台靈活性是什麼？Wolf 給出清晰標準：「I shouldn’t have to refactor the app. It should just work」 (我不應該需要重構應用，它應該直接能用)。

選擇 AI 平台就像選擇企業的數碼基礎設施。您需要的不是封閉黑盒子，而是開放生態系統。在 AI 領域保持選擇自由度，就是保護投資的最佳策略。

 VMware Cloud Foundation 部門 AI 與進階服務全球主管 Chris Wolf  ：「他們不想購買將自己鎖定在特定 AI 模型中的 OEM 裝置」

一個好的 Private AI 方案，必須要靈活轉用任何模型或硬件規格不要被鎖死

輕視數據治理 導致 AI 專案因「原料」不足而失敗

您的數據是 AI 的燃料還是灰塵？許多企業在 AI 專案失敗後才意識到：問題不在 AI 而在數據。Broadcom 亞太區銷售部，雲端轉型辦公室資深總監 Sachin Shridhar 直指要害：「their data is fragmented… each application created their own data store and they’re overlapping」 (數據是零散的⋯⋯每個應用都建立自己數據儲存，而且相互重疊)。

Sylvain Cazard 進一步解釋，AI 本質上是對現有應用的增強，這意味著您必須「tie together all their current application system and data」 (將所有現有的應用系統和數據整合起來)。

在投入數百萬美元購買 GPU 之前，請先投資於數據現代化。建立統一數據湖倉，確保數據的品質和一致性。對於希望在本地數據中心實現這目標的企業，Tanzu Data Intelligence 平台提供了這樣一個整合方案。Tanzu 總經理 Purnima Padmanabhan 特別提到，當它在 VCF 9 最新 vSAN 架構上運行時，「you actually get performances that you would not get anywhere else」 (你無法在別處獲得這樣的(VCF 9)性能)。

Broadcom 亞太區銷售部，雲端轉型辦公室資深總監 Sachin Shridhar ：「企業數據是零散是 AI 轉型失敗的主因」

沿用過時的安全思維 無法應對 AI 時代的新威脅

當黑客也開始使用 AI 時，企業防禦系統準備好了嗎？Broadcom 應用網路與安全部門副總裁 Umesh Mahajan 警告：「the attacks are increasing because obviously… attackers can use AI」 (攻擊正在增加，因為攻擊者顯然也可以使用 AI)。更令人擔憂的是量子威脅。黑客已經在執行「record traffic now and then decrypt it with quantum later」 (現在記錄流量，未來用量子解密) 的長線攻擊策略。

傳統安全思維已經過時。對於高效能 AI 工作負載，Mahajan 明確指出：「the hardware concept just doesn’t work… you absolutely need a distributed architecture」 (硬件方案行不通⋯⋯您絕對需要分散式架構)。

您需要的是一個主動「免疫系統」而非被動「補丁」。這正是 VMware vDefend (NSX 防火牆的一部分) 所扮演的角色。它的性能足以應對 AI 時代數據洪流：單一控制器便可處理 1,250 台實體主機，分段吞吐量從 9Tbps 提升至近 21Tbps。Broadcom 內部 IT 團隊在短短數月內，就將內部東西向安全流量全面轉移到 vDefend 上，足見其效能與可靠性。

Broadcom 應用網路與安全部門副總裁 Umesh Mahajan :「企業需要的是一個主動「免疫系統」而非被動「補丁」。」

VMware vDefend 性能足以應對 AI 時代數據洪流：單一控制器便可處理 1,250 台實體主機，分段吞吐量從 9Tbps 提升至近 21Tbps

缺乏治理框架導致創新失控 引發混亂與風險

您知道現在有多少員工正在使用 ChatGPT 處理公司數據嗎？當 AI 工具唾手可得，如沒有明確使用規範，您的企業將面臨巨大風險。Chris Wolf 警告：「very easy for… an AI agent to be able to exploit that data」 (AI 代理很容易就能竊取數據)。

Burt Toma 提供一個生動案例：假設 AI Co Pilot 生成了有問題的程式碼並進入生產系統，「Who was it that put it in?」 (是誰放進去的？) 沒有追溯機制，您將無法問責。

解決方案是建立企業級「AI 交通規則」。Wolf 建議建立「enterprise MCP registry so that IT is controlling which MCP servers are approved」 (企業 MCP 註冊表，讓 IT 控制哪些伺服器被批准)。這不是限制創新，而是確保創新能夠安全、可控地進行。

Tanzu 部門產品管理主管 Burt Toma：「沒有 AI 追溯機制，您將無法問責，必需建立企業級 AI 交通規則」

策略過於冒進 在基礎未穩時追求完全自動化

您準備好將關鍵決策交給 AI 了？ 代理式 AI 是未來，但未來不是明天。Sylvain Cazard 坦言：「For agent AI, it’s very early stage. I think it’s not clear yet」 (對於代理式 AI，還處於非常早期階段，還不明朗)。

VMware Cloud Foundation 資深副總裁 Krish Prasad 提供務實路徑：「the first step might be more co-pilots… help the humans with their decision making」 (第一步可能是更多的副駕駛⋯⋯幫助人類做決策)。

Chris Wolf 分享客戶實際做法：「the more common pattern we see right now… is human in the loop for AI agents」 (我們現在看到的更常見模式是 AI 代理的人機協作)。採用「爬行、行走、奔跑」策略，穩健前行才是明智之舉。

VMware Cloud Foundation 資深副總裁 Krish Prasad : 「 企業 AI 第一步可能是更多 Co Pilot 幫助人類做決策」

借鑑香港經驗為團隊「賦能」以驅動創新 別認為 AI 只靠外部專家

您是否正在為招不到 AI 人才而焦慮？答案可能就在您現有團隊中。Barry Chen 分享香港市場的寶貴經驗。作為一個「very mature market」 (非常成熟的市場)，早在收購前就有高達 80-90% 的客戶採用了訂閱制，香港企業面臨的挑戰已經從技術採用，轉向人才賦能：「customers are speeding up their internal skill up learning」 (客戶正在加速內部技能提升)。

Tanzu 部門副總裁 Purnima Padmanabhan 提供一個巧妙解決方案：「bring AI to your existing, boring enterprise apps and data」 (將 AI 帶入您現有『無聊』企業應用和數據中)。

Burt Toma 解釋，考慮到業界有高達「75% 的企業級 Java 應用都是使用 Spring 框架編寫的」Spring AI 價值巨大。它允許開發者「take your Java applications and easily incorporate AI into it」（將您現有的 Java 應用程式輕鬆地與 AI 結合）。他進一步闡述，其關鍵優勢在於將底層模型「抽象化 (abstracted)」。這意味著您的開發團隊可以先用一個模型開始開發，未來再無縫切換到另一個，而無需重寫大量代碼，換句話說企業可以沿用原本 Java 開發團隊。這並非紙上談兵，Burt Toma 指出，Tanzu Platform 底層的技術，早已在「財富 100 強企業中的 50 家 ，運行著數百萬個工作負載」

與其在人才市場上與科技巨頭競爭，不如投資於現有團隊賦能。當您的「普通」員工都能駕馭 AI，您將擁有真正的競爭優勢。

Broadcom 香港及台灣區總經理 Barry Chen：「香港企業 AI 應用非常成熟，企業面臨的挑戰已經從技術採用轉向人才賦能」

結語：從焦慮到行動

專家們提供八個企業部署 AI 失敗的共同原因為您勾勒了清晰的 AI 轉型路徑。AI 不是技術競賽，而是戰略轉型。成功關鍵在於將技術與業務完美結合。現在選擇權在您手中。記住 Barry Chen 的觀察：大多數企業領導者都說 AI 是首要任務，但大多數都不知道在做什麼。不要成為「大多數」的一員。從明天開始，選擇一個具體業務問題，啟動您的第一個 AI 專案。

未來屬於今天就開始行動的人。