
Nvidia 行政總裁黃仁勳 10 月 21 日於 GTC Berlin 2026 主題演講中指出,人工智能正由回答問題的聊天模型,進入能自行思考、規劃及執行工作的 Agent 時代。企業未來的競爭優勢,取決於能否讓 Agent 運用公司多年累積的專有知識及行業工具。黃仁勳認為,企業可以利用現成模型建立專屬 AI,但要讓 Agent 大規模參與日常營運,安全權限管理及成本控制不可或缺。
Agent 有 5 個部分 企業知識與工具才是本錢
黃仁勳將 AI Agent 拆解成 5 個核心部分:負責推理的模型、協調工作和管理記憶的 Harness、限制 Agent 活動範圍的安全沙盒,以及知識(Knowledge)和工具(Tools)。模型、Harness 和安全技術可以透過現成產品或開源方案取得,知識和工具則是企業獨有的資產。
他以製造業為例。假設供應商發出一份 PDF 通知,表示零件將延遲交貨,相關訂單資料則儲存在企業 SQL 資料庫。Agent 可以閱讀通知、分析哪些客戶訂單受到影響,再搜尋工程文件尋找替代零件。這已超越一般問答,涉及文件理解、資料分析及工程判斷。
企業累積的檔案、資料庫、操作程序,以及 ERP、CRM 或專業軟件,往往分散在不同部門。決策人需要考慮如何整理這些資產,讓 Agent 可以安全存取和使用。
黃仁勳亦反駁 AI 將令軟件公司消失的看法。他認為 Agent 同樣需要使用專業工具,軟件用量反而可能增加。演講示範中,Dassault Systèmes 的 Agent 將 Volkswagen Golf 車門設計修改至適用於 Tiguan,再透過模擬找出振動問題並調整設計,最後交由工程師選擇。
企業真正的 AI 本錢,在於將自身知識和工具轉化成別人難以複製的能力,而非買到人人都能使用的模型。
Agent 安全不能靠「請你不要」 權限要在 AI 之外執行
當 Agent 可以讀取公司檔案、執行程式及操作系統,企業需要管理的風險已超出答案是否準確,還包括 Agent 獲准執行哪些操作。
黃仁勳在演講播放的示範影片中,批評部分 Agent 防護仍停留在提示詞層面,例如要求 AI「請不要刪除檔案」、「請不要碰 SSH 密鑰」。這種「Please Don’t」方式並不能提供可靠保障。
Nvidia 提出的 OpenShell 安全架構,將 Agent 放在獨立沙盒內,由 Agent 以外的系統執行存取限制。對外網絡連線必須經過授權檢查,敏感密鑰亦不會直接交給 Agent;只有連接獲批准的服務時,才由外部機制加入。
這與瀏覽器的安全設計相似。即使網站包含惡意程式,也不應讓它自由操作整部電腦。Agent 具有推理能力,同樣不代表它應該取得整個企業系統的權限。
黃仁勳指出,Agent 權限需要因應不同員工及任務動態調整。
例如負責整理訂單的 Agent 可以讀取資料,但未必有權修改付款指示;需要更新資料的 Agent,也不代表可以刪除整個資料庫。
企業部署 Agent 前,需要決定誰可以授權、Agent 能接觸哪些資料、哪些操作需要人手批准,以及如何保留審計紀錄。即使使用外部供應商提供的 Agent,企業仍須管理它進入內部系統後的權限。
Agent 愈有用成本愈高 上線速度亦影響投資回報
傳統聊天機械人通常由用戶發問、AI 回答,Agent 則可以自行拆解任務,反覆搜尋資料、呼叫工具及檢查結果,每次執行都可能消耗更多 Token。
黃仁勳指出,Agent 能完成更多實際工作,使用人數和頻率都會增加,Token 消耗及運算需求亦會隨之上升。
企業若仍以聊天機械人的使用量估算 AI 預算,可能低估全面部署 Agent 後的開支。除了模型收費,還要計算工具執行、重試、資料處理及人手覆核的成本。
決策人更值得量度的是每項工作成功完成的總成本,例如 Agent 處理一張訂單需要多少費用、節省多少員工時間,以及能否減少錯誤。部分需要頻繁執行或涉及敏感資料的任務,可評估使用本地模型,其餘則按需要交給雲端處理。
部署時間同樣影響回報。黃仁勳以大型 AI 數據中心為例,假設一座設施每年可產生 400 億美元收入,延遲 3 個月營運便會減少約 100 億美元潛在收入。這是說明時間價值的假設算式,並非實際利潤預測。
Nvidia 因此把部分機櫃組裝及測試工作移到工廠完成,希望將原本約 4 至 5 個月的現場部署流程縮短至約 1 個月。
一般企業雖然不會興建這種規模的數據中心,道理卻相同。AI 項目花半年採購及整合系統,卻遲遲未能讓員工使用,已投放的資金和人力便無法產生回報。評估 AI 投資時,除了準確率和運算成本,亦應計算由項目啟動至首次產生業務價值需要多少時間。
不應只押注一個模型 開源與封閉 AI 各有角色
黃仁勳預期,企業未來會同時採用封閉、開源及經過針對性訓練的模型,按工作需要選擇合適方案。
一般行政、資料整理及通用分析,可以使用市場上的頂尖模型。涉及企業專有知識、特定業務流程或需要長期改善的專業工作,則可以考慮採用開源模型,再以自身數據進行後續訓練(Post-training)。
黃仁勳舉出 Harvey、CodeRabbit 等例子,說明企業如何利用現成開源模型,針對特定工作建立具競爭力的 AI 能力。他認為企業可以透過這種方式,將專有數據轉化成自己掌握的「主權智能」(Sovereign Intelligence)。
不過,企業未必需要自行訓練模型。訓練、測試和長期維護都有成本。較實際的做法,是先區分哪些工作可以直接使用外部服務,哪些涉及關鍵技術或專業知識,值得建立專屬能力。
從採購角度看,企業亦宜保留轉換模型的彈性,避免整個業務流程過度依賴單一供應商。
黃仁勳亦談到自動駕駛、人形機械人及電訊網絡等實體 AI 應用。他認為產業標準化有助降低成本,而手提電腦運算能力提升,亦令小規模 Agent 開發更容易實現。
演講開首的「AI 五層蛋糕」涵蓋能源、晶片、AI 工廠、模型及應用。黃仁勳呼籲歐洲及其他地區利用自身產業優勢,參與建立本地 AI 經濟。
對一般企業而言,眼前較值得處理的是找出內部最有價值的知識及工作流程,讓 Agent 在適當權限和成本控制下,開始完成實際業務工作。




