OpenAI 與 Broadcom 於 6 月 24 日共同發表名為 Jalapeño 的客製化 AI 晶片，這是 OpenAI 首款自家設計的推理專用加速器，從設計到流片只用了 9 個月，業界更將此視為高效能 ASIC 史上最快的開發週期。
Jalapeño 專為大型語言模型的推理運算而生，將支撐 ChatGPT 等產品向用戶輸出運算結果，預計今年底開始部署，並會與 Microsoft 等夥伴推動千兆瓦級數據中心的多代運算平台。OpenAI 期望可以藉自研晶片提升每瓦效能、壓低長期運算成本，並減少對 Nvidia GPU 的單一依賴，這一步令 OpenAI 正式由模型與產品延伸到底層硬件，補上全端布局的最後一塊。
一款專攻推理的「智能處理器」
OpenAI 將 Jalapeño 定位為首款 Intelligence Processor，與市面通用加速器有別，這款晶片只針對推理運算，也就是模型回答用戶查詢時的密集計算環節，而非訓練模型本身。OpenAI 硬件總監 Richard Ho 向 Reuters 表示這款晶片能在各種未來世代的 LLM 上維持高效運算。Broadcom 總裁兼行政總監 Hock Tan 更直言 Jalapeño 的表現足以媲美 Nvidia 的 Blackwell 晶片，以及 Google 設計的張量處理器。
OpenAI 主導整個專案的架構設計，Broadcom 負責晶片實作與網絡技術，加拿大電子製造商 Celestica 則提供機板與系統整合。三方協作之下工程樣片已在實驗室以接近量產的頻率與功耗運行機器學習工作負載，當中包括 GPT-5.3-Codex-Spark。OpenAI 指早期測試顯示 Jalapeño 的每瓦效能會大幅優於目前最頂尖的方案，詳細技術報告會在未來數月公布。這款晶片的架構透過減少數據搬移、平衡運算、記憶體與網絡資源，令實際使用率更貼近理論峰值。
為何 OpenAI 要自己造晶片
自 2022 年掀起生成式 AI 熱潮以來，OpenAI 一直是 Nvidia 高價 GPU 的最大買家之一，需求爆炸式增長令單一供應渠道難以支撐，OpenAI 因此積極尋找其他先進晶片來源。今年稍早 OpenAI 已與 Amazon Web Services 達成協議，使用其 Trainium AI 晶片，也先後與 Nvidia 對手 Advanced Micro Devices，以及在 5 月完成首次公開招股的 Cerebras 簽署合作。走向自研晶片是這條策略路線的延伸。
OpenAI 與 Anthropic 等 AI 實驗室普遍面對運算力短缺，難以支撐最新模型與編程應用的龐大負載。Meta、Amazon 與 Google 早已透過 Broadcom、Marvell 等廠商取得難以自建的設計服務與知識產權來打造自家晶片，OpenAI 如今加入這個行列。據 Reuters 於 4 月引述消息人士報道 Anthropic 也正評估自研 AI 晶片的可能。
對企業的實際意義
對科技與雲端業界而言，Jalapeño 的訊息很清晰：最大型的 AI 營運商正在爭奪硬件成本的主導權，推理是 AI 服務日常營運中佔比最重的開支，OpenAI 選擇先攻這一環因為客製晶片在這裡能最快收到成本效益。Broadcom 在這宗交易中受惠明顯，發表後股價一度上揚約 3.4%，這家半導體巨頭市值達 1.81 兆美元（約港幣 14.1 兆元），過去 12 個月營收增長 32%。對採購大量運算資源的企業來說，這代表議價格局正在改變。
當主要買家有能力自製晶片，整個推理硬件市場的定價權就不再單邊傾向 GPU 供應商。多家投行維持對 Broadcom 的正面評級，UBS 引述 Broadcom 與 Apollo、Blackstone 為 OpenAI 及 Anthropic 設立的 20 吉瓦特殊目的工具協議，反映資本市場對客製 AI 基建的長線信心。企業在規劃 AI 部署時，除了考慮現成加速器的供應與價格，也應留意自研晶片潮流帶來的替代方案與成本結構轉變。
自研晶片競爭越發激烈
Jalapeño 只是起點，OpenAI 明言這是多代晶片發展計劃的第一步，並會與 Microsoft 等夥伴自 2026 年起推動千兆瓦級數據中心部署。OpenAI 目前仍在評估是否把自研晶片延伸至訓練領域，這意味未來的競爭範圍可能進一步擴大。值得留意的是 AI 晶片需要大量高頻寬記憶體，這對 Broadcom 的利潤率構成壓力，也是雙方多代平台要持續面對的課題。
OpenAI 自研晶片並非要在一夕之間取代 Nvidia，而是要在運算成本最敏感的推理環節取得槓桿。當 Google 有 TPU、Amazon 有 Trainium 與 Inferentia、Meta 有 MTIA、Microsoft 有 Maia，OpenAI 如今以 Jalapeño 加入這場由超大規模業者主導的客製晶片競賽。這場競賽冀能重塑 AI 基礎設施的供應與定價格局，企業與投資者都需要重新審視自己在這個生態中的位置。
來源：CNBC
