開源 AI 編程工具 OpenCode 證實其 Console 服務發生與大規模模型蒸餾攻擊有關的安全事故,影響 1.4% Console 用戶。受影響者曾連結第三方 AI 供應商,儲存在工作空間的 API Key 可能外洩。官方已通知相關用戶,並聯同 Anthropic、OpenAI 及 Google 處理。企業應核查憑證、異常帳單及自動化工作流程的存取權限,避免未授權調用持續產生費用。
Microsoft 行政總裁 Satya Nadella 警告,企業應將具高度自主能力的 AI 模型視為潛在內部安全風險,不能單憑供應商保證其安全。他提出七項治理原則,包括獨立權限控制、防篡改操作紀錄、外部審計及緊急停止機制,並主張將 AI 模型與執行框架分離。相關建議針對企業 AI Agent 存取敏感資料及執行關鍵任務時的風險,目前屬治理主張,並非 Microsoft 已公布的新產品或政策。
科技巨頭的 AI 模型近期接連在測試中意外入侵真實企業系統,這並非科幻情節中的惡意反叛,而是 AI 代理因權限隔離漏洞導致的失控。具備極高運算速度的 AI 一旦獲得網絡權限,單次入侵極易迅速演變成連鎖災難,嚴重威脅全球供應鏈及關鍵基礎設施。此外,自動化入侵引發的法律責任歸屬亦成隱憂。業界必須立即重塑安全標準,落實嚴格的沙盒隔離與即時監控機制,築牢網絡防線,避免 AI 成為引發災難的隱患