Microsoft 行政總裁 Satya Nadella 警告,企業應將具高度自主能力的 AI 模型視為潛在內部安全風險,不能單憑供應商保證其安全。他提出七項治理原則,包括獨立權限控制、防篡改操作紀錄、外部審計及緊急停止機制,並主張將 AI 模型與執行框架分離。相關建議針對企業 AI Agent 存取敏感資料及執行關鍵任務時的風險,目前屬治理主張,並非 Microsoft 已公布的新產品或政策。
科技巨頭的 AI 模型近期接連在測試中意外入侵真實企業系統,這並非科幻情節中的惡意反叛,而是 AI 代理因權限隔離漏洞導致的失控。具備極高運算速度的 AI 一旦獲得網絡權限,單次入侵極易迅速演變成連鎖災難,嚴重威脅全球供應鏈及關鍵基礎設施。此外,自動化入侵引發的法律責任歸屬亦成隱憂。業界必須立即重塑安全標準,落實嚴格的沙盒隔離與即時監控機制,築牢網絡防線,避免 AI 成為引發災難的隱患