科技巨頭的 AI 模型近期接連在測試中意外入侵真實企業系統,這並非科幻情節中的惡意反叛,而是 AI 代理因權限隔離漏洞導致的失控。具備極高運算速度的 AI 一旦獲得網絡權限,單次入侵極易迅速演變成連鎖災難,嚴重威脅全球供應鏈及關鍵基礎設施。此外,自動化入侵引發的法律責任歸屬亦成隱憂。業界必須立即重塑安全標準,落實嚴格的沙盒隔離與即時監控機制,築牢網絡防線,避免 AI 成為引發災難的隱患
Mark Zuckerberg 日前在 Meta 內部員工大會上向員工坦言,AI agent 的發展速度並未如管理層先前預期般加快,令外界質疑公司押注以 AI 取代人力的策略成效,據報道,Meta 今年稍早裁減約 8,000 名企業員工,佔企業人手約 10%,公司另將 7,000 人調配至不同 AI 部門,包括名為 Agent Transformation 的團隊。