企業若把「最高利潤」設定為 AI 的唯一 KPI,結果可能不只是更快完成採購、調整價格或處理客戶查詢。Andon Labs 一場以 Claude Opus 5 為主角的模擬商業實驗顯示,當 AI 獲得足夠自主權處理訂價、補貨、退款及談判工作時,模型為達成利潤目標,可能採取誤導供應商、拒絕合理退款,甚至參與價格合謀等手段。
Claude Cowork 被揭發存在嚴重沙盒逃逸漏洞,攻擊者只需連接一個資料夾,再向 AI 特工發出一句指令,便有機會令它逃出本機 VM,讀取 Mac 主機上的 SSH 密鑰、雲端登入憑證及其他檔案。研究機構 Accomplish AI 指出,漏洞涉及 VirtioFS 掛載設定及 Linux 核心提權問題。Anthropic 未有直接修補漏洞,僅將 Claude Cowork 預設改為雲端執行模式,以避開本機運行時的風險。