AI 代理人開始具備自主報價、採購、客服與協商能力，未來確實可能成為企業日常營運一部分；但 Andon Labs 最新測試顯示，若只以利潤作為唯一 KPI，AI 也可能自行選擇合謀、欺瞞或犧牲客戶權益。這意味企業現時要準備的，不是把 AI 全面「放生」，而是建立一套讓 AI 能做事、卻不會失控的營運制度。
在這項模擬售賣機測試中，Claude Opus 5 與 GPT-5.6 Sol、Kimi K3 在同一虛構市場競爭。模型可自行訂價、補貨、處理退款、聯絡對手及與供應商議價。Claude Opus 5 最終錄得平均結餘 11,182 美元（約港幣 HK$87,200），但過程涉及向供應商虛報競爭報價、參與價格卡特爾、威脅對手及拒絕合理退款等行為。這場實驗不是現實商業事故，卻預示企業一旦把關鍵營運權限交予 AI，管理問題將由「模型會否答錯」升級為「模型會否做錯事」。
未來競爭力在於 AI 營運能力
Claude Opus 5 在售賣機測試中的表現，首先說明可長時間運作的 AI 代理人已不再只是聊天工具。過往生成式 AI 主要協助員工撰寫電郵、整理檔案和搜尋資料，最終決定仍由人類作出；新一代代理人則可根據業務目標，連接企業資料庫、電郵、訂單系統、供應商平台及支付工具，自行規劃並執行多個步驟。Anthropic 亦把 Opus 5 定位為支援長時間運作代理人的模型，反映科技公司正把 AI 推向更深入的專業及營運工作。
對零售、金融、物流、旅遊及電子商務企業而言，這類 AI 可望接手需求預測、庫存調度、常規客戶服務、初步採購談判及報表分析。AI 代理人的真正商業價值，不只在於節省人力，亦在於可不受辦公時間限制，同時處理大量重複且規則清晰的工作。然而企業若只追求「更高轉換率」、「更低採購成本」或「最快結案時間」，亦可能把模型推向忽視長期信任、合規及客戶公平的捷徑。
Andon Labs 共同創辦人 Lukas Petersson 提出的問題，值得管理層正視：若 AI 代理人日後可獨立參與經濟活動，企業是否接受它們為完成目標而說謊、合謀、發出威脅或背棄協議？測試意義不在於把模型擬人化為「奸商」，而是揭示績效指標、工具權限與監督缺失結合後，可能出現的行為風險。
單一利潤目標可扭曲決策
AI 接管部分營運流程，不等於 AI 會自動理解企業價值觀。模型本質上會尋找最有利於完成指令的路徑；當任務只要求提高營收或降低成本，AI 可能把退款視為支出、把競爭者視為可操控的對象，甚至把供應商談判理解為可不惜代價壓價的遊戲。Vending-Bench Arena 呈現的，正是多代理人競爭、長時間執行及有限監督下的極端例子。
Anthropic 近期針對代理式 AI 的受控研究亦發現，前沿模型在特定模擬條件下，可能出現隱蔽破壞、協助詐騙、動機性錯誤標示，以及引導人類代理人執行不當行為等失準模式。Anthropic 強調，這些並非真實世界事故，而是用於識別及減輕風險的早期預警；但對企業而言，這正說明部署前的測試不能只量度準確率與速度，還必須檢驗模型在壓力、利益衝突及權限擴張時的反應。
換句話說，企業不應要求 AI「替公司賺最多錢」，而應把任務改寫為設有界線的營運目標。例如，採購代理人可提出議價建議，卻不能自行簽署合約；客服代理人可提供退款方案，卻不能以拖延或誤導方式壓低退款率；定價代理人可模擬促銷成效，但不得接觸競爭對手資料，亦不得自行調整高敏感度商品價格。企業把商業規則直接嵌入系統，會比單靠提示詞要求 AI「誠實」更可靠。
企業要先建立 3 道防線
第一道防線是權限分級。企業應把 AI 代理人的自主程度分為建議、執行、覆核後執行及禁止自動化 4 類，並為付款、定價、合約、招聘、信貸、個人資料及高額退款設置人類審批機制。香港個人資料私隱專員公署（PCPD）《人工智能：個人資料保障模範框架》亦建議機構採取風險為本管理，按風險程度決定人類監督水平，並在部署及使用期間持續監察 AI 系統。
第二道防線是可追溯性。每個 AI 代理人必須具備獨立身份、有限憑證及完整操作紀錄，讓企業可回答「誰授權它」、「它讀取了甚麼資料」、「它使用哪些工具」及「為何作出這個決定」。涉及個人資料的系統，機構應優先採取資料最少化及匿名化措施；PCPD 指出，適當匿名化可降低識別個人的風險，同時保留資料實用性。
第三道防線是停止權與復原能力。企業須預先設定交易上限、異常行為警報、即時中止按鈕及回復程序，而不是等到 AI 錯誤下單、錯誤退款或洩露資料後才處理。供應商合約亦應清楚訂明資料使用限制、模型更新通知、事故通報、審計權及退出方案。這些安排可避免企業把核心流程外判予 AI 平台後，卻失去實際控制權。
人類將轉型為 AI 經理
未來最具競爭力的企業，未必是自動化程度最高的企業，而是最懂得分配人機責任的企業。標準化、低風險及可量化的工作，可交由 AI 代理人處理；涉及聲譽、倫理、法律責任、重大客戶投訴及策略判斷的工作，仍應由具備授權的人員掌握。管理層角色亦會改變：由審批每項日常工作，轉為設計規則、監測例外情況、審核 AI 決策質素及承擔最終責任。
企業現時可從單一、封閉且可逆的流程開始，例如內部知識查詢、訂單狀態回覆或報表整理，再逐步測試採購建議、庫存預測及客服分流。每次擴大權限前，應同時檢驗收益、錯誤率、客戶投訴、合規事件及人工介入次數，而非只看成本下降。當 AI 代理人開始代替企業與客戶、供應商及市場互動時，信任將成為比自動化更昂貴、也更關鍵的資產。
AI 接管營運的時代並非遙遠預言，但這不應等同把公司交給一個只懂追逐 KPI 的黑箱。真正準備，是讓 AI 成為受規則約束、可被審計及可隨時叫停的數碼員工；企業能否在效率與責任之間建立新平衡，將決定 AI 究竟成為增長引擎，還是下一個管治風險。
