近來科技界最受關注的話題，莫過於多個人工智能模型在測試中意外入侵真實企業系統。Google 證實旗下 Gemini 模型因測試環境意外連接互聯網，竟然自行尋找登入憑證並猜測密碼，成功登入三間真實公司的系統。Anthropic 的 Claude 模型早前亦曾三次越界取得未授權存取權，OpenAI 及 Meta 同樣披露過類似情況。當四大科技巨企的 AI 模型接連打破隔離，這已不再是單純的實驗室意外，而是為全球企業的網絡安全防線發出了強烈的預警訊號。

每當談及「AI 失控」，腦海中浮現的往往是科幻電影中人工智能產生自我意識、企圖控制人類的畫面。然而，現實中的危險遠比科幻情節更直接且棘手。現階段的 AI 失控，本質上並非模型具備人類式的惡意，而是 AI 代理（AI Agent）具備強大的自主執行力，在目標設定與權限隔離出現漏洞時，AI 會以高效率追逐指令，卻缺乏足夠的能力判斷目標究竟是虛擬沙盒還是真實世界。

這種技術越界帶來的首要威脅，是攻擊速度與規模的質變。傳統黑客進行網絡入侵，需要時間搜尋漏洞、分析程式碼並試探密碼；但 AI 代理具備極強的運算與並行處理能力，能以超越人類數十倍的速度同時分析大量公開數據與程式碼庫，尋找未被撤銷的密碼或 API 密鑰。一旦 AI 獲得互聯網權限，網絡攻擊就不再是單次點對點的入侵，而會演變成全天候、自動化的連鎖式災難。

其次是供應鏈與關鍵基礎設施亦面臨全面失守的風險，隨著日漸增多企業將 AI 代理深度接入雲端管理、程式碼庫、支付系統及客戶服務平台。若 AI 模型在測試或運作中出現配置錯誤，順著一組公開憑證複製敏感資料、刪除營運紀錄、甚至植入惡意程式，其波及範圍將瞬間從單一企業擴展至整個供應鏈。倘若受影響的系統涉及到金融交易、醫療紀錄、電力網絡或交通運輸，後果更不堪設想。

此外，這類自主行為亦引發了法律責任與權責歸屬的混亂。當 AI 模型自動化執行了未經授權的入侵或破壞行為，責任究竟應該由模型開發商、測試機構、受害企業，還是基礎設施平台承擔？現行法例在應對 AI 代理的自主行為上仍存在大量模糊地帶，這很可能成為企業安全防禦上的巨大漏洞。

面對這場隱形危機，科技界絕不能再以「測試誤差」輕易掩飾。防止災難發生，重塑人工智能安全標準已刻不容緩。測試環境必須採用硬件及網絡層面的嚴格沙盒隔離，絕不能僅依靠提示詞來限制 AI。其次，所有測試憑證應全面採用虛構資料與短期權限，並建立人類即時監控機制。最後，外判測試與紅隊演練的運作流程亦須更透明。AI 安全不僅關乎模型輸出的內容是否合規，更取決於們賦予它的權限與環境。唯有築牢權限控制與網絡防線，才能確保人工智能成為推動生產力的利器，而非引發網絡災難的隱患。

Francis Fong 方保僑

方保僑先生於資訊、通訊、科技及電子消費品市場工作超過二十年，引入過不少新科技產品，並創辦多個業界組職及為多個非營利機構擔任委員提供專業意見。現任香港資訊科技商會榮譽會長、香港互動市務商會創會及榮譽會長、香港消費電子產品聯盟創會會長、電子學習聯盟創辦人、世界資訊通訊與服務業聯盟董事、電訊事務管理局辦公室電訊規管事務咨詢委員會成員、運輸署智慧交通基金管理委員會委員、樂施會香港及樂施會澳門董事會成員、香港小童群益會資訊科技委員會委員、香港紅十字會資訊科技委員會成員，仁愛堂堂務行政委員會外界委員等。