close
人工智能資訊保安

Google 以 AI 代理掃描醫院及鐵路漏洞 自主攻擊能力全面轉向防守

AI掃描醫院與鐵路漏洞,強調安全與科技創新.

 

Google 旗下雲端保安公司 Wiz 本週四聯同 Google DeepMind 正式推出 Scan for Good 計劃,以網絡保安專用模型 Gemini 3.8 Flash Cyber 及自動滲透測試代理 Red Agent,在獲授權的前提下掃描醫院、市政機構、鐵路營運商及非牟利組織的對外系統,找出攻擊路徑後由人類研究員核實及通報。

計劃過去數月已低調運作,協助修補數百個公開漏洞,今次正式推出後會擴展至全球。在 OpenAI、Anthropic 相繼推出同類防守計劃,而多家實驗室的 AI 代理又先後逃出測試沙盒入侵真實企業的背景下,Scan for Good 反映先進 AI 的攻擊能力正轉向防守用途,企業面對的漏洞發現時間窗亦急速收窄。

 

授權掃描加人手覆核 AI 滲透測試走進公共機構

Wiz 攻擊性保安主管 Gal Nagli 接受 The Register 訪問時表示,計劃過去數月一直運作,正式推出後會擴展至全球,並無設定結束日期,按照 Wiz 公布的規則,AI 只會在機構主動申請評估,或對方設有漏洞獎勵計劃及漏洞披露政策的情況下,才會檢查其公開網站、API 及應用程式;人類研究員會逐一覆核每項潛在發現,由人類承擔確認影響及決定是否披露的責任。Wiz 強調測試只做到足以證明實際影響為止。美國網絡安全及基礎設施安全局亦為計劃提供指導,署理局長 Nick Andersen 表示防守性的漏洞發現有助鞏固美國數碼基建。

 

輕量模型配合自主代理 攻擊路徑發現成本大降

Gemini 3.8 Flash Cyber 是 Google DeepMind 本月初發布的網絡保安專用模型,與通用版 Gemini 3.8 Flash 共用同一核心,再針對漏洞搜尋及自動修補加強訓練,只透過 Fairwind 計劃開放予政府、醫療機構及電訊商等經審核的防守者,Google 公布的數據顯示,模型在 CWE-Bench 修補基準測試的首次通過率達 47.2%,貼近 Anthropic 先進模型 Fable 5 的 47.8%,運算成本卻明顯較低。
Wiz 今年 4 月推出、7 月全面上市的 Red Agent 會自行探索目標系統、串連弱點並驗證攻擊是否可行,至今已在客戶環境驗證超過 10,000 個無需認證即可從外部利用的嚴重風險,兩者結合後,以往需要資深研究員人手追查的攻擊路徑,現在可以大規模自動發現,Scan for Good 正是憑這種低成本能力覆蓋資源有限的機構。

 

危險來自組合而非單一漏洞 公共機構個案揭示新攻擊面

Wiz 在公布計劃時提出一個技術觀點,認為外界大多聚焦 AI 分析程式碼找出零日漏洞,但更迫切的風險來自暴露於公開互聯網的應用程式,設定、權限、身分、API 與應用程式行為各自看似無害,連接起來卻可構成嚴重攻擊路徑,計劃公布的個案正好印證這一點,中東一個國家的國家級檔案庫在公開伺服器暴露管理員金鑰,令任何人可讀取、改寫及刪除 880 萬個檔案;一間公立醫院缺乏存取控制,網上任何人都可操控全院流動警報頻道。

私家醫院及市政機構同樣存在嚴重缺口,其中一間私家醫院的網上預約系統設有不安全的檔案上載功能,攻擊者可藉此控制醫院伺服器,取得病人臨床資料;某市政機構的公開數據服務則洩露約 5,000 名長者的個人、健康及財務資料,最嚴重的一宗涉及公共鐵路營運商,其生產資料庫外洩活躍的管理員登入階段,攻擊者可藉此操控路線、班次及服務公告,足以癱瘓整個交通系統。Wiz 表示所有個案均由 AI 自主發現,研究員驗證影響後隨即私下通知機構並協助修補。

 

AI 5 天內攻破新漏洞 企業修補窗口以小時計算

最能說明發現窗口急速收窄的個案來自 Snowflake,該公司在 6 月 18 日合併一項程式碼變更,把公開儲存庫中一個 GitHub Actions 工作流程原本安全的寫法,改為直接把議題標題插入指令稿,任何未經認證的 GitHub 用戶只要開設一個標題經特別設計的議題,就能在執行器上執行任意指令,GitHub Advanced Security 掃描過該版本卻未有標示問題,參與審閱的 Copilot 亦判定合格。

Red Agent 在 5 天後經 Snowflake 的 HackerOne 漏洞披露計劃自主發現並利用漏洞,首次嘗試因語法錯誤失敗後更自行調整攻擊載荷,最終取得內部 Jira 系統的存取憑證。Snowflake 在 6 月 23 日收到通報後即日修補及輪換憑證。

Snowflake 事件同時揭示 2 個相互牽動的技術趨勢,其一是有 AI 參與的開發流程仍會引入並放行嚴重漏洞,傳統自動化保安檢查亦未必察覺;其二是自主 AI 代理可以在數日甚至數小時內發現並利用新漏洞,Wiz 據此建議企業縮短修補周期、改用短效憑證,並在程式碼層面強制採用安全寫法。

 

先進實驗室爭奪防守陣地 沙盒逃逸事件揮之不去

Scan for Good 推出的時機緊接其他先進實驗室的同類計劃,OpenAI 本月初宣布 Daybreak for Frontline Defenders,承諾在未來 6 個月投入 10 億美元(約港幣 78.4 億元)的補貼額度、培訓及技術支援,對象包括供水、電網、地方政府、社區銀行及開源項目,Anthropic 較早前推出 Project Glasswing,讓選定企業使用受限制的 Mythos 模型搶先修補漏洞;Google DeepMind 則以 Fairwind 向超過 650 個合作夥伴提供 Gemini 3.8 Flash Cyber。3 家公司的共通策略,是把最強的攻擊能力限制在經審核的防守者手上,搶在同類能力普及至攻擊者之前建立優勢。

各實驗室積極以防守定位推廣網絡保安模型,背後卻有揮之不及的安全陰影,OpenAI 在 7 月披露旗下模型在評估期間逃出沙盒,自主入侵 Hugging Face 的生產系統,其後 Anthropic 及 Meta 亦披露類似事件,Google 本週承認 Gemini 今年較早時 3 度在第三方測試環境逃出沙盒,憑公開資料猜測憑證,入侵 3 間與虛構目標同名的真實公司。同一套能力既可在授權下保護醫院,也可在失控時攻擊無辜企業,令人手把關及嚴格授權成為這類計劃取信於外界的關鍵。

 

攻防工具走向對稱 人類研究員仍是最後一道關卡

從技術發展角度看,Scan for Good 代表漏洞管理正由定期掃描轉向持續、自主的攻擊模擬,AI 代理會像真實攻擊者一樣串連弱點並驗證影響,而非只列出理論上的漏洞清單,隨着先進模型發現漏洞的能力持續提升,攻擊者與防守者使用的工具將愈趨對稱,勝負取決於誰先找到並修補缺口。

Wiz 表示未來數月會公布更多 Gemini 3.8 Flash Cyber 的實戰個案,企業亦需要以攻擊者視角持續檢視對外系統的暴露面,並以同等嚴格標準審查 AI 生成的程式碼,在 AI 攻擊能力普及之前,防守者能否把這段時間優勢轉化為實際修補成果,將決定關鍵基建能否跟上威脅演進。

 

來源:Wiz

Tags : AI 代理googleScan for GoodWiz資訊保安