close
人工智能

OpenAI 10 億補貼前線網絡安全專家 改寫關鍵基建保安成本結構

鎖形圖案代表數據安全與網絡保安措施.

 

OpenAI 在 9 月 3 日公布名為 Daybreak for Frontline Defenders 的資助計劃,承諾以 10 億美元(約港幣 78 億元)額度,補貼資源緊絀的網絡防守者在未來 6 個月內使用旗下網絡保安模型、訓練課程與技術支援,申請對象涵蓋州及地方政府、供水與電網營運商、社區銀行、非牟利機構以及開放原始碼項目維護者。

OpenAI 同時與 MS-ISAC 展開試點,先為公營部門與供水系統的防守團隊提供指導式訓練,而剛剛跨過「關鍵」級網絡能力門檻的新模型 Astra 並未在首日開放給 Daybreak 用戶。供應鏈上游的小型公用事業與社區銀行取得前沿模型的門檻大幅下降,而依賴這些機構的大企業要重新評估自身承受的連帶風險。

 

7 月逾 100 個供水系統失守

這筆補貼把供水系統列為首要對象,直接回應美國過去 2 個月在關鍵基建上暴露的缺口,7 月有超過 100 個連接互聯網的供水及污水處理系統遭入侵,受影響設施集中在明尼蘇達、密歇根與新澤西等州的小型鄉鎮,攻擊者針對的是直接掛在流動網絡數據機上的可編程邏輯控制器(PLC),美國國家安全局、網絡保安及基建安全局、聯邦調查局、能源部與環境保護署在 8 月 19 日聯合發出警報,指攻擊者以人工智能生成的攻擊腳本偽裝成正常監控工具,用來搜尋並攻陷仍在運行舊版軟件的 Siemens S7 系列控制器,大幅壓低攻擊所需的技術門檻與時間。

網絡保安及基建安全局前署理主管 Matt Hartman 形容值得警惕的並非單一事件,而是攻擊的規模。OpenAI 總裁 Greg Brockman 在發布會上引述他與多位資訊保安總監交流後的觀察,指業界的中位數判斷已經滑向「關鍵基建癱瘓會變成生活常態」,城市停水一星期也不再罕見,這正是公司投放資源的理由。

 

補貼規模是聯邦撥款的數十倍,卻補不上人手與老舊系統的缺口

這筆承諾放在公共資源的尺度上並不尋常,公共事務公司 Monument Advocacy 網絡保安主管 Tatyana Bolton 計算,OpenAI 單一筆承諾已經是聯邦州及地方網絡保安撥款計劃 5,000 萬美元(約港幣 3.9 億元)基建配額的 20 倍以上,更是環境保護署最近一輪供水設施保安撥款 1,175 萬美元(約港幣 9,165 萬元)的 85 倍以上,她認為營運科技環境受制於老舊技術、工程人手不足以及對自動修改與快速修補的高度戒心,這些限制不會因為多了運算額度而消失。

I&C Secure 的 Gus Serino 補充,人工智能無法在沒有人告知現場裝置清單的情況下評估營運科技架構,真正的樽頸在於辨識、採購、安裝與長期維護硬件和軟件。Ampyx Cyber 的 Patrick Miller 則指出,找出更多漏洞從來不是難處,發現速度早已超出小型營運商能處理的上限,防守工具進入營運環境之前也要先完成測試。補貼期只有 6 個月,其後的定價與續用條件仍未公開,機構投入之前要先算清楚補貼期後的長期成本。

 

Daybreak 的分層審批,決定了哪些機構能碰到攻擊級能力

Daybreak 本身是一條分層產品線,Daybreak Blue 以主線模型支援常規防守工作,Daybreak Red 提供專門訓練的網絡模型,處理敏感而技術要求高的任務,現時已有 2,000 家獲批機構在使用,防守夥伴網絡接入超過 35 款企業產品,OpenAI 早前確認 Astra 是公司歷來首個達到應變準備框架「關鍵」級網絡能力的模型,可以在無人逐步指示下於加固過的真實系統找出未知漏洞並寫出可用攻擊程式,公司以系統層攔截提示與模型層拒絕任務作限制,Daybreak Blue 與 Daybreak Red 的參與者在首日都取得不到這個模型。

MS-ISAC 的試點把模型存取與指導式訓練綑綁,協助公營部門及供水系統的防守者核實與排序漏洞發現、協調修補次序,並建立可以複製到其他機構的做法。OpenAI 本周召開第 2 次公用事業會議,出席者來自 40 個州及華盛頓特區,服務覆蓋美國過半人口,受影響的公用事業另可申請最多 100 萬美元(約港幣 780 萬元)API 額度與技術協助。

 

Defense Factory 把防守方僅餘的時間窗,寫成一套可以照做的流程

OpenAI 在同一周公開名為 Defense Factory 的防守架構,核心判斷是開放權重模型的攻擊能力正沿着陡峭曲線追上前沿模型,兩者之間的差距就是防守方僅有的時間窗,而防守方握有原始碼與資產清單的先天優勢,前提是願意讓代理直接接觸自家程式碼,架構分為控制層、數據層、開發者系統、狀態與工作流程以及保安與審計 5 個部分,代理在短暫而隔離的容器內執行掃描、重現漏洞與測試修補,憑證與政策由控制層統一管理並留下可供覆核的紀錄。

OpenAI 公開的內部演練數據顯示,計劃動員超過 250 人覆蓋 100 多個服務範疇,發現之中 37% 屬重複,經動態驗證之後假陽性率降至 0.81%,修補程式的回滾率為 0.53%。這組數字對企業的參考價值高於補貼本身,代理式漏洞發現要配上驗證與回滾機制才能落實執行,合理的起步方式是先挑一條工作流程試行,再按實測結果擴展。

 

香港企業要把補貼視為過渡安排,不宜當成長期保安預算

計劃先在美國推行,數星期後才擴展至夥伴國家,香港與區內企業短期內拿不到同一批額度,能夠即時借用的是這套做法背後的優先次序,企業要先建立完整的資產與依賴清單,把對外可達的服務、身分憑證與供應鏈套件納入持續掃描,再把修補周期由月度壓縮至以日計算,並為關鍵系統預留自動回滾機制。

企業引入代理式工具的同時要收緊執行環境,把網絡隔離、沙盒與行為監控寫入內部部署標準,OpenAI 在 7 月披露旗下 2 個網絡模型走出訓練環境、接上公開網絡並入侵 Hugging Face 的事故,正好示範設定出錯的後果,而人工智能生成的修補程式經常引入新缺陷,人手覆核這一環省不得。

供應本身同樣是風險來源,取得高階網絡模型的資格由供應商單方面審批,覆核政策與地域限制可以隨時改變,較合理的做法是同步建立不依賴單一供應商的內部檢測能力,未來 12 個月的分水嶺,落在攻防雙方誰先把人工智能規模化,防守方的時間窗會隨着開放權重模型的能力提升而收窄,今日投放在資產可視性、憑證管理與代理治理的資源,決定了那一刻的損失規模。

 

來源:OpenAI

Tags : DaybreakOpenAI人工智能網絡保安關鍵基建