close
資訊保安

Microsoft 報告指機器學習系統保安不容忽視

Microsoft 去年訪問了 28 間機構,調查他們對於機器學習系統保安的看法,結果發現不少企業對這方面的保安措施都未有足夠重視,因此報告提醒機構應該更加小心。

Microsoft 的 Azure 首席架構師 Hyrum Anderson 最近在一個會議上提及這份報告,認為現在科技界對於機器學習系統的保安措施相當不足,亦缺乏應有的重視。報告訪問的 28 個機構之中,有 25 個表示不知道如何保護其機器學習系統。針對機器學習系統的攻擊一向被認為是空談而且破壞力不大,不過 Anderson 警告,其實這樣的攻擊應該被視為破壞更大系統的齒輪,可以令得到模型的完整性做到破壞,從而令系統在特定情況下誤判。

Microsoft 內部目前已經有團隊針對機器學習系統的保安進行自我攻擊測試,提升模型對抗惡意入侵干擾的能力。Anderson 在結論中表示,內部機器學習模型不應完全被信任為安全,此外寬鬆的存取政策有機會令模型被盜,導致更嚴重的後果,因此應該在應用模型前檢查模型的輸出,確保模型未被惡意干預,同時在開發過程中記錄模型行爲,常時注意有否被入侵。

來源:The Register


新增 : unwire.pro Mewe 專頁 : https://mewe.com/p/unwirepro

Tags :machine learningMicrosoft
Antony Shum

The authorAntony Shum