Microsoft 報告指機器學習系統保安不容忽視

Microsoft 去年訪問了 28 間機構，調查他們對於機器學習系統保安的看法，結果發現不少企業對這方面的保安措施都未有足夠重視，因此報告提醒機構應該更加小心。

Microsoft 的 Azure 首席架構師 Hyrum Anderson 最近在一個會議上提及這份報告，認為現在科技界對於機器學習系統的保安措施相當不足，亦缺乏應有的重視。報告訪問的 28 個機構之中，有 25 個表示不知道如何保護其機器學習系統。針對機器學習系統的攻擊一向被認為是空談而且破壞力不大，不過 Anderson 警告，其實這樣的攻擊應該被視為破壞更大系統的齒輪，可以令得到模型的完整性做到破壞，從而令系統在特定情況下誤判。

Microsoft 內部目前已經有團隊針對機器學習系統的保安進行自我攻擊測試，提升模型對抗惡意入侵干擾的能力。Anderson 在結論中表示，內部機器學習模型不應完全被信任為安全，此外寬鬆的存取政策有機會令模型被盜，導致更嚴重的後果，因此應該在應用模型前檢查模型的輸出，確保模型未被惡意干預，同時在開發過程中記錄模型行爲，常時注意有否被入侵。