快速發展的 AI 技術在帶來好處的同時，也同時引起不少隱憂，不少國家都已經趕緊制定不同的措施對其安全性進行監管。英國方面也宣佈開發「量化安全保證」系統，防止高風險 AI 應用出事。
英國高級研究與發明局 (ARIA) 最近表示，他們展開了一個新計劃，為 AI 技術引入類似核電和客運航空安全標準的「量化安全保證」系統，這類標準採用或然率保證方式，確保其運作出現問題的可能性低至可接受水平，從而達到「守門員」的作用。這個系統將會斥資 5,900 萬英鎊開發，目標是開發出針對特定範疇的可擴展概念驗證，包括電網管理和供應鏈最佳化等。
ARIA 項目總監 David Dalrymple 在 AI 技術安全上有不少研究經驗，其「守門人」理論也在今次計劃中有着重要的地位，結合學術研究的嚴謹數學推理和商業人工智能開發的實際應用重點，希望可以在能夠讓 AI 優勢得以發揮的同時，同時確保技術被安全地控制在嚴格且可科學驗證的標準框架內。
英國近來對於 AI 發展採取比較開放的態度，相對於歐盟嚴格的監管態度，其監管強調發揮技術優勢的空間，但也不是完全放棄保障安全，特別在一些不容許發生失誤的應用範疇，類似今次計劃的審查標準系統就相當重要。
來源：TNW
