英國政府委託 Lancaster University 進行大規模文獻回顧，分析近 5 年全球 AI 安全研究，發現多個「盲點」，並指出未來需要加強投資與研究 5 大範疇，以協助政府制定 AI 安全政策及投資方向。
研究背景：審視 9,100 份論文
Lancaster University 研究人員在一項政府委託主題性回顧中發現，AI 安全研究存在缺口。研究團隊獲英國 Department for Science, Innovation and Technology（DSIT）邀請，檢視全球現有 AI 安全研究，並找出「盲點」，以協助規劃 AI 安全相關研究、政策及投資方向。
團隊採用 PRISMA 方法，透過 Scopus 及 Web of Science 兩個資料庫進行關鍵字搜尋，篩選出 2021 年 1 月至 2026 年 1 月期間共 9,109 份已發表同行評審論文，並利用數據驅動技術將研究歸納為 12 個主題。值得留意的是，這次回顧只檢視英文文獻，並只納入已通過正式質素審查機制同行評審資料。
研究焦點不均：訓練期安全獨佔鰲頭
報告分析顯示，過去研究焦點分佈並不平均。「訓練期安全」（Training Time Security）及「數據／私隱風險」（Data/Privacy Risks）兩大主題明顯較其他主題獲更多關注，分別佔 41% 及 26%；至於「供應鏈漏洞」（Supply Chain Vulnerabilities）、「對齊」（Alignment）及「推論期安全」（Inference Time Security）則屬中等關注程度。
整體而言，AI 安全研究在過去 5 年持續升溫，2024 年及 2025 年合共發表逾 3,000 份論文，相比 2021 年及 2022 年每年僅約 500 份大幅增加。
5 大研究缺口 數據完整性列首位
報告揭示 5 大範疇仍需加強研究。第 1 項是「數據完整性」（Data Integrity），研究人員認為需要開發方法，正式保證或驗證 AI 系統所用數據完整性，包括安全性、真確性及保安，例如訓練 AI 模型所用數據。報告同時指出，這個範疇亦包括透過驗證系統組件，例如模型本身，保障供應鏈安全。
第 2 項缺口涉及 AI 系統基礎設施安全。研究人員認為業界需投放更多研究資源，深入了解生成式或自主式 AI（agentic-AI）系統背後基礎設施，探討新興 AI 系統，例如大型語言模型運作方式。報告整體亦指出，系統基礎設施安全，以及應用終端或系統生命週期末段產生風險，均屬需要進一步關注主題。
對企業意味著甚麼
對企業而言，這份報告反映 AI 安全管理不應只集中於模型效能或應用程式層面，而要延伸至數據來源、模型供應鏈、基礎設施、部署環境及生命週期管理。企業若正導入生成式 AI 或自主式 AI 系統，需重新審視內部管治框架，包括訓練數據驗證、第三方模型風險評估、存取權限控制、日誌監察、事故應變及系統退役安排。隨着監管機構逐步關注 AI 安全盲點，企業及早建立可審計安全流程，有助降低合規、私隱及營運風險，同時提升客戶與合作夥伴對 AI 應用信任。
學者：AI 安全不止關乎模型本身
負責領導研究學者強調，AI 安全挑戰遠超模型設計本身。報告主要作者、Lancaster University 計算與通訊學院研究員 Dr Edward Austin 表示，回顧結果顯示 AI 網絡安全並非只限於模型本身，仍需要更多研究理解及保障這些系統在整個生命週期安全。隨着社會採用 AI 持續增加，這對技術安全使用至關重要。
研究項目由 Lancaster University 科學與技術學院副院長（研究）、網絡系統學教授 Nick Race 領導。他表示，團隊很高興獲 DSIT 邀請主導這次 AI 安全研究領域回顧，藉此支援政府提升英國網絡韌性工作。報告另一位作者為 Lancaster University 計算與通訊學院 Dr Tessa Wilkie。
值得留意的是，此報告屬於 DSIT 委託獨立研究，報告所表達觀點並不代表英國政府政策，研究結果由 Lancaster University 主導研究團隊得出。
來源: Gov.uk
