Microsoft 最近偵測到黑客利用大型語言模型生成惡意程式碼，成功繞過傳統保安系統，向美國企業發動網絡釣魚攻擊。該公司威脅情報團隊發現攻擊者使用 SVG 檔案隱藏惡意程式，透過商業術語和合成結構掩飾攻擊意圖。事件反映人工智能技術正改變網絡威脅格局，企業必須重新審視現有防護措施。
AI 技術助長網絡釣魚規模急增
2022 年至 2024 年期間，黑客釣魚攻擊數量增長 1,000%，主要針對用戶憑證。自 2022 年 ChatGPT 推出後，釣魚攻擊總量激增 4,151%。研究顯示 2024 年有 75% 網絡攻擊由釣魚郵件開始，證明電郵仍然是黑客首選入侵途徑。
網絡保安公司 Hoxhunt 研究發現，AI 代理程式在 2025 年 3 月首次創建比人類紅隊更有效的模擬釣魚活動，成功率高出 24%。從 2023 年到 2025 年 2 月，AI 釣魚效能相對精英人類紅隊提升 55%，標誌威脅格局出現根本改變。
SpyCloud 最新報告指出，釣魚攻擊已超越所有其他攻擊媒介，佔受影響組織 35%，高於 2024 年的 25%。94% 財富 50 強企業受員工釣魚暴露影響，黑客正利用竊取的憑證、會話 cookie 和個人識別資料發動攻擊。
攻擊手法日趨精密難以識別
Microsoft 在 2025 年 8 月 28 日偵測到的攻擊展示黑客如何運用 AI 工具。攻擊者使用已入侵的商業電郵帳戶發送釣魚訊息，發件人和收件人地址相同，實際目標則隱藏在密件副本欄位，企圖繞過基本偵測機制。
附件偽裝成 PDF 檔案，實際上是 SVG 檔案，因為 SVG 檔案以文字為基礎且可編寫腳本，允許直接嵌入 JavaScript 和其他動態內容。攻擊者巧妙運用商業相關語言掩飾惡意內容，SVG 程式碼開頭結構看似合法商業分析儀表板，實際上是誘餌。
Microsoft 使用 Security Copilot 分析該檔案，發現程式碼具有過度描述的變數和函數名稱、過度設計的程式碼結構、樣板註釋等特徵，強烈顯示由 LLM 生成。分析團隊認為程式碼並非人類從頭編寫，因為其複雜性、冗長性和缺乏實用性。
新型攻擊策略包括利用 AI 平台託管假驗證碼頁面。Trend Micro 追蹤到自 1 月以來，釣魚活動激增，使用 AI 驅動平台（Lovable、Netlify、Vercel）託管假驗證碼頁面，引導至釣魚網站。受害者首先看到驗證碼，降低懷疑，而自動掃描器只偵測到挑戰頁面，錯過隱藏的憑證收集重定向。
企業面臨多重安全挑戰
LLM 技術引入獨特安全風險。OWASP 在 2023 年底發布 LLM 應用程式十大風險，由近 500 名專家和超過 125 名活躍貢獻者共同制定。主要威脅包括提示注入、不安全輸出處理和模型盜竊等。
提示注入涉及在模型提示中插入惡意輸入，欺騙其生成有害或不當內容。Samsung 數據洩露事件展示提示注入的潛在危害，該公司隨後限制 ChatGPT 使用，突顯語言模型保留敏感資料的風險。
模型盜竊涉及未經授權存取、複製或外洩專有 LLM 模型，可能導致經濟損失、競爭優勢受損和未經授權存取敏感資料。LLM 供應鏈漏洞在受損組件、服務或數據集破壞系統完整性時出現，導致數據洩露、偏見輸出或系統故障。
企業還面對訓練數據中毒威脅。攻擊者將操縱數據注入 LLM 訓練或微調過程，巧妙改變其行為以引入偏見、後門或漏洞。因為中毒數據的影響在訓練期間深深嵌入模型，部署後糾正極其困難。
防護策略需要全面升級
企業必須採取多層防禦策略應對 AI 驅動威脅。研究發現整合 AI 偵測工具是識別和報告 AI 驅動釣魚嘗試最有效方法。組織需要部署能夠分析重定向鏈的防禦系統，而非僅掃描初始頁面。
員工培訓仍然關鍵。基於行為的培訓對 AI 和人類生成的攻擊都提供明確保護，對 AI 的保護尤其顯著。企業應該教育員工識別基於驗證碼的釣魚嘗試，包括在與驗證碼互動前驗證 URL。
技術防護措施包括實施速率限制控制單個用戶或 IP 地址在特定時間內的請求數量，部署負載平衡將負載分散到模型的多個實例。輸入驗證機制防止惡意或不當輸入影響 LLM 操作，這些檢查確保只處理有效數據，保護模型免受提示注入和其他基於輸入的攻擊。
組織必須整合主動措施對抗這些風險，包括安全訓練數據、強大基礎設施和定期更新。對抗性訓練涉及在訓練階段向 LLM 暴露對抗性範例，增強其抵禦攻擊的能力。
未來發展趨勢值得關注
網絡威脅格局持續演變。深偽音訊和影片釣魚已經成為新興威脅，隨著 AI 語音克隆改進，基於電話的詐騙也將上升。CERT-UA 披露名為 LAMEHUG 的新型惡意軟件，透過 Hugging Face API 查詢 Qwen 2.5-Coder-32B-Instruct 模型，生成適合當前環境的 Windows 命令提示指令。
Cybersecurity Ventures 預測到 2025 年，網絡犯罪將每年給全球造成 10.5 萬億美元（約港幣 81.9 萬億元）損失，從 2015 年的 3 萬億美元（約港幣 23.4 萬億元）大幅增加，增長很大程度歸因於 LLM 等先進技術的使用。
業界專家指出，雖然 AI 生成的混淆技術經常引入合成偽影，這些偽影可以成為新的偵測訊號。使用 LLM 有時可能使攻擊更容易偵測，而不是更難。企業需要持續更新事件響應計劃以反映新的網絡安全威脅，適應大型語言模型的技術進步。
香港企業尤其需要加強防範，因為亞太地區企業數碼轉型速度快，成為黑客重點目標。建議企業立即檢視現有保安措施，評估 AI 相關風險，制定相應防護策略。除了技術防護，企業文化和員工意識同樣重要，需要建立全方位防護體系。
來與：Microsoft
