AI 應用除了對企業有潛在優勢，也是黑客的有用工具，趨勢科技最近發表的資訊保安報告指出，2024 年上半年 AI 相關的網絡罪案顯著增加，愈來愈多黑客正採用 AI 技術協助犯案。
趨勢科技香港及澳門區顧問總監李浩然強調，由於黑客開始利用 AI 進行攻擊，業界必須迅速回應，在設計保安策略時考慮這些演變中的威脅。報告指出，雖然執法機構成功打擊了多個犯罪集團，如 LockBit、惡意檔案植入器網絡和濫用 Cobalt Strike 的組織，但黑客活動仍然猖獗。
趨勢科技觀察到黑客將惡意程式隱藏在正規 AI 軟件中，操縱大型語言模型，甚至提供「越獄服務」。這些服務誘騙 AI 機器人回應違反內建政策的問題，所得資料用於開發惡意程式和社交工程誘餌。2024 年上半年，深偽內容的使用也增加，用於虛擬綁架詐騙、商務電郵詐騙和繞過實名認證。
報告還指出，LockBit 仍是最活躍的勒索軟件家族，甚至發展出新變種 LockBit-NG-Dev。網絡歹徒利用奧運會和選舉等大型活動進行針對性攻擊，也利用地緣政治緊張局勢進行進階持續性攻擊，如 Earth Lusca 黑客集團利用兩岸關係進行攻擊。此外，國家資助的黑客使用精密技術入侵連網路由器，掩飾針對性攻擊，而各種犯罪集團則利用外洩憑證、缺乏監管的資源和漏洞來攻擊雲端環境。
來源：趨勢科技