AI 普及化之後，AI 生成的垃圾內容也困擾着不同行業，最近有網絡安全研究人員就揭露了一個名為 AkiraBot 的人工智能平台，被用於向網站聊天功能、評論區和聯絡表格發送垃圾內容，推廣包括 Akira 和 ServicewrapGO 在內的可疑搜尋引擎最佳化（SEO）服務。
根據 SentinelOne 研究人員 Alex Delamotte 和 Jim Walter 的報告，自 2024 年 9 月以來，AkiraBot 已經攻擊了超過 40 萬個網站，並成功向至少 8 萬個網站發送了垃圾內容。AkiraBot 是一個基於 Python 的框架，其最大特點在於利用 OpenAI 的大型語言模型（LLMs）生成自訂的外聯資訊，並能夠根據目標網站的用途調整內容。這種 AI 生成的垃圾內容能夠繞過傳統的垃圾郵件過濾器，使其比常規垃圾郵件工具更為有效。
該工具據稱自 2024 年 9 月開始投入使用，最初名為「Shopbot」，似乎是針對使用 Shopify 的網站。隨著時間推移，AkiraBot 擴大了其目標範圍，開始包括使用 GoDaddy、Wix 和 Squarespace 開發的網站，以及那些具有通用聯絡表格和使用 Reamaze 構建的實時聊天小工具的網站。
AkiraBot 的生成垃圾內容功能是透過利用 OpenAI API 實現的。工具還提供圖形用戶界面（GUI），允許選擇要攻擊的網站清單並自定義同時攻擊的數量。研究人員發現，AkiraBot 使用 gpt-4o-mini 模型，並被賦予「生成營銷資訊的有幫助的助手」的角色。
更值得注意的是，此服務能夠規避 CAPTCHA 障礙，大規模向網站發送垃圾內容，並通過依賴通常提供給廣告商的代理服務來逃避基於網絡的檢測。它針對的 CAPTCHA 服務包括 hCAPTCHA、reCAPTCHA 和 Cloudflare Turnstile。為實現這目的，該機械人的網絡流量被設計成模仿合法的終端用戶，並使用來自 SmartProxy 的不同代理主機來掩蓋流量來源。
根據研究結果，OpenAI 已禁用了威脅行為者使用的 API 密鑰和其他相關資產。此外，研究人員還發現了另一個名為 Xanthorox AI 的網絡犯罪工具，它被宣傳為處理代碼生成、惡意軟件開發、漏洞利用和數據分析的多合一聊天機械人。
垃圾內容難以識別
AkiraBot 的出現對企業，尤其是中小型企業帶來了嚴峻的挑戰。首先，這類 AI 驅動的垃圾內容更難被傳統安全措施識別，因為它們能產生看似個人化且相關的資訊。這意味著企業需要重新評估並加強其數字安全策略。
具體而言，企業應採取以下措施來保護自己：升級聯絡表格和聊天工具的防護機制，不僅依賴 CAPTCHA，還應考慮更先進的用戶行為分析和威脅檢測系統；實施多層次的安全措施，包括基於 IP 的過濾器、內容分析工具和用戶互動模式監控；定期審查網站上的評論和資訊，特別是與 SEO 服務相關的可疑促銷內容；培訓員工識別可能由 AI 生成的可疑資訊，尤其是那些推廣不請自來的 SEO 服務的資訊。
此外，企業還可以從這一事件中汲取經驗，改進自身的網絡安全策略。例如，可以與網絡安全專家合作，開發針對 AI 生成內容的檢測工具；使用更先進的網站管理系統，其中包含對可疑活動的自動檢測和阻止功能；對網站的聯絡表格和聊天功能實施更嚴格的訪問控制，例如對新訪問者或可疑 IP 地址的延遲響應。
對於提供網站開發和安全服務的企業，這是一個開發針對 AI 垃圾內容的專業安全解決方案的機會。隨著 AI 技術繼續發展，對能夠抵禦此類高級威脅的安全服務的需求將會增加。
AI 垃圾內容監管刻不容緩
AkiraBot 的出現，顯示了 AI 技術在網絡攻擊和防禦兩方面的快速應用。惡意行為者正在利用 AI 生成更具說服力和個人化的垃圾內容，同時安全專家也在開發基於 AI 的檢測系統來識別和阻止這些攻擊。
這種「AI 對抗 AI」的趨勢可能會成為未來網絡安全發展的主流。隨著 AI 生成技術變得更加先進，區分人類和 AI 生成的內容將變得越來越困難，需要更複雜的檢測方法。企業和安全提供商需要不斷更新其策略和工具，以跟上這個快速發展的威脅形勢。
對於企業而言，AkiraBot 的案例提醒我們 AI 技術既帶來機遇也帶來挑戰。一方面，AI 可以提高效率、促進創新；另一方面，它也可能被用於繞過安全措施和自動化攻擊。在這個複雜的環境中，企業需要採取平衡的方法：擁抱 AI 的創新潛力，同時保持警惕，防範可能的濫用。
隨著 AI 技術在網絡安全方面的應用繼續演變，企業需要保持靈活性和前瞻性。這意味著不僅要投資於當前的安全解決方案，還要關注新興趨勢，參與行業對話，並準備好快速適應不斷變化的威脅環境。只有這樣，企業才能在利用 AI 帶來的優勢的同時，有效保護自己免受 AI 驅動的威脅。
來源：Hacker News
