研究機構 Forrester 最新發表報告顯示，生成式 AI 已經成為網絡攻擊者手中的「混亂製造者」，令企業網絡安全面臨前所未有的威脅。哥倫比亞大學 Tow 數碼新聞中心研究發現，包括 ChatGPT 和 Gemini 在內的 8 個 AI 模型整體錯誤率達到 60%。卡內基梅隆大學研究人員測試顯示，AI 代理在真實企業任務中的失敗率介乎 70% 至 90%。
英國消費者權益組織 Which? 最新測試顯示，主流 AI 聊天機械人回答消費者查詢時錯誤率極高，但近半使用者仍對這些工具抱有過高信任。研究團隊測試 ChatGPT、Google Gemini、Microsoft Copilot、Meta AI 及 Perplexity 等 6 款工具，發現準確率介乎 50% 至 71%，當中 Meta AI 表現最差，正確率僅約 51%，而全球最多人使用的 ChatGPT 準確率亦只有 64%，排名倒數第二。
