隨著 AI 的不斷發展，網絡安全專家越來越擔心 AI 生成的內容可能會扭曲現實，尤其是在選舉期間容易被濫用來操控輿論。雖然許多人擔心 AI 造成的影響，但有專家認為，與傳統的假新聞問題相比，這種威脅可能被誇大了。
Cisco Talos 安全小組的 Martin Lee 指出，AI 生成的內容往往含有可識別的缺陷，使其容易被分辨出來，讓人產生戒心。例如在 AI 生成的圖像中，經常會看到異常的部分，例如多出的肢體或渲染不佳的背景等等。此外雖然合成聲音可能更難辨別，但 AI 輸出的品質仍然受限於它用作訓練的數據。
Lee 認為，只要客觀看待，AI 生成的內容往往可以被識別出來。Lee 強調，識別虛假資訊可以使用傳統的方法，也就是公眾應該在相信資訊為真實之前，先檢查資訊的可信度，並使用可靠的資訊來源進行核實。他認為人們應該了解虛假資訊宣傳中使用的策略，強調獲得正確資訊和小心謹慎，是打擊虛假內容傳播的關鍵。
不過也有專家認為，AI 生成虛假資訊的問題將會是今年全球多國進行選舉時的重大風險。Appian 總裁 Matt Calkins 指出，雖然目前 AI 工具的作用有限且容易預測，但它們學習用戶喜好的能力可能會使其成為未來傳播虛假資訊的強大工具。
來源：CNBC