大型語言模型 (LLM) 的「幻覺」（即編造資訊並當作事實呈現）問題一直是企業採用這科技時遇到的困惑， AI 初創 Anthropic 行政總裁 Dario Amodei 在他們首個開發者活動 Code with Claude 上表示，現今 AI 模型產生幻覺的頻率較人類為低。
Amodei 在回應媒體查詢時指出，AI 模型的幻覺頻率雖然可能較人類低，但其幻覺方式卻更令人意外。他強調 AI 幻覺並非 Anthropic 邁向通用人工智能（AGI）道路上的限制。AGI 指擁有人類水平或更高智能的 AI 系統。
Amodei 對 AI 模型實現 AGI 的前景一向抱持樂觀態度，他去年撰寫的論文中預測 AGI 最快可於 2026 年面世。Amodei 在週四簡報會上表示正見證穩定進展，形容「水位正全面上升」。他認為人們總在尋找 AI 能力的硬性限制，但這些限制根本不存在。
業界對技術障礙看法存分歧
業界其他領袖對此持不同看法。Google DeepMind 行政總裁 Demis Hassabis 本週稍早表示，現今 AI 模型存在太多「漏洞」，經常答錯明顯問題。本月初一宗案例中，代表 Anthropic 的律師因使用 Claude 製作法庭文件引用資料，AI 聊天機器人產生幻覺導致姓名和職銜錯誤，該律師被迫在法庭上道歉。
要驗證 Amodei 的說法存在困難，因為大部分幻覺基準測試只比較不同 AI 模型之間的表現，並未將模型與人類作比較。某些技術似乎有助降低幻覺率，例如讓 AI 模型連接網絡搜尋功能。OpenAI 的 GPT-4.5 等部分 AI 模型在基準測試中的幻覺率明顯較早期系統為低。
然而有證據顯示先進推理 AI 模型的幻覺問題實際上正在惡化。OpenAI 的 o3 和 o4-mini 模型的幻覺率較該公司上一代推理模型更高，公司對箇中原因尚未完全理解。
Amodei：AI 犯錯不代表智能不足
Amodei 在簡報會後段指出，電視廣播員、政治人物和各行各業的人類都會犯錯。AI 同樣會犯錯並不代表其智能有所不足。不過他承認 AI 模型以極高信心將不實資訊當作事實呈現可能構成問題。
Anthropic 對 AI 模型欺騙人類的傾向進行了大量研究，這問題在該公司最近推出的 Claude Opus 4 中尤其明顯。獲准提前測試該 AI 模型的安全機構 Apollo Research 發現，Claude Opus 4 早期版本展現出高度對抗人類和欺騙人類的傾向。Apollo 甚至建議 Anthropic 不應發布該早期模型。Anthropic 表示已制定緩解措施處理 Apollo 提出的問題。
Amodei 的言論顯示 Anthropic 可能認為即使 AI 模型仍會產生幻覺，只要達到人類智能水平便可視為 AGI。不過按照許多人對 AGI 的定義，會產生幻覺的 AI 可能仍未達標。
企業仍需審慎評估 AI 風險
企業面對 AI 技術快速發展，需要審慎評估其應用潛力和限制。AI 幻覺問題直接影響企業採用 AI 系統的決策，特別是在法律、醫療和金融等要求高準確度的行業。企業可考慮建立多重驗證機制，結合人工審核和 AI 輔助，確保資訊準確性。
隨著 AI 技術持續進步，企業應密切關注幻覺率改善情況和新技術發展。投資 AI 培訓和建立內部指引將有助企業在保持競爭力的同時降低風險。預期未來 2 至 3 年內，AI 幻覺問題的解決方案將更趨成熟，企業應及早制定相應策略，把握 AI 帶來的商機。
來源：TechCrunch
