OpenAI 尋求新方式對抗「AI 幻覺」

目前的生成式 AI 雖然相當強勁,不過卻一直存在被稱為「AI 幻覺」的問題,也就是系統會編造不存在的資料。OpenAI 就正在研究解決這個問題,消除公衆對 AI 會造成假消息傳播的疑慮。

OpenAI 表示,他們正在致力對抗「AI 幻覺」問題,嘗試用新的方式來訓練 AI 模型。這個而牛其實在生成式 AI 成為熱潮之前已經開始,發表的報告中承認,即使是最先進的 AI 模型,也一樣容易產生 AI 幻覺,在不確定內容的時候仍然會表現出「陳述事實」的傾向。一旦涉及推理的時候,這種邏輯錯誤就會令整個陳述存在問題。

OpenAI 的解決方式將會嘗試讓 AI 模型在得出答案時對每個單獨而正確的推理提供鼓勵,而非只鼓勵正確的追蹤推論,也就是更注重推理過程,這樣可以訓練出邏輯更佳的模型,遵循與真人更類似的「思維」程序。

不過 OpenAI 並未表明他們會否實際應用這個策略在新的 GPT 模型之中,其實除了 ChatGPT 之外,Google 的 Bard 也有類似問題,是否透過這個方式就可以完全解決「AI 幻覺」仍然有待觀察,不過業界其他專家對此都仍然抱有懷疑態度。

來源:CNBC