OpenAI 之前公佈了「Preparedness Framework」計劃，希望找出 AI 技術對社會有可能帶來的風險，從而趁早開發應對方案。最近他們的研究就發現，AI 有機會被濫用開發生化武器，但風險不比互聯網高。
OpenAI「Preparedness Framework」計劃最近一個重要研究有了結果，他們對 AI 技術對生化風險方面可能帶來的潛在影響作出評估，特別是類似 GPT-4 模型等技術是否會無意中幫助製造生化武器。而研究結果表明，GPT-4 的輔助作用等於略微提高了製造生物威脅的準確性，但與現有的互聯網資源相比微不足道。
研究涉及 100 名參與者，其中經驗豐富的生物學專業人士和受過大學生物學基礎教育的學生各佔一半結果顯示，GPT-4 並沒有顯著提高參與者在製造生化武器方面的表現，只有學生組別輕微提高了準確性。而 GPT-4 的回答有時不準確或誤導，也有可能是令效果不明顯的原因。雖然研究結論認為目前像 GPT-4 這樣的大型語言模型並不會顯著增加風險，但也強調需要持續警惕。
來源：VentureBeat
