程式開發社群一直擁抱的「開源」概念來到近年的 AI 發展，卻遇到了兩難的情況。Anthropic CEO 最近就表示，雖然近年 AI 的發展帶來不少好處，但也可能在兩三年內讓不法分子輕鬆開發生化武器。
Anthropic CEO 最近在一個聽證會上向參議員警告指，政府急須制定相關法規，在 AI 技術急速發展的同時，解決濫用強大 AI 模型所帶來的風險，尤其是在網絡安全、核技術、生化科技和工程方面的違法應用。他表示，如果不採取措施限制，可能在幾年內不法分子就可以使用能夠輕鬆開發大規模殺傷兵器的 AI 模型。
Anthropic 過去半年一直與解決網絡安全、核技術、化學和生物學等科學和工程領域濫用強大模型達到有害目的的問題。目前核彈和生化武器的理論基礎雖然都是公開，但實用化製作卻是高度機密，需要漫長的研究過程，AI 的發展很可能就可以大幅減低這個門檻，讓一般人也能夠製作武器。除了 Anthropic 之外，製藥公司 Collaboration Pharmaceuticals 也提出了類似的擔憂，表示用作製藥的 AI 技術也可以被用於開發生化武器。當然要實際取得材料製作仍有難度，但至少在理論上的門檻降低，風險也隨之增加不少。
來源：The Register
