科技界名人聯署呼籲暫停開發「比 GPT-4 更強」的 AI 系統

ChatGPT 引爆與生成式 AI 的議題後,週邊的不同應用陸續推出,不過同時也引起對技術發展的爭議。最近有過千名科技界名人聯署,呼籲暫停開發 AI 系統,應先發展相關安全協定,確保 AI 技術發展不會失控,對社會造成無法挽救的傷害。

今次的聯署是由非牟利頭痛 Future of Life Institute 發表,有多名科技界和學術界名人,包括 Elon Musk、Steve Wozniak、Yoshua Bengio 和 Gary Marcus 等超過 1,000 人聯署。其內容指責最近幾個月 AI 開發商進入了一個失控的競爭局面,不斷嘗試開發更強大的 AI 模型,不過同時未能對其產品作全面理解、預測和控制。

信中提到,AI 模型的效能並非唯一帶來風險的部分,當它被濫用作冒充和虛假消息的製作時,禍害更加令人擔心。他們認為,只有當確認強大的 AI 系統可以帶來正面作用,而且其風險是可以控制的時候,才應該繼續開發技術。他們呼籲 AI 開發商暫停開發 AI 半年,讓業界和政府先對相關技術制定管理框架和協定,然後才繼續發展。

不過有評論就認為,與其着眼於未來的假設性風險,業界應該首先應對已經出現的問題,而且透過公開信呼籲並沒有實際用途,科技界應該透過互聯網治理論壇甚至聯合國教科文組織來推動監管。

來源:Future of Life