ChatGPT 引爆與生成式 AI 的議題後，週邊的不同應用陸續推出，不過同時也引起對技術發展的爭議。最近有過千名科技界名人聯署，呼籲暫停開發 AI 系統，應先發展相關安全協定，確保 AI 技術發展不會失控，對社會造成無法挽救的傷害。
今次的聯署是由非牟利頭痛 Future of Life Institute 發表，有多名科技界和學術界名人，包括 Elon Musk、Steve Wozniak、Yoshua Bengio 和 Gary Marcus 等超過 1,000 人聯署。其內容指責最近幾個月 AI 開發商進入了一個失控的競爭局面，不斷嘗試開發更強大的 AI 模型，不過同時未能對其產品作全面理解、預測和控制。
信中提到，AI 模型的效能並非唯一帶來風險的部分，當它被濫用作冒充和虛假消息的製作時，禍害更加令人擔心。他們認為，只有當確認強大的 AI 系統可以帶來正面作用，而且其風險是可以控制的時候，才應該繼續開發技術。他們呼籲 AI 開發商暫停開發 AI 半年，讓業界和政府先對相關技術制定管理框架和協定，然後才繼續發展。
不過有評論就認為，與其着眼於未來的假設性風險，業界應該首先應對已經出現的問題，而且透過公開信呼籲並沒有實際用途，科技界應該透過互聯網治理論壇甚至聯合國教科文組織來推動監管。
