OpenAI 於本週一發表一套前沿人工智能安全建議,把焦點放在對齊研究與「遞歸自我改進」兩大課題,呼籲美國牽頭,聯同全球約 10 個國家的人工智能安全研究所制訂共同技術標準,OpenAI 承認完全自主的遞歸自我改進至今仍未出現,但業界過去 2 個月接連披露智能代理失控個案,Anthropic 亦公開自家模型已主導約 26% 的內部研發工作,顯示「由人工智能開發人工智能」正由理論走向工程現實,安全標準的制訂明顯落後於技術進度。
中國人工智能公司智譜本周一(9 月 21 日)在 GitHub 公開旗下 AI 編程工具 ZCode 的原始碼,並推出移除 Repo Wiki 功能的 v3.14.0 版本,回應開發者揭發該工具在用戶不知情下,把整個工作區連同完整 Git 歷史加密上傳至阿里雲的事件,中國資訊通信研究院與綠盟科技的審計確認涉事儲存桶已清空,但公開倉庫只留下 2 個提交,負責上傳的程式碼與開發紀錄一併消失,外界仍無法獨立核實此前上傳數據的去向。事件繼 7 月 xAI 的 Grok Build 之後再次顯示,AI 編程代理正成為開發者電腦上權限最高,卻最難監察的軟件。









