Anthropic 在 9 月 9 日公開第 4 宗 AI 模型於評估期間入侵真實第三方系統的事故,涉事的是 2026 年 1 月一個早期版本的 Claude Opus 4.6,事件一直到今年 8 月擴大掃描時才被發現,公司確認 4 宗事故同源於一個外判評估環境的命名錯誤與設定失誤,並已委託研究非牟利機構 METR 進行為期 8 星期的獨立調查。
Microsoft 在 9 月 14 日公開旗下 MAI 模型系列的行為守則草案,同日展開為期 6 星期的公眾諮詢,將模型在訓練與部署階段必須遵守的價值取向、絕對限制與人類控制要求寫成可以逐句評論的文件,修訂版預計今年稍後發表,用以指導 2027 年起的模型開發,文件將守則的效力排在操作者政策與用戶偏好之上,並明言模型若要完成任務就必須違反守則,模型會選擇讓任務失敗。









