OpenAI 於本週一發表一套前沿人工智能安全建議，把焦點放在對齊研究與「遞歸自我改進」兩大課題，呼籲美國牽頭，聯同全球約 10 個國家的人工智能安全研究所制訂共同技術標準，OpenAI 承認完全自主的遞歸自我改進至今仍未出現，但業界過去 2 個月接連披露智能代理失控個案，Anthropic 亦公開自家模型已主導約 26% 的內部研發工作，顯示「由人工智能開發人工智能」正由理論走向工程現實，安全標準的制訂明顯落後於技術進度。
AI Safety
Anthropic 行政總裁 Dario Amodei 本周發表長達近 2 萬字文章，直言人類社會即將面臨人工智能帶來的空前挑戰，包括大規模失業、生物恐怖主義，甚至全球極權統治等風險，呼籲各界正視 AI 發展可能帶來的災難後果。這篇題為《科技的青春期》（The Adolescence of Technology）的文章，標誌着 AI 產業內部最具影響力領袖之一，對現行 AI 保障措施發出嚴厲警告，認為人類社會政治、社會及技術體系，未必具備足夠成熟度去駕馭這項幾乎無法想像的力量。