遞歸自我改進

OpenAI 於本週一發表一套前沿人工智能安全建議，把焦點放在對齊研究與「遞歸自我改進」兩大課題，呼籲美國牽頭，聯同全球約 10 個國家的人工智能安全研究所制訂共同技術標準，OpenAI 承認完全自主的遞歸自我改進至今仍未出現，但業界過去 2 個月接連披露智能代理失控個案，Anthropic 亦公開自家模型已主導約 26% 的內部研發工作，顯示「由人工智能開發人工智能」正由理論走向工程現實，安全標準的制訂明顯落後於技術進度。