人工智能發展正值存亡之秋。在全球 AI 影響峰會上，學界泰斗 Stuart Russell 與 Yoshua Bengio 同聲譴責科技巨頭無視生存風險，執迷於「軍備競賽」。從超級智能奪權的憂慮，到安全投資與性能開發 1:1000 的極端失衡，專家警告人類文明正淪為企業競爭下的籌碼。隨著技術鴻溝擴大與全球監管分歧，各國能否及時聯手約束這頭失控的巨獸？
AI 安全
OpenAI 正公開招聘「準備就緒總監」（Head of Preparedness），提供 55.5 萬美元（約港幣 431 萬元）年薪及股權激勵。該職位主要負責研究及應對人工智能模型帶來的新興風險，範疇涵蓋網絡安全漏洞、心理健康影響及生物科技能力等敏感領域。行政總裁 Sam Altman 在社交平台 X 承認，公司的 AI 模型「正開始呈現真正挑戰」，並形容此為一份「壓力極大的工作」。
研究發現 AI 「求生」會故意答錯問題，文中 4 款主流模型都有同樣的特性，存在「欺騙行為」暗中違背人類指令。新技術能將 AI 欺騙風險降低 30 倍。本文剖析此技術突破對企業 AI 風險管理的重要性，以及企業應如何部署相應的防護機制