美國商務部轄下的 Center for AI Standards and Innovation(CAISI)於 7 月 20 日確認主管 Chris Fall 請辭,他 4 月才上任,任期僅約 3 個月,商務部沒有交代原因,並宣布 National Institute of Standards and Technology(NIST)總監 Arvind Raman 兼任代理主管,這家制訂前沿 AI 測試標準的聯邦機構半年內第二度失去正式領導,時值華府考慮限制中國開源模型、月之暗面 Kimi K3 等產品以更低價格搶佔美國企業市場之際。人事與監管的雙重不確定性,正對商界採購 AI 模型帶來新的變數。
Anthropic 行政總裁 Dario Amodei 本周發表長達近 2 萬字文章,直言人類社會即將面臨人工智能帶來的空前挑戰,包括大規模失業、生物恐怖主義,甚至全球極權統治等風險,呼籲各界正視 AI 發展可能帶來的災難後果。這篇題為《科技的青春期》(The Adolescence of Technology)的文章,標誌着 AI 產業內部最具影響力領袖之一,對現行 AI 保障措施發出嚴厲警告,認為人類社會政治、社會及技術體系,未必具備足夠成熟度去駕馭這項幾乎無法想像的力量。
OpenAI 正公開招聘「準備就緒總監」(Head of Preparedness),提供 55.5 萬美元(約港幣 431 萬元)年薪及股權激勵。該職位主要負責研究及應對人工智能模型帶來的新興風險,範疇涵蓋網絡安全漏洞、心理健康影響及生物科技能力等敏感領域。行政總裁 Sam Altman 在社交平台 X 承認,公司的 AI 模型「正開始呈現真正挑戰」,並形容此為一份「壓力極大的工作」。