close
人工智能業界消息

Anthropic 上市文件警告:未來模型或快達「AI 加速研發」門檻 現有模型未越線


創新貼紙分發與協作概念示意,兩隻手在移動白色貼紙於淺綠背景.

Anthropic 於 11 月 2 日向美國證監會(SEC)遞交修訂上市申請文件 S-1/A,在風險因素新增披露,指內部估算及對未來模型的預期顯示,公司「可能快將」(may imminently)達到其 Responsible Scaling Policy(RSP)所定義的「由 AI 帶來的大幅加速進展」。Anthropic 同時強調,目前未有任何現有模型被判定超過這個門檻,公司仍在評估相關數據。

Anthropic S-1/A 新增甚麼 AI 研發風險披露

Anthropic 在 S-1/A 承認,公司愈來愈多用 AI 加快自家研發,模型能力進步速度可能快過公司開發、驗證及實施相應安全、對齊及保安措施的速度。文件指,有關 AI 加速研發步伐的證據大多來自滯後指標,公司預測或量度能力進步速度的能力有限,「過去曾經未能及時發現研發速度顯著加快,直至事後才察覺,將來亦可能如此」。

文件又提到,Anthropic 正評估達到 AI 研發能力門檻的影響,並會按 RSP 日後發表進一步報告。如果模型能力跑贏安全措施,或公司未能預計進步速度,可能增加安全事故、監管介入或聲譽受損的機會,並影響業務及財務表現。

RSP「大幅加速進展」門檻如何定義

Anthropic RSP 第 3.4 版(2026 年 7 月 8 日生效)把 AI 研發門檻分為兩種情況:模型能以具競爭力的成本(5 倍以內)完全取代公司全體研究科學家及研究工程師;或 AI 進展因 AI 研發自動化而大幅加速。後者指公司觀察到或預期 AI 整體能力的進步速度,比沒有 AI 重大參與研發時的預期速度及最快持續速度快一倍,並且這個倍增可合理歸因於研究或工程自動化。

RSP 註明,「快一倍」指一年內取得基準情況下兩年的進展,而不是研究人員生產力倍增。RSP 亦寫明,這個門檻旨在捕捉「劇烈遞歸自我改進」(recursive self-improvement)的開端,但一直難以量化操作。

Anthropic 不打算讓 Claude 無人監督自建下一代模型

Anthropic 在同一份文件表示,不預期可以在缺乏有意義的人類監督或理解下,安全地讓 Claude 完全自主設計及建造一代又一代的前沿模型,即使技術上可行亦然,因此正考慮更新 RSP,確保 Anthropic 開發前沿模型時由人類掌控。文件亦提到,過去的預防措施包括延遲推出模型及限制初期供應,例如透過 Project Glasswing 有限度提供 Mythos,日後措施或會更頻密、成本更高,並可能令公司進度落後於沒有類似限制的對手。

Claude 在 Anthropic 內部寫多少程式碼

S-1/A 顯示 Anthropic 內部已大量依賴 Claude。2026 年 9 月公司程式碼庫逾 90% 的貢獻由 Claude 撰寫;截至 2026 年 9 月 30 日止三個月,每名工程師平均每日貢獻的程式碼量,是截至 2024 年 12 月 31 日止年度平均的 45 倍以上。按定價計算,公司內部使用 Claude 的價值由 2026 年 1 月至 9 月增長逾 250 倍,並於 2026 年 4 月首次超過每月人事開支(不包括股份薪酬)。

TechCrunch 提醒,S-1 既是向投資者披露風險的文件,同時亦帶宣傳成分。對採用 Claude 的企業而言,這份文件反映供應商自己承認模型迭代速度可能快過其安全評估,日後亦可能因安全理由延遲推出或限制供應新模型;企業在採購及治理上,宜留意 Anthropic 按 RSP 發表的後續報告。

資料來源:Anthropic S-1/A(SEC EDGAR)、Anthropic Responsible Scaling Policy、TechCrunch

Tags : AI 安全AnthropicClaudeipoResponsible Scaling Policy