Claude 開發商 Anthropic 確認，正向美國國會部分議員傳閱一份前沿 AI 監管法案草案，期望能填補聯邦層面至今未有立法處理 AI 風險的空白。據報道，草案訂明只有當模型構成迫在眉睫的風險，可能造成超過 10 億美元（約港幣 78 億元）損失，或令超過 50 人死亡或嚴重受傷，華府才可阻止模型發布或使用，而且必須得到法官批准；模型風險則交由向美國商務部登記的獨立機構評估。草案若成法，由誰為前沿模型把關、在甚麼情況下可叫停模型都會有明確程序，依賴這些模型的企業，在供應穩定及對供應商的合規要求上都可能受影響。
門檻定於 10 億美元損失或 50 人傷亡
據 Politico 引述 3 名知情人士報道，草案把政府干預的條件定得相當窄：前沿模型必須構成可預見而且迫在眉睫的風險，可能造成超過 10 億美元損失，或令超過 50 人死亡或嚴重受傷，政府才可介入。單是金額或人數達標仍不足夠，相關風險亦必須源自 3 種情況之一，即製造或釋放生物武器、模型脫離開發者控制，或網絡攻擊。
按這個設計，草案針對大規模災難式風險，模型日常出錯或表現不穩應不會觸發叫停機制。有報道指，這套門檻用語與加州 AI 安全法例（包括去年簽署成法的 SB 53）相近。
評估交商務部登記機構，72 小時內通報
評估模型風險的工作不由政府直接負責。草案會在美國商務部之下設立獨立評估機構登記制度，由已登記的機構定期評估 AI 實驗室及其前沿模型。AI 公司可以付費聘用評估機構，但報酬不可與評估結果掛鈎，以免出現付錢換取合格的情況。評估機構如認定模型構成草案所列的迫近風險，須在完成評估後 72 小時內通知商務部。
Anthropic 發言人表示，草案反映公司在「先進 AI 框架」（Advanced AI Framework）提出的建議，會要求前沿開發商測試最強大的模型、向公眾公開結果、接受獨立評估，並維持穩健的保安計劃。按 Anthropic 本月較早前公布的框架，這類規則只應適用於訓練運算量超過 10²⁵ FLOPs 的模型，而且開發商的 AI 相關收入超過 5 億美元（約港幣 39 億元），或 AI 研發開支超過 10 億美元；違規的民事罰款與全球年收入掛鈎，並隨重複違規遞增。惟這些數字出自框架，草案有否照搬未見報道。
只有華盛頓聯邦法官可叫停模型
叫停權方面，草案把權力集中在一個法院。商務部認定風險達到法定標準後，可向華盛頓的哥倫比亞特區聯邦地區法院申請暫停模型發布或使用，只有該法院的法官可以下令；條文亦明確禁止任何其他政府部門、機構或官員自行叫停 AI 模型的開發、部署或內部使用。
Anthropic 今年與華府關係並不順利，特朗普（Donald Trump）政府 2 月禁止 Anthropic 參與五角大樓（Pentagon）業務，6 月更迫令其暫停最先進模型近 3 星期。有這個先例，叫停程序如何設計對企業用戶的影響更直接：叫停要經單一法院審理，代表監管行動有既定程序可循，相比由不同部門各自出手，可能較易預測。但報道未交代 10 億美元損失如何計算、法院審理需時多久，以及暫停期間模型 API 及企業客戶服務如何處理，這些正是企業評估供應風險時最需要的細節。
草案將凌駕州法，智庫指比 FRONTIER Act 弱
報道指草案亦會凌駕部分州法，例如加州現行法例。Anthropic 6 月曾表示，在沒有強而有力的聯邦法律下，各州應保留全面立法權；其框架亦寫明，除非國會制定至少與框架同樣嚴格的聯邦法律，否則不應凌駕州法。草案是否已達到這個標準未有資料，但 Anthropic 一方面主張保留州權，另一方面推介一份會凌駕州法的草案，兩者之間難免有張力。
智庫對草案的評價有褒有貶。智庫 Institute for Law & AI 的 Charlie Bullock 認為建議「相當合理」，比其他前沿實驗室做得多；但他在 X 指，草案比今年夏天在眾議院提出的競爭法案 FRONTIER Act 弱。截至發稿時，草案仍未正式提交國會，亦未進入立法程序；國會至今未通過任何聯邦 AI 法，並休會至下月中期選舉之後。
依賴前沿模型的企業要預備備援與合約條款
對香港企業而言，這份草案最直接的意義在供應風險。前沿模型一旦經法院下令暫停，依賴該模型 API 的客服、程式開發或內部知識庫服務可能隨即中斷；Anthropic 6 月被迫暫停模型近 3 星期，已說明監管干預可以令前沿模型停用一段時間。CIO 及 IT Manager 可為關鍵流程預備第二個模型供應商作備援，並定期測試切換，確保提示詞、評估基準及資料管道可以轉移，不要只依賴單一前沿模型。
採購主管則可在合約加入服務中斷通知及補救條款，並要求供應商披露獨立評估結果及公開風險報告；草案要求的定期評估及 72 小時通報如果成法，這類資料理應更容易取得。草案報道未有交代適用範圍。若參考上文 Anthropic 框架只規管大型前沿開發商的建議，企業可向主要模型供應商查詢會否受日後的評估及通報要求影響，以及受影響時服務有何安排。
一家前沿 AI 公司主動起草規管自己的法例，反映 Anthropic 希望把監管定為可預測的程序，避免政府臨時出手；草案最終會否提出、內容會否修改，仍要看國會選後的取態。
