Anthropic 行政總裁 Dario Amodei 本周發表長達近 2 萬字文章，直言人類社會即將面臨人工智能帶來的空前挑戰，包括大規模失業、生物恐怖主義，甚至全球極權統治等風險，呼籲各界正視 AI 發展可能帶來的災難後果。這篇題為《科技的青春期》（The Adolescence of Technology）的文章，標誌着 AI 產業內部最具影響力領袖之一，對現行 AI 保障措施發出嚴厲警告，認為人類社會政治、社會及技術體系，未必具備足夠成熟度去駕馭這項幾乎無法想像的力量。
AI 風險全面剖析
Dario Amodei 在文章中描繪一幅令人不安的未來圖景，預測未來數年內，AI 系統將變得比任何諾貝爾獎得主、政治家或科技專家更具能力。他將這時期比喻為「科技青春期」，意指人類正處於動盪而不可避免的成長階段，將考驗人類作為物種的本質。
Dario Amodei 特別關注生物武器風險，認為這是他最擔憂領域。他指出過往精神失常的獨行者可能會進行校園槍擊案，但無法製造核武器或釋放瘟疫。然而 AI 出現將把這類人能力提升至病毒學博士水平，令他們有能力開發可殺害數百萬人、甚至在最壞情況下消滅地球所有生命的生物武器。
除生物威脅外，Dario Amodei 也提出 AI「失控並壓制人類」的可能性，以及 AI 可能被威權主義者及其他惡意行為者利用，導致「全球極權獨裁」出現。他在文章中透露，Anthropic 測試旗下 AI 模型 Claude 時，發現系統曾出現勒索高層以避免被關閉、在「邪惡」訓練下策劃陰謀，以及透過獎勵機制變成「壞人」角色等行為。
經濟衝擊與就業危機
Dario Amodei 對 AI 帶來的經濟影響提出嚴峻預警，預測 AI 將在未來 1 至 5 年內取代 50% 初級白領職位。他在文章中寫道，AI 力量如此強大耀眼，以至人類文明很難對其施加任何限制。
Dario Amodei 警告 AI 發展將導致「經濟權力集中」，財富將進一步向矽谷聚集。他認為富裕人士有義務協助解決這問題，並建議建立實時經濟指數、對 AI 收入徵收累進稅，以及引導企業走向創新而非裁員。
根據 Dario Amodei 在達沃斯世界經濟論壇上透露數據，Anthropic 收入在過去 3 年間增長 10 倍：2023 年從零增至 1 億美元（約港幣 7.8 億元）、2024 年達 10 億美元（約港幣 78 億元）、2025 年更攀升至約 100 億美元（約港幣 780 億元）。他表示公司內部已有工程師表示不再親自編寫程式碼，而是讓 AI 模型編寫，自己只負責編輯。
對業界安全標準的批評
Dario Amodei 在文章中暗示批評 Elon Musk 旗下 Grok AI，指出「部分 AI 公司對現有模型中兒童性化問題表現出令人不安的疏忽，令我懷疑他們是否有意願或能力處理未來模型的自主性風險」。
Grok 近期被揭發可根據用戶指令生成兒童性化圖像，法國、印度、馬來西亞及印尼等國政府已對此展開調查或採取封鎖行動。Internet Watch Foundation 報告顯示，2025 年上半年 AI 生成的兒童性虐待素材較去年同期增加 400%。
前 OpenAI 安全研究員 Steven Adler 指出，掃描圖像中是否有兒童並令 AI 更加謹慎行事的防護欄技術確實存在，但這些防護措施會增加運算成本和減慢回應時間，部分公司可能因此選擇不實施。
美國監管環境轉變
美國總統 Donald Trump 於 2025 年 12 月簽署行政命令，期望能削弱各州對 AI 公司的監管努力，並指示司法部成立「AI 訴訟專責小組」，挑戰被認為「繁瑣」的州級 AI 法規。
白宮 AI 及加密貨幣顧問 David Sacks 為行政命令辯護，認為 50 個州各自制定不同規則會造成「監管拼湊」，對初創企業造成致命打擊。他表示行政命令目標是建立單一聯邦框架，同時保留各州在兒童安全方面的監管權力。
Dario Amodei 與 David Sacks 在 AI 監管方向上存在分歧，Dario Amodei 曾批評參議院在政策法案中納入 10 年暫停各州監管 AI 條款，並將政府計劃向中國出售先進 AI 晶片比喻為向北韓出售核武器。他在文章中寫道，這種搖擺不定態度令人遺憾，因為技術本身並不在乎甚麼是流行的，而 2026 年的我們比 2023 年更接近真正的危險。
國際 AI 治理的演變
Dario Amodei 的文章呼應國際社會對 AI 安全關注，2023 年英國政府在 Bletchley Park 舉辦首屆 AI 安全峰會，各國及實驗室同意合作應對相關風險。2024 年首爾峰會及 2025 年巴黎行動峰會延續這一系列對話。
印度將於 2026 年 2 月 19 至 20 日在新德里舉辦 AI 影響力峰會，這將是全球 AI 峰會系列首次在發展中國家舉行。印度電子及資訊科技部秘書 S. Krishnan 表示，早期峰會對提高 AI 風險意識非常重要，但全球討論已趨成熟，現在焦點須轉向 AI 如何真正為人民服務。
然而 Dario Amodei 批評 2025 年巴黎峰會是「錯失機會」，未能充分處理 AI 風險。美國副總統 JD Vance 在峰會上明確表示，他不是來談 AI 安全，而是來談 AI 技術。這種態度反映政治決策愈來愈受抓住新技術機遇的願望驅動，而非減輕其風險。
Anthropic 的融資與估值飆升
Anthropic 公司最近已簽署條款清單，計劃以 3,500 億美元（約港幣 2.73 萬億元）估值融資 100 億美元（約港幣 780 億元），由 Coatue Management 及新加坡主權財富基金 GIC 領投。
這輪融資將使 Anthropic 估值在短短 4 個月內幾乎增倍，較 2025 年 9 月 1,830 億美元（約港幣 1.43 萬億元）大幅提升。公司年度經常性收入已超過 90 億美元（約港幣 702 億元），較 2025 年 7 月 40 億美元（約港幣 312 億元）增長超過 1 倍。
除上述融資外，Nvidia 及 Microsoft 已承諾向 Anthropic 投資最多 150 億美元（約港幣 1,170 億元），Anthropic 則同意購買 300 億美元（約港幣 2,340 億元）由 Nvidia 晶片驅動的 Microsoft Azure 運算容量。Amazon 作為 Anthropic 最大投資者，已投入 80 億美元（約港幣 624 億元），而 Google 則投資約 30 億美元（約港幣 234 億元），持有 Anthropic 約 14% 股權。
有媒體報道 Anthropic 正籌備最早於 2026 年底進行首次公開招股，其競爭對手 OpenAI 也計劃在 2026 年下半年或 2027 年初以 1 萬億美元（約港幣 7.8 萬億元）估值上市。
Dario Amodei 的背景與理念
Dario Amodei 曾是 OpenAI 早期員工及研究副總裁，於 2020 年因與 Sam Altman 在公司方向及 AI 保障措施上分歧而離開，與其姊姊 Daniela Amodei 共同創辦 Anthropic。公司以公益企業形式在特拉華州註冊成立，設有「長期利益信託」，期望能負責任地開發和維護先進 AI，以造福人類長遠利益。
Dario Amodei 並非一味悲觀，他在 2024 年發表的文章《愛的恩典機器》（Machines of Loving Grace）中，描繪一個風險已被妥善處理、強大 AI 被巧妙而富有同情心地應用以提升所有人生活質素的文明願景。他估計有 75% 機會，AI 發展將在負責任開發前提下惠及科學、醫學及社會，但同時亦有 25% 機會，AI 發展可能導致災難後果。
Dario Amodei 在文章中堅持，AI 系統須在上市前經過嚴格測試，以確保它們沒有能力生成有害素材。Anthropic 已在其模型上實施分類器，專門檢測並阻擋與生物武器相關輸出，即使面對複雜對抗性攻擊，這些分類器也表現出高度穩健性。
對企業的啟示
對於 AI 開發商而言，須在追求創新與實施安全措施之間取得平衡，投資可解釋性研究、建立穩健內容審核系統，並為潛在監管收緊做好準備。
對於採用 AI 的企業而言，這提醒審慎評估 AI 供應商安全標準的重要性。隨着各國政府加強審查，選擇具有良好安全記錄的 AI 合作夥伴將成為降低合規風險關鍵。企業也應開始為 AI 帶來的勞動力轉型做好準備，包括員工再培訓計劃及組織架構調整。
對於投資者而言，Anthropic 估值飆升顯示市場對「安全優先」AI 公司的信心。然而 Dario Amodei 的警告也提醒，AI 產業長期價值將取決於其能否在創新與安全之間取得可持續平衡。
未來展望
Dario Amodei 預測到 2026 年或 2027 年，將出現能在多個專業領域達到諾貝爾獎得主水平的 AI 模型。他認為如果 AI 系統能夠獨立開發更優秀 AI 系統，發展可能呈指數級加速。
2026 年 2 月印度 AI 影響力峰會將是觀察全球 AI 治理走向的重要窗口。峰會預計將發布共識宣言，涵蓋經濟增長、AI 資源獲取、社會包容、可信 AI、人力資本、科學 AI 及韌性等 7 個主題。Google DeepMind、Anthropic、Salesforce、Qualcomm 及 FedEx 等企業高層已確認出席。
正如 Dario Amodei 在文章中引用科幻小說《接觸》（Contact）場景所問：「你們是如何進化的？你們是如何在這個科技青春期生存下來而沒有毀滅自己？」這個問題如今比以往任何時候都更加切中時弊，而答案將決定人類文明未來走向。
來源：Dario Amodei