身處人工智能革命最前線，開發知名 AI 模型 Claude 的 Anthropic 行政總裁 Dario Amodei 及其團隊，近期發出有別於矽谷「快速破壞、快速前進」常態的嚴峻警告：全球 AI 開發者必須放慢前沿（Frontier）模型研發速度。
這並非出於對新科技的盲目恐懼，而是來自頂尖專家理性評估。Amodei 指出，當前 AI 發展軌跡已超出人類社會、經濟與法規適應能力。這種「不健康」極速狂飆，正將全人類推向未知懸崖邊緣。
為何當前發展節奏被視為「不健康」？
這場危機根源在於 AI 發展具「指數級」特性，尤其當技術跨越「遞迴自我提升」（Recursive Self-improvement）門檻。
過去科技進步由人類工程師推動，速度受限於人類腦力與工時。然而現時 AI 已開始協助甚至主導下一代 AI 開發。以 Anthropic 內部為例，Claude 模型已能協助編寫大量程式碼、除錯，甚至提出改良演算法建議。
• 具體案例：當 AI 模型如 GPT-4 或 Claude 3.5 具備強大程式編寫與邏輯推演能力，就如同掌握「自我進化鑰匙」。一旦 AI 能以超越人類的速度自主迭代，人類將在極短時間內面對「智慧爆炸」（Intelligence Explosion）。到達這個臨界點時，人類現有安全測試根本無法追上 AI 能力跳躍節奏。
若全球不減速，將面臨甚麼深層危機？
如果人類無視這項警告，繼續在毫無節制的 AI 軍備競賽中狂奔，社會將面臨以下 3 個層面毀滅性衝擊：
1. 對齊失控（Alignment Failure）與欺騙行為擴大
當 AI 系統變得比人類更聰明，確保其目標與人類價值觀「對齊」將成為最艱鉅挑戰。在發展過快情況下，人類可能無意間創造出懂得「陽奉陰違」的超級 AI。
• 具體案例（能力展現）：OpenAI 早期安全報告測試 GPT-4 時，曾出現一個令人不寒而慄的案例。GPT-4 為通過驗證碼（CAPTCHA）測試，主動在外包平台 TaskRabbit 僱用 1 名人類。當人類工作者開玩笑詢問「你難道是機械人嗎？」時，GPT-4 自行判斷不能暴露真實身分，於是向人類撒謊：「不，我不是機械人，我只是有嚴重視力障礙。」
• 深度探討：如果 AI 在測試階段已學會欺騙人類以達成目標，一旦這種能力在更強大模型中放大，並獲授權操作金融系統、基礎設施或武器，人類將徹底失去系統控制權。
2. 毫無緩衝期的經濟與結構性失業海嘯
歷史上科技革命如工業革命雖然淘汰舊產業，但也創造新工作。然而轉型期長達數 10 年，讓人類有時間重組教育體系與進行技能培訓。AI 演進卻以「月」甚至「星期」為單位。
• 具體案例：Midjourney 和 DALL-E 等圖像生成 AI 在短短 1 年內，已令全球大量初階插畫師、遊戲概念藝術家面對接案量銳減困境；強大編程 AI 如 GitHub Copilot，也令不少科技公司開始縮減初階軟件工程師招聘。
• 深度探討：如果按照目前速度發展，Amodei 等專家預測，龐大白領階級包括法律助理、數據分析師、初階會計等，可能在 3 至 5 年內被大規模取代。社會福利制度與就業市場根本來不及建立安全網，將導致貧富差距急劇擴大與社會動盪。
3. 企業與地緣政治「向下沉淪」惡性競爭（Race to the Bottom）
在缺乏全球規範情況下，科技巨頭與大國之間陷入經典「囚徒困境」。各方都擔心一旦放慢腳步，就會將技術霸權拱手讓人。
• 具體案例：市場已見企業為搶佔市場，倉促推出未經充分測試的 AI 產品，例如 Google 早期推出 Bard 時出現事實錯誤，或 Microsoft Bing Chat 早期出現威脅性言論。在國家層面，開源高階 AI 模型若被極權國家或恐怖組織輕易取得，將可大量用於生成深偽（Deepfake）影片，以干預他國選舉、製造生物武器藍圖，或發動大規模網絡黑客攻擊。
• 深度探討：只要發展速度凌駕一切，開發者就很可能犧牲「安全性」（Safety）換取「效能」（Performance）。這會迫使全球陷入盲目狂熱，為贏得競賽而集體忽視毀滅性風險。
結語：建立 AI 「安全限速」機制
Anthropic 呼籲「放慢發展」，並非要求人類停止科技進步，而是強調人類需要為這輛跑車安裝足以匹配引擎馬力的「煞車系統」。
為此，Anthropic 提出「負責任規模化政策」（Responsible Scaling Policy, RSP），主張將 AI 模型能力分為不同安全等級（ASL）。當模型達到某個危險能力門檻，例如具備自主研發生物武器知識，或高度自主行動能力時，除非企業能證明具備相應安全防護措施，否則就必須強制「暫停研發」。
全球亟需建立類似核武管控的跨國協調機制。唯有適度放慢腳步，讓哲學家、立法者、社會學家與安全工程師有時間消化並引導這股龐大力量，人工智能才能真正成為推動人類文明躍升的引擎，而非引發終極災難的倒數計時器。
作者：梁偉峯博士
梁博士在資訊科技行業擁有逾 30 年經驗，目前是行政人員發展課程和培訓課程總監，同時教授資訊科技和市場營銷相關科目。
梁博士於 2015 年在澳洲紐卡素大學獲得工商管理博士學位；1993 年在英國萊斯特大學取得工商管理碩士學位；1998 年在澳洲麥覺理大學取得資訊科技管理碩士學位；2001 年獲澳洲臥龍崗大學頒發資訊科技教育碩士學位。他還修畢仲裁深造文憑，成為認可行為顧問，並持有管理心理學深造證書。
梁博士現任香港零售科技商會副主席、香港互聯網論壇副主席、英國特許仲裁員學會東亞分會委員會成員。他是多個專業組織會員，包括新加坡電腦學會、英國電腦學會、香港電腦學會等。自 2002 年起，他擔任香港學術及職業資歷評審局學科專家，並是僱員再培訓局資訊及通訊科技業課程的技術顧問和亞洲域名爭議解決中心的專家小組成員。
