人工智能發展已經進入一個臨界點。當全球科技巨頭爭相開發更強大的 AI 系統之際，兩位享負盛名的人工智能先驅卻在印度新德里的 AI 影響峰會上發出了嚴厲警告，提醒世人這場技術競賽可能正在把全人類推向生存危機的邊緣。

加州大學伯克利分校教授史都華·羅素 (Stuart Russell)，作為人工智能領域的泰斗級人物，在 2 月 16 日至 20 日於新德里巴拉特曼達帕姆會議中心舉行的印度 AI 影響峰會上直言，科技企業高層正陷入一場危險的「軍備競賽」，對人類的存在構成威脅。他表示：「政府容許私營企業與地球上玩俄羅斯輪盤，這是完全失職的表現。」羅素警告說，當超級智能出現時， AI 或將奪取決策權，人類文明恐成附帶犧牲。他認為儘管不少企業領袖已意識到這類存在性風險，但受制於市場壓力與競爭動力，難以放緩研發腳步。

圖靈獎得主、國際 AI 安全報告主席約書亞·本吉奧 (Yoshua Bengio) 則在 2 月 18 日的研究研討會上聚焦於日益強大的 AI 系統所帶來的新興風險，包括系統失調、欺騙性行為以及風險緩解措施不足等問題。他指出：「相比於安全研究的投資，讓 AI 變得更強大、更聰明的投資比例大約是一千比一。」這種失衡反映出業界追求突破的熱情遠超過對風險管理的重視。本吉奧強調，若不改變這種偏向性能的研發思維，未來的 AI 問題恐將難以收拾。

除了安全性之外，峰會也探討了 AI 對全球就業的衝擊。羅素坦言：「我們正在創造人類模仿者，因此這類系統的自然應用當然就是取代人類。」這 AI 崛起勢必導致數以百萬計的工作消失，尤其集中在客戶服務與技術支援等領域。這不僅涉及經濟層面的就業問題，更關乎社會結構的根本性深層變化與人類勞動價值的重新定義。

本吉奧呼籲包括印度在內的全球南方國家形成戰略聯盟，而非單獨與主導 AI 發展的強國競爭。他引用了加拿大總理馬克·卡尼在達沃斯論壇上的名言：「如果你不在談判桌上，你就會成為菜單上的一道菜。」卡尼這句話在 2026 年達沃斯論壇上成為最被廣泛引用的論述，推動了「中等強國」敘事，主張非超級大國應該團結起來對抗強權霸凌。本吉奧警告， AI 雖被宣傳為「為全人類利益而開發」，但目前現實卻顯示權力正逐漸集中在少數控制最先進模型的國家手中，進一步擴大全球不平等。這種技術鴻溝的加深，可能重塑國際秩序，使弱勢國家與地區被邊緣化。

各國在 AI 監管上路徑迥異，中國和歐盟在開發 AI 的同時採取嚴格監管，以確保安全與透明；相反，印度傾向放寬規範，美國特朗普政府則主張市場導，削弱州級限制以賦予企業更大自由。 AI 最終能否受到有效約束，仍取決於各國決心與行動，否則後果不堪設想。

Francis Fong 方保僑

方保僑先生於資訊、通訊、科技及電子消費品市場工作超過二十年，引入過不少新科技產品，並創辦多個業界組職及為多個非營利機構擔任委員提供專業意見。現任香港資訊科技商會榮譽會長、香港互動市務商會創會及榮譽會長、香港消費電子產品聯盟創會會長、電子學習聯盟創辦人、世界資訊通訊與服務業聯盟董事、電訊事務管理局辦公室電訊規管事務咨詢委員會成員、運輸署智慧交通基金管理委員會委員、樂施會香港及樂施會澳門董事會成員、香港小童群益會資訊科技委員會委員、香港紅十字會資訊科技委員會成員，仁愛堂堂務行政委員會外界委員等。