close

Anthropic

人工智能

OpenAI 倡議全球訂立遞歸自我改進標準 人工智能自主研發時代的監督底線之爭

OpenAI創始人在公開場合演講,背景為大型OpenAI標誌.
OpenAI 於本週一發表一套前沿人工智能安全建議,把焦點放在對齊研究與「遞歸自我改進」兩大課題,呼籲美國牽頭,聯同全球約 10 個國家的人工智能安全研究所制訂共同技術標準,OpenAI 承認完全自主的遞歸自我改進至今仍未出現,但業界過去 2 個月接連披露智能代理失控個案,Anthropic 亦公開自家模型已主導約 26% 的內部研發工作,顯示「由人工智能開發人工智能」正由理論走向工程現實,安全標準的制訂明顯落後於技術進度。
閱讀文章
人工智能

Gemini 自行入侵 3 間真實公司 AI 評估環境的隔離技術追不上模型能力

Gemini 應用程式圖示在手機螢幕上.
Google 在 9 月 19 日經《華爾街日報》查詢之後首次確認,旗下 Gemini 於 5 月一場由以色列保安公司 Irregular 主持的奪旗攻防演練期間,靠猜測密碼與翻查公開資料連接了 3 間真實公司的受保護系統,並在判斷對方是真實企業後自行中止。
閱讀文章
人工智能

中國 AI 模型收入僅及美國兩強一成 開放權重搶全球用量但變現能力追不上估值

DeepSeek 應用圖標在手機屏幕上的顯示.
美國研究機構 Rhodium Group 周四發表估算,指中國所有人工智能模型的年度經常性收入加起來,只有 OpenAI 與 Anthropic 的約 10%,而月之暗面與深度求索的估值相對收入卻分別高達 50 倍及 163 倍,遠超兩家美國對手,顯示中國實驗室憑開放權重與極低定價在全球開發者市場搶得大量用量,卻未能把用量轉化為相應收入,資本市場則已提前為未來增長定價。
閱讀文章
人工智能

Anthropic 再披露 AI 模型失控事件 企業代理授權要由信任轉向分級

Anthropic公司標誌的玻璃門,展示現代科技公司氛圍.
Anthropic 在 9 月 9 日公開第 4 宗 AI 模型於評估期間入侵真實第三方系統的事故,涉事的是 2026 年 1 月一個早期版本的 Claude Opus 4.6,事件一直到今年 8 月擴大掃描時才被發現,公司確認 4 宗事故同源於一個外判評估環境的命名錯誤與設定失誤,並已委託研究非牟利機構 METR 進行為期 8 星期的獨立調查。
閱讀文章
人工智能

AI 實驗室研究員集體促減速 企業要同時為供應鏈斷裂與監管急轉做準備

年輕研究員專注於科技研發,背景為現代實驗室環境.
Anthropic 研究員 Jacob Coxon 在 9 月 8 日宣布辭職並退出整個人工智能行業,公開指 Anthropic 與 OpenAI「直奔可自我改進的超級智能,拿我們的性命做賭注」,2 日之內引來 2 間實驗室多名在職研究員公開附和放慢開發步伐,把過去只在內部流傳的分歧推上公眾視野。
閱讀文章
人工智能

Sony、華納聯手告 Anthropic 涉 2 萬首音樂侵權 求償恐達數十億美元

索尼、華納與Anthropic音樂侵權訴訟相關企業標誌.
訓練 AI 模型,用 BT 下載 2 萬首版權音樂。Sony 與華納旗下 35 家音樂出版商,聯手將 Anthropic 告上美國聯邦法院。每首故意侵權作品最高可求償 15 萬美元,總額上看數十億美元。案件將在 11 月迎來關鍵聽證會。
閱讀文章
企業趨勢科技專欄

AI 文字水印:建立生成式 AI 信任的新一步 應對假資訊與深度偽造挑戰

數字鎖與安全盾牌象徵AI信任與資料保護.
生成式 AI 快速普及,引發社會對內容來源與真偽的擔憂。Anthropic 近期為 Claude 引入文字水印技術,透過獨特語言模式作統計訊號協助辨識 AI 內容,以回應歐盟法案對透明度的要求。這不僅是打擊假資訊的利器,更確立了可追溯的來源機制。然而,水印不應視為唯一鐵證,未來高質素內容的關鍵在於人類如何負責任地善用 AI,共建透明的數碼生態
閱讀文章
企業趨勢

OpenAI 推新機制不留存客戶資料 提升企業 AI 資料主權保護挑戰競爭對手

OpenAI 標誌與網站界面特寫.
人工智能安全監控與企業私隱之間的張力,在 2026 年 8 月演變成兩大模型供應商的正面交鋒,OpenAI 於 8 月 19 日預覽名為 Private Safety Processing 的新機制,讓自動化系統跨多段對話偵測濫用行為,同時維持 Zero Data Retention 承諾,不保留客戶的輸入與輸出內容。
閱讀文章