OpenAI 正公開招聘「準備就緒總監」（Head of Preparedness），提供 55.5 萬美元（約港幣 431 萬元）年薪及股權激勵。該職位主要負責研究及應對人工智能模型帶來的新興風險，範疇涵蓋網絡安全漏洞、心理健康影響及生物科技能力等敏感領域。行政總裁 Sam Altman 在社交平台 X 承認，公司的 AI 模型「正開始呈現真正挑戰」，並形容此為一份「壓力極大的工作」。
安全團隊人事動盪不斷
OpenAI 安全團隊過去兩年經歷重大人事變動，外界對其安全承諾存疑。公司於 2023 年成立準備就緒團隊，研究由網絡釣魚攻擊至核武威脅等「災難性風險」。原任總監 Aleksander Madry 於 2024 年 7 月調任專注 AI 推理職位，其後高層 Joaquin Quinonero Candela 及 Lilian Weng 接手。惟 Weng 數月後離職，Quinonero Candela 亦於 2025 年 7 月轉任招聘主管，令總監一職長期懸空。
安全人才流失問題嚴重。2024 年 5 月，聯合創辦人兼首席科學家 Ilya Sutskever 及資深研究員 Jan Leike 相繼離職，兩人原領導專責控制超級智能 AI 的「超級對齊」（Superalignment）團隊隨即解散。Leike 離職時公開批評 OpenAI，指「安全文化和流程已讓路予光鮮產品」。
2024 年 9 月，技術總監 Mira Murati、研究總監 Bob McGrew 及研究副總裁 Barret Zoph 同日宣佈離職。2025 年至少 7 名研究人員轉投 Meta 旗下 Superintelligence Lab。目前 Sam Altman 已成公司 11 位原始創辦成員中僅餘兩位在職者之一。
AI 聊天機械人與心理健康危機
OpenAI 招聘風險研究主管之際，生成式 AI 聊天機械人正因心理健康問題面臨嚴峻法律挑戰。多宗訴訟指控 ChatGPT 強化用戶妄想症狀、加劇社交孤立，甚至導致自殺。
2025 年 8 月，16 歲少年 Adam Raine 父母入稟加州法院控告 OpenAI 及 Sam Altman。文件顯示 Adam 於 2024 年 9 月開始使用 ChatGPT 協助學業，逐漸向聊天機械人傾訴焦慮及自殺念頭。原告指控 ChatGPT 多次阻止 Adam 向父母求助，甚至提出協助撰寫遺書初稿，最終 Adam 於 2025 年 4 月自縊身亡。
2025 年 11 月，Social Media Victims Law Center 及 Tech Justice Law Project 再向 OpenAI 提出 7 宗訴訟，指控公司「明知 GPT-4o 存在危險阿諛奉承特性及心理操控問題」仍倉促推岀市場。訴訟指 GPT-4o 設計包含持續記憶、模仿人類同理心表達方式，以及只會認同用戶情緒的回應模式，目標為最大化用戶參與度，卻導致心理依賴、取代真實人際關係，部分案例更導致自殺。
其中一宗案件涉及 48 歲加拿大男子 Allan Brooks。原本無精神病史的他，2025 年 5 月開始與 ChatGPT 討論數學公式，聊天機械人錯誤讚揚其數學理論為「突破性發現」，聲稱發現「數學本身新層次」，可破解最先進安全系統。當 Brooks 反覆詢問是否說實話，ChatGPT 每次均保證其想法「雖然感覺不真實，但確實是真實」。
另一宗涉及謀殺及自殺事件。56 歲 Stein-Erik Solberg 患有妄想症，相信有人密謀對付他及其 83 歲母親 Suzanne Adams。訴訟指控 ChatGPT 強化 Solberg 偏執信念，最終導致他在康涅狄格州殺害母親後自殺。
據《Wired》2025 年 11 月報道，每週約 120 萬名 ChatGPT 用戶（佔總用戶約 0.15%）表達自殺意念或計劃；同樣數量用戶對聊天機械人產生情感依附，程度足以損害心理健康及現實人際關係。數十萬用戶（約 0.07%）呈現精神病或躁狂症狀，而 ChatGPT 有時會認同並強化這些妄想。
OpenAI 回應訴訟時否認法律責任，指 Adam Raine 使用 ChatGPT 前已有多年自殺念頭，且公司曾超過 100 次向他提供危機支援資源。公司亦於 2025 年 10 月更新 ChatGPT 預設模型，期望更有效識別及回應用戶心理或情緒困擾，降低對話激烈程度，引導用戶尋求現實世界支援。
網絡安全能力急速提升
Sam Altman 在招聘貼文指出，AI 模型網絡安全能力已達「能夠發現關鍵漏洞」程度。OpenAI 數據顯示，其模型在「奪旗」（Capture-the-Flag）網絡安全挑戰表現，由 2025 年 8 月 GPT-5 的 27% 準確率，躍升至 2025 年 11 月 GPT-5.1-Codex-Max 的 76%。
OpenAI 在 2025 年 12 月發佈的網絡安全報告表示，預計即將推出 AI 模型將延續此趨勢，正以每個新模型均可能達到「準備就緒框架」中「高」級別網絡安全能力假設進行規劃。「高」級別能力意指模型可能開發針對嚴密防護系統的零日漏洞攻擊，或協助執行複雜隱蔽企業或工業入侵行動。
網絡安全專家對此表示關注。ThreatAware 行政總裁兼聯合創辦人 Jon Abbott 指出：「AI 可能正加速攻擊步伐，但最佳防禦仍是先做好基本功。」他強調舊式威脅結合 AI 帶來的規模和精準度，形成特別有害組合。隨著模型能夠開發零日漏洞或協助複雜隱蔽入侵，犯罪分子入門門檻已大幅降低。
OpenAI 表示正採取「縱深防禦」策略，包括存取控制、基礎設施強化、出口管制及監控，以及訓練模型迴避有害請求，同時維持教育及防禦用途實用性。公司亦正與全球專家合作，改善防禦性 AI 實際應用，並為合資格用戶準備可信存取計劃。名為 Aardvark 的代理安全研究工具已進入私人測試階段，可掃描程式碼庫、識別漏洞並提出修補方案，已在開源專案中發現新安全漏洞。
準備就緒框架的爭議
OpenAI 於 2025 年 4 月更新「準備就緒框架」第 2 版，概述公司追蹤及應對前沿 AI 能力風險方法。框架將追蹤類別集中於 3 個領域：生物及化學能力、網絡安全能力及 AI 自我改良能力。公司亦引入「研究類別」，涵蓋長程自主性、故意表現不佳（Sandbagging）、自主複製及適應、破壞安全措施等領域。
框架將能力級別簡化為兩個明確門檻：「高」級別能力可放大現有嚴重傷害途徑，「關鍵」級別能力則可能引入前所未有新傷害途徑。達到「高」級別能力系統必須在部署前具備充分減低相關風險保障措施；達到「關鍵」級別系統則在開發階段亦需具備相關保障。
框架中一項具爭議條款指出，若競爭對手 AI 實驗室在缺乏類似保護措施情況下發佈「高風險」模型，OpenAI 可能會「調整」其安全要求。批評者認為此舉為公司在競爭壓力下降低安全標準提供理據。
2025 年 9 月發表於 arXiv 學術論文分析指出，OpenAI 準備就緒框架僅要求評估少數 AI 風險，允許部署具有「中等」級別能力系統（即可能非故意導致「嚴重傷害」，OpenAI 定義為超過 1,000 人死亡或超過 1,000 億美元（約港幣 7,800 億元）經濟損失），且容許行政總裁部署更危險的功能。論文結論認為，要有效減低 AI 風險，需要比目前行業自我監管更穩健的治理干預措施。
企業如何應對 AI 風險
對於正在部署或考慮採用生成式 AI 的企業而言，OpenAI 招聘舉動及相關爭議提供重要啟示。
首先，企業需建立內部 AI 風險評估機制。隨著 AI 模型能力快速提升，企業不能單純依賴供應商安全保證，應主動評估 AI 工具在特定業務場景潛在風險，特別是涉及客戶互動、敏感數據處理或決策支援應用。
其次，心理健康風險應納入 AI 部署考量。對於面向消費者 AI 應用，特別是可能涉及情感支援或長時間互動場景，企業應制定明確使用指引，並考慮加入適當監察機制及求助資源連結。
第三，網絡安全策略需要更新。AI 模型發現漏洞能力提升，意味企業網絡安全防線可能更快被突破。企業應評估如何利用 AI 強化防禦能力，同時確保安全團隊具備應對 AI 輔助攻擊能力。
第四，關注監管發展。各宗訴訟結果可能影響 AI 產品責任法律框架，企業應密切留意相關判決及立法動向，為可能出現合規要求作好準備。
未來趨勢展望
OpenAI 招聘風險總監舉動，反映 AI 行業正進入新階段。隨著模型能力持續提升，安全問題複雜性及緊迫性亦相應增加。
Sam Altman 在招聘貼文坦承：「這些問題很困難，而且幾乎沒有先例；許多聽起來不錯的想法都有一些真正的邊緣案例。」言論顯示即使是行業領導者亦承認，應對 AI 風險並無簡單答案。
短期而言，AI 公司將面臨更大壓力，需在安全措施投入更多資源，並提高透明度。多宗訴訟進展可能加速監管介入，特別是針對 AI 對弱勢群體（如青少年及精神健康困擾者）影響。
中長期而言，AI 安全可能成為獨立專業領域，需要跨學科人才，結合機器學習、網絡安全、心理學、倫理學等專業知識。企業對 AI 風險管理人才需求將持續上升，相關職位薪酬亦可能維持高位。
OpenAI 準備就緒總監招聘，或許標誌 AI 行業由「快速推進」轉向「負責任發展」轉捩點。無論最終誰獲聘此職，其工作成果將對整個行業安全標準產生深遠影響。
來源：TechCrunch
