close

AI 監管

人工智能

Anthropic 警告 AI 若失控或致文明浩劫 2 萬字長文指人類正進入「科技青春期」

Anthropic 行政總裁 Dario Amodei 本周發表長達近 2 萬字文章,直言人類社會即將面臨人工智能帶來的空前挑戰,包括大規模失業、生物恐怖主義,甚至全球極權統治等風險,呼籲各界正視 AI 發展可能帶來的災難後果。這篇題為《科技的青春期》(The Adolescence of Technology)的文章,標誌着 AI 產業內部最具影響力領袖之一,對現行 AI 保障措施發出嚴厲警告,認為人類社會政治、社會及技術體系,未必具備足夠成熟度去駕馭這項幾乎無法想像的力量。
read more
人工智能

OpenAI 招聘風險總監 冀解決 AI 心理健康及網絡安全問題

OpenAI 正公開招聘「準備就緒總監」(Head of Preparedness),提供 55.5 萬美元(約港幣 431 萬元)年薪及股權激勵。該職位主要負責研究及應對人工智能模型帶來的新興風險,範疇涵蓋網絡安全漏洞、心理健康影響及生物科技能力等敏感領域。行政總裁 Sam Altman 在社交平台 X 承認,公司的 AI 模型「正開始呈現真正挑戰」,並形容此為一份「壓力極大的工作」。
read more