OpenAI 公佈 AI 代理協調框架 Swarm 引起安全討論

現時很多企業已經在不同業務範疇應用 AI 代理,不過要統一管理仍然有一定的麻煩。OpenAI 最近就公佈一個名為 Swarm 的 AI 代理協調框架,可以建立一個互聯的 AI 代理網絡,處理更複雜的任務。

OpenAI 的 Swarm 框架目前仍然是實驗性質,它的概念是作為一個 AI 開發者可以參考的藍本,建立同時連接不同部門多個 AI 代理的網絡,以便進行複雜的互動,例如分析市場趨勢、調整營銷策略、識別銷售線索並提供客戶支援等,使大量營運操作可以全面自動化,而且幾乎無需人手干預。

OpenAI 強調這個架構並非官方產品,OpenAI 研究員 Shyamal Anadkat 在 X 上明確表示:「Swarm 不是 OpenAI 的官方產品。將其視為一個指南更為恰當。它是用於構建簡單代理的實驗性代碼,不適用於生產環境,我們也不會維護它。」不過有評論認為這樣的框架使 AI 可以在更多方面自動進行決策,因此需要建立強大的保障措施,以防止自主代理網絡被濫用或出現故障。偏見和公平性的問題也備受關注,因為這些 AI 網絡做出的決定可能對個人和社會產生重大影響。

來源:VentureBeat