提示詞注入

Anthropic 向律師行請教，研究 AI 代理的談判規範，涉及請示頻率、對手戒心及用戶授權文件。哈佛研究發現有代理以提示詞注入試圖套取資料，企業採購及銷售要預先定好授權範圍與人手介入點。

網絡安全研究機構 PromptArmor 近日披露，IBM 旗下人工智能編程代理工具 Bob 存在多項嚴重安全漏洞。攻擊者可透過提示詞注入攻擊繞過系統防護機制，誘使該工具執行惡意程式碼，竊取用戶憑證及敏感資料。