AI 管治

Anthropic 向律師行請教，研究 AI 代理的談判規範，涉及請示頻率、對手戒心及用戶授權文件。哈佛研究發現有代理以提示詞注入試圖套取資料，企業採購及銷售要預先定好授權範圍與人手介入點。