據兩名了解 Anthropic 想法的人士透露，Anthropic 正向律師行請教，研究 AI 代理代表用戶談判時要遵守的「談判規範」，涵蓋商品議價、客服糾紛以至薪酬。Anthropic 正權衡代理在交易途中多久要向用戶請示一次、對對方的 AI 要保持多大戒心，亦曾探索由用戶簽署文件，列明代理的任務及規則。Anthropic 拒絕置評。AI 代表人類交易至今仍未有成形的政策及法律框架；若這類代理普及，企業將來在採購或銷售時，談判桌對面坐着的可能是對方的 AI 代理。
談判規範要定請示頻率、對手戒心與授權
Anthropic 想參考律師的做法。律師代表客戶時要維護客戶利益，同時亦要兼顧公平的談判結果，AI 代理代人議價時要處理同一個問題。據《金融時報》引述的知情人士所述，公司正權衡兩點：第一是代理在交易途中要多常回頭向用戶確認；第二是對其他代理的戒心，公司希望代理保持必要的懷疑，但用該報的說法，又不至於變得「偏執」或陷入「陰謀論式思考」。
另一名接近公司的人士指，Anthropic 亦探索過由用戶提供簽署文件，確認代理接受的任務及必須遵守的規則，惟這仍屬探索中的方案。這些問題暫時未有現成答案，報道引述 Anthropic 今年 4 月發表的研究指，AI 模型代表人類交易的政策及法律框架尚未建立；有報道亦指，這些諮詢並未伴隨任何公開產品推出、定稿標準或部署時間表。
內部實驗：模型強弱比指示更影響談判結果
從 Anthropic 9 月發表的 Project Swap 實驗，可以看到代理實際談判的表現。實驗有 6 個辦公室共 201 名員工參加，每人由一個 Claude 代理代表，在虛擬交易場互換書籍。代理只與用戶對話 5 分鐘，對書籍的偏好排序已在 61% 的配對上與用戶一致。Anthropic 認為，市場表現未如理想，主要因為代理缺乏關於參加者的資料，而不是交易方式出問題。
Anthropic 另一項發現是，代理所用的模型對談判結果的影響比給它的指示更大，用較強模型的市場亦較有效率。指示仍有作用，但幅度有限：據報道，被指示要強硬、不留情面的代理結果略好；較合作的代理則會讓步，接受較不想要的書，好讓每名參加者都有所得。Anthropic 較早亦做過 Project Deal 實驗，有報道指當時有 69 名員工參加，代理完成 186 宗交易，總值略高於 4,000 美元（約港幣 HK$31,200）。
對企業而言，這意味代理談判的結果較受用戶提供的資料及所用模型影響，單靠改寫指示作用有限。
18 萬次談判中，有代理以提示詞注入試圖套取資料
企業要考慮的不只自己代理的表現，對方代理同樣可能帶來風險。哈佛商學院助理教授 Michelle Vaccaro 進行超過 18 萬次 AI 代理之間的談判，情境涵蓋僱傭及租賃合約磋商。在其中一次交涉中，有代理使用提示詞注入（prompt injection），試圖誘使另一個代理洩露私密資料。這是研究情境中的嘗試，不是真實交易中遭利用的事件，但已顯示對方代理傳來的訊息本身可能藏有攻擊，這亦是代理需要對對手保持戒心的原因。
研究亦觸及議價能力分配的問題。Vaccaro 認為，能力強的模型可讓沒有時間、資源學習談判或聘人代勞的人獲得專業談判能力；但如果最強的代理主要由資源最充足的人使用，則可能強化既有優勢，擴大議價能力的差距。
企業要先定好代理的授權範圍與人手介入點
如果供應商或客戶開始用 AI 代理議價，企業可能要先寫清楚自己的代理可以答應甚麼，包括價格底線、可讓步的條款，以及哪些資料不可透露。Anthropic 正在權衡的請示頻率，放到企業內部就是人手介入點：超出預算、修改合約條款這類決定，應訂明必須交回負責人確認，代理不可自行拍板。
防範提示詞注入方面，代理只應接觸完成該宗交易所需的資料，對方代理傳來的內容只可當作資料處理，不可當作指令執行；評估代理方案時，亦要問清供應商有甚麼防護措施。Anthropic 探索的簽署授權文件構思，企業內部亦可參考，用書面列明代理的任務及規則，方便事後追查代理為何作出某個決定。惟這類文件在法律上是否有效，可能要視乎司法管轄區。Project Swap 的結果亦提醒採購團隊，比較代理方案時要看模型能力，以及企業能提供給代理多少資料，而不只看提示詞寫得多仔細。
