先給出可以用於決策的結論
Agent只能提出或執行當前使用者本來有權進行的動作。工具層應提供“查詢本人客戶”“建立待審批報價”等窄介面,不應開放任意資料庫語句和通用管理員API。敏感欄位要脫敏,批次匯出、改價、付款和刪除要設定額度與熔斷。
判斷前需要確認哪些條件
同一個問題在不同企業、資料和專案階段下可能有不同答案。建議先核對以下條件,再把網上的通用結論代入自己的專案。
建議按什麼順序推進
先明確目標與邊界
列出Agent工具併為每個工具定義最小許可權。
驗證關鍵依賴
繫結真實使用者身份和業務系統授權範圍。
形成可評審成果
增加引數校驗、欄位過濾、審批與呼叫限額。
用真實結果決定下一步
執行越權、提示注入、重複操作和審計回放測試。
放到實際業務中如何理解
銷售Agent可查詢當前銷售負責的客戶並生成報價草稿,折扣超閾值時只能提交審批。即使對話要求匯出全部客戶,工具層也應拒絕。 示例不代表特定客戶業績,實際結論需要結合企業自己的業務量、樣本、系統和責任邊界驗證。
最容易踩的坑
所有使用者共用管理員令牌
只在提示詞中要求不要越權,介面不校驗
日誌記錄完整客戶資料和長期有效金鑰
最終應該怎樣驗收或確認
驗收要覆蓋同角色、跨角色、跨部門、批次操作、提示注入和令牌失效場景,確認操作可追溯,關鍵動作可撤銷或補償。
準備與供應商或內部團隊溝通時,建議帶上當前流程、代表性樣本、現有系統、計劃時間和預算等級。先把未知項明確標註,再決定採用診斷、PoC、固定範圍專案或持續研發,通常比直接索要一個缺少邊界的價格和工期更可靠。