首页 / 常见问题 / AI数字员工、多智能体、安全与企业智能搜索
QUESTION & ANSWER

为什么AI Agent权限不能只写在系统提示词里?

提示词是模型输入的一部分,不是可靠的访问控制。它可能被提示注入、上下文冲突、模型错误或工具返回内容影响,不能承担最终授权责任。关键权限必须由模型之外的身份系统、工具服务和业务规则强制执行。提示词可以说明行为边界,但越权请求即使模型发出,也应在执行层被拒绝。

直接回答

先给出可以用于决策的结论

企业Agent通常同时处理用户输入、网页、邮件、文档和工具输出,这些内容都可能携带恶意或冲突指令。如果权限只依赖“不要读取其他客户数据”这样的文字约束,模型一旦误判就可能调用高风险工具。正确设计是将用户身份、Agent身份、角色、资源范围、动作额度和审批规则放在确定性系统中验证;模型只提出候选动作,服务端决定是否允许。对于付款、删除、发布和客户承诺等不可逆操作,还应增加人工确认。

DECISION FACTORS

判断前需要确认哪些条件

同一个问题在不同企业、数据和项目阶段下可能有不同答案。建议先核对以下条件,再把网上的通用结论代入自己的项目。

Agent可以读取和修改哪些正式业务资源数据和工具输出是否来自不可信来源动作是否涉及金额、删除、发布或外部承诺是否能关联真实用户、Agent和最终执行记录
ACTION STEPS

建议按什么顺序推进

01

先明确目标与边界

列出所有工具和数据操作并进行风险分级。

02

验证关键依赖

为用户和Agent建立独立身份及最小权限。

03

形成可评审成果

在工具层验证资源、参数、额度和业务状态。

04

用真实结果决定下一步

对高风险动作增加人工审批、审计和紧急停用。

PRACTICAL EXAMPLE

放到实际业务中如何理解

示例用于说明判断方法

邮件助手读取了一封包含恶意指令的邮件,模型尝试调用客户导出工具。如果工具服务只相信模型,可能造成数据泄露;如果服务端根据当前员工身份、客户归属和导出审批执行校验,该请求会被拒绝并记录安全事件。 示例不代表特定客户业绩,实际结论需要结合企业自己的业务量、样本、系统和责任边界验证。

COMMON RISKS

最容易踩的坑

认为更长的系统提示等于更强的权限控制

多个Agent共用一个超级管理员账号

只记录模型回答,不记录工具参数和执行结果

ACCEPTANCE

最终应该怎样验收或确认

安全测试应覆盖提示注入、越权读取、参数篡改、工具返回污染、重复执行和审批绕过。即使模型输出错误指令,外部授权层也必须阻止动作,并留下用户、Agent、工具和结果的完整审计链。

准备与供应商或内部团队沟通时,建议带上当前流程、代表性样本、现有系统、计划时间和预算等级。先把未知项明确标注,再决定采用诊断、PoC、固定范围项目或持续研发,通常比直接索要一个缺少边界的价格和工期更可靠。

你的项目条件与上面的示例不同?

可以先整理业务目标、现有系统、样本与计划时间,再由顾问结合实际边界给出初步判断。

联系项目顾问