洞察 / 商业

AI 智能体权限:上线前明确可以执行的操作

AI 智能体权限决定了智能体能够通过连接的工具读取、修改和发送什么内容。如果访问范围的扩张快于用途、责任和运营控制的完善,一个有用的试点也可能带来业务问题。

在增加自主性之前,先写清楚任务,以及完成任务所需的最小操作集合。明确的边界有助于团队验证实际价值,而不是让每个流程都继承最高权限用户的能力。

区分任务需要与账户能力

一个账户可能能够导出全部客户记录、更新销售机会并发送消息。但负责内部销售摘要的智能体,也许只需要读取部分字段。账户具有某项能力,并不意味着任务需要这项能力。

微软关于安全智能体系统的指导提出隔离权限和严格限定工具访问范围。应在每个连接的服务中落实这一原则,并结合所选平台的控制功能。

为每个流程建立权限清单

记录业务目的、责任人、数据来源、允许和禁止的操作,以及审批要求。同时列明智能体使用的身份,以及谁有权撤销其访问权限。

  • 读取:需要哪些记录、字段和文档?
  • 修改:允许在哪里执行哪些具体变更?
  • 发送:哪些接收方或目标可以获得输出?
  • 审批:哪些操作需要人工审核最终方案?
  • 停止:谁可以暂停流程并撤销相关访问权限?

区分草拟操作与实际执行。准备邮件不同于发送邮件;提出 CRM 更新建议不同于直接修改记录。在可能的情况下,工具配置应强制执行这种区分。

让审批真正有效

请审批人审核实际的接收方、内容和拟议变更。与笼统的继续指令相比,展示将发生什么及其原因,能够提供更有意义的监督。

根据操作后果选择审批节点。对外承诺、敏感信息披露以及难以撤销的变更尤其需要关注。与相关业务和系统负责人共同确定工作流程。

扩大范围前测试失败路径

在受控环境中使用测试记录。检查记录缺失、文档包含冲突指令、工具故障或操作被拒绝时会发生什么。智能体不应为了绕过拒绝而悄悄改用更广泛的访问权限。

还要测试重复执行。连接出错后的重试不应重复发送消息或创建第二笔交易。保留足够的状态信息,区分已经提出、已经提交和已经确认的操作。

销售助手的假设示例

假设一个助手负责准备每周销售机会回顾。初始范围仅包括读取已批准的字段、总结缺失的后续步骤,以及为客户负责人草拟问题。它不能修改交易金额,也不能向客户发送邮件。

团队验证摘要之后,可以另外测试为选定记录创建内部跟进任务。这是新的权限决策,需要独立的检查。示例仅说明分阶段扩展范围的方法,并非 Zendral 客户成果或安全运行保证。

试点结束后继续明确责任

按流程需要记录工具操作、审批和结果。当流程、数据源、模型或团队发生变化时,重新审视访问权限。移除不再服务于任务的权限。

微软的智能体责任共担指导说明,不同部署模式的责任划分有所不同。使用托管产品,并不意味着无需了解自身流程配置的权限和工具。

Zendral 如何提供帮助

Zendral 的人工智能与自动化服务将业务重点与实际实施连接起来。我们可以协助定义合适的试点、梳理流程,并明确责任、审批节点和有用的绩效指标。

联系我们的团队,在扩大智能体操作范围之前,先讨论一个聚焦的业务流程。

更多洞察 →