智能体用户指南

• 在运行时应对工具调用的不可预测输入与输出。
• 降低校正及验证任务中对人机回圈 (HITL) 干预的需求。
• 支持开发者在单个工具级创建自定义规则。

工作方式​

• 每个工具有一个或多个护栏。
• 每个护栏包含一个或多个规则和一个操作。规则会根据工具的输入和输出执行评估。
• 当所有规则均满足时，会触发操作。该操作有可能发生在工具执行前和/或执行后。

配置护栏​

1. 为您的智能体添加工具。
2. 选择工具，然后打开属性面板。
3. 在自定义护栏机制构建器中，设置护栏名称和描述。
4. 接下来，配置规则和操作类型。
5. 选择保存。附带护栏功能的工具用盾牌图标进行标记。

规则类型​

• “始终强制执行护栏” （默认）– 此护栏总会触发操作，与输入或输出无关。该规则适用于智能体输入（执行前）、输出（执行后）或两者（执行前和执行后）。
• 字符串– 此护栏适用于可用的输入和输出字段。该规则适用于字符串字段（包括嵌套 JSON 字段），并支持各种运算符（包含、开头为、结尾为、等于、为空等）和
• 数字– 此护栏适用于可用的输入和输出字段。该规则适用于数字字段（含嵌套 JSON 字段），并支持各种运算符（包含、开头为、结尾为、等于、为空等）。
• 布尔值– 此护栏适用于可用的输入和输出字段。此规则适用于布尔值字段（含嵌套 JSON 字段），支持等于运算符，值须为 True 或 False。

操作类型​

• 日志– 设置日志记录的严重性级别。此操作适用于发送自定义事件进行仪表板监控
• 过滤 – 从工具的输入和/或输出中移除选定字段，如下所示：

  • 输入：选定字段不会发送到工具 API 请求。

  • 输出：选定字段不会返回至智能体。

    备注：

    如果过滤掉关键信息，智能体的质量可能会受到影响。

• 阻止– 在满足条件时阻止工具执行。使用此选项时，您必须提供阻止原因。阻止工具可能会导致智能体发生故障。
• 升级 – 通过兼容的升级应用将升级分配给用户。

执行护栏机制​

• 成功执行的状态。
• 护栏在追踪中的存在。
• 已应用或已跳过的护栏详细信息。

在护栏机制中使用升级应用​

1. 从 Marketplace 下载该应用模板，然后将 .uip 文件导入一个新 Studio 项目。有关详细信息，请参阅《Studio Web 用户指南》中的导入应用项目。
2. 您可以将新控件和事件添加到应用中，但请勿更改基础操作架构。更改架构会导致应用与护栏升级不兼容。
3. 按照发布应用项目中的说明来发布应用。
4. 转到 Orchestrator，然后在共享文件夹中部署应用，如部署应用项目中所述。 确保文件夹中包含可用的 Serverless 机器人，以避免运行升级时出错。
5. 返回到您的智能体，然后选择最近部署的应用以便用于护栏。