智能体用户指南

1. 打开智能体设置。
   1. 在Studio Web中，打开您的智能体。
   2. 打开智能体设置面板。
   3. 转到“防护机制”选项卡，然后选择“添加防护机制” 。
2. 从可用的预定义护栏类型中选择护栏类型：
   • PII 检测– 识别和阻止敏感信息，例如电子邮件地址或实际地址。此护栏使用 Azure 认知服务。
   • 提示注入– 在 LLM 交互期间检测并阻止恶意或操控提示。此护栏使用 Noma 安全性。注意：Noma 服务在美国托管，因此由“提示注入”护栏处理的数据可能会在租户区域之外处理。

配置 PII 检测护栏​

1. 将 PII 检测护栏添加到您的智能体。
2. 定义防护机制详细信息。填写以下字段：
   • 防护机制名称– 输入此防护机制的描述性名称。
   • 防护机制说明– 解释其检测到的内容或适用于何处。
3. 选择要检测的实体。从“要检测的实体” 下拉列表中，选择要监控的信息类型（例如，电子邮件、电话或地址）。
4. 设置检测阈值。对于每个选定的实体，定义 0 到 1 之间的“检测”阈值。阈值越高，检测就越严格（误报就越少），而阈值越低，检测就越敏感。
5. 选择作用域。选择要应用防护机制的位置：
   1. 智能体– 检查智能体的输入和输出提示。
   2. LLM 调用– 检查与模型交换的请求和响应。
   3. 工具– 检查工具的输入和输出数据。您可以选择一个或多个作用域，以在多个执行阶段应用相同的检测逻辑。
      • 如果选择“工具”作用域，请从“选择工具”列表中选择一个或多个工具。这样，您就可以在同一智能体中的多个工具中重用相同的护栏功能。
6. 定义 “操作类型” 。配置系统在检测到 PII 时的响应方式：
   1. 日志– 在不中断智能体执行的情况下记录事件。“严重性级别”可设置日志条目的重要性级别：
      • “信息” – 用于提供一般信息或低影响的发现结果。
      • “Warning” – 针对不会阻止执行的潜在风险。
      • Error – 适用于需要审核的严重检测。
   2. 阻止– 触发护栏时停止智能体或工具执行。
      • 阻止原因– 提供阻止操作的简要说明（例如，“在工具输出中检测到 PII 数据”）。
   3. 升级– 发生违规情况时发送升级。
      • 将应用程序分配给– 选择升级目标类型：特定用户、定义的用户组或外部地址。
      • 收件人– 搜索并选择收件人（姓名或电子邮件）。
      • 操作应用程序– 选择将处理升级的应用程序。
7. 为评估启用。切换至“为评估启用护栏”切换开关，以在智能体测试或评估期间运行此护栏。
8. 保存防护机制。配置后，护栏将自动监控所有 LLM 请求和响应，并在检测到提示词注入尝试时阻止执行。

配置提示注入防护机制​

1. 为您的智能体添加提示注入护栏。
2. 定义防护机制详细信息。填写以下字段：
   1. 防护机制名称– 输入此防护机制的描述性名称。
   2. 防护机制说明–（可选）解释其检测的内容或适用位置。
3. 设置检测阈值。指定敏感性级别（例如 0.8）。值越高，检测就越严格并减少误报。
4. 定义 “操作类型” 。配置系统应如何处理检测事件：
   1. 日志– 在不中断智能体执行的情况下记录事件。“严重性级别”可设置日志条目的重要性级别：
      • “信息” – 用于提供一般信息或低影响的发现结果。
      • “Warning” – 针对不会阻止执行的潜在风险。
      • Error – 适用于需要审核的严重检测。
   2. 阻止– 触发护栏时停止智能体或工具执行。
      • 阻止原因– 提供阻止操作的简要说明。
   3. 升级– 发生违规情况时发送升级。
      • 将应用程序分配给– 选择升级目标类型：特定用户、定义的用户组或外部地址。
      • 收件人– 搜索并选择收件人（姓名或电子邮件）。
      • 操作应用程序– 选择将处理升级的应用程序。
5. 为评估启用。切换至“为评估启用护栏”切换开关，以在智能体测试或评估期间运行此护栏。
6. 保存防护机制。配置后，护栏将自动监控所有 LLM 请求和响应，并在检测到提示词注入尝试时阻止执行。