Test Cloud 管理员指南

• 替换 UiPath LLM 订阅：将 UiPath 管理的订阅替换为您自己的订阅，前提是这些订阅与 UiPath 产品已支持的相同模型系列和版本匹配。这样就可以将 UiPath 托管模型与订阅的模型无缝交换。
• 添加自己的 LLM：使用满足产品兼容性条件的任何 LLM。为确保集成顺利进行，您选择的 LLM 必须通过通过探测器调用启动的一系列测试，然后才能在 UiPath 生态系统中使用。

• 兼容性要求：您选择的 LLM 或订阅必须与 UiPath 产品当前支持的模型系列和版本保持一致。
• 设置：确保在自定义设置中正确配置和维护所有必需的 LLM。如果有任何组件缺失、过期或配置不正确，您的自定义安装可能会停止运行。在这种情况下，系统将自动还原为 UiPath 托管的 LLM，以确保服务的连续性，除非通过 Automation Ops 策略关闭 UiPath LLM。
• 节省成本：如果您的自定义 LLM 设置完整、正确并满足所有必要要求，则可能有资格获得降低消耗费率。

设置 LLM 连接​

• Azure Open AI
• OpenAI
• Amazon Bedrock
• Google Vertex
• 符合 Open AI V1 要求的 LLM – 使用此选项可连接到 API 遵循 OpenAI V1 标准的任何 LLM 提供程序。 有关详细信息，请参阅《符合 OpenAI V1 要求的 LLM 连接器》文档。

1. 在 Integration Service 中创建与您选择的提供程序的连接。有关特定于连接器的身份验证详细信息，请参阅Integration Service 用户指南。

   备注：

   为防止未经授权的访问，请在私有的非共享文件夹中创建 Integration Service 连接。

2. 导航到“管理员” > “AI Trust Layer” > “LLM 配置” 。

3. 选择要在其中配置连接的租户和文件夹。

4. 选择“添加配置” 。

5. 选择“产品”和“功能” 。

6. 选择配置方式：

   • 替换 UiPath LLM 订阅– 使用您自己的连接，而非由 UiPath 管理的连接。
   • 添加自己的 LLM – 添加完全由您管理的其他 LLM 配置。
     备注：

     配置您自己的 LLM 时，您可以选择限制可在组织中使用的大型语言模型（LLM）。如果想确保仅使用自定义模型，则可以通过应用AI Trust Layer 策略来禁用 UiPath 托管的第三方模型 。请查看 AI Trust Layer 策略文档中的“模型”部分。

   根据所选产品，可能只有一个选项可用。

7. 为“替换 UiPath LLM”订阅设置连接 :

   1. 文件夹– 选择将存储配置的文件夹。
   2. 可替换的 LLM – 从下拉列表中选择要替换的 UiPath LLM。
   3. 连接器– 选择连接器（例如 Microsoft Azure OpenAI）。
   4. 连接– 选择您的 Integration Service 连接。如果没有可用的连接，请选择“添加新连接”以重定向到 Integration Service。
   5. LLM 标识符– 输入模型的标识符。
      • 对于 Azure 托管的模型，请输入模型标识符。
      • 对于 AWS Bedrock 跨区域推理，请输入推理配置文件 ID 而不是模型 ID。

8. 设置“添加自己的 LLM”的连接：

   1. 文件夹– 选择将存储配置的文件夹。
   2. 显示的 (LLM) 名称– 为 LLM 提供别名。
   3. 连接器– 选择连接器（例如 Microsoft Azure OpenAI）。
   4. 连接– 选择您的 Integration Service 连接。
   5. LLM 标识符– 输入模型的标识符。
      • 对于 Azure 托管的模型，请输入模型标识符。
      • 对于 AWS Bedrock 跨区域推理，请输入推理配置文件 ID 而不是模型 ID。

9. 选择“测试配置” ，以检查模型是否可访问并满足所需条件。

   UiPath 可以确认可用性，您负责验证确切的模型。

10. 如果测试成功，请选择“保存”以激活连接。

管理现有 LLM 连接​

• 检查状态– 验证 Integration Service 连接的状态。此操作可确保连接处于活动状态并正常运行。
• 编辑– 修改现有连接的任何参数。
• “禁用” – 暂时暂停连接。禁用后，该连接在列表中仍可见，但不会路由任何调用。您可以在需要时重新启用连接。
• 删除– 从系统中永久删除连接。此操作会禁用连接并将其从列表中删除。

为产品配置 LLM​

• 工具（函数）调用– 您的模型必须能够在执行期间调用工具或函数。
• 禁用并行工具调用– 如果得到 LLM 提供程序的支持，模型应提供禁用并行工具调用的选项。
  备注：

  使用自定义模型时，系统无法确定模型的真实令牌容量。智能体默认将令牌限制为 4096，即使基础模型支持更高的值也是如此。这是有意为之，因为 UiPath 无法推断客户定义的部署的令牌限制。