UiPath Documentation
test-cloud
latest
false
Test Cloud 管理员指南
重要 :
新发布内容的本地化可能需要 1-2 周的时间才能完成。

模型中心

显示 UiPath 产品中 LLM 使用情况的集中 AI Trust Layer 视图,包括模型状态、路由和每个租户的替换控件。

模型中心是AI Trust Layer中的专用空间,管理员和合规团队可以通过此空间了解租户或组织中在 UiPath 产品之间使用 LLM 的情况。

它让您可以在一个位置查看存在的模型及其运行位置,了解其状态,在支持的情况下配置路由,并将模型替换为您自己的订阅或模型。模型中心表示通过 AI Trust Layer 和 Automation Ops 策略定义的监管在租户级别的有效状态;用户和组的特定于身份的策略分配仍会保留在 Automation Ops 中。

模型中心的优势​

收益(币种/年)它支持什么
集中式模型操作一站式处理模型使用情况、状态以及跨产品和功能的路由。
更快的合规状态评估验证使用的提供程序和模型,以及流量的路由方式。
降低操作风险尽早查看阻止和弃用的模型。
受控变更管理跟踪配置更改以及是否由系统或用户发起的更改。
自助自定义 LLM 配置将支持的模型替换为您自己的订阅 (BYOS),或添加您自己的模型 (BYOM)。

组织视图与租户视图​

模型中心在 AI Trust Layer 管理体验中作为选项卡提供,并且可以在组织级别和租户级别访问。级别决定您可以查看和更改的内容。

纵横比组织视图租户视图
用途轻量级概述和进入租户级别的启动台。租户模型的主配置空间。
显示的信息每个租户一个卡片,显示模型数量、租户区域和状态计数,例如有效、自定义或即将弃用。每个产品和功能使用的模型网格。
可用操作浏览租户及其高级模型状态,使用查看详细信息打开租户,以及使用添加自定义模型 启动自定义模型。配置路由,替换模型,以及查看配置历史记录。
限制无需基于功能的配置、路由更改或驻留设置。仅显示租户级有效状态。

要在租户中处理模型,请参阅在模型中心管理模型。

租户网格​

租户网格按产品分组,每个功能和模型占一行,并列出以下默认列。

列显示的内容为什么重要
产品产品名称,例如“智能体”,充当组标头;下方的行标识使用该模型的各个功能或功能。一个产品可以使用多个模型,具体取决于功能。
模型正在使用的模型。识别实践中正在运行的内容。
提供程序模型提供程序。供应商监管和合规性所需。
管理者UiPath,或“自定义”用于自定义 LLM 配置(BYOS 或 BYOM)。阐明所有权和责任。
模型路由路由区域(如果适用)。支持驻留和连续性推理。
模型状态有效、已阻止、即将弃用运营就绪性和合规性。

状态卡(例如活动” 、 “自定义” 、 “即将弃用”和“已阻止的功能”)总结了租户并在选择时筛选网格。“列”控件会添加可选列,例如“默认模型” ,而“搜索”和“筛选器”会缩小列表范围。

产品和功能可见性​

网格仅显示为租户启用的产品和功能。如果未启用产品,例如 Autopilot 或特定智能体功能,则其行不会显示。

Model impact​

The Model hub tab shows how LLM traffic is routed. The Model impact tab shows what is being routed: which processes in the tenant used a given model, and how much. It is available at the tenant level.

Model impact gives administrators the scope of a model change before they make it. It also covers processes that reference a model directly in a deployed package, which the Model hub grid does not identify.

What the results cover​

For a selected model, narrowed optionally by product and feature, the results cover the processes that used that combination over the last day, the last 7 days, or the last 30 days. Each entry gives:

  • The product and feature it ran under, and the model it called.
  • Its execution count for the period, and when it last used the model.

The execution count separates a process that uses the model on every run from one that used it once. Processes whose LLM calls do not pass through the AI Trust Layer are not counted.

Data freshness​

Model impact reads from a snapshot of tenant usage rather than querying live data:

  • Collection starts when the tenant overview is opened, so the data is being prepared before the first request for it.
  • Snapshots are created periodically throughout the day. The next Model impact request extends the latest snapshot with the usage recorded since the last collection.
  • Refresh collects that gap on demand. It is available only when the data is more than 10 minutes old, as a tenant-level limit.

Each set of results shows when the data was last collected. Results load progressively as the data arrives.

When usage data is unavailable​

Model impact depends on a UiPath usage-data service. When that service cannot be reached, Model impact returns the data from the last successful collection together with its timestamp, rather than failing. Results carrying an old timestamp are a partial picture of current usage.

The procedures are described in Reviewing model impact.

策略在模型中心的体现方式​

模型中心反映适用于每个租户的 AI Trust Layer 策略以及相关的 Automation Ops 监管。

在租户视图中, “数据驻留”横幅显示策略是否适用于租户,并允许您据此执行操作。应用策略后,系统按名称进行标识,您可以从同一位置更改或删除策略。当租户尚无策略时,模型中心将指导您创建策略,作为控制模型运行位置和可用模型的起点。

保单涵盖的不仅仅是居留权。AI Trust Layer 策略可以:

  • 强制执行数据驻留和允许的区域,请在策略的“区域”选项卡中配置 — 请参阅数据驻留。
  • 阻止特定模型或提供程序,例如所有 OpenAI 模型。
  • 阻止产品的 LLM 流量,例如 Autopilot。

当策略阻止某些内容时,网格会做出如下反映:

  • 被阻止的模型或提供程序显示时以“被阻止”状态,并记在“被阻止的功能”状态卡上。
  • 如果产品的 LLM 流量被阻止,则映射到该产品及其功能的模型也会显示为“已阻止” 。

策略可以在租户、组或用户级别应用,但网格仅显示租户级别的有效情况。仅阻止特定用户或组使用的模型可能不会在网格中显示为已阻止。Automation Ops 中提供每个身份的策略分配和有效设置。

策略作用域反映在租户网格中?要验证的位置
租户是模型中心
组未显示(仅限租户视图)Automation Ops
用户未显示(仅限租户视图)Automation Ops

数据驻留​

模型中心中显示的数据驻留信息反映了AI Trust Layer 策略中定义的配置。在策略的“区域”选项卡中配置 UiPath 托管流量的驻留强制执行,您可以在其中定义允许 LLM 流量路由通过的区域。

默认情况下,UiPath 优先考虑产品连续性:即使模型在租户的首选区域不可用,产品也能继续运行,因此流量可以路由最近的可用区域。例如,如果某种模型在澳大利亚不可用,流量可以路由到最近的受支持区域,以保持产品的运行。

强制执行驻留时,LLM 流量只能通过您允许的区域路由。如果流量无法通过允许的区域路由,则请求将失败,并且依赖产品功能可能会随之失败。这是一个有意的权衡:严格合规性优先于连续性。

自定义 LLM 配置​

模型中心显示客户控制的条目, “托管依据”设置为“自定义” 。自定义 LLM 配置采用以下两种形式之一:

  • 自带订阅 (BYOS):相同的受支持模型,在您自己的订阅上运行。
  • 自带模型 (BYOM):在产品预定义列表之外的模型。

由于自定义条目由客户控制,因此以不同的方式适用于它们:

  • 自定义条目的“模型路由”列为空。这是预期的结果:UiPath 不会从您的自定义模型端点推断路由,也不会配置您的自定义模型端点。
  • 驻留策略控制 UiPath 仅路由 UiPath 托管流量。当 UiPath 托管模型在允许的区域不可用时,不会阻止自定义条目,因为自定义模型的路由完全由您的端点配置决定。能否满足您的驻留要求取决于您在合规区域托管和配置端点。
  • 您拥有任何自定义 LLM 配置的生命周期。当您使用的模型被弃用时,UiPath 会通知您,您的管理员有责任在弃用日期之前迁移到替换模型。在模型中心管理模型描述了迁移步骤。

如果自定义配置缺失、过期或配置错误,该配置可能会停止运行。在这种情况下,系统将自动恢复到 UiPath 托管的 LLM 以保持连续性,除非通过 Automation Ops 策略禁用了 UiPath 托管的 LLM,则请求将失败,并且依赖于该模型的功能可能会停止工作。

“配置 LLM”和“在模型中心”中管理模型介绍了设置和替换过程。

模型状态和弃用​

“状态”列显示每个模型在其生命周期中所处的阶段。

状态意义
活动模型可供使用。
即将弃用模型将在已知日期停用,与替换模型一起显示在状态详细信息中。建议进行测试和迁移。
预览此模型提供的支持有限,包括驻留培训。
已阻止模型或其流量被策略阻止。

有关模型生命周期的详细信息,请参阅:

此页面有帮助吗?

连接

需要帮助? 支持

想要了解详细内容? UiPath Academy

有问题? UiPath 论坛

保持更新