LLM を設定する

link

• UiPath の LLM サブスクリプションを置き換える: UiPath で管理されるサブスクリプションを独自のサブスクリプションに置き換えます。ただし、UiPath 製品ですでにサポートされているものと同じモデル ファミリとバージョンに一致することが条件です。これにより、UiPath で管理されるモデルをユーザーのサブスクリプション済みモデルにシームレスに置き換えることができます。
• 独自の LLM を追加する: 製品の相互運用性基準を満たす任意の LLM を使用します。スムーズな連携を実現するため、選択した LLM を UiPath エコシステム内で使用する前に、その LLM が、プローブ呼び出しによって開始される一連のテストに合格する必要があります。

• 相互運用性の要件: 選択した LLM またはサブスクリプションが、UiPath 製品でサポートされているモデル ファミリおよびバージョンと一致している必要があります。
• 設定: 必ず、必要なすべての LLM をカスタム設定で適切に設定し、維持管理します。不足しているコンポーネント、古いコンポーネント、正しく設定されていないコンポーネントがあると、カスタム設定が機能しなくなる可能性があります。このような場合、Automation Ops のポリシーで UiPath LLM をオフにしていない限り、サービスの継続性を確保するために、UiPath で管理される LLM に自動的に戻ります。
• Cost-saving: If your custom LLM setup is complete, correct, and meets all necessary requirements, you may be eligible for a reduced consumption rate. For details, refer to Consumption rates for customer-managed models.

• ユニファイド プライシング: Community、Enterprise Platform、Standard Platform、Basic Platform、App Test Platform Enterprise、App Test Platform Standard
• フレックス: Advanced Platform、Flex Standard Platform。

Integration Service を介した直接接続​

Relay を介したプライベート ネットワーク接続​

カスタム コネクタを介した AI ゲートウェイの接続​

• Azure OpenAI
• OpenAI
• Amazon Web Services
• Anthropic Claude
• Google Vertex
• Open AI V1 準拠の LLM – OpenAI V1 標準に準拠している API を備えた LLM プロバイダーに接続するには、このオプションを使用します。詳しくは、OpenAI V1 準拠の LLM コネクタに関するドキュメントをご覧ください。
  注:

  Integration Service のコネクションを使用するには、 Integration Service の送信 IP 範囲 を許可リストに追加する必要があります。

1. Integration Service のコネクションを作成する​

1. Integration Service で、LLM プロバイダーへのコネクションを作成します。
2. コネクションを保存するフォルダーを選択します。
3. 選択したコネクタで必要な認証を完了します。
   注:

   選択したフォルダーによって、セキュリティと可視性の両方が制御されます。未認可のアクセスを防ぐには、Integration Service のコネクションを非共有のプライベート フォルダーに作成します。ただし、モデルの表示設定は、このフォルダーへのアクセス権によって決まります。管理者がアクセス権を持っていない場合、関連付けられているモデル設定はリストに表示されません。

2. 新しい LLM の設定を追加する​

1. [管理] > [AI Trust Layer] > [LLM の設定] に移動します。
2. テナントを選択します。
3. [設定を追加] を選択します。
4. 製品 (例: [Agents]) と機能 (例: [設計、評価、デプロイ]) を選択します。
5. [コネクションのフォルダー] を選択します。

3. モデルを設定する​

• LLM 名 – ユース ケースに応じて以下の 2 つの設定オプションがサポートされています。
  • リストからモデルを選択する – 定義済みのリストからモデルを選択すると、UiPath で管理される LLM サブスクリプションが、同じモデルの独自のサブスクリプションに置き換えられます。このシナリオは「独自のサブスクリプションを使用 (BYOS)」と呼ばれます。
  • カスタム エイリアスを追加 – カスタム名を入力すると、その製品に対して推奨されるモデルの定義済みリストに含まれていないモデルを設定できます。このシナリオは、「独自のモデルを使用する (BYOM)」と呼ばれます。
    注:

    [カスタム エイリアスを追加] オプションは、カスタム モデルをサポートする製品でのみ使用できます。カスタム モデルをサポートしている製品については、以下の表をご覧ください。

• API の種類 – LLM でサポートされる API エンドポイントです (例: Open AI Chat Completions)。プロバイダーによって公開されているエンドポイントと一致する必要があります。
• コネクタ – Integration Service のコネクタです (例: Microsoft Azure OpenAI、Amazon Web Services)。
  • AI Trust Layer のカスタム コネクタ (現在のところ、Enterprise プランのユーザーからの求めに応じて提供可能) にアクセスできる場合は、[カスタム コネクタを作成] を選択し、事前定義のテンプレートをコネクタ ビルダーから使用することもできます。詳しくは、「AI Trust Layer を介してカスタム LLM を接続する」をご覧ください。
• コネクション – 作成済みの特定の Integration Service のコネクションです。利用可能なコネクションがない場合は、Integration Service でコネクションを作成します。
• LLM の識別子 – お使いの LLM サブスクリプションに表示されているとおりのモデル識別子です。
  • Azure がホストするモデルの場合: モデルのデプロイ名/識別子を入力します。
  • AWS Bedrock のクロスリージョン推論の場合: 推論プロファイル ID を入力します。モデル ID の前にリージョン コードを追加する必要があります (例: eu.anthropic.claude-3-5-sonnet-20240620-v1:0)。
  • その他のプロバイダーの場合: サブスクリプションで定義されているモデル名を使用します。

4. 検証して保存する​

1. [テストの設定] を選択して、エンドポイントがアクセス可能であることを確認します。

   • プラットフォームによって接続が検証されます。
   • 正しいモデルが設定されていることを確認することは、引き続きユーザーの責任です。

2. 検証が成功した場合は、[保存] を選択して設定をアクティブ化します。

   

• ステータスを確認 – Integration Service のコネクションのステータスを確認します。この操作により、コネクションがアクティブで正しく機能していることを確認します。
• 編集 – 既存のコネクションのパラメーターを変更します。
• 無効化 – コネクションを一時的に中断します。無効化した場合、コネクションはこれまでどおりリストに表示されますが、呼び出しをルーティングしません。必要に応じて、コネクションを再度有効化することができます。
• 削除 – コネクションをシステムから完全に削除します。この操作を行うと、コネクションは無効化されてリストから削除されます。

• モデルを選択可能な (使用するモデルをユーザーが選択する) 機能では、1 つ以上のモデルを設定できます。設定されていないモデルでは、引き続き UiPath が管理するサブスクリプションが使用されます。
• 固定のモデルが設定されている機能 (事前定義された一連のモデルを使用する機能) では、機能が動作するにはすべてのモデルを設定する必要があります。一部だけ設定しても有効ではありません。

• LLM が以下をサポートしていることを確認します。
  • ツール (関数) の呼び出し – モデルは、実行中にツールまたは関数を呼び出せる必要があります。
  • 並列のツール呼び出しの無効化 – 並列のツール呼び出しがプロバイダーによってサポートされている場合、モデルは、その呼び出しを無効化するためのオプションを提供している必要があります。
• カスタム モデルを使用する場合、エージェントは、モデルの実際の容量にかかわらず、既定で 4096 個のトークンに制限されます。これは、UiPath ではユーザー定義のデプロイに対するトークンの制限を推測できないためです。

ユニファイド プライシング​

フレックス​