Guía de administración de Test Cloud

• Reemplazar la suscripción de UiPath LLM: reemplaza las suscripciones administradas por UiPath por las tuyas, siempre que coincidan con la misma familia de modelos y la misma versión ya admitida por el producto UiPath. Esto permite intercambiar sin problemas los modelos gestionados por UiPath con tus modelos suscritos.
• Añade tu propio LLM: utiliza cualquier LLM que cumpla con los criterios de compatibilidad del producto. Para garantizar una integración fluida, tu LLM elegido debe pasar una serie de pruebas iniciadas a través de una llamada de sondeo antes de que pueda utilizarse dentro del ecosistema UiPath.

• Requisitos de compatibilidad: tu LLM o suscripción elegida debe alinearse con la familia de modelos y la versión actualmente compatible con el producto UiPath.
• Configuración: asegúrate de configurar y mantener correctamente todos los LLM necesarios en la configuración personalizada. Si falta algún componente, está obsoleto o está configurado incorrectamente, tu configuración personalizada puede dejar de funcionar. En tales casos, el sistema volverá automáticamente a un LLM administrado por UiPath para garantizar la continuidad del servicio, a menos que los LLM de UiPath se desactiven a través de una política de Automation Ops.
• Ahorro de costes: si tu configuración personalizada de LLM está completa, es correcta y cumple todos los requisitos necesarios, puedes optar a una tasa de consumo reducida.

Configurar una conexión LLM​

• IA abierta de Azure
• OpenAI
• Amazon Bedrock
• Google Vertex
• OpenAI V1 Compliant LLM: utiliza esta opción para conectarte a cualquier proveedor de LLM cuya API cumpla el estándar OpenAI V1. Para obtener más detalles, consulta la documentación del conector de OpenAI V1 Compliant LLM.

1. Crea una conexión en Integration Service al proveedor de tu elección. Para obtener detalles de autenticación específicos del conector, consulta la guía del usuario de Integration Service.

   Nota:

   Para evitar el acceso no autorizado, crea la conexión de Integration Service en una carpeta privada no compartida.

2. Ve a Admin > AI Trust Layer > Configuraciones de LLM.

3. Selecciona el tenant y la carpeta donde quieres configurar la conexión.

4. Selecciona Añadir configuración.

5. Selecciona el producto y la característica.

6. Elija cómo desea configurar:

   • Reemplazar la suscripción de UiPath LLM : utiliza tu propia conexión en lugar de una administrada por UiPath.
   • Añade tu propio LLM : añade una configuración de LLM adicional gestionada completamente por ti.
     Nota:

     Al configurar tu propio LLM, puedes restringir opcionalmente qué modelos lingüísticos grandes están disponibles para su uso en tu organización. Si quieres asegurarte de que solo se utilizan tus modelos personalizados , puedes deshabilitar los modelos de terceros administrados por UiPath aplicando una política de AI Trust Layer. Consulta la sección Modelos en la documentación de las políticas de AI Trust Layer.

   Dependiendo del producto seleccionado, puede que solo esté disponible una opción.

7. Configura la conexión para Reemplazar la suscripción de UiPath LLM:

   1. Carpeta : selecciona la carpeta donde se almacenará la configuración.
   2. LLM reemplazable : en el menú desplegable, selecciona el LLM de UiPath que deseas reemplazar.
   3. Conector : selecciona tu conector (por ejemplo, Microsoft Azure OpenAI).
   4. Conexión : elige tu conexión de Integration Service. Si no hay ninguno disponible, selecciona Añadir nueva conexión para ser redirigido a Integration Service.
   5. Identificador de LLM : introduce el identificador de tu modelo.
      • Para los modelos alojados en Azure, introduce el identificador del modelo.
      • Para la inferencia entre regiones de AWS Bedrock, introduce el ID del perfil de inferencia en lugar del ID del modelo.

8. Configura la conexión para Añadir tu propio LLM:

   1. Carpeta : selecciona la carpeta donde se almacenará la configuración.
   2. Nombre mostrado (LLM) : proporciona un alias para tu LLM.
   3. Conector : selecciona tu conector (por ejemplo, Microsoft Azure OpenAI).
   4. Conexión : elige tu conexión de Integration Service.
   5. Identificador de LLM : introduce el identificador de tu modelo.
      • Para los modelos alojados en Azure, introduce el identificador del modelo.
      • Para la inferencia entre regiones de AWS Bedrock, introduce el ID del perfil de inferencia en lugar del ID del modelo.

9. Selecciona Probar configuración para comprobar que el modelo es accesible y cumple los criterios necesarios.

   UiPath puede confirmar la accesibilidad, verificar el modelo exacto utilizado es tu responsabilidad.

10. Si la prueba tiene éxito, selecciona Guardar para activar la conexión.

Gestionar conexiones LLM existentes​

• Comprobar estado : verifica el estado de tu conexión de Integration Service. Esta acción garantiza que la conexión esté activa y funcione correctamente.
• Editar : modifica cualquier parámetro de tu conexión existente.
• Deshabilitar : suspende temporalmente la conexión. Cuando está deshabilitada, la conexión permanece visible en tu lista, pero no enruta ninguna llamada. Puedes volver a habilitar la conexión cuando sea necesario.
• Eliminar : elimina permanentemente la conexión de tu sistema. Esta acción deshabilita la conexión y la elimina de tu lista.

Configuración de LLM para su producto​

• Llamada a herramientas (funciones) : tu modelo debe poder llamar a herramientas o funciones durante la ejecución.
• Deshabilitar las llamadas de herramientas paralelas : si tu proveedor de LLM lo admite, el modelo debe ofrecer la opción de deshabilitar las llamadas de herramientas paralelas.
  Nota:

  Al utilizar modelos personalizados, el sistema no puede determinar la verdadera capacidad de token del modelo. Los agentes tienen un límite predeterminado de 4096 tokens, incluso si el modelo subyacente admite un valor más alto. Este comportamiento es intencionado, ya que UiPath no puede inferir límites de tokens para implementaciones definidas por el cliente.