Configurar LLM

link

• Reemplazar la suscripción de UiPath LLM: reemplaza las suscripciones administradas por UiPath por las tuyas, siempre que coincidan con la misma familia de modelos y la misma versión ya admitida por el producto UiPath. Esto permite intercambiar sin problemas los modelos gestionados por UiPath con tus modelos suscritos.
• Añade tu propio LLM: utiliza cualquier LLM que cumpla con los criterios de compatibilidad del producto. Para garantizar una integración fluida, tu LLM elegido debe pasar una serie de pruebas iniciadas a través de una llamada de sondeo antes de que pueda utilizarse dentro del ecosistema UiPath.

• Requisitos de compatibilidad: el LLM o la suscripción que has elegido debe alinearse con la familia de modelos y la versión compatibles con el producto UiPath.
• Configuración: asegúrate de configurar y mantener correctamente todos los LLM necesarios en la configuración personalizada. Si falta algún componente, está obsoleto o está configurado incorrectamente, tu configuración personalizada puede dejar de funcionar. En tales casos, el sistema volverá automáticamente a un LLM administrado por UiPath para garantizar la continuidad del servicio, a menos que los LLM de UiPath se desactiven a través de una política de Automation Ops.
• Ahorro de costes: si tu configuración de LLM personalizada está completa, es correcta y cumple todos los requisitos necesarios, puedes optar a una tasa de consumo reducida. Para obtener más información, consulta Tasas de consumo para modelos gestionados por el cliente.

• Unified Pricing: Community, Plataforma Enterprise, Standard Platform, Basic Platform, App Test Platform Enterprise, App Test Platform Standard.
• Flex: plataforma avanzada, plataforma estándar Flex .

Conectividad directa a través de Integration Service​

Conectividad de red privada a través de Relay​

Conectividad de puerta de enlace de IA a través de un conector personalizado​

• IA abierta de Azure
• OpenAI
• Amazon Web Services
• Anthropic Claude
• Google Vertex
• OpenAI V1 Compliant LLM: utiliza esta opción para conectarte a cualquier proveedor de LLM cuya API cumpla el estándar OpenAI V1. Para obtener más detalles, consulta la documentación del conector de OpenAI V1 Compliant LLM.
  Nota:

  Para utilizar las conexiones de Integration Service, debes añadir los rangos de IP salientes de Integration Service a tu lista de permitidos.

1. Crear la conexión de Integration Service​

1. En Integration Service, crea una conexión a tu proveedor de LLM.
2. Elija la carpeta donde se almacenará la conexión.
3. Completa la autenticación según lo requiera el conector seleccionado.
   Nota:

   La carpeta que elijas controla tanto la seguridad como la visibilidad. Para evitar el acceso no autorizado, crea la conexión de Integration Service en una carpeta privada no compartida. Sin embargo, ten en cuenta que la visibilidad del modelo está determinada por el acceso a esta carpeta. Si un administrador no tiene acceso a él, la configuración del modelo asociado no aparecerá en la lista.

2. Añadir una nueva configuración de LLM​

1. Ve a Admin > AI Trust Layer > Configuraciones de LLM.
2. Selecciona el Tenant.
3. Selecciona Añadir configuración.
4. Elige el Producto (por ejemplo, Agentes) y la Característica (por ejemplo, Diseño, Evaluación e implementación).
5. Selecciona la carpeta Conexiones.

3. Configurar el modelo​

• Nombre de LLM : este campo admite dos opciones de configuración, dependiendo de tu caso de uso:
  • Seleccionar un modelo de la lista: elegir un modelo de la lista predefinida reemplaza la suscripción de LLM administrada por UiPath con tu propia suscripción para ese mismo modelo. Este escenario se conoce como Trae tu propia suscripción (BYOS).
  • Añade un alias personalizado: introducir un nombre personalizado te permite configurar un modelo que no está incluido en la lista predefinida de modelos recomendados para ese producto. Este escenario se conoce como Trae tu propio modelo (BYOM).
    Nota:

    La opción Añadir un alias personalizado solo está disponible para productos que admiten modelos personalizados. Para saber qué productos admiten modelos personalizados, consulta la siguiente tabla.

• Tipo de API : el punto final de la API compatible con el LLM (por ejemplo, Finalizaciones de Open AI Chat). Debe coincidir con el punto final expuesto por tu proveedor.
• Conector : el conector de Integration Service (por ejemplo, Microsoft Azure OpenAI, Amazon Web Services).
  • Si tienes acceso a conectores personalizados para AI Trust Layer (actualmente disponibles a petición de los clientes empresariales), también puedes seleccionar Crear conector personalizado para utilizar una plantilla predefinida a través del Creador de conectores. Para obtener más información, consulta Conectar LLM personalizados a través de AI Trust Layer.
• Conexión : la conexión específica de Integration Service creada anteriormente. Si no hay ninguna conexión disponible, crea una en Integration Service.
• Identificador de LLM : el identificador del modelo exactamente como aparece en tu suscripción de LLM.
  • Para modelos alojados en Azure: introduce el nombre/identificador de implementación del modelo.
  • Para la inferencia entre regiones de AWS Bedrock: introduce el ID del perfil de inferencia. Debes anteponer al ID del modelo tu código de región, por ejemplo: eu.anthropic.claude-3-5-sonnet-20240620-v1:0.
  • Para otros proveedores: utiliza el nombre del modelo tal y como se define en tu suscripción.

4. Validar y guardar​

1. Selecciona Probar configuración para verificar que el punto final es accesible.

   • La plataforma valida la conectividad.
   • Garantizar que se configura el modelo correcto sigue siendo tu responsabilidad.

2. Si la validación se realiza correctamente, selecciona Guardar para activar la configuración.

   

• Comprobar estado : verifica el estado de tu conexión de Integration Service. Esta acción garantiza que la conexión esté activa y funcione correctamente.
• Editar : modifica cualquier parámetro de tu conexión existente.
• Deshabilitar : suspende temporalmente la conexión. Cuando está deshabilitada, la conexión permanece visible en tu lista, pero no enruta ninguna llamada. Puedes volver a habilitar la conexión cuando sea necesario.
• Eliminar : elimina permanentemente la conexión de tu sistema. Esta acción deshabilita la conexión y la elimina de tu lista.

• Para las características con un modelo seleccionable, donde eliges qué modelo utilizar, puedes configurar uno o más modelos; los modelos no configurados siguen utilizando suscripciones gestionadas por UiPath.
• Para las características con un conjunto fijo de modelos, que utiliza un conjunto predeterminado de modelos, todos los modelos deben configurarse para que la característica funcione; la configuración parcial no es válida.

• Asegúrate de que tu LLM admita:
  • Llamada a herramientas (función): el modelo debe poder llamar a herramientas o funciones durante la ejecución.
  • Deshabilitar llamadas a herramientas paralelas: si tu proveedor lo admite, el modelo debe ofrecer la opción de deshabilitar las llamadas a herramientas paralelas.
• Cuando se utilizan modelos personalizados, el límite predeterminado de agentes es 4096 tokens, independientemente de la capacidad real del modelo, ya que UiPath no puede inferir límites de tokens para las implementaciones definidas por el cliente.

Precios unificados​

Flexible​