- Primeros pasos
- Seguridad y cumplimiento de los datos
- Organizaciones
- Autenticación y seguridad
- Licencia
- Acerca de la licencia
- Precios unificados: marco del plan de licencias
- Activar su licencia Enterprise
- Migrar de Test Suite a Test Cloud
- Migración de licencias
- Asignar licencias a tenants
- Asignación de licencias de usuario
- Anular la asignación de licencias de usuarios
- Monitoring license allocation
- Licencias con exceso de asignación
- Notificaciones de licencias
- Administración de licencias de usuario
- Tenants y servicios
- Cuentas y roles
- Ai Trust Layer
- Acerca de la capa de confianza de IA
- Comprobación del resumen de uso
- Visualización de los registros de auditoría
- Gestionar las políticas de la capa de confianza de IA
- Enmascaramiento PII
- Gestionar Autopilot for Everyone
- Configurar LLM
- Restringir las llamadas de LLM a tus propios modelos
- Configurar OpenTelemetry
- Controlar los datos contextuales para las características de GenAI
- Utilizar plantillas de conector
- Guía práctica: conectar Mistral a través de AI Trust Layer
- Guía práctica: conectar modelos de código abierto a través de AI Trust Layer
- Aplicaciones externas
- Notificaciones
- Registro
- Exportación de datos
- Pruebas en su organización
- Solución de problemas
- Migrar a Test Cloud
Conecta un modelo de código abierto en una puerta de enlace compatible con OpenAI a los productos de UiPath a través de AI Trust Layer utilizando la plantilla de LLM compatible con OpenAI V1.
Esta capacidad está actualmente disponible de forma general para los clientes empresariales bajo solicitud.
Esta guía explica cómo conectar un modelo de código abierto alojado en una puerta de enlace de IA a través de la característica de configuraciones de LLM de AI Trust Layer. Creas un conector de Integration Service personalizado utilizando la plantilla compatible con OpenAI V1 y lo configuras con tus credenciales de puerta de enlace e identificador de modelo.
Los pasos utilizan Fireworks como puerta de enlace de ejemplo, pero cualquier puerta de enlace compatible con OpenAI funciona.
Requisitos previos
- Conectores personalizados para AI Trust Layer habilitados para su organización (actualmente disponible a solicitud para clientes empresariales).
- Una cuenta en una puerta de enlace de IA compatible con OpenAI (por ejemplo, Fireworks) con acceso al modelo que desea utilizar
- El identificador del modelo tal y como aparece en tu puerta de enlace (por ejemplo,
accounts/fireworks/models/glm-4p6para GLM en Fireworks) - Credenciales de API para su cuenta de puerta de enlace
- Acceso de administrador de la organización en Test Cloud
- Acceso a Integration Service y Connector Builder
Configurar el LLM en AI Trust Layer
-
Ve a Admin > AI Trust Layer > Configuraciones de LLM y selecciona Añadir configuración.
-
Establece los valores de Tenant, Producto y Característica .
Nota:Puedes seleccionar cualquier producto que admita Trae tu propio modelo (BYOM), por ejemplo, Agentes, Actividades de IA de generación o Agentes codificados.
-
En Configuración del modelo, selecciona Añadir alias personalizado e introduce el nombre del modelo de código abierto.
-
Establece Tipo de API en el tipo de API que corresponda a tu modelo. Para la mayoría de los modelos de chat, selecciona Finalizaciones de chat.
-
En el campo Conector , selecciona Crear conector personalizado.
-
Selecciona la plantilla LLM compatible con OpenAI V1 y luego selecciona Crear conector. El Creador de conectores se abre con la plantilla rellenada previamente.
-
Configura el conector con tus credenciales de puerta de enlace y la configuración del modelo.
-
Guarda el conector.
Añadir una conexión en Integration Service
- En Integration Service, ve a Conexiones y selecciona Añadir conexión.
- Selecciona el conector personalizado que has publicado.
- Introduce tus credenciales de puerta de enlace. Para Fireworks, esta es tu clave API.
- Selecciona Conectar para aprovisionar la conexión.
Completar la configuración de LLM
-
Vuelve a Admin > AI Trust Layer > Configuraciones de LLM y abre la configuración que iniciaste.
-
En Configuración del modelo, establece Conector en tu conector publicado y Conexión en la conexión que creaste.
-
En el campo Identificador de LLM , introduce el identificador del modelo exactamente como aparece en tu puerta de enlace.
Para los modelos alojados en Fireworks, el identificador sigue el formato
accounts/fireworks/models/<model-name>. Por ejemplo:accounts/fireworks/models/glm-4p6.Nota:Los espacios finales en el campo del identificador de LLM provocan errores de conexión. Verifique que no haya espacios iniciales o finales antes de guardar.
-
Selecciona Probar configuración para ejecutar la sonda AI Trust Layer.
-
Si el sondeo es correcto, selecciona Guardar.
Resultado
La configuración se guarda y el modelo OSS está disponible para el producto y la característica que has especificado. Las llamadas se enrutan a través de la AI Trust Layer y aparecen en el registro de auditoría en Origen: Conexión personalizada. Para verificar, ejecuta un agente utilizando el modelo recién añadido y comprueba los seguimientos y los registros de auditoría de AI Trust Layer para confirmar que se invocó el modelo esperado.
Si tienes problemas al crear un conector personalizado, ponte en contacto con el soporte de UiPath para obtener ayuda.