Vercel Blog · Rohan Taneja ·
Introducing Virtual Models on AI Gateway
Vercel presenta Virtual Models en AI Gateway, que permite asignar un ID estable a una tarea y cambiar el modelo y su configuración sin modificar el código ni volver a desplegar las aplicaciones. Cada ID puede centralizar ajustes como modelos de respaldo, prioridad, Zero Data Retention y etiquetas, además de imponer políticas que las solicitudes no pueden sobrescribir. La función también permite controlar permisos y consultar solicitudes, gasto y tasa de éxito por tarea.
Introducing virtual models on AI Gateway. Virtual models are an abstraction of the model string and configurations your apps and developers use.