Vercel Blog · Sam Chitgopekar ·
AI Gateway logs now show session affinity
AI Gateway incorpora una vista de sesiones que agrupa solicitudes y muestra cómo la afinidad de sesión las dirige entre proveedores, junto con modelos, costos y datos de caché. Cada sesión incluye el porcentaje de aciertos de caché, la duración y el recorrido de sus turnos; las sesiones se pueden filtrar por varios criterios. La afinidad está activa por defecto en solicitudes de texto y chat, y también se pueden agrupar solicitudes mediante un identificador de sesión o un encabezado compartido.
Vercel AI Gateway logs now group requests into sessions, with cache hit rate, cost, turns, and the coding agent behind each conversation.