Identify AI model overuse with User Insights
Cloudflare presenta nuevas capacidades en User Insights para ayudar a los equipos a identificar cuándo modelos de IA son más potentes de lo que la tarea requiere. La herramienta clasifica el tráfico por tipo de trabajo (codificación, investigación, escritura, resumen y análisis de datos) y muestra qué usuarios y agentes están impulsando ese uso, permitiendo comparar costos, latencia y patrones de conversación. Junto a esto, el Auto Router entra en beta cerrada para enrutar automáticamente las solicitudes al modelo más apropiado sin necesidad de crear reglas por separado. El sistema utiliza un worker dedicado que analiza el historial de conversaciones sin agregar latencia, procesando de forma asincrónica los registros con un desfase de aproximadamente un día.
AI Gateway User Insights now adds task, model, turn, and user categories to help teams understand AI adoption and make better model decisions. This is available free to AI Gateway users.