Google Cloud Blog · Tushar Jaiswal, Alicia Williams ·
Using BigQuery’s generative AI cost management features
BigQuery ya ofrece cuotas diarias de tokens para limitar el consumo de funciones generativas basadas en LLM, con límites independientes por proyecto y por usuario que se aplican en todas las regiones. La guía explica cómo ajustar y supervisar esas cuotas, qué funciones están cubiertas y cómo se comportan las consultas cuando se alcanza un límite; también distingue estos controles preventivos de los topes de gasto de Cloud Billing. Para calcular límites adecuados, recomienda medir el texto de entrada con AI.COUNT_TOKENS, probar una muestra y considerar el costo de los tokens de salida y razonamiento.
Token-based cost management for BigQuery generative AI functions lets you set daily quotas on AI token consumption so you can keep within your budget.