Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang
Cloudflare informa que un error de aislamiento en GLM-5.3 para Workers AI expuso datos de otras solicitudes en 155 respuestas a prompts de más de 681.280 tokens; no encontró indicios de explotación deliberada. La causa combinó un pool de KV cache menor que la ventana de contexto y un fallo de SGLang que permitía que solicitudes rechazadas llegaran al nodo de decodificación, donde se leían páginas con datos anteriores. Cloudflare corrigió la configuración y el motor, añadió controles para detectar fallos de transferencia y recomienda actualizar SGLang a la versión 0.5.22 o posterior.
A configuration mismatch in GLM 5.3 on Workers AI triggered an SGLang bug that exposed KV cache pages across requests. Here is how we addressed the issue.