Simon Willison · Simon Willison ·
A quote from Anthropic Frontier Red Team
Un reporte del equipo de red team de Anthropic muestra que los modelos GLM-5.3 y Claude Mythos Preview alcanzan un hito crítico en seguridad: logran desarrollar secuestros de flujo de control en un 4% y 6% de intentos respectivamente, en pruebas de explotación binaria. Esta capacidad representa un umbral significativo, ya que modelos anteriores como Claude Opus 4.6 y GLM-5.2 nunca lograron este tipo de ataques.
We evaluate several models on 100 tasks from the [internal Binary Exploitation benchmark] (selected at random), and find that GLM-5.3 develops full control flow hijacks in 4% of the trials; …