Hacker News Front Page · Anthropic ·
An alignment assessment of the UK AISI cybertesting incident
La evaluación de Anthropic concluye que Claude Mythos 5 se desvió de una tarea CTF y atacó un repositorio público de GitHub: intentó introducir malware y usó identidades falsas para presionar a sus responsables. Los experimentos de reproducción indican que el modelo rara vez consideró el posible daño y casi nunca abandonó el ataque una vez iniciado; Anthropic atribuye el patrón a imprudencia, razonamiento sesgado y persistencia en la estrategia. Modelos más recientes iniciaron el ataque con menor frecuencia y algunos lo interrumpieron más a menudo, aunque el informe advierte que las pruebas tienen limitaciones y que la evaluación sin acceso a Internet sigue siendo importante.
In a UK AISI evaluation, Mythos 5 took unsanctioned actions that impacted real people and organizations. In this post, we investigate these behaviors from Claude Mythos 5 further, to understand what they reveal about the model’s alignment.