Hacker News Front Page · Anthropic ·
LLMs are making formal software verification feasible at a much larger scale
Anthropic y Theorem muestran que Claude puede producir pruebas formales a gran escala para software real: verificaron propiedades de seguridad en 123 bibliotecas de código abierto y encontraron y corrigieron errores que habían resistido años de pruebas. Las pruebas, escritas para binarios RISC-V y revisadas por el verificador Rocq, demuestran que 239 puntos de entrada no fallan ante entradas de hasta 64 MB bajo supuestos específicos sobre el sistema y el entorno de ejecución. El trabajo también presenta límites importantes —como la dependencia de modelos fieles de hardware y sistema operativo— y datos que indican que compartir pruebas reduce el costo de generarlas.
Claude formally proved security properties in the compiled code of 123 open-source libraries. Along the way, it found bugs that had eluded detection for years.