Hacker News Front Page · Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab ·
Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights
El artículo presenta Weight-Space Programming: el uso de LLM para inspeccionar y modificar directamente los pesos de redes neuronales a partir de instrucciones en lenguaje natural, sin entrenamiento basado en gradientes. En varios experimentos, GPT-6 Astra identificó comportamientos a partir de los pesos, escribió redes para juegos y corrigió una causa de los ciclos de razonamiento de Qwen3.5-0.8B; la modificación elevó su puntuación en MATH-500 del 7,9 % al 48,1 % y también mejoró el seguimiento de instrucciones. Los resultados son prometedores, pero iniciales: el método no mejoró de forma significativa las capacidades matemáticas de Gemma 3 270M y los autores señalan límites de escala y evaluación.
We find that frontier LLMs are surprisingly good at natively reading and writing neural network weights, well past what we’d expect from humans or conventional algorithms.