Hacker News Front Page · datavorous_ ·
Post training a model to explore Demoscenes
El autor entrenó Demoscener, un modelo basado en Qwen2.5-Code-7B, para generar continuaciones de Dweets: programas de JavaScript muy breves que producen animaciones. El continued pretraining sobre 25.000 ejemplos redujo la perplexity en Dweets reservados de 28,63 a 8,57, y un curriculum que priorizaba los más valorados mejoró aún más las predicciones; después, el autor aplicó RLHF con GRPO a partir de sus propias preferencias visuales, comparando manualmente unas 40.000 animaciones. El resultado es un modelo para explorar continuaciones y ramificaciones de código, disponible junto con el dataset en Hugging Face.
On the grammar of demoscenes and the possibilities of unfinished code