Hacker News Front Page · armcat ·
ThinkingCap: Gemma-4-26B-A4B — up to 69% and on average 39% less thinking, at unchanged accuracy
ThinkingCap, una versión ajustada de Gemma-4-26B-A4B-it, reduce los tokens de razonamiento un 38,9 % en promedio y hasta un 69,1 % en doce benchmarks, con una caída media de precisión de 0,15 puntos porcentuales. Las evaluaciones con múltiples semillas muestran que la precisión se mantiene cerca de la original en la mayoría de las pruebas, aunque AA-LCR registra una pérdida notable de 4 puntos; también disminuye la tasa de respuestas repetitivas. El equipo publica la metodología, ofrece el modelo y sus compilaciones GGUF, y afirma que puede sustituir al original sin cambiar los ajustes de inferencia.
This is the fifth model in the ThinkingCap series. We reduced how much Google's gemma-4-26B-A4B-it thinks, without compromising the quality of its answers.