Hacker News Front Page · Jakub Mroz, Henry Ndubuaku ·
Whistle: Speech to Text in 16.9 MB
Whistle es un modelo de reconocimiento de voz de 16,9 MB que funciona sin dependencias en CPU y procesa audio en siete idiomas en el dispositivo. Comparte bloques y un motor C++ con Needle; incorpora atención cruzada entre el codificador y el decodificador, marcas de tiempo por palabra y búsqueda con sesgo por palabras clave. En las pruebas publicadas, supera a Whisper base en varias métricas de error y latencia, aunque Whisper obtiene mejores resultados en algunos conjuntos de datos; el motor también permite enviar transcripciones directamente a herramientas y devuelve sus llamadas en JSON.
An open speech recognition model that runs on the same CPU engine as Needle. It transcribes seven languages, reaches the first token in 11 ms, and loads beside Needle so one binary turns a clip straight into tool calls.