Cactus öppna taligenkänningsmodell på bara 16,9 MB som skriver ut tal på sju språk direkt på en enhets processor, utan grafikkort, och delar motor med Needle.
Felfrekvens, storlek och hastighet: Whistle mot Whisper och Moonshine [2]
Whistle är en öppen modell för tal till text från Cactus, gjord för mobiler, bärbara prylar, robotar, smarta hem, bilar och mikrokontroller. Hela modellen är en fil på 16,9 MB och körs på vanlig processor utan grafikkort och utan andra beroenden. Den förstår engelska, tyska, franska, spanska, italienska, nederländska och polska och känner själv av vilket språk som talas.
Utöver vanlig utskrift ger Whistle tidsstämplar för varje ord och kan strömma ljud live. Man kan också ge den en lista med namn och fackord som den ska gynna, så att till exempel produktnamn blir rätt. Tystnad och jämnt brus ger tom text i stället för påhittade meningar, men Cactus påpekar att musik och andra ljud ändå kan bli text, så en röstaktivering bör sitta före en mikrofon som alltid är på.
Modellen använder samma motor, filformat och komprimering som Cactus agentmodell Needle. Samma program kan därför ladda båda modellerna och i ett enda anrop göra om ett talat ljudklipp till verktygsanrop i en app. Enligt Cactus är Whistle mycket mindre och snabbare än OpenAI:s Whisper base (145,3 MB) och Moonshine tiny v2 (41,9 MB), och har lägre felfrekvens på flera engelska test, medan Whisper base är bättre på några andra.
Vikterna ligger på Hugging Face under Apache 2.0, och den installeras med Python-paketet cactus-needle.