En liten beslutsmodell från Bespoke Labs som väljer bland svar man själv definierat och anger sannolikheten för varje alternativ, snabbt och lokalt, till exempel för att dirigera förfrågningar eller kontrollera regler.
Så fungerar Nimble: text och schema in, typade beslut med sannolikheter ut [1]
Nimble är en modell som fattar avgränsade beslut om en text. Man ger den en text och ett schema med frågor, där varje fråga antingen är ett val från en lista man själv bestämt (upp till 255 alternativ) eller en ja/nej-fråga. Modellen svarar i ett enda steg, utan att skriva ut något resonemang, och returnerar både valt svar och sannolikheten för varje tillåtet alternativ. Sannolikheterna räknas direkt ur modellens utdata, så ingen JSON behöver genereras eller tolkas. Det gör den användbar för att till exempel dirigera förfrågningar till rätt ställe eller kontrollera om en text följer regler, utan att behöva en hel chattmodell.
Den öppna modellen Bespoke-Nimble-9B är en LoRA-finjustering av Qwen3.5-9B. Den är inspirerad av TypeSafes Jev men enligt Bespoke Labs inte destillerad från den. Träningsdatan, 2 676 syntetiska exempel, togs fram med "kontrastiv" kurering: par av nästan identiska exempel där ett enda faktum skiljer och vänder svaret. Modellen kan köras lokalt på Mac med Apple Silicon (MLX) eller på Nvidia-kort och behöver cirka 18 GB minne. Den hanterar bara text och upp till 8 192 tokens i den senaste versionen.
Första versionen kom 18 september 2026, och sedan dess har v2 (även via Ollama) och v3 släppts med öppna vikter. Den 13 oktober kom Nimble-v4 (9B) och Nimble-v4-max (27B), som bara finns via Bespoke Labs API. Enligt Bespoke Labs ligger v4-max först på den publika testsviten Decision Index (68,46) och v4 först bland 104 modeller under 25B. I ett snävt eget test stämde Bespoke-Nimble-9B med referenssvaren i 90,1 % av fallen, mot 93,2 % för Jev och 84,9 % för Qwen3.8-27B.
Licensen skiljer sig mellan versionerna: den första 9B-modellen är släppt under Apache 2.0, medan v3 är under CC BY-NC 4.0 (bara icke-kommersiellt).
Inte bedömd än. Alla kan ändra.
Inga kommentarer än. Skriv gärna vilket projekt den kan passa i.