MiniCPM-V 4.7

MiniCPM-V 4.7 är den senaste modellen i OpenBMB:s MiniCPM-V-serie, som är byggd för att förstå bilder, flera bilder i taget och video, och för att kunna köras på telefoner, surfplattor och vanliga datorer. Den finns i två storlekar: 35B-A3B, som har 35 miljarder parametrar men bara använder ungefär 3 miljarder per token (MoE), och en liten 1B-variant. 35B-A3B är den första MoE-modellen i serien. Språkdelen bygger på Qwen3.5 och Qwen3.6 och bilddelen på SigLIP2.

Det som gör 35B-A3B speciell är att den ska gå att köra direkt i en telefon trots att alla experter inte får plats i minnet. OpenBMB använder en teknik de kallar Lookahead Expert Scheduling (LES), som gissar vilka experter nästa lager kommer att behöva och laddar in dem i förväg, tillsammans med finkornig kvantisering lager för lager och spekulativ avkodning med DSpark. Enligt OpenBMB ger det över 13 tokens per sekund med bara 3 GB minne på en iPhone 17 Pro Max, utan att modellen blir sämre.

Modellen komprimerar bildinformationen tidigt inne i bildkodaren (en teknik från LLaVA-UHD v4) och man kan välja mellan 4x och 16x komprimering beroende på hur mycket detaljer som behövs. Enligt OpenBMB får 35B-A3B högre totalpoäng än Qwen3.6 35B-A3B på kortare tid, och 1B-varianten är bättre än MiniCPM-V 4.6 och klart bättre än Qwen3.5 0.8B.

Vikterna är öppna under Apache 2.0 på Hugging Face och ModelScope, med kvantiserade versioner (GGUF, AWQ, GPTQ, int4, FP8) och DSpark-huvuden för snabbare avkodning. Den stöds i bland annat vLLM, SGLang, llama.cpp och Ollama, fungerar på iOS, Android och HarmonyOS och har stöd från start för chipp från Rockchip, Houmo, Intel, AMD och Arm. Samtidigt släppte OpenBMB finjusteringsmetoden Self-Replay Fine-Tuning (SRFT).