Ling-3.0-flash-VL

Ling-3.0-flash-VL är inclusionAI:s nya multimodala modell, byggd på språkmodellen Ling-3.0-flash. Den tar emot bilder och video utöver text och ska inte bara beskriva vad den ser, utan använda synintrycken i hela kedjan: förstå, resonera, agera och kontrollera resultatet. inclusionAI lyfter fram tre förmågor: att förstå komplicerade bilder som diagram, layouter och dokument, att resonera och räkna utifrån det den ser, och att förstå webbsidor och programgränssnitt och omsätta dem i en serie handlingar.

Modellen har 124 miljarder parametrar men aktiverar bara 5,5 miljarder per token (MoE), och kan läsa upp till 256 000 tokens. En ViT-bildkodare tar fram egenskaper ur bilder och video, och en teknik kallad VideoRoPE håller reda på både var saker finns i bilden och i vilken ordning saker händer, vilket hjälper med långa videor. Grunden är 42 lager som blandar två sorters uppmärksamhet (KDA och Gated MLA) i förhållandet 5:1. Den tänker steg för steg som standard, men det går att stänga av.

Enligt inclusionAI får modellen 42 poäng på Artificial Analysis Intelligence Index v4.1.1, fyra poäng mer än textmodellen Ling-3.0-flash. Vikterna är öppna under MIT-licens på Hugging Face, med FP8-, FP4- och int4-versioner, och kan köras med SGLang och vLLM.