K2 Horizon

K2 Horizon är en familj öppna språkmodeller från IFM (Institute of Foundation Models), forskningslabbet som MBZUAI startade 2025. Familjen släpptes på Hugging Face i början av september 2026 och består av sex modeller: de täta (dense) modellerna 0,9B, 3,7B, 7B och 32B, den glesa K2-Horizon-MoVA-36B-A4B (36 miljarder parametrar varav 4 miljarder aktiva, med en uppmärksamhetsteknik som kallas Mixture-of-Values) och flaggskeppet K2-Horizon-375B-A23B (375 miljarder parametrar varav 23 miljarder aktiva). Alla kan resonera i flera nivåer och anropa verktyg. Alla utom 0,9B läser upp till 512 000 tokens; 0,9B klarar 128 000.

Det som utmärker familjen är hur öppen den är. IFM släpper inte bara vikterna utan även träningsdatan, träningskoden, träningsloggar och mellanliggande kontrollpunkter från varje träningsfas, så att forskare kan studera hur förmågorna växer fram under träningen. Flaggskeppet förtränades på drygt 15 biljoner tokens, fick sedan längre kontext i fyra steg och tränades med förstärkningsinlärning som fem separata expertmodeller (kunskapsarbete, instruktionsföljning, sökning, verktyg och resonemang) som sedan slogs ihop.

Enligt IFM är 375B-modellen i nivå med eller bättre än öppna MoE-modeller upp till 2,6 gånger större på agent- och verktygstester, och konkurrenskraftig mot stängda toppmodeller; till exempel uppger IFM 70,2 % på Terminal-Bench 2.1 och 65,3 % på Toolathlon Verified. MoVA-36B-A4B ska enligt IFM slå både täta modeller runt 30B och MoE-modeller upp till 15 gånger större. Det finns även snabbare varianter med diffusionsadaptrar (Uno) för 0,9B och 7B, och beslutsmodellen K2-Type-0.9B bygger på den minsta modellen.