ZGCM-1

ZGCM-1 är en språkmodell från Zhongguancun Academy och Zhongguancun Institute of Artificial Intelligence i Peking. Den har 7,39 miljarder parametrar, är tränad från grunden och byggd för matematiskt resonemang och för att söka information med verktyg, till exempel genom att söka på webben och läsa sidor i flera steg. Den klarar upp till 256 000 tokens i sammanhang och har både ett läge där den tänker efter innan den svarar och ett läge där den svarar direkt.

Modellen använder en blandning av två sorters uppmärksamhet: de flesta lager tittar bara på de närmaste 128 tokens, och några få lager ser hela texten. Enligt rapporten gör det träningen på långa texter nästan fyra gånger snabbare än vanlig uppmärksamhet. Den är förtränad på omkring 4,19 biljoner tokens och sedan tränad vidare på omkring 600 miljarder tokens med allt längre sammanhang. Enligt projektet har AI-agenter, styrda av forskarna, deltagit i hela utvecklingen, från datahantering till utvärdering.

Enligt den tekniska rapporten når ZGCM-1 97,13 % på MATH-500, 75,00 % på AIME 2026 och 70,42 % på HMMT 2025, och har bäst genomsnittlig placering på 14 resonemangstest bland sju jämförda modeller i storleken 7–8 miljarder parametrar. På sökning med verktyg når den 63,09 % på WebWalkerQA och 19,43 % på BrowseComp.

Projektet är helt öppet: vikter och träningsdata finns på Hugging Face och koden för databehandling, förträning, vidareträning och finjustering finns på GitHub, allt under MIT-licens.