DeepGEMM-Ascend

DeepGEMM-Ascend är inte en AI-modell utan ett programbibliotek med de mest grundläggande räkneoperationerna som stora språkmodeller bygger på, framför allt matrismultiplikationer (GEMM). Det är en översättning av DeepSeeks tidigare bibliotek DeepGEMM, som är skrivet för Nvidias grafikkort, till Huaweis AI-chipp Ascend. Enligt DeepSeek har det exakt samma gränssnitt som DeepGEMM, så att utvecklare kan flytta sina beräkningar till Ascend utan att skriva om koden.

Biblioteket innehåller beräkningar i BF16, FP8 och FP4 (och blandat FP8×FP4), grupperade beräkningar för MoE-modellernas experter, funktionen MQA logits som används av DeepSeeks Lightning Indexer, och MegaMoE, där flera steg i en MoE-modell slås ihop till en enda beräkning. Det är utvecklat och testat på Ascend 950-serien och kräver Huaweis programvara CANN 9.20.

Enligt DeepSeeks egna mätningar på Ascend 950DT når de vanliga matrisberäkningarna upp till 99,8 % av hårdvarans teoretiska maxkapacitet. Den första versionen släpptes den 30 september 2026 under MIT-licens.