EmbeddingGemma 2

EmbeddingGemma 2 är en så kallad inbäddningsmodell: den översätter innehåll till sifferkoder (vektorer) där innehåll som betyder ungefär samma sak hamnar nära varandra. Det nya är att text, kod, bilder, video och ljud hamnar i samma rum, så att man till exempel kan söka fram ett videoklipp genom att beskriva det i ord. Modellen har 740 miljoner parametrar och bygger på Gemma 4-arkitekturen, med samma teknik som Googles Gemini Embedding-modeller.

Modellen är uppbyggd i delar. Enbart text klarar sig med så lite som 270 miljoner parametrar; en bilddel på 170 miljoner och en ljuddel på 300 miljoner läggs till när de behövs. Vektorerna är normalt 768 tal långa men kan kortas till 512, 256 eller 128, vilket enligt Google minskar lagringsbehovet upp till sex gånger. Kontextfönstret är 8 000 tokens, fyra gånger mer än i första EmbeddingGemma, och rymmer upp till 5,5 minuter ljud, 29 bilder eller 58 videorutor. I kvantiserad form tar den enligt Google cirka 191 MB arbetsminne på en Pixel 11 Pro för enbart text och cirka 567 MB för hela den multimodala modellen.

Google uppger att modellen går från 68,76 till 78,68 på testet MTEB Code, att den leder bland multimodala inbäddningsmodeller under en miljard parametrar på MTEB Code och ljudtestet MAEB, och att den matchar eller slår flera betydligt större modeller. Vikterna är släppta under Apache 2.0 och finns på Hugging Face och Kaggle, med stöd i bland annat transformers, sentence-transformers, llama.cpp, Ollama, vLLM, MLX och transformers.js, samt för att köra på enheten via LiteRT och MediaPipe. Det finns också en demo som kör modellen direkt i webbläsaren med WebGPU.