En strömmande version av Code World Model som skapar en världsvideo bit för bit medan den pågår, i stället för hela videon på en gång.
AI Search går igenom Streaming Code World Model [5]
Streaming Code World Model är ett forskningsprojekt som bygger vidare på Code World Model (CWM), en världsmodell från Westlake University och Nanyang Technological University. I CWM sköter en kodande AI-agent själva världen: den resonerar om vad som händer och skriver kod som håller reda på världens tillstånd. Det blir en enkel skiss, en så kallad proxy, som sedan används för att styra videomodellen MiniMax-H3 så att den målar upp en realistisk video.
Den strömmande versionen gör så att videon skapas löpande i små bitar på 0,71 sekunder. Varje bit skapas bara utifrån startbilden, skissen hittills och de tidigare bitarna, utan att titta framåt i tiden. Det är ett steg mot världsmodeller som kan reagera i realtid, men enligt projektet är den ännu inte i realtid: en destillerad version som behöver fyra steg tar 5,1 sekunder per bit på ett Nvidia H200-grafikkort, vilket enligt projektet är nio gånger snabbare än 35 steg.
Modellen har tränats på 342 klipp (3,7 timmar) från körsimulatorn CARLA, där en fotgängare följs av en kamera. I projektets egna tester på fyra undanhållna CARLA-klipp på 17 sekunder gav fyrastegsversionen lägre fel än versionen med 35 steg. Den kräver mycket minne: runt 108–123 GB grafikminne, och grafikkort med 80 GB stöds ännu inte.
Projektet kommer från Tingting Liao och Guangyi Liu, som båda anger MBZUAI i Abu Dhabi som arbetsplats på sina GitHub-profiler. Vikterna är LoRA-tillägg till MiniMax-H3 och ligger på Hugging Face.
Inte bedömd än. Alla kan ändra.
Inga kommentarer än. Skriv gärna vilket projekt den kan passa i.