En interaktiv världsmodell byggd på videomodellen MiniMax-H3 som låter tangentbordet styra både en figur och kameran i genererade spelliknande världar.
Exempel på genererade världar där figur och kamera styrs med tangentbordet [1]
H3-World är en världsmodell, alltså en AI som genererar video som svarar på styrning, ungefär som ett spel där bilden skapas i stället för att renderas. Utgångspunkten är en startbild. Därefter styr man med tangentbordet hur figuren rör sig och hur kameran panorerar, och modellen genererar videon som följer.
Tricket är att tangenttryckningarna översätts till korta engelska instruktioner, en för varje del av den kommande videon, och skickas in genom videomodellens vanliga textväg. En riktad uppmärksamhetsmask kopplar varje instruktion till rätt tidpunkt i videon. På så sätt kan samma startbild följa olika handlingsföljder, och modellen kan till exempel panorera skarpt åt vänster under första halvan och åt höger under andra.
Modellen är byggd genom att finjustera MiniMax-H3 med en lätt LoRA (rang 32) på spelvideor, närmare bestämt 8 000 klipp ur datasetet ABot-World-Explorer-500h. Inga nya, handlingsspecifika delar läggs till. Enligt forskarna fungerar det även i nya miljöer som inte liknar träningsdatan, och modellen kan kombinera figur- och kamerarörelser på sätt den aldrig sett under träningen.
LoRA-vikterna finns på Hugging Face och ModelScope under MiniMax-H3:s community-licens, och koden ligger på GitHub under Apache 2.0. Arbetet kommer från Tencent (som forskningspraktik), National University of Singapore och The Hong Kong Polytechnic University.
Inte bedömd än. Alla kan ändra.
Inga kommentarer än. Skriv gärna vilket projekt den kan passa i.