Meituans öppna talsyntesmodell som gör tal av hög kvalitet från text och kan härma en röst från ett kort ljudklipp, under MIT-licens.
Arkitekturen bakom LongCat-AudioDiT [1]
LongCat-AudioDiT är en modell för text till tal från LongCat-teamet hos det kinesiska företaget Meituan. Den finns i två storlekar, 1B och 3.5B, och kan både läsa upp text med en standardröst och härma en röst utifrån ett kort ljudklipp med tillhörande text, utan någon extra träning. Proven i forskningsartikeln gäller kinesiska och engelska.
Till skillnad från många andra talmodeller skapar den inte ljudet bit för bit i följd. Den använder en diffusionsmodell som arbetar direkt i en komprimerad version av själva ljudvågen, vilket enligt forskarna ger högre ljudkvalitet. Artikeln beskriver också en ny metod för att styra genereringen, kallad adaptive projection guidance.
Enligt Meituan når den största modellen toppresultat i röstlikhet på testsviten Seed: 0,818 på kinesiska och 0,797 på den svåra kinesiska delen. Andra modeller, som CosyVoice3.5, gör dock färre uttalsfel på vissa delar av testet. Vikterna och koden släpptes i slutet av mars 2026 under MIT-licens, och i oktober 2026 rättades ett fel i hur ljudvolymen normaliseras, vilket enligt teamet kan förbättra kvaliteten.
Inte bedömd än. Alla kan ändra.
Inga kommentarer än. Skriv gärna vilket projekt den kan passa i.