B站持續(xù)完善海外用戶產(chǎn)品體驗(yàn)，用戶可體驗(yàn)原汁原味多語(yǔ)種視頻

鷺羽 2025-08-01 17:08:10 來(lái)源：量子位

全新自研AI原聲翻譯功能，可完美還原UP主聲線

自今年5月嗶哩嗶哩（以下簡(jiǎn)稱B站）宣布將下架原國(guó)際版APP，與國(guó)內(nèi)版合并為一個(gè)統(tǒng)一APP后，B站的出海下一步便引來(lái)各方關(guān)注。在今年的世界人工智能大會(huì)上，B站公布了其為服務(wù)海外用戶而全新自研的「AI原聲翻譯功能」，以便海外用戶更好體驗(yàn)游戲、科技、二次元等主推內(nèi)容。在完成了APP合并、海外用戶頁(yè)面多語(yǔ)種適配、特別是視頻原聲翻譯功能上線后，B站似乎已經(jīng)做好準(zhǔn)備蓄力開(kāi)拓海外市場(chǎng)。

B站持續(xù)完善海外用戶產(chǎn)品體驗(yàn)，用戶可體驗(yàn)原汁原味多語(yǔ)種視頻

海外用戶頁(yè)面

本次發(fā)布的「AI原聲翻譯」功能–除了自動(dòng)擦除中文字幕改為英文、彈幕翻譯及各類按鈕英文適配等基礎(chǔ)的文本互譯之外，還能完美還原UP主的聲線、音色、氣口，而非傳統(tǒng)的機(jī)器音翻譯，同時(shí)還能基于翻譯語(yǔ)言進(jìn)行口型模擬。這意味著在未來(lái)中文用戶觀看外語(yǔ)UP主視頻或海外用戶觀看中文UP主視頻時(shí)能無(wú)差別體驗(yàn)原汁原味的“本地化”翻譯視頻。后續(xù)，B站還將視需求把日語(yǔ)等語(yǔ)言加入「AI原聲翻譯」功能中，持續(xù)擴(kuò)展在海外市場(chǎng)的適配能力。

AI原聲翻譯開(kāi)啟頁(yè)面

據(jù)悉，目前B站「AI原聲翻譯功能」中，跨語(yǔ)言聲音還原技術(shù)源自內(nèi)部代號(hào)為「 IndexTTS2」的語(yǔ)音生成模型，其整體框架如下圖所示。該模型引入了一種新穎、通用且兼容自回歸架構(gòu)的語(yǔ)音時(shí)長(zhǎng)及情感控制方法。該方法支持指定token數(shù)量，從而實(shí)現(xiàn)對(duì)語(yǔ)音時(shí)長(zhǎng)的精確調(diào)控，降低了翻譯任務(wù)的難度。另外對(duì)情感表達(dá)與說(shuō)話人身份進(jìn)行了有效解耦，實(shí)現(xiàn)了高質(zhì)量地復(fù)刻原片語(yǔ)音中蘊(yùn)含的情感。

為攻克「AI原聲翻譯功能」中的核心挑戰(zhàn)——尤其在游戲、二次元等專名梗點(diǎn)密集領(lǐng)域——實(shí)現(xiàn)原風(fēng)格精準(zhǔn)保留與語(yǔ)音時(shí)長(zhǎng)完美對(duì)應(yīng)，B站技術(shù)團(tuán)隊(duì)基于大語(yǔ)言模型（LLM）構(gòu)建翻譯引擎，獨(dú)創(chuàng)性基于語(yǔ)音時(shí)長(zhǎng)匹配、原聲翻譯標(biāo)準(zhǔn)與UP主獨(dú)特風(fēng)格構(gòu)建多目標(biāo)獎(jiǎng)勵(lì)模型，并采用對(duì)抗式強(qiáng)化學(xué)習(xí)（RL）訓(xùn)練驅(qū)動(dòng)模型持續(xù)進(jìn)化與精準(zhǔn)適配。同時(shí)，引入Deep Research深度挖掘技術(shù)，專攻專有名詞與流行梗點(diǎn)的翻譯難點(diǎn)，確保最終譯文準(zhǔn)確、地道、傳神。字幕擦除部分則結(jié)合了先進(jìn)的多模態(tài)大模型OCR技術(shù)和基于STTN網(wǎng)絡(luò)的視頻重繪技術(shù)，實(shí)現(xiàn)字幕區(qū)域的精準(zhǔn)檢測(cè)與與高還原度擦除。

版權(quán)所有，未經(jīng)授權(quán)不得以任何形式轉(zhuǎn)載及使用，違者必究。