中國(guó)移動(dòng) 12 月 8 日宣布聯(lián)合南京大學(xué)團(tuán)隊(duì)研發(fā)高保真 2D 數(shù)字人說(shuō)話驅(qū)動(dòng)系統(tǒng)。
作為擁有世界規(guī)模第一用戶數(shù)的通信運(yùn)營(yíng)商，中國(guó)移動(dòng)每年的客戶服務(wù)運(yùn)營(yíng)成本巨大�，F(xiàn)已廣泛普及的智能語(yǔ)音客服雖能完成一定的業(yè)務(wù)自動(dòng)應(yīng)答任務(wù)，但依然不及人工客服面對(duì)面，一對(duì)一的星級(jí)服務(wù)體驗(yàn)。
針對(duì)實(shí)際業(yè)務(wù)存在的痛點(diǎn)，中國(guó)移動(dòng)九天視覺(jué)團(tuán)隊(duì)聯(lián)合南京大學(xué)邰穎團(tuán)隊(duì)，研發(fā)高保真 2D 數(shù)字人說(shuō)話驅(qū)動(dòng)系統(tǒng)，旨在為用戶提供表情自然、唇音同步和頭部姿態(tài)和諧的數(shù)字人播報(bào)對(duì)話服務(wù)，可應(yīng)用于智能客服、教育培訓(xùn)、廣告營(yíng)銷等場(chǎng)景。
▲ 情感控制的高保真 2D 數(shù)字人說(shuō)話驅(qū)動(dòng)方法
據(jù)中國(guó)移動(dòng)官方介紹，2D 數(shù)字人說(shuō)話驅(qū)動(dòng)系統(tǒng)實(shí)現(xiàn)根據(jù)給定目標(biāo)人物的照片或視頻和任意一段音頻，生成與音頻同步的目標(biāo)人物說(shuō)話視頻流。要求生成視頻里的人物逼真度高，表情姿態(tài)自然，同時(shí)需要具有較高的實(shí)時(shí)性，能做到與語(yǔ)言大模型、音頻合成能力有機(jī)整合，構(gòu)建起人物數(shù)字替身。
中國(guó)移動(dòng)九天視覺(jué)團(tuán)隊(duì)聯(lián)合南京大學(xué)研發(fā)的高保真 2D 數(shù)字人說(shuō)話驅(qū)動(dòng)系統(tǒng)，在以下三方面開(kāi)展了技術(shù)攻堅(jiān)和方案創(chuàng)新：
第一，性能實(shí)時(shí)：相比以往數(shù)字人方法，在實(shí)時(shí)播報(bào)的口型生成技術(shù)上達(dá)到了學(xué)術(shù)界領(lǐng)先水平，支持中英文數(shù)字人口型驅(qū)動(dòng)，在保持效果的情況下達(dá)到實(shí)時(shí)性能 30ms / 幀。
第二，效果領(lǐng)先：研發(fā)二階段學(xué)習(xí)框架，將數(shù)字人說(shuō)話驅(qū)動(dòng)拆解成：從音頻到口型系數(shù)和從口型系數(shù)到生成人像兩部分，降低學(xué)習(xí)難度，實(shí)現(xiàn)更好的生成效果。
第三，情緒控制：引入情緒引導(dǎo)學(xué)習(xí)模塊，支持正常、微笑、驚訝、憤怒、恐懼、悲傷等 7 種主流情緒控制生成能力，賦予生成的播報(bào)人人文情感表達(dá)能力。
▲ 高興、悲傷情緒下的數(shù)字人說(shuō)話生成效果
從中國(guó)移動(dòng)官方獲悉，數(shù)字人生成技術(shù)上實(shí)現(xiàn)了端到端的二階段 30 FPS 實(shí)時(shí)生成性能，并支持 512*512 人臉區(qū)域生成，同時(shí)具備高興、悲傷等 7 種主流情緒控制生成能力。
在評(píng)測(cè)集 VoxCeleb 指標(biāo)方面，該技術(shù)的口型準(zhǔn)確性 LMD（LandMark Distance）達(dá)到 4.3，生成自然度 FID 達(dá)到 11.1。
中國(guó)移動(dòng)官方表示，該研發(fā)成果應(yīng)用前景廣闊，有效降低了創(chuàng)作門(mén)檻，提升了生成人物的視覺(jué)質(zhì)量，已為 5G 新通話、和留言小秘書(shū)品牌業(yè)務(wù)的拓展賦能升級(jí)。
