隨著虛擬技術(shù)的發(fā)展和對內(nèi)容制作高質(zhì)量的追求，數(shù)字人頻頻出圈，XR（擴展現(xiàn)實）被頻繁的應(yīng)用在各種大型節(jié)目或電影廣告等視頻制作上，但由于實時直播對穩(wěn)定性要求高，而XR虛擬制作涉及眾多復(fù)雜的軟硬件，再加上數(shù)字人的參與增加了復(fù)雜度與風(fēng)險，因此XR+數(shù)字人+實時+直播帶貨，一直很難相遇。本次數(shù)字人XR實時直播帶貨成功的背后都有哪些技術(shù)支撐呢？
首先要講的是虛擬制作，它是將計算機中虛擬場景與攝像機實景視頻進行實時合成，使人物與虛擬場景能夠同步變化，從而輸出高真實感合成畫面的視頻制作方式，XR虛擬制作必須以LED大屏為背景且有屏外擴展畫面。2021年春節(jié)晚會節(jié)目《牛起來》便是虛擬制作的典型案例。
本次直播，將攝像機跟蹤、數(shù)字人、動作捕捉、LED大屏、UE5實時渲染等前沿技術(shù)或工具，有機結(jié)合到了一起。其中凌云光自主研發(fā)的FZMotion光學(xué)運動捕捉系統(tǒng)部署在場地中，保障了現(xiàn)場“中之人"的動作捕捉與真實攝像機的跟蹤，是連接虛擬與現(xiàn)實世界的橋梁。
為了讓真實攝像機在運動的時候，LED大屏上的畫面以及屏外拓展畫面能夠發(fā)生相應(yīng)的準(zhǔn)確變化，FZMotion快速精準(zhǔn)的跟蹤真實攝像機6自由度（6DoF, 6 degree of freedom）變化，結(jié)合鏡頭信息，傳輸至UE5虛擬攝像機實時渲染引擎。不同于機械跟蹤或機身上安裝相機（InSide-Out）的跟蹤方式，當(dāng)舞臺周圍多臺真實攝像機同時需要被跟蹤時，一套FZMotion系統(tǒng)便能搞定，無需根據(jù)被跟蹤攝像機數(shù)量來增加跟蹤系統(tǒng)數(shù)量。
為了讓沐嵐動起來，FZMotion實時捕捉 “中之人"的動作，并融合面部捕捉與手指捕捉設(shè)備，將“中之人"的表情、手指動作、身體動作傳遞給沐嵐并對其進行驅(qū)動。
一套動捕，多種跟蹤
觀眾看到的包含沐嵐的圖像，其實由多個畫面組合而成。一是真實攝像機拍攝到的，包含LED屏上的表演者、基于真實攝像機視角渲染而成的LED屏上畫面。二是數(shù)字人沐嵐，她被以AR前景的方式疊加到了畫面一上。當(dāng)攝像機拍攝到LED屏外的時候，還需要渲染屏外拓展畫面，同畫面一和二拼接。多個畫面虛實融合，呈現(xiàn)給觀眾。而這一切，都離不開FZMotion的攝像機跟蹤與真人動作捕捉。
由于系統(tǒng)復(fù)雜、存在不穩(wěn)定風(fēng)險，XR制作與數(shù)字人未能在實時直播中普及應(yīng)用，本次FZMotion持續(xù)100多分鐘的穩(wěn)定表現(xiàn)，為數(shù)字人XR直播及時注入了一針“強心劑"。同時，F(xiàn)ZMotion “一套動捕，多種跟蹤"的優(yōu)勢，能夠?qū)崿F(xiàn)多人、多攝像機以及道具的跟蹤，更是XR虛擬制作的神兵利器與高性價比選擇。
【彩蛋】
沐嵐與FZMotion同框解密直播黑科技，下期再會~
