1Wav2Lip-HD项目介绍

数字人打造中语音驱动人脸和超分辨率重建两种必备的模型，它们被用于实现数字人的语音和图像方面的功能。通过Wav2Lip-HD项目可以快速使用这两种模型，完成高清数字人形象的打造。

项目代码地址：github地址

1.1 语音驱动面部模型wav2lip

语音驱动人脸技术主要是通过语音信号处理和机器学习等技术，实现数字人的语音识别和语音合成，从而实现数字人的语音交互功能。同时，结合人脸识别等技术，还可以实现数字人的表情和口型等与语音交互相关的功能。

Wav2Lip模型是一个两阶段模型。

  • 第一阶段是：训练一个能够判别声音与嘴型是否同步的判别器；
  • 第二阶段是：采用编码-解码模型结构（一个生成器 ，两个判别器）；

1.2 图像超分辨率模型Real-ESRGAN

超分辨率重建技术则主要用于数字人的图像处理，通过将低分辨率的图像进行处理，从而生成高分辨率的图像，从而实现数字人的图像交互功能。超分辨率重建技术可以应用于数字人的头发、皮肤、服装等细节部分的处理，使数字人更加真实和逼真。

Real-ESRGAN是腾讯ARC实验室发表超分辨率算法，目标是开发出实用的图像/视频修复算法。ESRGAN 的基础上使用纯合成的数据来进行训练，以使其能被应用于实际的图片修复的场景。

  • 提出一种高阶退化过程（high-order degradation process）来模拟实际退化，并利用 sinc 滤波器给训练图片添加 Ringing artifacts（振铃伪影，周围震荡波的感觉）和 Overshoot artifacts（过冲伪影，如白边）构造训练集
  • 用 U-net 而不是 VGG 作为 GAN 的 Discriminator，提高鉴别器能力并稳定训练动态
  • Real-ESRGAN 性能更优，效果更好

2 运行环境构建

2.1 annoconda安装

annoconda安装和使用详见：annoconda环境构建

2.2 运行环境准备

conda create -n wav2lip-hd python=3.9conda activate wav2lip-hdconda install ffmpeggit clone https://github.com/saifhassan/Wav2Lip-HD.gitcd Wav2Lip-HDrm -fr Real-ESRGANgit clone https://github.com/xinntao/Real-ESRGAN.git

修改requirements.txt，修改下面两行:

vi requirements.txt
librosa==0.9.1numba==0.56.4

安装依赖

pip install -r requirements.txtpip install basicsr==1.4.2

2.3 模型文件下载

下载第一个预训练模型包：预训练模型1

下载完成后，将以下几个文件移动到 checkpoints文件夹下：

esrgan_yunying.pth，face_segmentation.pth，net_g_67500.pth，pretrained.state，s3fd.pth，wav2lip_gan.pth

移动后的通过命令查看显示如下：

 ll checkpoints/总用量 1425200-rw-r--r-- 1 root root67040989 6月19 17:14 esrgan_yunying.pth-rw-r--r-- 1 root root53289463 6月19 17:14 face_segmentation.pth-rw-r--r-- 1 root root66919172 6月19 17:14 net_g_67500.pth-rw-r--r-- 1 root root 310688649 6月19 17:15 pretrained.state-rw-r--r-- 1 root root89843225 6月19 17:15 s3fd.pth-rw-r--r-- 1 root root 435801865 6月19 17:16 wav2lip_gan.pth

下载第二个预训练模型包：预训练模型2

下载完成后，将RealESRGAN_x4plus.pth文件移动到 Real-ESRGAN/weights/文件夹下，移动后命令行查看如下：

 ll Real-ESRGAN/weights/总用量 65476-rw-r--r-- 1 root root 54 6月19 20:22 README.md-rw-r--r-- 1 root root 67040989 6月19 17:15 RealESRGAN_x4plus.pth

将detection_Resnet50_Final.pth，GFPGANv1.3.pth，parsing_parsenet.pth移动到

Real-ESRGAN/gfpgan/weights/文件夹下，移动完成后，命令行查看如下：

ll Real-ESRGAN/gfpgan/weights/总用量 530728-rw-r--r-- 1 root root 109497761 6月19 17:14 detection_Resnet50_Final.pth-rw-r--r-- 1 root root 348632874 6月20 17:09 GFPGANv1.3.pth-rw-r--r-- 1 root root85331193 6月19 17:14 parsing_parsenet.pth

2.4 修改模型地址（避免从公网下载）：

vi Real-ESRGAN/inference_realesrgan.py 
if args.face_enhance:# Use GFPGAN for face enhancementfrom gfpgan import GFPGANerface_enhancer = GFPGANer(model_path='https://github.com/TencentARC/GFPGAN/releases/download/v1.3.0/GFPGANv1.3.pth',upscale=args.outscale,arch='clean',channel_multiplier=2,bg_upsampler=upsampler)修改为：if args.face_enhance:# Use GFPGAN for face enhancementfrom gfpgan import GFPGANerface_enhancer = GFPGANer(model_path='./gfpgan/weights/GFPGANv1.3.pth',upscale=args.outscale,arch='clean',channel_multiplier=2,bg_upsampler=upsampler)

2.5 修改一行报错的代码：

vi Real-ESRGAN/realesrgan/__init__.py

注释掉最后一行，注释后如下：

# flake8: noqafrom .archs import *from .data import *from .models import *from .utils import *#from .version import *

3 启动项目生成

3.1 上传文件

将demo.mp4放入input_videos 目录下将demo.wav放入input_audios 目录下

3.2 更改run_final.sh文件

主要修改以下两行：

filename=demoinput_audio=input_audios/demo.wav去除脚本最后一行ffmpeg前面的注释，并更改input_audios为input_audio

修改后的文件内容如下：

export filename=demoexport input_video=input_videosexport input_audio=input_audios/demo.wavexport frames_wav2lip=frames_wav2lipexport frames_hd=frames_hdexport output_videos_wav2lip=output_videos_wav2lipexport output_videos_hd=output_videos_hdexport back_dir=..python3 inference.py --checkpoint_path "checkpoints/wav2lip_gan.pth" --segmentation_path "checkpoints/face_segmentation.pth" --sr_path "checkpoints/esrgan_yunying.pth" --face ${input_video}/${filename}.mp4 --audio ${input_audio} --save_frames --gt_path "data/gt" --pred_path "data/lq" --no_sr --no_segmentation --outfile ${output_videos_wav2lip}/${filename}.mp4python video2frames.py --input_video ${output_videos_wav2lip}/${filename}.mp4 --frames_path ${frames_wav2lip}/${filename}cd Real-ESRGANpython inference_realesrgan.py -n RealESRGAN_x4plus -i ${back_dir}/${frames_wav2lip}/${filename} --output ${back_dir}/${frames_hd}/${filename} --outscale 3.5 --face_enhanceffmpeg -r 20 -i ${back_dir}/${frames_hd}/${filename}/frame_%05d_out.jpg -i ${back_dir}/${input_audio} -vcodec libx264 -crf 25 -preset veryslow -acodec aac ${back_dir}/${output_videos_hd}/${filename}.mkv

注意1：ffmpeg命令中参数-acodec根据输入音频文件类型设置不同选项，

  • aac对应wav文件
  • copy对应mp3文件

参数错误会导致合成的视频中没有声音

注意2：参数-r为指定采样率，可以通过ffmpeg -i demo.mp4查看

3.3 启动生成模型

bash run_final.sh

3.4 生成结果

  • output_videos_wav2lip：wav2lip 模型生成的视频.
  • frames_wav2lip：wav2lip 模型生成的视频帧
  • frames_hd：Real-ESRGAN模型生成超分辨率视频帧.
  • output_videos_hd：生成的最终结果视频

3.5 结果展示