1 Faceswap介绍

Faceswap利用深度学习算法和人脸识别技术,可以将一个人的面部表情、眼睛、嘴巴等特征从一张照片或视频中提取出来,并将其与另一个人的面部特征进行匹配。

Faceswap在 Encoder-Decoder自编解码架构之上又引入GAN技术,显著提升换脸效果,Encoder-Decoder自编解码换脸:通过将任意扭曲的人脸进行还原,整个过程包含:

  • 获取正常人脸照片
  • 扭曲变换人脸照片
  • Encoder编码向量
  • Decoder解码向量
  • 还原正常人脸照片

总体上,Faceswap换脸主要分为以下三个过程:

  • 人脸检测
  • 特征提取
  • 人脸转换

2 Faceswap的应用场景

Faceswap的应用非常广泛,既可以用于娱乐和艺术创作,也可以用于影视制作和特效产生。下面是Faceswap技术在不同领域的应用示例:

  1. 娱乐和艺术创作:Faceswap可以用于制作有趣的照片和视频,使用户能够将自己的脸部特征与名人、角色或动物等进行交换。这种技术可以用于制作搞笑的图片、制作创意艺术作品或生成有趣的社交媒体内容。

  2. 影视制作:Faceswap在影视制作中扮演着重要的角色。它可以用于数字特效和妆容效果,例如将一个演员的面部特征与替身演员进行交换,使得观众无法察觉到替身的存在。这种技术还可以用于恢复历史上的人物形象,使他们在电影中复活或重新出现。

  3. 隐私保护和安全:Faceswap技术也引发了隐私和安全方面的担忧。它可以被用于欺骗系统,例如通过伪造身份进行非法活动或诈骗。为了应对这些问题,研究人员和开发者也在努力提供相应的解决方案,例如开发检测和对抗Faceswap技术的方法。

3 Faceswap运行环境构建

3.1 conda环境准备

conda环境准备详见:annoconda

3.2 运行环境安装

git clone https://github.com/deepfakes/faceswap.gitcd faceswapconda create -n faceswap python=3.9conda activate faceswap python setup.py
选择的选项如下:Enable ROCm Support" />下载地址

下载完成后,移动到faceswap根目录的.fs_cache/文件夹下

也可以选择让程序自动下载,但下载较慢,而且经常会断开

4.2 提取人脸数据(以下方式三选一)

(1)从视频中提取人脸图片

  • 抽取video1.mp4中的人脸,抽取的图片保存到根目录下的./faces/f1目录下,执行命令如下:
python faceswap.py extract -i src/video1.mp4 -o faces/f1/
  • 抽取video2.mp4中的人脸,抽取的图片保存到根目录下的./faces/f2目录下,执行命令如下:
python faceswap.py extract -i src/video2.mp4 -o faces/f2/

(2)从图片中提取人脸图片

p1和p2文件夹中存放这多张携带人脸的图片,分别属于A用户和B用户,命令如下:

python faceswap.py extract -i src/p1 -o faces/f1python faceswap.py extract -i src/p2 -o faces/f2

(3)通过ffmpeg工具提取人脸数据

ffmpeg -i src/video1.mp4 faces/f1/video1-%d.pngffmpeg -i src/video2.mp4 faces/f2/video2-%d.png

然后再通过(2)中的命令提取人脸数据

4.3 开启训练

模型文件保存在根目录的f1_to_f2_model目录下

python faceswap.py train -A faces/f1 -B faces/f2 -m f1_to_f2_model/

训练完成后通过ll命令查看如下:

总用量 641232-rw-r--r-- 1 root root 328305920 6月29 19:08 original.h5-rw-r--r-- 1 root root 328305920 6月29 19:07 original.h5.bkdrwxr-xr-x 3 root root23 6月29 17:49 original_logs-rw-r--r-- 1 root root2757 6月29 19:08 original_state.json-rw-r--r-- 1 root root2756 6月29 19:07 original_state.json.bk

4.4 基于训练好的模型进行换脸

(1)基于训练后的模型进行图像转换

python faceswap.py convert -i src/video1.mp4 -o converted/ -m f1_to_f2_model/

(2)将转换后的图像合成视频

ffmpeg -i video1-%6d.png -c:v libx264 -vf "fps=25,format=yuv420p" out.mp4

其中fps与原视频中的fps相同,可以通ffmpeg -i video1.mp4查看

4.5 效果展示