1、顶象防御云“顶象防御云“AI 换脸”威胁研究及安全策略换脸”威胁研究及安全策略marketingdingxiang-1顶象防御云“顶象防御云“AI 换脸”威胁研究及安全策略换脸”威胁研究及安全策略marketingdingxiang-2目录一、“AI 换脸”基于“深度伪造”技术.31、“深度伪造”的构成.3（1）人脸识别和关键点检测.3（2）图像/视频合成技术.3（3）生成对抗网络(GAN).3（4）增强效果技术.42、“深度伪造”的危害.4（1）“换脸”视频和图像.4（2）合成真人音频.5（3）伪造文本信息.6二、常见的“深度伪造”欺诈类型.81、伪造账号造谣传谣.82、冒充熟人进行诈骗.8

2、3、伪造身份申请银行贷款.94、让“网络钓鱼”更加难以识别.95、冒充他人远程面试入职.96、冒名登录盗走银行余额.11三、“深度伪造”的产业链.121、“深度伪造”欺诈的过程.122、“深度伪造”欺诈上游：虚假图文与视频的制作.133、“深度伪造”欺诈下游：多个平台多个方式实施诈骗.15四、识别检测“深度伪造”的音视频.171、人的行为与生物识别.172、设备与操作识别.173、技术识别与取证.184、社交防范与公众教育.19五、对抗“AI 换脸”欺诈的安全策略.191、社交媒体场景下的安全策略.192、银行信贷场景下的安全策略.21六、国家监管与相关法律法规.221 中国.222、美国.2

3、33、欧盟.234、澳大利亚.235、国际组织及会议.24七、哪些机构需要负起责任.241、社交媒体.242、金融机构.253、AI 工具提供商.25八、关于情报作者.251、顶象业务安全情报简介.252、顶象简介.26顶象防御云“顶象防御云“AI 换脸”威胁研究及安全策略换脸”威胁研究及安全策略marketingdingxiang-3一、“一、“AI 换脸”基于“深度伪造”技术换脸”基于“深度伪造”技术AI 换脸，也称为“深度伪造”（Deepfake），是一种利用人工智能技术将人脸替换到另一个人的脸部上的技术。“深度伪造”技术涉及多种技术和算法，这些技术和算法相互配合，可以生成非常逼真的图像

4、或视频。将“深度伪造”的虚假内容与真实信息的元素拼凑在一起，就可以用于可以伪造身份、传播错误信息、制作虚假数字内容，进行各类欺诈。1、“深度伪造”的构成（、“深度伪造”的构成（1）人脸识别和关键点检测）人脸识别和关键点检测人脸识别和关键点检测用于识别和定位人脸，是“深度伪造”技术的基础，主要用于识别图像或视频中的人脸，并定位人脸的关键点，例如眼睛、鼻子、嘴巴等。这些信息可以用于将人脸从图像或视频中提取出来，并将其与其他图像或视频进行合成。其中，人脸识别算法包含基于特征的人脸识别的 Eigenfaces、Fisherfaces、Local BinaryPatterns(LBP)，基 于子空间 的

5、人脸识 别的 Principal Component Analysis(PCA)、LinearDiscriminant Analysis(LDA)，以及基于深度学习的人脸识别的 DeepFace、FaceNet、Dlib 等；关键点检测算法包含基于形状的人脸关键点检测的 Active Shape Model(ASM)、ConstrainedLocal Model(CLM)，基于外观的人脸关键点检测的 Cascaded Shape Regression(CSR)、DeepPose 等。（2）图像）图像/视频合成技术视频合成技术图像/视频合成技术将不同的人脸、表情、动作等合成到目标图像或视频中，是

6、“深度伪造”技术的核心，主要用于将不同的人脸、表情、动作等合成到目标图像或视频中。常用的图像/视频合成技术包括，含基于像素的图像/视频合成的 Poisson Blending、Seamless Cloning，基于特征的图像/视频合成的 FaceSwap、DeepFaceLab。（3）生成对抗网络）生成对抗网络(GAN)生成对抗网络(GAN)是一种深度学习技术，可以生成非常逼真的图像或视频。GAN 由两个神经网络组成：生成器和判别器，其中生成器的目标是生成高度逼真的虚假图像、视频与声音，是“深度伪造”技术的重要工具，其包含 DCGAN、ProGAN、StyleGAN。顶象防御云“顶象防御云“A