1、2023年6月26日AI安全系列：以子之矛，攻子之盾从deepfakes深度伪造技术看AI安全行业评级：看好分析师刘雯蜀研究助理刘静一邮箱 邮箱证书编号S1230523020002证券研究报告添加标题95%摘要21、Deepfakes技术始于2014年，随着AI大模型能力的提升关注度持续增高Deepfakes定义可分为广义和狭义两个层次，其中广义上指利用了以生成对抗网络技术（GAN）为主体的深度学习技术制造的看起来很真实但实际上属于虚假的图片或视频。随着AI大模型的能力不断突破，deepfakes受到的关注度持续增高。2、生成式 AI 模型是Deepfakes的技术基础，而人脸伪造技术是dee

2、pfakes的一个重要分支生成式 AI 是深度学习的一个分支，根据生成内容的类别，生成式AI模型可进一步被分为生成式语言模型和生成式图片模型。而随着多模态模型的应用逐步深入，生成式AI模型也开始向多模态方向发展。目前主流生成式AI模型包括VAE、GAN、diffusion模型等，stable diffusion模型的发布再次使得生成式AI的输出质量大幅提升。人脸伪造技术是deepfakes的一个重要分支，可被进一步划分为有目标可视身份伪造和无目标可视身份伪造，其中有目标可视身份伪造技术已经在俄乌冲突中有所应用。3、生成式AI技术的迭代增加伪造图片的真实度，同时增大AIGC识别难度考虑到：1）数

3、据层面，可供训练的数据集规模扩大，带来模型效果的大幅提升；2）算法层面，算法框架的迭代与组合，使得模型训练更加高效、稳定；3）算力层面，算力水平的提升，助力更加高效的复杂模型训练，AI伪造图片的真实度不断增加，使得识别难度增大，带来的潜在风险提升。4、反AI生成市场空间约64亿元针对AI生成图像可能带来的风险，各国政府陆续推出政策加以约束。根据我们测算，反AI生成市场空间约64亿元，其中监管侧44亿元，企业侧20亿元。5、部分反AI生成相关公司上市公司：美亚柏科、东方通非上市公司：瑞莱智慧、中科睿鉴、Illuminarty（海外）、AI Voice Detector（海外）、Google（海外

4、）VWsUhV9UmUTWoWaXjZ7N8QbRoMpPmOmPeRpPoQjMtRtNaQnMoOxNmMuMwMtOsP风险提示31、AIGC监管以及识别技术研发以及相关产品落地不及预期2、报告中对各类模型的介绍与总结基于对于相关论文内容的理解，具有一定主观性3、报告中对于反AI生成的市场空间测算存在主观判断及口径差异4、由AI安全需求带来的市场竞争加剧5、板块政策发生重大变化目录C O N T E N T S4Deepfakes演进与发展历程01生成式AI模型梳理02以视觉为例：人脸伪造技术分类03以视觉为例：生成式图像检测手段04Deepfakes技术发展趋势展望05AIGC监管及反

5、生成AI市场空间测算06公司梳理07风险提示08Deepfakes演进与发展历程01Partone5添加标题95%Deepfakes0161）Deepfakes：基于深度学习的AI换脸技术Deepfakes定义可分为广义和狭义两个层次：广义：Deepfakes指使用机器学习（ML）技术创建的伪造品，即利用了以生成对抗网络技术（GAN）为主体的深度学习技术制造的看起来很真实但实际上属于虚假的图片或视频。狭义：Deepfakes是“Deep machine learning”和“fake”的组合词，是一种基于深度学习的人物图像合成技术。不同于一般意义上的p图，Deepfakes利用电脑程序找到两个

6、面部之间的共同点，通过搭建神经网络来学习人脸，使替换以后的脸可以生动地模仿原来的表情，以假乱真。2）Deepfakes的产生与飞跃2014年是Deepfake的诞生元年，Goodfellow与同事发表的科学论文标志着GAN AI的诞生，催生出我们如今所熟知的Deepfakes。在2014年，就有迹象表明 GAN 有望生成仿真度极高的人脸。深度伪造技术开始进入大众视野。在Deepfakes产生初期，生成代理往往倾向于产出分辨率较低而模糊不清的图像是检查代理难以判断内容的真伪，深度伪造技术一定阶段内存在着输出内容像素过低，生成结果难以令人信服的问题。2017年英伟达推动质量飞跃，利用分阶段训练网络