1、人工智能隐私保护白皮书-1-中国联通人工智能隐私保护白皮书中国联通人工智能隐私保护白皮书中国联通研究院中国联通网络安全研究院下一代互联网宽带业务应用国家工程研究中心2023 年 11 月人工智能隐私保护白皮书-2-版权声明版权声明本白皮书版权属于中国联合网络通信有限公司研究院，并受法律保护。转载、摘编或利用其他方式使用本报告文字或者观点的，应注明“来源：中国联通研究院”。违反上述声明者，本院将追究其相关法律责任。人工智能隐私保护白皮书-3-目录目录前言.1一 人工智能全生命周期隐私风险分析.31.1 人工智能通用隐私风险.41.1.1 数据采集存储流通阶段隐私风险.41.1.2 模型训练与推理

2、阶段隐私风险.61.2 生成式人工智能隐私风险.9二 人工智能隐私保护法规政策和标准化现状.102.1 人工智能隐私保护国内外法律法规和政策.102.1.1 国内情况.102.1.2 国外情况.132.2 人工智能隐私保护国内外相关标准化情况.192.2.1 国内相关标准研究情况.192.2.2 国外相关标准研究情况.21三 人工智能隐私保护技术和平台.223.1 人工智能隐私保护技术.233.1.1 人工智能隐私保护管控技术.233.1.2 人工智能隐私保护数据加密技术.233.1.3 人工智能隐私保护攻击防御技术.253.1.4 人工智能隐私保护新兴技术.263.2 人工智能隐私保护平台.

3、30四 人工智能隐私保护建议.31人工智能隐私保护白皮书-4-4.1 建立健全的人工智能隐私保护合规监管机制.314.2 加强可操作的人工智能隐私保护标准建设.324.3 构建全周期的人工智能隐私保护体系.334.4 发展多维度的人工智能隐私保护技术.354.5 培养复合型的人工智能隐私保护人才.364.6 构建负责任的人工智能隐私保护生态.37参考文献.37人工智能隐私保护白皮书-1-前言前言人工智能（Artificial Intelligence，简称 AI）作为战略性新兴产业，作为新的增长引擎，日益成为科技创新、产业升级和生产力提升的重要驱动力量。生成式人工智能工具、人脸识别、智能工厂、

4、智慧城市等人工智能技术现已广泛落地，这些令人难以置信的技术正在快速改变人们的生活，对经济社会发展和人类文明进步产生深远影响。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战，潜在的滥用对以前被认为是不可侵犯的个人敏感信息构成了前所未有的威胁，技术自身缺陷导致智能决策在多个领域存在不确定性和敏感信息泄露，系统被非法控制导致个人隐私被未授权的第三方获取和推理。因此，人工智能技术引发的隐私与安全问题已经成为时下的关注话题，也是当前人工智能领域所面临的最大挑战之一。为了更好的推动新一代人工智能安全发展，让人工智能用的放心，各国政府和企业越来越重视人工智能隐私保护。人工智能隐私保护指的是在数据采

5、集存储和数据使用共享，模型训练以及模型推理应用的全生命周期过程中有效的保护用户数据隐私不泄漏，不被未授权第三方获取或推理。因此，在人工智能处理大量个人数据和敏感信息的过程中，如何加强数据隐私管控；在人工智能训练过程中，如何保证数据质量，避免原始数据隐私泄露；在人工智能推理应用过程中，如何防御攻击引起的数据隐私推理，如何保护模型保密性与完整性日渐成为国际人工智能的重要议题。本白皮书从人工智能隐私保护的内涵出发，从人工智能全生命周人工智能隐私保护白皮书-2-期系统梳理人工智能通用隐私风险和生成式人工智能隐私风险。在此基础上，总结了国内外人工智能隐私保护法规政策标准化现状。然后分析了人工智能隐私保护

6、技术和平台，包括管控技术、数据加密技术、攻击防御技术、隐私保护机器学习平台和人工智能安全检测平台等。最后以技术发展和隐私保护并重为原则，研究提出了多维度、负责任的人工智能隐私保护实施建议，让下一代人工智能用的放心。本白皮书由中国联通研究院主笔，中国联通集团网络与信息安全部、中国软件评测中心（工业和信息化部软件与集成电路促进中心）、数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国计算机行业协会数据安全专业委员会、三六零数字安全科技集团有限公司、中兴通讯股份有限公司联合编写。编写组成员（排名不分先后）：总策划：苗守野、李浩宇、叶晓煜编委会：徐雷、陶冶、李慧芳、孙艺、陈泱、曹咪、傅瑜、唐