1、人工智能安全标准化白皮书（2023版）全国信息安全标准化技术委员会大数据安全标准特别工作组2023年5月-I-引 言人工智能是人类科学技术发展的重要成果，是信息时代向前演进的关键动力。运用好、发展好、治理好人工智能，让人工智能持续、安全地造福人类社会，已经成为世界各国的基本共识。党的十八大以来，在习近平新时代中国特色社会主义思想指引下，我国人工智能保持了安全、有序、快速的发展进程，在政治、军事、医疗、工业、经济等领域作用日益关键，已逐渐成为国家和社会的技术支柱。当前，人工智能发展再一次迈入关键时期，以生成式人工智能为代表的新技术、新应用不断打破人们对于人工智能的固有认知，也带来了大量网络意识形

2、态安全、数据安全、个人信息安全等方面新风险、新挑战，化解安全风险、统筹发展和安全成为重大难题。贯彻总体国家安全观，全国信息安全标准化技术委员会大数据安全标准特别工作组坚持发挥标准化工作基础性、规范性作用，开展了一系列人工智能安全标准化工作，为推动人工智能发展贡献力量。面对人工智能安全新形势，为全面介绍人工智能安全标准化工作进展情况，分享相关工作经验，在 人工智能安全标准化白皮书（2019版）等前期研究成果基础上，特发布本白皮书。-II-人工智能安全标准化白皮书（2023版）编写单位 中国电子技术标准化研究院复旦大学浙江大学西安交通大学清华大学上海商汤智能科技有限公司中国科学院信息工程研究所腾讯

3、云计算（北京）有限责任公司北京计算机技术及应用研究所华为技术有限公司阿里巴巴（北京）软件服务有限公司蚂蚁科技集团股份有限公司公安部第三研究所中国科学院自动化研究所上海燧原科技有限公司北京百度网讯科技有限公司国际商业机器（中国）有限公司北京天融信网络安全技术有限公司中电长城网际系统应用有限公司OPPO广东移动通信有限公司-III-人工智能安全标准化白皮书（2023版）编写人员姚相振 上官晓丽 王建民 郝春亮许晓耕任 奎杨 珉沈 超胡 影金 涛 王 姣秦 湛张世天王 蕊张晓寒蔺琛皓王秉政 蒋 慧陈 恺梅敬青彭骏涛李 实王志波徐 浩 张雨桐李 前程海旭王龑张堃博孟国柱王小璞 张妍婷张宇光张 骁刘 炎

4、刘 楠郭 敏周晨炜 薛 科刘继顺刘海涛贾依真版权声明：如需转载或引用，请注明出处。-IV-一、人工智能发展现状1（一）人工智能技术特点 1（二）人工智能应用趋势 2（三）人工智能安全属性 3二、人工智能安全风险分析5（一）用户数据用于训练，放大隐私信息泄露风险 5（二）算法模型日趋复杂，可解释性目标难实现 5（三）可靠性问题仍然制约人工智能关键领域应用 6（四）滥用误用人工智能，扰乱生产生活安全秩序 6（五）模型和数据成为核心资产，安全保护难度提升 6（六）网络意识形态安全面临新风险 7三、人工智能安全政策与标准现状8（一）国内外人工智能安全战略与政策法规 8（二）国内外人工智能安全标准 11

5、四、人工智能安全标准需求分析 15（一）人工智能安全属性定义和度量指标 15（二）用户输入数据安全保护相关规范 15（三）人工智能服务网络安全防护相关指南 15（四）人工智能安全评估相关规范 16（五）生成式人工智能安全标准 16目录CONTENTS-V-目录CONTENTS五、人工智能安全标准化工作建议 17（一）持续完善人工智能安全标准体系 17（二）大力开展基础共性安全标准研究 17（三）加快出台产业发展急需安全标准 17附录A：标准列表 19 A.1 国内人工智能安全相关标准列表 19 A.2 国外人工智能安全相关标准列表 22-1-一、人工智能发展现状一、人工智能发展现状过去十余年，

6、依托全球数据、算法、算力持续突破，人工智能全面走向应用，已成为社会生产生活的支柱性技术。2020年后，当自动驾驶、人脸识别等热门应用发展逐渐放缓、社会对人工智能整体发展预期日益冷静时，大模型技术潜力的释放以最振聋发聩的方式宣告了人工智能第三次高速发展期远未结束，当前正是攀登发展高峰的关键时期。另一方面，当人工智能可以通过人类最严格的考试、同时执行多种工作命令、具备一定的推理规划能力、生成以假乱真的照片、模仿人类与人聊天不被发现时，其安全问题也更为复杂棘手，传统安全考虑以及管理方法需要重新审视。在此背景下，人工智能是否安全、如何保障安全成为全球焦点，统筹安全与发展是其中关键。（一）人工智能技术特