1、 2023 云安全联盟大中华区版权所有1 2023 云安全联盟大中华区版权所有22023 云安全联盟大中华区保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https:/www.c-）。须遵守以下：（a）本文只可作个人、信息获取、非商业用途；（b）本文内容不得篡改；（c）本文不得转发；（d）该商标、版权或其他声明不得删除。在遵循 中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。2023 云安全联盟大中华区版权所有3 2023 云安全联盟大中华区版权所有4致谢致谢AI 安全白皮书由 CSA 大中华区 AI

2、安全工作组专家撰写，感谢以下专家的贡献：工作组联席组长:主要贡献者：审校组:研究协调员：黄磊王维强黄磊王维强何伊圣卞超轶李岩陶瑞岩刘广坤郑国祥张淼陈洋郭建领唐科伟崔崟段阳阳冯明邹旭郝伟黄国忠林兵邢海韬杨浩淼杨喜龙张亮孟昌华黄磊王维强黄连金刘广坤何伊圣张亮李岩黄家栋 2023 云安全联盟大中华区版权所有5贡献单位:(以上排名不分先后)关于研究工作组的更多介绍，请在 CSA 大中华区官网（https:/c- CSA GCR 秘书处给与雅正!联系邮箱 researchc-；国际云安全联盟 CSA 公众号中国电信股份有限公司研究院蚂蚁集团安全实验室北京百度网讯科技有限公司杭州安恒信息技术股份有限公司北

3、京启明星辰信息安全技术有限公司华为技术有限公司联通（广东）产业互联网有限公司北京沃东天骏信息技术有限公司上海安几科技有限公司优刻得科技股份有限公司上海物盾信息科技有限公司杭州世平信息科技有限公司深圳市魔方安全科技有限公司电子科技大学浙江孚临科技有限公司 2023 云安全联盟大中华区版权所有6序言序言 1在 21 世纪这个科技飞速发展的时代，人工智能技术的进步使得数字经济成为全球经济发展的主导力量。因此，各国和企业纷纷加快了对数字经济的战略规划和布局，以抢占发展制高点。然而，在数字化转型深入进行之际，人工智能安全面临着不断加剧的挑战和风险。数据以多种形态在各个主体、不同场景下流动和应用，人工智能

4、安全问题涉及到保密性、完整性、可用性和合规性等方面问题，同时还包括算法、模型、应用和系统的安全。传统信息安全风险管理方法已无法适应数字化业务高速发展和变化，并不能实现对人工智能全生命周期过程中风险管控。在这一背景下，AI安全白皮书应运而生。本白皮书审视了 AI 在安全领域应用与挑战，并包括了AI 赋能安全技术、伴生安全问题、监管与技术生态以及热门问题等内容，为行业提供了一个全局视角，有助于推动 AI 安全领域的进一步发展和规范。通过对 AI 安全风险进行深入分析和研究，我们坚信企业和组织可以采取更为有效的管理措施，确保数据安全与隐私保护。面对数字经济时代，企业和组织必须高度重视人工智能安全风险

5、管理，并积极应对各类人工智能安全挑战。借助AI 安全白皮书 的指导和建议，我们期待广大从业者能够更好地把握人工智能安全管理要点，确保数字经济发展可持续性。同时，我们也期待更多企业和组织能够参与到人工智能安全事业中来，共同为构建安全、健康的数字经济环境贡献力量。李雨航 Yale LiCSA 大中华区主席兼研究院院长 2023 云安全联盟大中华区版权所有7序言序言 2 AI 安全白皮书是一份对当前人工智能（AI）安全领域的有指导意义的研究和分析。本文探讨了 AI 在安全领域的多种应用，包括漏洞挖掘、安全防御和威胁检测，同时也着重分析了 AI 本身的安全问题，如内生安全和衍生安全问题。此外，它还涉及

6、了 AI 安全的监管生态、技术生态以及行业发展情况，包括法律法规、行业标准、国际共识等方面。这份白皮书对于任何关注网络安全和人工智能发展的人来说都是有价值的资源。无论是业内专业人士、学者、政策制定者，还是对 AI 技术和网络安全感兴趣的学生和爱好者，都能从中获得独到的见解和知识。它不仅提供了对 AI 安全技术的概述，还探讨了相关的伦理法律和政策问题，为理解和应对 AI 带来的安全挑战提供了理论基础。此外，白皮书还特别关注了 AI 安全的最新热点问题，如大模型安全、对抗样本攻击、数据投毒攻击、供应链攻击、数据泄露攻击和模型窃取攻击等，这些内容对于理解当前和未来 AI 安全的趋势至关重要。它还对