1、 1 2024 云安全联盟大中华区版权所有 AI 可信度分析可信度分析 2 2024 云安全联盟大中华区版权所有 2024 云安全联盟大中华区-保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https:/www.c-）。须遵守以下：(a)本文只可作个人、信息获取、非商业用途；(b)本文内容不得篡改；(c)本文不得转发；(d)该商标、版权或其他声明不得删除。在遵循 中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。3 2024 云安全联盟大中华区版权所有 4 2024 云安全联盟大中华区版权所有 致谢 致谢

2、 AI 可信度分析白皮书由 CSA 大中华区 AI 模型可信度研究项目组专家和外部专家联合指导撰写，感谢以下专家的贡献：组长：组长：高毅昂 专家组：专家组：黄连金 王维强 黄磊 黄挺 杨大伟 王皓 闫峥 李默涵 闫斐 崔世文 包沉浮 林琳 编委会：编委会：田毓嘉 游丽娜 闫泰毓 王杰 陈鹏 唐可可 白佳奇 胥迤潇 刘刚 李红程 高磊 郭建领 校验组：校验组：吕鹂啸 万米迪 陈周建 伍超敏 方先行 杨维彬 方旭辉 王佳楠 田佳琦 勒洮 蔡逆水 罗智杰 王彦婷 钟良志 卜宋博 姜禹尧 温恒睿 顾炘宇 刘腾飞 闭俊林 5 2024 云安全联盟大中华区版权所有 贡献单位：贡献单位：中国电信集团有限公司

3、 云网基础设施安全国家工程研究中心 西安电子科技大学 广州大学网络空间安全学院 蚂蚁科技集团股份有限公司 北京百度网讯科技有限公司 天翼云科技有限公司 （以上排名不分先后）关于研究工作组的更多介绍，请在 CSA 大中华区官网（https:/c- CSA GCR 秘书处给与雅正!联系邮箱 researchc-；国际云安全联盟 CSA 公众号。6 2024 云安全联盟大中华区版权所有 序言序言 随着人工智能（AI）技术的迅速崛起，AI 已经成为推动全球科技创新和社会进步的重要动力之一。从智能家居到无人驾驶、从医疗诊断到金融风控，AI 技术正以前所未有的速度改变着各行各业的发展方式。然而，随着 AI

4、 的广泛应用，技术本身的透明度、决策的公正性及系统的安全性等问题也逐渐浮出水面，成为社会各界关注的焦点。AI 应用的蓬勃发展带来了诸如模型盗窃、数据泄露、数据中毒等新的安全威胁。这不仅影响了企业的经济效益，更加剧了人们对 AI 系统可信度的担忧。特别是在医疗、司法和金融等高度依赖准确性和公正性的领域，AI 决策的透明性与公正性问题尤为关键。随着 AI 技术愈加深刻地融入日常生活，全球对 AI 系统的可信性要求也在不断提高。面对这些挑战，CSA大中华区发布了AI可信度分析报告，旨在为AI开发者、企业和政策制定者提供全方位的指导和标准体系。本报告从可靠性、安全性、透明性和公平性四大维度，系统性地分

5、析了 AI 技术在实际应用中的可信性问题，并深入探讨了提高 AI 系统可信度的策略和方法。报告不仅评估了 AI 技术在不同领域的现状，还结合全球标准、行业实践及最新的技术进展，提出了一系列具体的改进措施。在数字化转型深入进行之际，发展可信的人工智能已成为全球共识。通过本报告的发布，我们希望为政策制定者、行业从业者以及研究人员提供有价值的参考，合力推动 AI技术朝着安全可信的方向不断发展进步。李雨航 Yale Li CSA 大中华区主席兼研究院长 7 2024 云安全联盟大中华区版权所有 目录 1 引言.10 1.1 研究背景与重要性.10 1.1.1 人工智能发展为社会发展注入新动能.10 1

6、.1.2 人工智能应用引发可信危机.10 1.1.3 可信人工智能成为全球共识.12 1.2 报告目的与研究问题.13 2 AI 可信度的定义与标准.13 2.1 可信度的定义.13 2.2 国际 AI 可信度标准与框架.16 2.2.1 联合国.17 2.2.2 美国.17 2.2.3 英国.17 2.2.4 欧盟.18 2.2.5 其他国家.18 2.2.6 国际标准.18 2.2.7 企业标准及框架.18 2.2.8 学术研究.19 2.3 WDTA AI 相关标准工作.19 2.3.1 生成式 AI 应用安全标准.19 2.3.2 大语言模型安全标准.21 2.3.3 大模型供应链安全