《云安全联盟（CSA）：2024AI模型风险管理框架报告（56页）.pdf》由会员分享，可在线阅读，更多相关《云安全联盟（CSA）：2024AI模型风险管理框架报告（56页）.pdf（56页珍藏版）》请在三个皮匠报告上搜索。

1、 2025云安全联盟大中华区版权所有1 2025云安全联盟大中华区版权所有22025 云安全联盟大中华区保留所有权利。你可以在你的电脑上下载.储存.展示.查看及打印，或者访问云安全联盟大中华区官网（https:/www.c-）。须遵守以下：（a）本文只可作个人.信息获取.非商业用途；（b）本文内容不得篡改；（c）本文不得转发；（d）该商标.版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。2025云安全联盟大中华区版权所有3 2025云安全联盟大中华区版权所有4致谢致谢AI 模型风险管理框架由 CSA 云安全联盟专家编写，

2、并由 CSA 大中华区 AI 安全工作组完成翻译并审校。（以下排名不分先后）：中文版翻译专家组中文版翻译专家组翻译组成员：翻译组成员：郭建领卞超轶黄鹏华王绪国卜宋博张淼潘季明张亮审校组成员：审校组成员：高健凯卜宋博英文版编写专家组英文版编写专家组主要作者：主要作者：Maria Schwenger Vani Mittal其他贡献者：其他贡献者：Eric Tierling Hadir Labib Michael Roza Renata Budko审稿人：审稿人：Candy Alexander Daniel CElier Cruz 2025云安全联盟大中华区版权所有5Harie Srinivasa

3、Bangalore Ram Thilak Karan GoenkaKenneth Thomas Moras Namal Kulathunga Nicolas RayOtto Sulin Rohit Valia Sanitra AngramTom BowyerVaibhav MalikYuvaraj Madheswaran联席组长：联席组长：Chris KirschkeMark YanalitisCSA全球工作人员：全球工作人员：Josh BukerMarina BregkouStephen Smith 2025云安全联盟大中华区版权所有6目录目录致谢.4前言.8目标读者.9范围.10引言.10

4、一、四大支柱：模型卡片，数据手册，风险卡片，场景规划.15二、全面框架的好处.171.增强透明度，可解释性和问责制.172.主动风险评估和场景分析.183.制定风险缓解策略.184.明智决策与模型治理.185.健壮模型验证.186.建立信任并增强模型采纳.197.持续监控和改进.198.积极社会与伦理影响.199.强有力的治理和监督.19三、关键组成部分.201.模型卡片：理解模型.202.数据手册：检查训练数据.243.风险卡片：识别潜在问题.27 2025云安全联盟大中华区版权所有74.场景规划：“假设”方法.31四、总体技术：一种整合方法.381.利用模型卡信息创建风险卡.382.使用数

5、据手册加强模型理解.383.使用风险卡指导场景规划.394.场景规划对风险管理和开发的反馈.435.AI MRM 在行动.45五、结论与展望.50参考文献.51附录1:人工智能框架、法规和指南.53 2025云安全联盟大中华区版权所有8前言前言先进的机器学习（ML）模型的广泛应用在诸如预测性维护、欺诈检测、个性化医疗、自动驾驶汽车和智能供应链管理等领域带来了激动人心的机遇。机器学习模型有助于推动创新性和效率的提高，但其广泛应用也带来了内在的风险，尤其是源自模型自身的风险。如果这些风险得不到有效缓解，可能导致巨大的经济损失、监管问题以及声誉损害。为了解决这些问题，我们需要一种积极的风险管理方法。

6、模型风险管理（Model Risk Management,MRM）是推动组织在开发、部署在使用人工智能（AI）及机器学习模型时建立责任和信任文化的关键因素，它能够帮助组织最大程度发挥这些技术潜力的同时，最小化风险。本报告探讨了模型风险管理在AI模型应用任开发、部署和使用方面的重要性，适用于对该主题有兴趣的读者群体，包括直接参与AI开发的从业者以及专注于AI治理的业务和合规监管机构。本报告强调了与AI模型相关的内在风险，如数据偏见、事实性错误或信息不相关（通常被称为“幻觉”或“虚构”）、以及潜在的滥用行为。同时，提出了一个全面的MRM框架的需求，该框架基于四个相互关联的支柱：模型卡片（Model