1、 2024云安全联盟大中华区版权所有 1 医疗保健中的信息技术治理、风险与合医疗保健中的信息技术治理、风险与合规（第二版）规（第二版）2024云安全联盟大中华区版权所有 2“AI 组织责任工作组”的永久的官方网址是 https:/cloudsecurityalliance.org/research/working-groups/ai-organizational-responsibilities 2024 云安全联盟大中华区 保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网(https:/www.c-)。须遵守以下:(a)本文只可作个人、信息获取、非

2、商业用途;(b)本文内容不得篡改;(c)本文不得转发;(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。3 4 目录目录 目录.4 前言.7 致谢.8 介绍.9 AI 共享责任模型.9 AI 化应用程序中的关键层.10 人工智能平台.10 AI 应用层.10 AI 使用.11 以数据为中心的人工智能系统的基础组件.13 前提条件.18 目标受众.18 职责角色定义.19 管理与战略.19 治理与合规.20 技术和安全.21 运营与发展.21 规范性引用文件.22 一、将数据安全和隐私纳入人工智能训练.23 1

3、.1 数据真实性和许可管理.23 1.2 匿名化和假名化.24 1.3 数据最小化.26 1.4 数据访问控制.27 1.5 安全存储和传输.28 二、模型安全.29 5 2.1 模型访问控制.29 2.1.1 身份验证和授权框架.30 2.1.2 模型接口速率限制.31 2.1.3 模型生命周期管理中的访问控制.31 2.2 安全的模型运行环境.33 2.2.1 基于硬件的安全功能.33 2.2.2 网络安全控制.34 2.2.3 操作系统级强化和安全配置.35 2.2.4 K8s 与容器安全.36 2.2.5 云环境安全.37 2.3 漏洞和补丁管理.38 2.3.1 机器学习代码完整性保

4、护.38 2.3.2 机器学习训练和部署代码的版本控制系统.39 2.3.3 验证已批准版本的代码签名.41 2.3.4 基础设施即代码方法.43 2.4MLOps 流水线安全.44 2.4.1 源代码漏洞扫描.44 2.4.2 测试模型对攻击的鲁棒性.45 2.4.3 验证每个阶段的流水线完整性.46 2.4.4 监控自动化脚本.48 2.5AI 模型治理.50 2.5.1 模型风险评估.50 2.5.2 业务审批程序.51 2.5.3 模型监控要求.52 2.5.4 新模型验证过程.53 2.6 安全模型部署.54 2.6.1 灰度发布.54 2.6.2 蓝绿部署.55 6 2.6.3 回

5、滚功能.56 2.6.4 报废模型.56 三、漏洞管理.57 3.1AI/ML 资产盘点.57 3.2 持续漏洞扫描.59 3.3 风险的优先级.60 3.4 补救跟踪.61 3.5 异常处理.62 3.6 报告指标.64 结论.66 缩略语.68 7 前言前言 本白皮书是一份工作草案，重点关注 AI 和机器学习系统开发和部署中在信息和网络安全方面的组织责任。本白皮书综合了在核心安全领域专家推荐的最佳实践，包括数据保护机制、模型漏洞管理、MLOps 流水线强化以及负责任地训练和部署人工智能的治理政策。白皮书中讨论的要点包括：数据安全和隐私保护：数据真实性、匿名化、假名化、数据最小化、访问控制以

6、及安全存储和传输在人工智能训练中的重要性。模型安全：涵盖模型安全的各个方面，包括访问控制、安全运行环境、漏洞和补丁管理、MLOps 流水线安全、AI 模型治理和模型安全部署。漏洞管理：讨论 AI/ML 资产盘点的重要性、持续漏洞扫描、基于风险的优先级排序、补救跟踪、异常处理和有效管理漏洞的报告指标。白皮书使用可量化的评估标准、责任、问责、咨询、RACI 模型来分析每项责任，包括角色定义、高级实施策略、持续监控和报告机制、访问控制映射以及遵守基本框架。这些基于行业最佳实践和标准，如 NIST AI RMF、NIST SSDF、NIST 800-53、CSA CCM 等。本白皮书通过概述这些在安全