1、网络安全中的网络安全中的AI：明确战略方向明确战略方向减少干扰、有效管理风险并全面减少干扰、有效管理风险并全面释放释放AI技术的价值。技术的价值。摒弃盲从，最大摒弃盲从，最大限度发挥限度发挥AI在网络安全中的价值在网络安全中的价值围绕AI及生成式AI（GenAI）的热潮正迅速改变传统商业运作模式，同时也为本就充满挑战的安全环境带来了全新的风险和挑战。风险不断加剧，而AI的潜力却尚未完全释放。不过，昨日的颠覆蕴藏着明日的机遇。在外界炒作的背后，AI蕴含着深远的战略价值，值得深入挖掘。AI无疑将重塑企业的运营方式，包括安全领域。随着AI带来的挑战日益凸显及其应用的不断成熟，企业应重点关注以下需求：

2、精准评估AI的影响 优先聚焦关键风险领域 深化AI价值挖掘 预见未来趋势平衡网络安全现实需求与平衡网络安全现实需求与GenAI愿景愿景来源：Gartner生成式生成式AI网络安全中的AI：明确战略方向2Gartner官网成为客户精准评估精准评估AI的影响的影响我们的分析显示，近近90%的企业的企业仍停留在研究或试点生成式AI（GenAI）的阶段，其中绝大多数尚未落实AI TRiSM（信任、风险与安全管理）的技术手段或政策。这一现状正在重塑安全生态。领导者们面临多重影响：直接且直接且紧急紧急 第三方应用对敏感数据的非受控使用 版权侵权导致的品牌声誉风险直接但被夸大直接但被夸大用于激发市场关注的G

3、enAI早期夸大宣传间接且令人担忧间接且令人担忧 潜在隐私风险及威胁行为者引发担忧 业务实践变革带来新的攻击面间接且潜在间接且潜在 GenAI的持续应用需求推动安全举措与时俱进 新法规与合规要求迫使安全团队提前布局 潜在的技能短缺与人才挑战带来不确定性降低干扰降低干扰管理风险管理风险释放释放AI价值价值网络安全中的AI：明确战略方向3Gartner官网成为客户网络安全中的AI：明确战略方向4明确战略方向明确战略方向引入生成式AI将需要全新或调整过的治理框架，并制定明确的网络安全战略路线图，确保涉及AI的问题得到全面考量。企业的AI治理范围应根据其成熟度进行定制，但每个企业都应专注于以下三条并行

4、的路线图：1.调整应用安全策略以支持调整应用安全策略以支持AI部署部署在保障安全开发实践的基础上，防范系统运行与开发生命周期中出现的新攻击面。整合隐私增强技术，评估新引进GenAI技术对应用安全的影响。2.将新将新AI技术整合到网络安全战略中技术整合到网络安全战略中将AI当前和未来的潜在影响纳入三年战略路线图3.将将AI要素纳入全面的风险管理框架要素纳入全面的风险管理框架随着企业技能需求的不断演变，评估标准、风险登记册及威胁暴露面也将持续调整。网络安全领导者对网络安全领导者对GenAI应应用的三大风险关注点：用的三大风险关注点：GenAI应用与数据泄露错误决策来源：Gartner降低干扰降低干

5、扰管理风险管理风险释放释放AI价值价值第三方对敏感数据的获取Gartner官网成为客户实施实施AI信任、风险与安全信任、风险与安全管理（管理（AI TRiSM）框架）框架AI信任、风险和安全管理技术信任、风险和安全管理技术来源：Gartner开发方/所有方应担的责任隐私、公平、偏差控制衡量指标、工作流程、政策组织治理组织治理AI系统系统模型、应用、代理AI TRiSM技术组成技术组成数据保护AI系统用户需要使用该技术，弥合开发方/所有方解决方案之间的差距内容异常检测模型管理和ModelOps可解释性和透明度对抗性攻击应用安全降低干扰降低干扰管理风险管理风险释放释放AI价值价值网络安全中的AI：

6、明确战略方向5外部托管的大语言模型（LLM）及其他GenAI模型，因其应用流程、数据处理和存储难以被企业直接掌控，显著加剧了潜在风险。即便是由企业内部托管与管理的本地模型，在缺乏完善安全和风险管理措施的情况下，同样面临挑战。AI信任、风险与安全管理（AI TRiSM）框架可帮助企业管理相关风险。该框架通过控制措施和信任机制，持续提供：1.内容异常检测2.数据治理与保护3.降低应用安全风险Gartner官网成为客户优先强化优先强化GenAI应用的应用的安全防护安全防护为Web、SaaS、云基础设施即服务（IaaS）和平台即服务（PaaS）构建坚实的基础安全控制体系，并进一步加强GenAI应用的保