生成式人工智能引发的风险将如何改变企业数据安全计划.pdf

1、1 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商 标。2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商 标。未经Gartner事先书面许可，不得以任何形式复制或 传播本出版物。本出版物中 Gartner研究机构的观点，不应被理解为事实陈述。本出版物所含信息取自可靠来源，但 Gartner不对此类信息的准确性、完整性或适当性做任何保 证。Gartner研究中可能涉及法律及 财务问题，但Gartner并不提供法律建 议或投资服务，亦不可将Gartner研究成果作此用途。访问和

2、使用本出版物，需遵循 Gartner使用政策（“Usage Policy”）。Gartner以独立客观而蜚声业界，所有研究 项目均由公司研究部门独立完成，不受任何第三方影响。有关 Gartner报告独立性和完整性的 详细信息，请参阅“Guiding Principles on Independence and Objectivity”。Anson Chen生成式人工智能生成式人工智能 风险风险如何改如何改变变企企业业数据安数据安全全计计划划2 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商标。3 2025 Gartner公司及/或其

3、关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商标。部署人工智能（部署人工智能（AIAI）的企）的企业业中，近中，近30%30%发发生生过过AIAI安全事件安全事件来源:2023年Gartner企业AI调研AI安全事件安全事件n数值不尽相同；主要样本来自703名回答已部署AI的受访者，回答“不确定”的除外问题24：贵企业是否曾发生AI隐私泄露或安全事件?内部方内部方的数据泄露外部方外部方的数据泄露针对 AI 基础设施的恶意攻击（数据泄露除外）事件事件类类型型:多选n数值不尽相同；主要样本来自发生过AI隐私泄露的企业问题25：这些AI 隐私泄露和/或安全事件属于何种类型？

4、4 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商 标。生成式人工智能（生成式人工智能（GenAIGenAI）训练训练和推理和推理阶阶段的数据安全段的数据安全风险风险数据安全风险普通用户恶意行为者外部数据(向量、图形)大大语语言模型言模型训练训练和微和微调调生成式人工智能生成式人工智能 应应用用大语言模型(运行时)生成式人工智能生成式人工智能 应应用用层层检索大语言模型微调大语言模型基础模型训练微调数据内部数据互联网STR-1.3STR-4.1微调数据投毒数据丢失：微调数据STR-1.2数据丢失：文件上传STR-1.5STR-1.6

5、数据丢失：用户文件泄露数据丢失：应用日志STR-1.4数据丢失：聊天历史记录训练数据应用日志STR-1.1 数据丢失：提示聊天历史记录5 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商标。评估生成式人工智能数据安全态势提高非结构化数据的安全性使用合成数据（而非混淆数据）进行生成式人工智能训练生成式人工智能改生成式人工智能改 变变数据安全数据安全计计划划5 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商标。6 2025 Gartner公司及/或其关联公司版权所有。Gartn

6、er是Gartner公司及其关联公司的注册商标。评估生成式人工智能数据安全态势提高非结构化数据的安全性使用合成数据（而非混淆数据）进行生成式人工智能训练生成式人工智能改变数据安全计划 生成式人工智能改变数据安全计划 6 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商标。7 2025 Gartner公司及/或其关联公司版权所有。Gartner是Gartner公司及其关联公司的注册商标。88%的网的网络络安全安全领导领导者表示企者表示企业业已部署生成式已部署生成式人工智能功能人工智能功能 2025年Gartner大型企业技术采用路线图调