分论坛二02-董春涛-AI时代全面保护AI-董春涛.pdf

1、董春涛董春涛大中大中华区技术总监华区技术总监Palo Alto NetworksAI时代时代，全面保，全面保护护AI安全安全2|2022 Palo Alto Networks,Inc.All rights reserved.Hugging Face1602的企业正在构建AI147%1.6M202610AI3100K数据来源：1.Menlo Ventures,2.Hugging Face,3.Palo Alto Networks 3|2022 Palo Alto Networks,Inc.All rights reserved.执行记忆学习规划93%来源：ZDNETAgent人工智能的人工智能的

2、应用趋势增长引入了全新的安全隐患55%的的员工在工作中使用了未使用了未经批准的的Gen AIIOTW:Samsung employees allegedly leak proprietary information via ChatGPTThree separate employees have allegedly leaked information to the AI chatbotUS House forbids staff members from using AI chatbot Microsoft CopilotHouse Office of Cybersecurity has d

3、eemed Microsoft Copilot a risk to users because of the threat of leaking House data to non-House approved cloud services.Microsoft accidentally exposes 38TB of internal data via GitHub repository38 terabytes of internal data,including passwords,publicly accessible through a GitHub repository that Mi

4、crosofts artificial intelligence research group uses影子人工智能影子人工智能应用程序：造成安全盲点造成安全盲点敏感数据敏感数据丢失：源于未源于未经检查的 GenAI 提提示和响示和响应恶意内容：嵌入在嵌入在 GenAI的响的响应中给客户带来安全风险企企业开发和应用AI/LLM的安全挑的安全挑战使用AI的风险Data Loss RiskAI被用于攻击AI as Attack ToolAI本身的安全AI is Attacked模型投毒安全模型篡改安全模型算法安全模型伦理安全模型演化不可控安全产生新的恶意代码创建网络攻击模式持续尝试绕过安全防护更加

5、隐蔽和乱真的钓鱼邮件训练数据的安全企业或行业知识产权的安全企业敏感数据的安全个人信息的安全企业应用软件的漏洞的暴露AI AccessSecurity了解并确保员工对授权AI 和Shadow AI 的访问和使用AI ModelScanning从源头降低人工智能软件供应链的安全风险识别模型风险Palo Alto Networks Precision AI-未来安全之道未来安全之道自自动发现和保护 AI 应用、模型、用户和数据AI Runtime Security在运行时保护AI 应用程序、模型和数据免受AI相关威胁和基础架构相关威胁安全使用生成式人工智能安全使用生成式人工智能通通过设计确保 AI

6、应用的安全AI Security Posture Management降低人工智能软件供应链和基础设施的安全风险识别数据暴露风险AI RedTeaming主动评估对AI应用的威胁，查漏补缺AI AgentSecurity将安全嵌入到AIAgent的每一个步骤中，确保Agent在安全可控范围内执行任务Safely enable GenAI and protect all data in real timeIts time towith Prismabrowse bravelyDefend against all web attackswith the power of Precision AID