生成式 AI应用的安全挑战-CSA黄连金.pdf

1、生成式 AI应用的安全挑战黄连金云安全联盟大中华区研究院过去 6 年以来撰写了 8 本有关 AI 和 Web3 的书籍CSA GCR 研究院副院长CSA全球 AI Safety 安全工作组联合主席WDTA AT STR 联合主席OWASP Top 10 for LLM 核心作者About Me:Ken Huang(黄连金）云安全联盟CSA是中立、权威的全球性非营利产业组织，于2009年正式成立，致力于定义和提高业界对云计算和下一 代数字技术安全最佳实践的认识，推动数字安全产业全面发展。欧非区 40+英国、比利时、卢森堡、丹麦、埃及、法国、德国、爱尔兰、以色列、意大利、荷兰、挪威、波兰、葡萄牙、

2、俄罗斯、西班牙、瑞典、瑞士、土耳其、阿拉伯联合酋长国北京Beijing西安Xian上海Shanghai杭州Hangzhou大中华区 20+北京、杭州、上海、深圳、苏州西 安、大连、青岛、香港、澳门、台湾大连Dalian深圳Shenzhen亚太区 30+澳大利亚、日本、韩国、马来西亚、孟买、尼泊尔、泰国、菲力宾、沙特、越南、新加坡、孟加拉国美洲区 60+加拿大、智利、阿根廷、墨西哥、巴拿马、秘鲁、玻利维亚、温哥华、俄亥俄州东北部、匹兹堡、旧金山、硅谷、波士顿、巴西、哥伦比亚、芝加哥澳门Macao香港Hong Kong4大区香港、澳门、新加坡、西雅图、芝加哥、洛杉矶覆盖50多个国家和地区世界500

3、强科技公司、安全厂商、中小型企业、研究机构研究工作组专家、社区志愿者、从业人员、CSA认证学员云安全联盟 CSA Cloud Security Alliance大中华区、美洲区、欧非区、亚太区180+分会2500+成员单位180000+社区专业人员生成式AI的安全挑战影子AI(Shadow AI)自动化和可扩展的威胁和零日漏洞(Automated and Scalable Threats and Zero Day Vulnerabilities)权限策略问题(Entitlement Policy Issues)安全工具集成问题(Security Tools Integration Issues

4、)恶意GenAI工具的出现(Emergence of Malicious GenAI Tools)聚合导致的数据泄露(Data Leak due to Aggregation)新兴网络安全威胁(Emerging Network Security Threats)CSA Proposed 模型操纵(Model Manipulation)数据污染(Data Poisoning)敏感数据泄露(Sensitive Data Disclosure)模型盗窃(Model Theft)故障/失常(Failure/Malfunctioning)不安全的供应链(Insecure Supply Chain)不安全

5、的应用程序/插件(Insecure Apps/Plugins)拒绝服务攻击(Denial of Service(DoS)治理/合规性丧失(Loss of Governance/Compliance)标题示意文字内容CSA/WDTA TWO Certifications and Official Study Guide of DigiBridgeBeyond AIGenerative AI SecurityCertified Chief AI OfficerCertified AI Security Professional第一部分:第1-2章-概述ChatGPT、Web3及其对企业自动化的影响

6、。第二部分:第3-9章-探讨ChatGPT在产品管理、外包经济、营养科学、金融银行业、政府,房地产和游戏行业的应用。第三部分:10-12章-分析ChatGPT在安全隐私、法律和道德方面的考虑。Table Of Contents第一部分:第一章探讨GenAI基础原理,第二章审视GenAI安全趋势。第二部分:第三至七章涵盖全球AI治理、企业GenAI安全、数据，模型，应用，安全。第三部分:第八章LLMOps与DevSecOps,第九章提示工程技术,第十章GenAI安全工具。6 Editors and 19 Chapters contributors from:OpenAI、Google、NVIDI