AI智能体-从思考规划到落地执行的安全赋能之旅-王欣.pdf

1、AI智能体从思考规划到落地执行的安全赋能之旅王欣主讲人AI安全智能体AI Agent带来深层次的爆发manus 全球首款通用Multi-Agents产品自主执行与交付:理解用户需求，自主调用外部资源和工具，直接完成复杂任务，交付可视化成果。云端独立运行:云端运行，在后台独立完成任务，无需用户全程参与和监督。流式交互与协作:具备高度灵活的交互和协作能力，用户可随时介入、干预、调整。Manus应用案例:特斯拉股票分析输入指令“对特斯拉股票做一个全面的分析”连接数据源“通用金融数据API获取数据源”任务规划与拆解“将任务拆解成8个子任务”任务一“公司概况分析”任务二“财务分析”任务三“市场情绪分析”

2、任务四“技术分析”任务五“竞争对手分析”任务六“内在价值分析”任务七“制定投资理论”任务八“撰写分析报告”任务工作流拆解1.撰写爬虫程序2.爬取数据3.制作可视化图表5712026852101002003004005006002024年2026年2028年2030年单位：亿美元全球AI Agent市场规模及增数恒脑AI Agent与AI Agents2023.4 斯坦福大学与谷歌联合发布“AI虚拟小镇”2023.8.28 恒脑1.0发布（恒脑发布会）2023.10.17 恒脑第一个智能体任务（安恒大厦）2024.4.19 恒脑2.0发布（恒脑安全智能体，安恒新品发布日）2023.12 字节Co

3、ze海外版发布2024.112025.3 谷歌、微软、百度纷纷表示2025年是智能体元年，Manus出圈当脑力工作者变成体力工作者的囧境控制能力弱：文本多轮对话为主大模型幻觉：一本正经胡说八道大模型的局限大模型的局限只能说不能做只能说不能做硅基员工破局硅基员工破局能说能做能说能做Agent智能体操作工具能力RAG检索增强生成输出可控智能体和大模型的差异AI Agent的安全向左向右安全产品安全专家AI Agent向左：质量向右：能效智能接收-思考-规划-执行-持续学习智能自然语言交互输入具备知识（安全垂域知识）和经验（泛化）-思考和规划能力（思维链）-具备交互能力（自然语言能力）接受任务-转为

4、API/SQL-调用API/SQL-自然语言返回自然语言交互+思维链+泛化+安全垂域知识VS安全任务 Text2API模型类型原生应用模式混合应用模式任务类型开放性、动态变化的复杂任务结构化、规则明确的重复性任务决策机制基于环境感知自主推理基于预定义规则触发分支协作方式分布式协作、Agent间通信协商任务分配线性流程，步骤间严格顺序依赖扩展性通过新增Agent或调整交互协议动态扩展通过增加流程节点扩展功能，但灵活性较低ManusCozeVS主流的两种范式AI驱动的可扩展安全框架训练数据(标记/非标记)模型库智能体应用(人工预编排/自动编排)安全业务场景算力安全工具链安全知识库训练算法(监督/无

5、监督)业务数据沉淀训练/微调推理输出输入习得知识习得经验非信创方案信创方案检索增强模型调度工具调用安全通用知识安全监测及分析响应安全态势预测安全风险评估API风险检测数据分类分级自训模型A通用模型B.A应用B应用C应用D应用.抽取知识漏洞库病毒库威胁情报样本库安全文档业务数据库攻防技战术.FWEDR扫描器沙箱WAF恶意样本分析.记忆存储任务编排任务生成监督评测指令调度记忆反馈高性能灵活智能高效解决Prompt Engineering&经验数据安全成长AI智能体时代的行业几点变化原始告警聚合告警攻击事件攻击特征聚合告警要素聚合回连时序聚合配合AI研判的聚合模式，标记真实攻击，最高效率研判攻击有效

6、性危害程度标记攻击成功，聚焦工作重点AI研判人工规则经验聚合源/目标暴力聚合配合人工研判的聚合模式，逐条验证，资源投入决定覆盖率分析缓慢粗放重要资产排序时间排序告警等级排序逐条验证，资源投入影响覆盖率处置效率低传统研判告警研判智能体告警汇聚安全运营平台主动攻击告警要素/智能聚合风险成果/准确分析风险事件情报回连攻击者更精细更准确过去的安全运营：足够丰富经验的人+足够多的人力+各种安全运营工具安全运营从量变到质变93%18%业务误触从报文看是攻击请求，但属于系统正常功能或预期内的测试，不会对系统造成破坏。GET/query?db=stjk&q=select+*+from+intf_avgcost