阿里-徐志远-基于Multi-Agent框架的金融大模型应用实践.pdf

1、基于Multi-Agent框架金融大模型应用实践徐志远阿里云 飞天实验室-通义点金产品负责人徐志远TITLE“AI领域资深产品经理先后任职于微软、阿里巴巴达摩院、阿里云飞天实验室负责及参与微软小冰、阿里云智能对话机器人、通义听悟等多类型AI产品/项目长期专注AI/NLP/对话机器人/模型服务平台&Infra领域的商业化及产品化阿里云-百炼大模型服务平台产品负责人金融行业大模型产品-通义点金产品负责人”讲师简介案例介绍：通义点金案例介绍：通义点金产品与业务视角的产品与业务视角的Agent/MultiAgent/Multi-AgentAgent定义定义基于基于MultiMulti-AgentAge

2、nt构建的金融大模型构建的金融大模型应用应用实践实践总结与分享总结与分享目录案例介绍：通义点金案例介绍：通义点金一分钟快速了解实践案例案例介绍：通义点金复杂Query理解图文表格绘制金融事件分析任务编排执行财报研报解读实现路径软件开发大模型+Plug-inMulti-Agent实现方式NLP+金融BI/金融RPA/APILLM理解+插件调度+指令执行+APIPlanning+Reasoning+Action+API核心工作功能设计、定义与开发模型调优+Prompt工程+API对接LLM选型+Agent框架+API对接实现成本中等中高波动性的高？可扩展性中低-代码级扩展中高-API级扩展高-流程

3、级扩展？实现难度中等中高看模型？产品体验确定性+优秀不确定性+相对优秀不确定性+不一定优秀？实现类似通义点金的自然语言交互智能投研助手的方式有哪些？大模型值得把所有产品重做一遍如何做？怎么做？Why Agent/Multi-Agent？实现路径产品与业务视角产品与业务视角Agent/MultiAgent/Multi-AgentAgent定义定义Agent定义Signal-AgentMulti-AgentHuman-Agent定义：在LLM语境下，Agent可以理解为某种能自主理解、规划决策、执行复杂任务的智能体。单智能体多智能体协同人-智能体协同可接受信息输入、基于信息自主规划决策、执行复杂任

4、务的单体智能体多个智能体组成，可协同工作、自主通信、交换信息，串并行协同执行任务的协同智能体自主决策+人类反馈，基于自主决策及人类反馈共同执行任务的协同智能体算法特征算法特征：Planning（规划与拆解）Reasoning（推理与分析）Action（执行）工程特征工程特征：Agent（注册与管理）Cooperation（通信与协作）Memory（上下文记忆）Tools（工具使用集成）业务特征业务特征：LLM驱动、业务理解、自主决策、易于连接、可迭代核心特征Signal-Agent 系统基本框架 核心特征斯坦福小镇-基于Multi-Agent自主决策多智能体构建的沙盒游戏Agent之间完全采用

5、自然语言交互，单体Agent自主决策及反思，具备长时记忆，基于记忆反馈优化执行Multi-Agent 框架示例产品与业务视角如何理解 Agent/Multi-Agent？-以通义点金为例案例背景Agent具备什么能力解决什么业务问题？带来什么增量价值？有什么问题风险？自主规划、自主决策自主执行，使用工具Agent间通信协作长短时记忆，反思迭代可以将业务中的复杂任务、用户的复杂需求拆解为子任务可以自由调度工具，利用外部业务系统能力解决业务问题可以协作，利用不领域的Agent解决不同领域的问题LLM帮助用户获得答案，而Agent可帮助用户执行任务帮助用户连接业务系统/外部数据，降低模型幻觉/不可控

6、性利用不同垂直领域Agent协作，降低All in one的实现难度 依赖大尺寸LLM的推理和规划能力，推理成本较高配套需要完整的Agent工程框架，需要业务深度理解原理ROI如何评估，同时推理时间长，选择适用场景难点通义点金的决策路径金融领域Query复杂多变单一LLM实现成本高，扩展性差幻觉接受度低，金融工具众多实时市场数据RAG需要，可解释性需要问题思路Multi-Agent架构业务出发设计多领域Agent可扩展的Tools及API接入，避免持续建设可感知产品设计，白盒化Agent调度过程价值金融场景下Agent+大模型应用范式，示范效用验证通义200B/72B模型规划推理能力，推广20