《AICon北京2025-PPT-陈明杰-tRPC-Agent:腾讯多智能体框架的架构设计与业务实践.pdf》由会员分享,可在线阅读,更多相关《AICon北京2025-PPT-陈明杰-tRPC-Agent:腾讯多智能体框架的架构设计与业务实践.pdf(30页珍藏版)》请在三个皮匠报告上搜索。
1、tRPCtRPC-AgentAgent演讲人:陈明杰腾讯多智能体框架的架构设计与业务实践腾讯多智能体框架的架构设计与业务实践目录目录010203040506tRPC-Agent 开发背景tRPC-Agent选型tRPC-Agent架构tRPC-Agent技术挑战业务实践未来展望01tRPCtRPC-AgentAgent 开发背景开发背景腾讯应用最广微服务框架Go、JAVA、CPP、Python、Nodejs、Rust支持多语言性能约为gRPC5倍高性能包含数据库、可观测、协议、名字服务、配置等200+插件生态插件化T TtRPCtRPCP PR RC C服务数6.4w+,节点数260w+,覆盖
2、所有BG超2000 人参与共建什么是什么是tRPCtRPC1 1LLM爆发,Agent开发框架成为重要基础设施2 2tRPC有良好的用户基础3 3tRPC具备多语言,生态组件丰富4 4Agent需要高性能微服务的支撑为什么为什么开发开发tRPCtRPC-AgentAgent02tRPCtRPC-AgentAgent 选型选型框架名称框架名称类型类型核心范式核心范式/理念理念主要特点与定位主要特点与定位AutoGen自主多Agent 协作框架对话驱动将复杂任务建模为多个专业Agent 间的自由对话,通过互动实现涌现式协作,高度灵活自主。ADK自主多Agent 协作框架Agent 生命周期管理与编
3、排提供完整的Agent 开发工具链,专注于多Agent 的生命周期管理和协作编排。CrewAI自主多Agent 协作框架基于角色模拟人类团队,通过为Agent 分配明确的角色、目标和任务,实现面向流程的确定性协作。Agno自主多Agent 协作框架轻量高性能&多模态轻量级高性能框架,专注于增强Agent 的多模态能力和团队协作编排。LangChainworkflow编排框架链式抽象通过预定义的链来组织和编排LLM 调用及工具使用,构建应用的基础流行框架。LangGraphworkflow编排框架状态机/图结构基于有状态图构建工作流,提供对复杂流程的极致控制、可靠性和可观测性。自主多Agent
4、协作框架体现Autonomous Agent理念环境感知、自主决策、动作执行多Agent 分布式协作智能涌现特性Workflow 编排框架工作流或者图、状态机和LLM 交互执行路径较为确定的场景结论:腾讯业务场景复杂,对多Agent 协作有强诉求,同时部分场景需要稳定的工作流输出保结果确定性。tRPC-Agent 的核心架构基于自主多Agent 协作,同时提供工作流编排的能力。tRPCtRPC-AgentAgent 技术选型技术选型03tRPCtRPC-AgentAgent 技术架构技术架构tRPCtRPC-AgentAgent 架构架构挑战:Agent 框架内部模块如何交互设计,方便扩展,并
5、让用户使用简单;Agent 框架如何复用tRPC 已有生态运营体系,对接公司已有生态;解决方案:分层并模块化,采用插件工厂设计模式,支持Callback各模块统一使用事件机制Event进行交互,进行解耦Runner负责管理Agent 生命周期tRPC 与Runner 结合快速构建tRPC 服务,复用tRPC 生态运营04tRPCtRPC-AgentAgent 技术挑战技术挑战MultiMulti-AgentAgent-SystemSystem挑战:如何支持多Agent 编排和协作满足各式各样的Agent 需求方案:基于接口,实现多种Agent,内置常用多Agent组合链式、循环、并行多Agen
6、t协作;基于Subagent机制,采用Transfer_to_agent工具调用实现Agent控制权转移,支持树状编排可自定义Agent挑战:复杂的并行/串行混合执行长任务稳定性、Human-in-loop和现有Muti-Agent-System 结合方案:Pregel BSP 执行模型实现Checkpoint,支持任务中断恢复、Human-in-Loop、时间旅行基于Graph 执行引擎封装GraphAgent,并通过Agent node 支持SubAgent 串联GraphAgentGraphAgent挑战:如何让不同模型的Agent都具备自主性?方案:内置思考的built-in plan