章耿 -QCon上海2025-蚂蚁中间件进化之路-v2.pdf

1、从云原生迈向智能原生：蚂蚁中间件进化之路章耿（余淮）章耿（余淮）蚂蚁集团 AI 中间件负责人目前主要负责应用框架、中间件架构、AI 中间件等方向10+年中间件工作经验，深耕基础架构领域，致力于通过推进技术架构演进，提高开发人员的研发效能自我介绍目录01020304智能原生的挑战智能原生的挑战中间件“进化”思考中间件“进化”思考蚂蚁蚂蚁 AI 中间件体系中间件体系总结与展望总结与展望01智能原生的挑战AI 应用演进趋势ChatBots通过自然语言与大模型对话Reasoners具备一定的推理能力，能解决复杂问题，理解上下文深层含义，进行多轮思考等Agents能自主采取行动，包括目标理解，环境感知、

2、规划步骤、调用工具（搜索、API）、执行任务（订机票、写报告）、存储记忆Innovators具备创造性突破能力，能够自主提出新理论、设计新产品、解快人类未解问題（如新药物发现、原创艺术创作）OrganizationAI组织体，多个AI协同完成复杂目标，具备资源管理、战略规刻能力，甚至可管理公司或科研项目202320242025（Agent 元年）L1L2L3L4L5蚂蚁应用架构演进单体应用分布式应用云原生应用智能原生应用开发框架Web 服务器SOA 化/微服务消息中间件数据中间件网关微服务/函数ServiceMeshServerlessAgent 框架Agent 平台MCP网关RAG/Memo

3、ry业务PC 支付担保交易移动支付余额宝花呗借呗蚂蚁森林金融云全球化多主体蚂小财AQ百宝箱架构中间件智能原生应用智能原生智能原生AI Native智能原生应用是指围绕人工智能围绕人工智能技术为核心技术为核心进行设计、构建和运营的一类应用，它旨在充分利用和发充分利用和发挥挥AIAI的理解、生成、逻辑和记忆能力。智能原生架构使应用能够具备动态适应、自主优化和数据驱动的核心特征，从而在复杂多变的环境中提供持续智能的服务。应用+AI传统云原生应用传统云原生应用智能原生应用智能原生应用页面/表单/按钮被动反馈自然语言/多模态主动协作交互方式交互方式微服务Agent（智能体）服务实体服务实体关系型数据库向

4、量数据库关键存储关键存储CPUGPU（大模型）核心算力核心算力确定性静态逻辑无状态概率性（泛化）动态逻辑有状态业务逻辑业务逻辑智能原生时代的挑战研发效率安全高可用成本新的服务实体新基础设施新用户不确定性AgentTools多模态RAGMemory非技术同学大模型上下文工程评测状态管理02中间件“进化”思考传统中间件主要解决的问题解耦+粘合沉淀通用能力沉淀最佳实践抽象降低研发门槛提升研发效率推进技术规模化应用架构统一演进业务应用业务应用基础设施基础设施计算网络存储中间件中间件开发框架消息中间件微服务中间件数据中间件网关应用运行时发布模式AI 应用研发技术栈全景图AI 中间件需要解决哪些问题AI

5、应用AI（大模型）AI 应用研发套件AI 应用基础服务AI 应用工程方法论AI 中间件建设设想AI 应用研发套件AI 应用APPWeb应用传统中间件传统业务应用服务数据AI 应用基础服务模型数据大模型服务RAG模型市场Memory工具工具市场工具供给Agent 配套工作流评测交互安全可观测交互协议模型协议Agent开发框架Agent开发平台Agent 托管运行(应用/模块/函数/平台)Agent 协议工具协议微服务消息数据协议基础设施计算大模型存储网络数据网关中间件选型决策JavaVSPython自研开源VS先建设再推广边建设边推广VS 同时服务 Java 和Python 开发群体 拥抱开源，

6、结合内部体系深度自研 边建设边推广03蚂蚁 AI 中间件体系Agent 托管运行AI 应用开发套件AI 应用基础服务数据SOFARAGSOFAMem当前蚂蚁 AI 中间件产品体系SOFABoot/SOFAPy(应用级)AgentMCPServerAgent 研发框架AgentAgent(Python)(Python)AgentAgent(Java)(Java)MOSNMOSNSOFAAISDKSOFARPCSOFABootAgentUnivse/LangChainSOFAPyLayottoAgentAgent协议协议Agent 研发平台应用管理模型市场工具市场流程编排测试与评测可观测SOFAS