1、演讲嘉宾:王天庆MCPServerMCPServer基建与编排实践:重塑基建与编排实践:重塑 AI AI 应用新生态应用新生态0 1背景介绍背景介绍0 2基建落地基建落地0 3企业实践企业实践0 4技术技术探索探索0 1 背景介绍背景介绍自我介绍高性能存储快速、可靠、大容量数据处理机器学习平台支持模型全生命周期管理云原生基础设施弹性、自动化、混合云架构主要负责的技术方向:贝壳找房算力平台研发部负责人,主要工作聚焦于云原生、AI基础设施和Agent基础设施的探索和建设,帮助大模型在企业内部快速落地。王天庆AI Agent发展趋势MCP的出现填补了智能体的工具领域MCP的优势模型上下文协议(Mod
2、el Context Protocol)是一个开源协议,由Anthropic(Claude开发公司)开发,旨在让大型语言模型(LLM)能够以标准化的方式连接到外部数据源和工具。它就像AI应用的通用接口,帮助开发者构建更灵活、更具上下文感知能力的AI应用,而无需为每个AI模型和外部系统组合进行定制集成。MCP被设计为一个通用接 口,类似于USB-C端口,允许LLM应用以一致的方式连接到各种数据源和工具,如文件、数据库、API等MCP标准化了LLM访问外部数据的方式,简化了不同数据源和工具的集成。标准化MCP使得添加新数据源或工具变得简单,无需大幅修改现有系统。可扩展性MCP促进了模块化设计,允许
3、独立开发和维护不同组件。模块化MCP提供结构化的访问模式,内置验证,确保数据交互安全且受控安全性MCP的出现,一定程度上重塑了AI的工具生态的供给关系,解耦了工具的建设者和消费者MCP的挑战MCP ServerMCP Server与与LLMLLM支架的协同关系支架的协同关系值得思考的点:协同工具(智能体)场景比较多样,有端侧智能体(Cursor、Cline、Claude等),还有企业级的AI应用,如何有效的结合?能不能结合?MCP Server会很多,要如何管理?存量服务能快速的转化为MCP Server么?在新的协同关系下,AI应用要怎么开发?企业级AI应用中,身份认证、数据权限、安全这些如
4、何做?描述描述MCPMCP信息的系统提示词信息的系统提示词值得思考的点:系统提示词要如何管理 系统提示词的安全性如何保障?系统提示词是否有标准?系统提示如何满足所有的智能体场景?如果存在大量的MCP Server,会不会导致Token的消耗量变大AI应用新架构网关统一收敛0 2 基建落地基建落地落地难点:安全、动态、稳定0101缺乏集中的安全监督、认证和授权缺口、调试和监控机制不足、多租户环境中的可扩展性挑战以及在智能环境中嵌入MCP的挑战等。安全性挑战安全性挑战0202工具需要能够灵活适应不断变化的业务需求和环境,通过实时调整工具的描述、启用或禁用等功能,优化资源配置,提高系统效率和安全性,
5、增强系统的适应性和可扩展性。工具的动态编排工具的动态编排0303MCPServer的系统稳定性至关重要,它确保了服务的持续可用性和数据的完整性,为用户提供可靠的服务体验,是保障业务连续性和数据安全的关键基础。系统稳定性系统稳定性关键基建:MCP Registry和MCP网关MCP Registry作为服务注册中心,负责管理MCPServer的元数据,采用分布式架构确保高可用性,支持动态服务发现与健康监测。MCP RegistryMCP Registry的功能和架构的功能和架构MCP网关是流量入口,实现协议转换、安全认证和可观测性,保障系统安全稳定,提升整体服务性能与可靠性。MCPMCP网关的核
6、心作用网关的核心作用两者协同工作的技术实现两者协同工作的技术实现MCP注册中心消费者元数据密钥管理消费者授权工具描述覆盖MCPServer定义工具聚合反向代理Rest2MCP认证MCP网关网关POD主进程Rest2MCPMCP代理安全限流全链路观测STDIO进程STDIO进程网关POD主进程Rest2MCPMCP代理安全限流全链路观测STDIO进程STDIO进程远程MCP高德地图房源Github.完整的基础设施组成MCP网关MCP注册中心网关PODSTDIO子进程STDIO子进程STDIO子进程元数据消费者授权Token密钥管理版本管理版本管理主进程Rest2MCPMCP代理全链路观测安全限流