《A2--肖斌-- CodeFuse:大模型驱动蚂蚁研发提效的创新之路.pdf》由会员分享,可在线阅读,更多相关《A2--肖斌-- CodeFuse:大模型驱动蚂蚁研发提效的创新之路.pdf(43页珍藏版)》请在三个皮匠报告上搜索。
1、 肖斌蚂蚁集团技术专家肖斌蚂蚁集团 技术专家就职于蚂蚁集团 CIO 技术部,自2021年加入蚂蚁以来,探索与研发效能领域的前沿技术落地,主要从事软件工程智能化方向的研究和探索,致力于研发效能领域的前沿技术落地,当下专注于代码生成,AI对话等方向,目前是CodeFuse研发助手技术负责人。从0到1建设CodeFuse IDE 系列插件,为代码大模型在蚂蚁研发领域落地铺平道路。目录CONTENTSAI在研发领域带来的变化0102CodeFuse插件技术架构本地核心服务模块详解03经验和总结04未来展望05PART 01AI在研发领域带来的变化 -回顾2024AI大模型发展趋势AI大模型井喷期大模型
2、井喷期AI大模型加速商用期大模型加速商用期20232024信息来源:2024年中国AI大模型产业发展与应用研究报告互联网互联网 21%金融金融 16%医疗医疗 12%教育教育 12%政务政务 11%工业工业 10%其他其他 18%行业结构行业结构研发领域的AI调研报告(1)信息来源:Dora Research:2024研发领域的AI调研报告(2)信息来源:survey-ai-wave-grows等Github blog帮助研发者专注于High level 任务CodeFuseCodeFuse的落地现状的落地现状普通/仓库问答知识库问答解释代码系统分析研发编码测试验证提交部署代码补全添加注释Te
3、xtToCode单元测试集成测试补充更多智能CRCommit Message优化代码图生代码异常分析AI PartnerSql生成/纠错/优化面向开发者CodeFuse 智能助手(IDE插件)CodeFuse IDE面向研发团队CodeFuse研发助手构建平台面向其他工具平台CodeFuse APIsCodeFuseCodeFuse插件的新变化插件的新变化实时的代码修改和预测实时的代码修改和预测升级现有补全能力,光标后新增代码=光标前后代码新增/修改/删除代码AI PartnerAI Partner智能编程搭档,根据需求描述完成编码任务,支持生成/修改多个代码文件TextToCodeTextT
4、oCode基于用户开发过程中的诉求,一键改写指定代码。支持重构/简化/注释等能力PART 02CodeFuse插件技术架构 -CodeFuse核心的工程原理如何提高如何提高CodeFuseCodeFuse插件插件2 23 31 1模型能力模型能力上下文质量上下文质量产品体验产品体验优良的用户界面和流畅的操作流程提升用户满意度,直接决定插件的受欢迎程度和使用频率先进的AI模型保证了理解和生成内容的能力,决定了插件的智能水平和功能强大程度。输入的上下文信息准确、完整,有助于AI更好地理解用户需求,生成更符合预期的结果,提升整体效果。CodeFuse工程链路模块 CodeFuseCodeFuse插件
5、插件AI能力的具体露出形态,例如代码补全,对话等。本地核心服务本地核心服务本地数据和用户在IDE侧行为的数据建模和分析,为AI功能提供对应的检索能力 CodeFuseCodeFuse插件服务插件服务数据的前后处理+Prompt拼装,模型调度,全链路AB实验,跨仓库检索能力 CodeFuseCodeFuse评测服务评测服务多维度(本地/api/模型),多语言对插件AI能力的评测和模型上线前审核CodeFuse插件技术架构上下文质量产品体验模型能力PART 03本地核心服务模块详解 -探索上下文的组装流程上下文质量的思考上下文质量的思考1 13 32 2代码仓库/知识库用户行为数据来源数据来源BM
6、25/向量/图单轮/多轮检索检索策略检索策略检索结果拼装数据前后处理PromptPrompt工程工程本地核心服务的索引切分本地核心服务的索引切分代码层面,提供多维度切分方式和关联关系数据(CodeGraph),支撑后续补全/对话/AI Partner不同的检索方案用户行为方面,针对部分AI能力,尝试将用户行为信息添加到上下文,让AI能力进一步贴近用户习惯核心思路补全过程的上下文以及问题补全过程的上下文以及问题相关片段相关片段目的:减少幻觉userService.addUser