1、姓 名:黄金大语言模型在软件研发提效场景的应用与落地GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海 站个人简介黄金趣丸科技-基础架构负责人现任趣丸科技基础架构负责人,负责企业多云基础设施开发、稳定性保障与研发效能提升相关工作。在容器、高可用架构和大模型应用等方面有较为丰富的经验。目录大模型在研发领域的崛起LLM 提升研发效率的逻辑LLM在企业内部如果有效落地LLM研发场景落地实践未来思考01大语言模型在研发领域的崛起GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海 站大语言模型与提示工程LLM提示
2、工程大语言模型(LLM)是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络,这些神经网络由具有自注意力功能的编码器和解码器组成。编码器和解码器从一系列文本中提取含义,并理解其中的单词和短提示工程是指导生成式人工智能(生成式人工智能)解决方案生成所需输出的过程。GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海 站LLM在软件研发领域的应用现状从 2022 年 GitHub Copilot 的发布,我们可以看到越来越多的 AI 工具开始涉足到软件开发的不同阶段。需求分析阶段:Cohere,ChatGPT设计阶段:Cohere,Lu
3、cidchart编码阶段:Aide,Devin,Github Copilot,Cody 测试阶段:Test.ai,testAgent 运维阶段:Davis AI GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海 站LLM在软件研发领域的前景来自Google Trends的 2024 年 10 个软件开发趋势到 2024 年,全球软件开发人员将超过 2870 万。预计 2024 年全球人口将达到 80 亿,软件开发人员将占其中的约 0.36%来源:thoughtworks AI2.0时代的软件研发Github预估:2030 年专业开发人员的数量达到
4、 4500 万。02LLM 提升研发效率的逻辑GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海 站研发效能的度量If you cant measure it,you cant manage it.敏捷团队需要选取一些关键指标对生产力、开发流程、产品质量进行度量,从而不断优化开发过程,提升团队效率,完成提效闭环。实际上研发效能问题是一个系统性的问题,受很多因素影响,无法通过单一指标反应整个研发效能,而且单一指标波动较大,数据解读有较强主观性等问题。对价值和未来的认可才是推行的重要动力。GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术
5、 峰 会 2 0 2 4 上 海 站LLM对研发效能核心因素的影响人员能力LLM降低技术门槛,促进知识共享,释放创新潜力。研发质量LLM通过代码分析和错误检测提升代码质量;自动生成测试用例,提高测试效率;辅助代码审查和问题诊断,优化流程。研发效率LLM自动生成代码、补全代码片段加速开发;自动化测试用例和文档生成,减轻重复性工作。研发成本LLM自动化研发工作,替换事务性工作,减少人力依赖;加速研发过程,缩短研发周期。1.直接提效:生产率、稳定性、质量等研发效能指标2.间接提效:降低人员心智负担LLM对研发效能的提升可以分为两个方面GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术
6、峰 会 2 0 2 4 上 海 站LLM的有效性评估03LLM在企业内部如何有效落地GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海 站企业知识上下文大语言模型(LLM)是基于大量数据进行预训练的超大型深度学习模型。它是基于用户输入的上下文预测输出结果的。上下文的质量决定了大模型输出的质量。上下文的重要性通用大模型企业落地的缺陷1.缺乏研发流程知识2.缺乏内部工作流程知识3.缺乏产品知识4.缺乏项目代码知识5.缺乏编码标准知识通用模型缺乏对企业的理解GOP S 全 球 运 维 大 会 暨 研 运 数 智化 技 术 峰 会 2 0 2 4 上 海