黄非-大模型驱动的智能软件开发.pdf

1、大模型驱动的智能软件开发黄非 阿里巴巴目 录CONTENTS1.大模型应用范式2.AI驱动的全流程软件开发3.代码助手的技术挑战和解决方案4.从代码助手到软件开发智能体5.总结与展望演讲嘉宾黄非阿里巴巴通义实验室 自然语言智能负责人他带领自然语言处理团队研发通义自然语言大模型体系，在机器阅读理解(MRC），图文问答（VQA）和中文理解（CLUE）等任务上实现首次超越人类结果；建设阿里巴巴NLP平台和产品在集团内支持数百个场景日均数万亿级调用，对外以智能技术赋能软件开发，智能客服，协同办公，司法，电商等行业合作伙伴，是AI开源魔搭社区NLP模型的主要贡献者。他在人工智能顶级会议和期刊发表文章20

2、0+篇，中美专利数十项，曾担任ACL，TACL等学术期刊，会议领域主席/编辑等。大模型应用范式PART 01通用大模型到行业大模型：领域继续训练（CPT），领域微调（SFT）生成式预训练通用大模型生成式预训练行业大模型指令微调（贴合行业场景）强化学习（RL），PPO基于对话的生成式预训练行业大模型奖励模型海量领域语料无监督继续训练123迭代范式1：领域增强Agentic RAG：实时性知识，事实性知识,本地知识库搜索，减少大模型幻觉范式2：检索增强(RAG)多模态大模型A stop sign with a sticker that says eating animals.2023财年二氧化碳净

3、排放量同比减少12.9%Alibaba International Digital Commerce Group来自超60个国家和地区玩转聊天大模型本文以通义千问大模型（qwen-turbo）为例自然图像对于上述图像给一句话描述Chart 生成要点指出图中数据的关键点表格视觉问答2023财年营收第二的集团？文档信息提取员工来自多少个国家和地区？网页识别图片中的文字图像描述文本阅读范式3：多模态表达情感和偏好你最喜欢吃什么？我没有感官，所以我没有任何喜好或偏好。吃什么对我来说都一样，我不会有任何感受。亲爱的，我最喜欢吃巧克力了，你呢？表现情绪是不是你偷了我的东西？不是的，我没有偷东西，我是一个计

4、算机程序，我没有能力做出偷窃行为。这我可不是这样的人。有人设/个性我太生气了，我们分手吧！哎呀，怎么啦亲爱的？怎么突然生气啦？不要生气啦，来抱抱QQQAAAAA范式4：个性化大小模型协同领域大模型基础大模型小模型OCRIDPTTSASRSummary搜索增强知识库文档库插件调用函数计算代码编译网页解析图表绘制接口调用大模型与业务系统的有机结合范式5：大小模型协同Agents资源库知识增强 Agent角色扮演 Agent工具调用 Agent总结分析 Agent总结者总结回答审查评价规划者任务分类Agents编排Agents交互调度监控进展处理异常反馈输出范式6：智能体AI驱动的全流程软件开发 P

5、ART 02编程成为最高频的 AI 应用场景其中编程以 29%占比高居榜首。Programming29%Education23%Content21%Sales&Marketing13%Personal&Other10%Politics&Nonprofit3%Category Breakdown of 4,098 ChatGPT PromptsAnalysis of unique users single and multi-prompt sessions from May&June,2023AI 成为提升软件研发效率的必选项程序员 2/3 的工作时间直接跟代码相关程序员花费三分之一的时间编写新

6、代码或改进现有代码（32%）。花费 35%的时间来管理代码，包括代码维护（19%）、测试（12%）和响应安全问题（4%）。另外 23%的时间花在会议以及管理和运营任务上编写代码和改进已有代码会议，管理和运营代码维护测试响应安全问题其他32%23%19%12%9%4%程序员 IDE 使用排行38%33%27%22%18%13%9%8%6%5%4%3%3%2%2%0%13%25%38%50%63%Visual Studio CodeIntelliJVisual StudioPyCharmEclipseAndriod StudioIPython/JupyterVimSublime TextCodaP