张涛-有用到好用：AI 生产力工具如何放大 AI 能力.pdf

1、张涛商汤科技Copilot应用技术负责人毕业于北京邮电大学通信工程专业，拥有16年先进技术的工程应用经验，先后在视频通信、计算机视觉、CV异构推理框架、大语言模型应用等领域，主导过大型软件架构的设计和研发工作。现专注于 AI 应用产品的研发，带领团队开发上线了商汤 AI Native 生产力系列工具代码小浣熊和办公小浣熊，为数十万开发者提供编程辅助服务。演讲主题：有用到好用：AI生产力工具如何放大AI能力有用到好用AI 生产力工具如何放大 AI 能力张 涛商汤科技 Copilot 代码模型与解决方案演进成熟Source:Code Smarter not Harder,Greylock 60%以

2、上开发者正在使用 AI 编程助手独立任务对比实验中总体工作时间减少 55%*StackOverflow:2024 Developer Survey*McKinsey Digital:Unleashing developer productivity with generative AI开发场景需求已经被验证代码大模型的核心竞争力发挥 AI 优势 助力代码开发*arXiv:2405.12195v1:Developers Perceptions on the Impact of ChatGPT in Software Development:A Survey60%的参与者认为 ChatGPT 对他

3、们的满意度产生了中等程度的积极影响。尤为显著的是，它使人们感知到了生产力的提升，减少了重复性工作，而并未带来显著的压力影响。此外，其他反馈突出了 ChatGPT 在助力工作开展、帮助学习新知以及便捷地获取有效信息等方面所起的作用，与传统工具相比优势明显。新的解决问题的体验 减轻压力扬长补短的使用能力 解决痛点从程序员视角出发 构建编程工具LLMCode LMCode CopilotCode AgentPre-TrainInstruct Fine-TuneRLHF代码数据研发场景数据预训练数据微调数据CompletionCode Q&A指令微调数据Code Instruction TasksDo

4、main Function CallInline CompletionFIMDev AssistantCodebase Q&ACode ExplanationCode TranslationCode Snippet Edition系统应用RAGFunction CallingRuntimeEnv.Bug Fix HelperProject Boilerplate CreatorCode ReviewerCommit Message ComposerCodebase Dev.Agent Debugger分块提示合成大模型回复信息代码仓文档向量数据库计算 EmbeddingsEmbedding询问

5、/指令回复操作LSP*RAG 方案带来实用性跃进*Agent 方案带来功能扩展代码补全多编程语言支持仓库级信息抓取*开发协助*Commit Message 生成智能体/自定义智能体 对话问答代码和技术相关问题问答*基于知识库的知识问答*内置代码任务：代码重构代码翻译代码纠错单元测试生成开发场景中 Code Copilot 的工作流程开发场景中 Code Copilot 的工作流程开发场景中 Code Copilot 的工作流程分块提示合成大模型回复信息代码仓文档向量数据库计算 EmbeddingsEmbedding询问/指令回复操作LSP*RAG 方案带来实用性跃进*Agent 方案带来功能扩

6、展代码补全多编程语言支持仓库级信息抓取*开发协助*Commit Message 生成智能体/自定义智能体 对话问答代码和技术相关问题问答*基于知识库的知识问答*内置代码任务：代码重构代码翻译代码纠错单元测试生成超越代码生成 Code Agent 的工作流程分块提示合成大模型回复信息代码仓文档向量数据库计算 EmbeddingsEmbedding询问/指令回复操作LSP代码执行工具调用回复中的【调用】或【代码执行】请求网网络络检检索索A AP PI I调调用用代代码码运运行行沙沙盒盒响应 /调用请求结果 /报错码力全