秦思思-大模型火热背后的 MLOps 发展现状和趋势.pdf

1、2023 DevOps 国际峰会 暨 BizDevOps 企业峰会 北京站大模型驱动的MLOps发展路径秦思思 高级业务主管（中国信息通信研究院）国际注册信息系统审计师（CISA）、高级信息系统项目管理师、Scrum Alliance 敏捷教练、软件工程造价师，具有十余年金融机构项目管理和质量管理经验，在CMMI、DevOps、研发效能领域有深入研究和实践，并参与软件度量相关的国标和地标编制及IT审计著作翻译。作为人工智能关键技术与应用评测工信部重点实验室人工智能工程化推进委员会人工智能研发运营小组组长，目前重点跟踪研究人工智能工程化（包括MLOps、LMOps、AI治理、模型管理、模型评测等

2、）的发展，牵头系列标准的编制、评测、咨询等工作。01大大模模型型发发展展现现状状02大大模模型型对对M ML LO Op ps s带带来来的的挑挑战战03M ML LO Op ps s发发展展新新路路径径04信信通通院院工工作作介介绍绍目目录录C Co on nt te en nt t2023 DevOps 国际峰会 暨 BizDevOps 企业峰会 北京站大模型百家争鸣，形成AI技术发展新格局大模型生态构建呈现出产、学、研强强联合的趋势。领域头部企业充分发挥优势，纷纷寻求合作。生态构建-强强联合技术能力-持续提升行业应用-拓宽加深社会价值-普惠向善大模型技术能力仍在持续突破，在语言/视觉/多

3、模态/生成等领域的性能取得显著提升。大模型行业应用开始面向具体任务和垂直行业，建、用、管的关注焦点，由训练转向应用。大模型社会价值凸显，不再唯参数规模论，开始强调实用性、普惠性，造福社会。基于智源悟道大模型的冬奥手语播报数字人系统提供全流程智能化的数字人手语生成服务，方便听障人士收看赛事专题报道，提升社会参与度和幸福感国网-百度 文心能源行业大模型GPT-4较GPT-3.5在多项任务取得显著性能提升产学研联合产研联合产学联合产产联合盘古气象大模型盘古矿山大模型盘古电力大模型百度文心千帆大模型平台华为昇思大模型平台火山引擎大模型服务平台阿里云PAI大模型平台各界积极投入研发：互联网企业、AI企业

4、、高校院所、电信运营商、金融机构纷纷入局技术迭代不断加速：大模型更新迭代周期不断缩短，模型发布呈井喷态势从单模态到多模态：语言、语音、视觉、多模态大模型全面铺开落地应用范围不断扩大：大模型不断面向医疗、教育、金融、电力等细分领域拓展应用日日新20182019202020211-7月8-12月20221-5月6-10月11-12月1-5月2023GPTBERTERNIE 1.0GPT-2ERNIE 2.0GPT-3GLM-130B通义WeLMChatGPTOPT-IMLSwitch Transformer盘古NLP阿里M6悟道2.0紫东太初ERNIE 3.0ERNIE 3.0 TitanMT-N

5、LGDALLE 2GatoPaLM混元通义千问LLaMAGPT-4文心一言MOSS孟子星火360智脑玉言2023 DevOps 国际峰会 暨 BizDevOps 企业峰会 北京站大模型技术能力多维提升大模型能力持续升级，有望成为人工智能技术底座语言实体识别文本分类信息检索机器翻译文本摘要情感分析代码生成常识问答语音语音识别语音合成方言识别声纹识别语种识别多模态图文生成图文问答图文检索图片-代码生成多模态写作视觉物体识别动作识别目标检测图像分类语义分割其他数学计算结构预测气象预测识别能力理解能力预测能力分类能力生成能力Transformer 开创了继 NLP、CNN和 RNN之后的第四大类模型来

6、源：Harnessing the Power of LLMs in Practice:A Survey on ChatGPT and Beyond2023 DevOps 国际峰会 暨 BizDevOps 企业峰会 北京站大模型应用落地向各行业辐射大模型性能持续提升，多维展现技术能力14.251.2OpenAI CLIP悟道文澜图像：RUC-CAS-wenlan评分+37.0%性能提升6989.890.6BERT人类基线ERNIE 3.0超越人类语音：CIDEr-D评分23.3535.09MSVLPT紫东太初+11.74%性能提升文本：SuperGLUE 评分大模型功能持续进化，赋能多个垂直场景