算力浦江：上海市算力基础设施发展报告2024年（102页）.pdf

1、上海市通信学会“算力浦江”专业委员会2024年11月编编写写委委员员会会主主编编:陈皆重副副主主编编（按按姓姓名名首首字字母母排排序序）:姜欣李果梁艳廖运发刘义刘杰石忆邬骁斌严钧肖晴郑荣良编编委委会会专专家家（按按姓姓名名首首字字母母排排序序）:蔡玉鑫常永波陈俊琰邓志辉房思哲龚沛东贺夕彧何艳纪容连达刘晶晶陆闻婕黎建伟苗晓春彭莉沈飞王静汪君吴家烨余乐丰郑为展朱纪华此外，特别鸣谢为本报告做出贡献的国家（上海）新型互联网交换中心、华为上海代表处、燧原科技、浪潮信息、上海邮电设计咨询研究院、上海对外经贸大学等单位相关专家。算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江前言当前

2、，全球人工智能技术加速发展，生成式 AI 大模型、高算力智能芯片、大规模智算中心等新质生产力不断突破，国家“东数西算”工程全面实施，算力基础设施建设提速增效。在此背景下，上海加快落实人工智能、算力基础设施建设国家战略，制定发布了系列算力基础设施布局及产业提质发展的政策文件，加快构建算力产业生态集群。本报告旨在系统梳理上海算力基础设施发展的最新情况，全面展现全市数据中心的算力规模、存力规模、算网运力、空间布局、绿色算力、产业生态等方面的发展现状。从多维度数据分析出发，以期着力体现上海算力产业发展的内涵和优势。分析发现，截至 2024 年 6 月，全市已建数据中心标准机架数 57.4 万个，建成通

3、用算力规模达 7.7EFLOPS（FP32）；同时上海智算中心建设表现亮眼，全市已建大型智算中心 12 个，智能算力总规模超过 54EFLOPS（FP16），处于全国领先地位。本报告还围绕算力设备、算力中心、算力平台、算力应用四个方面，遴选呈现上海算力产业创新发展的最新代表成果，详细展示“上海市十大算力产业先锋案例”主要内容，为行业提供借鉴参考。报告最后还分析了上海算力基础设施发展面临的挑战，以及进一步发展的意见建议。本报告中存在不足之处，敬请大家批评指正。目目 录录一、国内外算力进入高速发展快车道.1(一)技术突破开启算力产业新篇章.1(二)智能算力引领全球算力新浪潮.3(三)我国算力产业持

4、续引领新发展.6二、上海市算力产业发展呈现新格局.13(一)算力规模能级显著提升.13(二)算网运力水平持续提高.16(三)绿色算力体系加快构建.19(四)算力空间布局愈发完善.21(五)算力产业构建更加丰富.24三、上海市算力创新发展先锋成果.28(一)算力设备，引领前沿创新突破.28(二)算力中心，重点项目群星闪耀.39(三)算力平台，打造最强解决方案.64(四)算力应用，赋能行业百花齐放.79四、上海算力产业发展挑战与建议.93(一)面临挑战.93(二)发展建议.94算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江算力浦江1一、国内外算力进入高速发展快车道一、国内外算力进

5、入高速发展快车道(一一)技术突破开启算力产业新篇章技术突破开启算力产业新篇章AI 大模型技术催生强劲算力需求大模型技术催生强劲算力需求。当前，OpenAI o1、Gemini、Sora 等大模型相继发布，在人机交互、内容生成等领域展现出了卓越的性能，但其庞大的参数规模和复杂的训练过程对算力提出了极高的要求，促使各行业对算力的需求急剧增加。以 GPT-3大模型为例，其模型参数量约为 1746 亿，训练一次需要的总算力约为 3640PF-days，即以每秒一千万亿次计算，需要运行 3640天。2023年推出的GPT-4 参数量进一步扩大到1.8万亿，是 GPT-3的 10 倍，训练算力需求上升到

6、GPT-3 的 68 倍，在 2.5 万个 A100上需要训练 90-100 天。根据大语言模型综述论文A Survey ofLarge Language Models显示，不同模型的训练数据规模差异显著。例如，LLaMA 使用了约 14000 亿个 token，而 PaLM 则使用了约7800亿个token，如此巨量数据训练推动算力需求急剧增加。在整个大模型行业的持续推动下，算力产业将加快技术创新步伐，以满足日益增长的人工智能及其他领域的需求。高算力芯片推动算力产业升级高算力芯片推动算力产业升级。在人工智能大模型技术发展驱动下，AI 芯片计算能力正极速提升。云侧方面，2023 年 12 月7