中国智能计算产业联盟：超智融合发展趋势与技术路径研究报告（52页）.pdf

1、 1超智融合发展趋势与技术路径研究报告单志广 张云泉 何宝宏 张广彬 I 主编超智融合发展趋势与技术路径研究报告出品单位：支持单位：2 3超智融合发展趋势与技术路径研究报告编写委员会顾问：钱德沛 陈润生 陈国良 郑纬民 袁国兴主编：单志广 张云泉 何宝宏 张广彬执行主编：安 静 洪钊峰 王海峰编委：沈文海 陈学斌 方 娟 贾海鹏 赖能和 赵 立 苏 涛 袁 良 王 建 李婧颖 陈 栩 房毓菲 刘 殷 戴 彧 王建波 余艳红 李 伟 汤国伟特别鸣谢：清华大学 益企研究院参编单位：国家信息中心 中国科学院计算技术研究所 中国信息通信研究院云计算与大数据研究所 国家高性能计算机工程技术研究中心 清华

2、大学 国家气象中心超智融合发展趋势与技术路径研究报告 4目录 CONTENTSP05 第一章 超智融合发展背景P06 一、人工智能催生的巨大算力需求推动超算向适 AI 化升级P09 二、算力赋能人工智能的关键在于算力设施向超算与智算融合演进P19 第二章 超智融合重塑计算格局P19 一、超智融合的内涵范畴P22 二、超智融合的三个阶段P26 三、超智融合的关键能力P29 第三章 超智融合技术路径创新P30 一、算力架构P34 二、算力调度P37 三、算力服务和运营P39 四、数据安全和隐私保护P41 第四章 超智融合新型应用场景和实践案例P42 一、创新应用场景P43 二、典型案例P45 第五

3、章 超智融合进展和目标愿景 5超智融合发展趋势与技术路径研究报告超智融合发展背景超智融合发展趋势与技术路径研究报告 6一、人工智能催生的巨大算力需求推动超算向适 AI 化升级随着技术迭代发展，计算解决问题的范式也在不断变化。从早期的数学模型驱动，到数据驱动，再到 AI 赋能。超算与 AI 的融合正在重塑计算科学、IT 产业和人类社会发展格局。中国在超算领域拥有深厚的技术积累，而应用侧对算力结构转型的迫切需求进一步推动了超智融合技术的快速发展。超智融合是一个循序渐进的发展过程，它融合了超算强大的数据处理能力与人工智能的算法优化能力，可有效解决算力瓶颈，推动计算技术创新发展。超智融合不仅涉及数据、

4、算法、业务等层面的融合创新，也对底层的计算、存储、网络等基础设施提出了相应要求。（一）超智融合的历史演进。尽管人工神经网络早期的研究工作可以追溯至上世纪40 年代，现代意义的超级计算机也在上世纪 70 年代问世，但在很长一段时间里，超级计算与人工智能似乎就象两条车道上并行奔跑的汽车，前者追求“算得快”，后者追求“算得巧”，相对独立发展。进入本世纪 10 年代，随着英伟达公司开始推动 GPU 从传统图形渲染应用进入大规模并行计算领域，加上互联网大数据的爆发式增长，深度学习算法、CPU+GPU 异构并CHAPTER1 超智融合发展背景 7超智融合发展趋势与技术路径研究报告行超级计算机、大规模数据集

5、这三大要素开始汇集，进而开启了新一代人工智能日新月异的发展进程。超级计算机的强大算力与人工智能的深度神经网络算法，在大数据的催化下，开始走向融合。在超智融合的早期探索阶段，一个具有里程碑意义的事件是在 2012 年多伦多大学研究团队使用NVIDIA GTX 580 GPU训练AlexNet，并在ILSVRC挑战赛上大获成功，开创了一种新的计算模式。在这一时期，尽管已经出现了大规模的 CPU+GPU 异构集群，如 2010 年出现的世界首个达到 P 级算力规模的异构超算曙光星云（采用 2560块 Nvidia C2050），但当时的 GPU 仍以双精度为主，低精度性能不足。随着深度学习算法在图像

6、识别、语音识别、自然语言处理等领域的大量应用，为提高各类模型的训练速度，并降低成本，以提供半精度、整型算力为主的专用 AI 芯片开始出现，如 2016 年谷歌发布的首个 AI 专用芯片 TPU，2018 年寒武纪发布的中国首款 AI 专用芯片 MLU 等。加之 2017 年谷歌提出 Transformer 架构，AI 从小模型进入大模型时代，对低精度算力需求出现指数级增长。专门面向 AI 训练和推理的智能计算系统开始出现，并与传统的高性能计算机或超级计算机独立发展。然而，近几年来，随着人工智能的进一步发展，如多模态大模型、科学大模型、行业智能体的出现，尤其是 AI 在行业专业领域里的泛化和深入