天数智芯：天数智芯算力中心建设解决方案（30页）.pdf

1、1天数智芯算力中心天数智芯算力中心建设建设解决方案解决方案2目录目录一、项目建设背景.3二、集群部署方案.4三、算力运营维护.6四、核心运营内容.7五、应用场景推广.8六、市场营销策略.19七、方案配置参考.233一、项目建设背景一、项目建设背景党的二十大报告指出，推动战略性新兴产业融合集群发展，构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎，人工智能是新一轮科技革命和产业变革的重要驱动力量。在城市数字化转型的进程中，智慧程度越高、算力越强的城市，其综合资源更节省，城市安全更有保障，运行效率更高，企业发展更顺畅，居民生活更便利。天数智芯是中国第一家

2、通用 GPU 商用芯片及超级算力系统提供商，也是国内唯一同时拥有 GPU 架构下云端训练+推理完整解决方案的硬科技公司，目前推出的训练芯片天垓 100 和推理芯片智铠 100 基于自主研发的芯片架构及软件栈，具备高算力、通用性、灵活性、自主可控等明显优势，真正自主可控，实现国产替代，支持和国际主流产品混合部署，无缝迁移。天数智芯集中赋能企业算力平台及生态建设，加快核心关键环节补链强链，为国产人工智能算力产业贡献中坚力量。以天数智芯的通用算力芯片为基础，打造国产通用算力集群，同时结合算力应用孵化信息化创新项目，将全面提升城市数字化转型能力，带动数字政府和新型智慧城市建设更便捷、更智慧。4二、二、

3、集群部署方案集群部署方案结合应用需求，可基于国内外各主流 CPU 和天数智芯全系列通用 GPU 灵活组成集群服务器,每台最大可支持 8 张天垓 100 加速卡，服务器间可通过以太交换机或 IB 交换机互通搭建基于超融合架构或者存算分离的底层硬件平台，从而为上层应用提供计算和存储服务，集群整体硬件架构图如图1 所示。图 1 GPU 高可用集群硬件架构图完整的算力中心网络分为数据交互网络、业务交互网络5以及管理交互网络，示意图如下所示：图 2 网络和系统部署天数智芯算力集群管理平台提供基于 GPU 虚拟化的存储管理、容器管理、系统监控和授权管理等服务，此平台具有易迁移、高可用、可伸缩等特性。集群管

4、理平台按服务层次分为 IaaS,PaaS 和 SaaS 三层，本方案中 IaaS 层（基础设施服务）兼容国内外主流生态，兼容主流 GPU 通用计算模型，提供支持主流 GPU 通用计算模型的等效组件、特性、API 和算法，可助力用户便捷地实现系统或应用的无痛迁移；PaaS层（平台即服务）提供 GPU 虚拟化、算力调度、异构纳管、运维监控和存储管理等能力；SaaS 层（软件即服务）支持可视化训练和开发，支持当下主流模型，有效提高 AI 训练效率，三层整体架构如图 3 所示。6图 3：GPU 集群管理平台天数在集群部署上可以提供多样化、异构化的基础设施架构方案，可以根据需求在服务器、操作系统、算法框

5、架等层面灵活部署。并借助交换机按需组网部署，提供各种算力服务，可以满足各种场景下的业务需求，满足各算力客户的应用需求。三、三、算力运营维护算力运营维护运营公司设立专业运营团队负责公司算力中心维护、产品项目推广、产业生态合作等工作。团队由本地运营人员和天数智芯外派工程师共同组成，明确职责分工，实现智算中心的市场化运营和专业化运维。主要的运营目标如下：（一）人工智能计算中心运维服务。运营公司负责人工7智能计算中心的运维服务工作，确保人工智能计算平台稳定高效的运行。（二）人工智能计算中心运营和市场推广。依托该平台，面向地区提供多种类型的算力服务，服务本地人工智能企业大力发展，服务传统产业转型升级，服

6、务科研团队创新创业，提升算力平台资源利用率。此外，基于智算中心，公司可联合本地龙头企业、科研院校承接国家、省（市）级科研项目。（三）人工智能产业生态合作。公司负责配合所在地区的人工智能产业招商工作，吸引全球顶尖人工智能科研团队、企业入驻，吸引优质的人工智能成果落地转化，培育中小微AI 企业，举办大型 AI 赛事和行业峰会，依托集成的先进一体化平台形成产业生态链，共同在所在地区打造全球独具特色的 AI 生态圈。四、四、核心运营内容核心运营内容运营公司的核心运营内容如下：(一）算力服务支持算力服务支持：智算中心采用开放的基于国内外先进的通用 GPU 加速卡的异构体系架构，搭载 NVIDIA 和天数