《13.基于RISC-V架构的高性能AI大模型工作站 .pdf》由会员分享,可在线阅读,更多相关《13.基于RISC-V架构的高性能AI大模型工作站 .pdf(16页珍藏版)》请在三个皮匠报告上搜索。
1、基于RISC-V架构的高性能AI大模型工作站杨玉模中国电信研究院技术专家2025年7月1云计算领域发展趋势与RISC-V现状2北海2.0RISC-V智算云探索3RISC-VAI领域发展思考3数据中心计算架构发展趋势IaaS云计算依然是数据中心主要形态n近年来PaaS和SaaS快速发展,但IaaS仍然是数据中心的核心形态,尤其在大型企业和政府机构中,IaaS服务为业务的数字化转型提供了基础支撑。n从裸机到虚拟机到容器再到函数计算,尽管计算的封装粒度和形态在不断演讲,但虚拟机和容器在未来很长一段时间仍然是主要计算形态。AI驱动智算爆发式增长n人工智能的快速发展推动智算需求爆发式增长,数据中心从传统
2、的通用计算转向以AI为核心的智算。nAI模型训练所需算力每3-4个月翻一倍,单次训练成果或高达数千万美元,新型计算架构芯片、超节点、集群成为提升算力规模的关键突破点。领域专用架构DSA成为新趋势n领域专用架构(DSA)可以针对特定领域任务进行计算架构优化,与传统通用计算相比,在性能和能效方面具有显著优势。n随着AI、视频处理等领域对算力需求的快速增长,DSA成为数据中心发展的新趋势,其可定制性和高效性满足了特定领域的极端需求。4RISC-V在数据中心崭露头角RISC-V硬件已覆盖主要场景,并向高性能场景演进RISC-V基础生态已具备,应用生态不断完善Perl、eBPF、快速启动、KVM虚拟化、
3、NUMA组件、文件系统完成生态适配、桌面、FFmpeg、GStreamer、VSCode完成移植、Python、JavaScript、OpenJDKNodeJS成立RISC-VSIG、Firefox、LibreOffice、DockerChrome、WebView、Camera、WidgetArkUI、分布式总线、QT、浏览器UKUI桌面、ChromeLinuxDebianUbuntu20212022202320242025OpenEuler安卓OpenHarmony开放麒麟OSRISC-V已经形成较为丰富的产品矩阵,但相距数据中心标杆应用所需性能仍有差距,能用的场景很多,有优势的场景有待发掘
4、。RISC-V软件生态快速发展,基础软件基本完成版本适配,但应用软件由于依赖库多样、版本多样迁移依然困难。1云计算领域发展趋势与RISC-V现状2北海2.0RISC-V智算云探索3RISC-VAI领域发展思考6初步探索:“北海”云计算开放试验平台针对问题:RISC-V云计算软硬件生态不成熟、缺乏规模化的应用验证。目标:以中国电信丰富应用场景牵引,推动RISC-V架构在云计算行业的成熟与规模应用。“北海”RISC-V云计算试验平台架构Web应用AI应用大数据应用视频应用多租户集群管理应用管理资源调度RISC-V云计算资源池化纳管试验RISC-V云计算应用迁移适配与示范应用双路CPURISC-V服
5、务器VPUTPU/NPU/MLURISC-V云计算基础设施研发试验容器运行时轻量安全虚拟机单路CPURISC-V服务器RISC-V先进芯片IP原型双路双路CPU RISC-V服务器服务器单路单路CPU RISC-V服务器服务器已构建运营商首个超千核RISC-V云计算集群依托中国电信研究院RISC-V大科创装置2024RISC-V中国峰会发布相关成果得到媒体报道7拓展研究:“北海2.0”智算云试验平台北海2.0RISC-V智算云增加了云原生虚拟化、AI大模型和AIAgent管理功能,推出RISC-V高性能AI大模型工作站,为虚拟化和AIAgent应用提供基础设施和适配验证方案,推动智算行业的成熟
6、与规模应用。“北海2.0”RISC-V智算云试验平台架构AIAgent应用虚拟化应用视频应用RISC-V智算云资源池化纳管试验RISC-V智算云应用迁移适配与示范应用RISC-V云计算基础设施研发试验虚拟化管理AI大模型管理AIAgent管理资源调度容器AISandbox虚拟机高性能RISC-VCPU芯片GPU/VPURISC-VAI大模型工作站双路RISC-V服务器双路CPURISC-V服务器RISC-V高性能桌面机已构建RISC-VAI大模型工作站依托中国电信研究院RISC-V大科创装置RISC-V高性能CPURISC-VAI推理卡8基础设施:RISC-V高性能AI大模型工作站基于国产RI