楼群芳_可重构计算超节点的理论探索和实践.pdf

1、楼群芳楼群芳 清微智能技术专家清微智能技术专家Part 01.Part 01.Part 02.Part 02.Part 03.Part 03.Part 04.Part 04.引言：从智能体到智能可重构可重构计算超节点理论探索和技术革新可重构计算超节点的应用实践未来展望智能体是未来智能体是未来AIAI文明重塑的时代基石文明重塑的时代基石AIAI文明时代的到来文明时代的到来2020-2025|2020-2025|信息智能信息智能人人-LLM-LLM协同交互协同交互2025-2035|2025-2035|创造智能（创造智能（AgentAgent）人人-LLM-LLM-环境形成结构体环境形成结构体具备

2、自主性具备自主性2035+|2035+|智性文明智性文明文明重塑文明重塑智能体多样性需求智能体多样性需求感知感知模块模块智能体智能体行动行动模块模块决策决策模块模块环境输入环境输入接收外部信息接收外部信息信息处理信息处理分析并生成策略分析并生成策略执行输出执行输出作用于环境作用于环境智能体对芯片提出了多样化性能要求智能体对芯片提出了多样化性能要求匹配者困境匹配者困境GPUGPU（瑞士军刀）（瑞士军刀）通用性强，擅长海量高吞吐量任务通用性强，擅长海量高吞吐量任务TPUTPU（专业计算器）（专业计算器）极致能效，但灵活性受限极致能效，但灵活性受限LPULPU（F1F1赛车引擎）赛车引擎）极致延迟，

3、但工程要求高极致延迟，但工程要求高ASIC/ASIC/模型即芯片（定制化石碑）模型即芯片（定制化石碑）能效最高能效最高，但但“出厂即落后出厂即落后”，无法更新，无法更新NVIDIA H100,AMD MI250NVIDIA H100,AMD MI250Google TPU v7Google TPU v7 Groq LPUGroq LPUTaalasTaalas没有任何单体架构能同时覆盖智能体的全局需求没有任何单体架构能同时覆盖智能体的全局需求“每任务一芯片每任务一芯片”的异构架构，用静态硅片的异构架构，用静态硅片拼凑应对动态智能体需求，会走入死胡同拼凑应对动态智能体需求，会走入死胡同计算范式急

4、需转移异构计算的异构计算的“复杂性螺旋复杂性螺旋”流动的流动的AIAI智能智能（多变的大脑）（多变的大脑）凝固的物理硬件凝固的物理硬件（僵硬的躯壳）（僵硬的躯壳）多变的大脑无法装进僵硬的躯壳多变的大脑无法装进僵硬的躯壳用静态硬件去追赶动态的用静态硬件去追赶动态的AIAI，是物理学上的死胡同，是物理学上的死胡同运营复杂度运营复杂度异构模块间多协议、多设备通信导致系统复杂异构模块间多协议、多设备通信导致系统复杂度呈指数级增加度呈指数级增加性能复杂度性能复杂度如何实现算力最优分配和最大化执行效率如何实现算力最优分配和最大化执行效率经济不可持续经济不可持续“每任务一芯片每任务一芯片”策略直接导致空间消

5、耗与建策略直接导致空间消耗与建设成本高昂，无法规模扩展设成本高昂，无法规模扩展CGRACGRA的核心价值在于的核心价值在于“兼顾通用与专用兼顾通用与专用”十年磨一剑：智能十年磨一剑：智能CGRACGRA应运而生应运而生计算任务（软件）计算任务（软件）软件层接收动态计算任务软件层接收动态计算任务数据流图（编译层）数据流图（编译层）瞬间编译生成最优数据流网络瞬间编译生成最优数据流网络计算架构（硬件）计算架构（硬件）物理层重塑物理层重塑-晶体管级别的路径按需生成晶体管级别的路径按需生成高灵活性高灵活性动态适配实现真正的动态适配实现真正的“一芯多能一芯多能”、“一芯多模一芯多模”高性能高性能在在nsn

6、s级内重塑级内重塑数据路径与内存结构数据路径与内存结构极致能耗极致能耗消除通信瓶颈，降低功耗消除通信瓶颈，降低功耗持续运行的高能效持续运行的高能效CGRA(Coarse-Grained Reconfigurable Architecture)三大优势三大优势可重构计算架构类似可重构计算架构类似“变形金刚变形金刚”，动态构造最适配的计算架构，动态构造最适配的计算架构可重构计算（可重构计算（CGRACGRA）是指利用芯片中的可编程计算资源（计算单元和互连网络）是指利用芯片中的可编程计算资源（计算单元和互连网络）根据应用的需要和计算任务的数据流特点，动态构造出最适配的计算架构，达到逼近专用集成电路的