1、2024年AI 服务器和AI PC趋势解读电子发烧友网副主编章鹰1电子发烧友网编辑电子发烧友网2024.07.012024.07.01目录目录数据中心、数据中心、AIAI服务器市场趋势服务器市场趋势AI PCAI PC市场规模和趋势市场规模和趋势AIAI PCPC终端厂商和上游产业链终端厂商和上游产业链总结总结AI PCAI PC产业应用和生态产业应用和生态AIAI服务器的发展挑战和质量检测服务器的发展挑战和质量检测2数据中心、数据中心、AIAI服务器市场趋势服务器市场趋势数据中心4数据中心按照算力可以分为三类:云数据中心、智算中心和超算中心。云数据中心面向众多应用场景和应用层级扩张;智算中心
2、以AI专用芯片为计算算力底座,以促进AI产业化和智能化为目标,面向AI典型应用场景;超算中心主要支持科学计算和工程计算,主要由国家科技部布局建设。国内数据中心建设较全球起步晚,目前处于云中心深化阶段,向智能算力中心转型,总体处于成长期。电子发烧友根据公开资料制图生成式AIAI支出高速增长5国际调研机构IDC统计,2023年全球生成式AI支出的市场规模预计为387.9亿美元,2027年全球生成式AI支出将达1454.2亿美元,2023-2027年CAGR为55.3%。中国生成式AI支出将达到35.3亿美元,2027年预计中国生成式AI支持将达到129.3亿美元,2023-2027年CAGR为54
3、.1%。海外企业应用生成式AI意愿强烈。OpenAI首席运营官Brad Lightcap预测2024年是AI应用元年,目前已有超过60万人注册使用ChatGPT企业版。6月11日,OpenAI在官网宣布与苹果达成技术合作,将 ChatGPT 深度集成在苹果产品矩阵中,包括最新的iOS、iPadOS和macOS。苹果将AI大语言模型集成到iPhone、iPad、Mac等设备中,算力从云端向终端转移趋势出现。数据来自IDC,电子发烧友制图数据来自IDC,电子发烧友制图全球需求快速增长,国内AIAI服务器处于增长期6根据Trendforce 测算,2023 年全球 AI 服务器出货量逾120.8万台
4、,同比增长超过37.7%。这家机构预测,2024年全球AI服务器整机出货量将达167.2万台,同比增长38.4%。台积电在Q1法说会上表示,AI需求的增长将以50%的复合增长率持续至2028年,AI服务器需求增长也有望以较高速度持续至2028年。国际数据公司(IDC)与浪潮信息联合发布报告显示,2023年,中国人工智能服务器市场规模将达91亿美元,同比增长82.5%;智能算力规模预计达到414.1EFLOPS(每秒百亿亿次浮点运算),同比增长59.3%,2022年到2027年,年复合增长率达到33.9%。数据来自Trendforce,电子发烧友制图图片:台积电Q1财报AIAI 服务器分类7按照
5、用途区分,AI服务器分为训练和推理两大类别。训练用服务器对存储空间、带宽和算力的要求较高,主要采用8-GPU 设计;推理用服务器对算力、存储和带宽的要求相对较低,取决于业务场景,可以采用 GPU、NPU、CPU 等不同芯片承担推理任务,可以采用PCLe接口的AI加速器实现推理任务。服务器随场景需求经历通用服务器-云服务器-边缘服务器-AI服务器四种模式,AI服务器采用GPU增强其并行计算能力。CPU+GPU是AI服务器的核心部件。机柜级解决方案有望成为未来 AI 服务器出货主流形式之一。电子发烧友拍摄图片来自慧博智能投研AIAI 服务器-上游产业链构成(一)8CPU+GPUCPU+GPU英特尔
6、AMD龙芯中科HDD/SSDHDD/SSD三星金士顿威刚DRAMDRAM内存内存三星、SK海力士美光Auras TechnologySunon;AVC Technology电源电源冷却方案冷却方案AI 服务器产业链上游为基础设施供应商,包括芯片CPU、GPU,存储(内存DRAM和内存接口及HBM,本地存储SSD),被动元器件、智能网卡、机箱、主板、散热、电源等。台达电子艾默生光宝科技中国长城欧陆通英伟达AMD英特尔寒武纪CPUGPUAIAI 服务器-上游产业链构成(二)9固态硬盘固态硬盘三星金士顿威刚PCBPCB鹏鼎控股东山精密健鼎科技被动元器件被动元器件村田TDK太阳诱电散热器散热器互联网接