AI服务器是一种能够提供人工智能(AI)的数据服务器。它既可以用来支持本地应用程序和网页,也可以为云和本地服务器提供复杂的AI模型和服务。AI服务器有助于为各种实时AI应用提供实时计算服务。AI服务器主要有两种架构,一种是混合架构,可以将数据存储在本地,另一种是基于云平台的架构,使用远程存储技术和混合云存储(一种联合本地存储和云存储的技术)进行数据存储。
2023年AI服务器出货量有望年增38.4%
(资料图片)
AI产业链通常由上游的数据和算力层、中游算法层和下游应用层构成。近期,市场更为关注上游产业链,尤其是算力板块。AI硬件涌现出很多新的投资机会,AI软件应用的背后靠硬件的算力支撑。
在ChatGPT持续催化下,国内AI算力需求将保持增长势头,算力服务器厂商有望受益。据估算,ChatGPT的总算力需要7个至8个投资规模30亿元、算力500P的数据中心支撑运行。在数字经济时代,全球数据总量和算力规模将呈现高速增长态势。
拥有“电子产品之母”之称的印制电路板(PCB)是服务器的重要组成部件。随着当下人工智能(AI)行业高速发展,令应用在AI服务器上的高价值量PCB产品市场需求大幅提升。
随着AI服务器与AI芯片需求同步看涨,预计2023年AI服务器(包含搭载GPU、FPGA、ASIC等主芯片)出货量将接近120万台,年增38.4%,占整体服务器出货量近9%,至2026年占比将进一步提升至15%,该机构同步上修2022-2026年AI服务器出货量年复合增长率至22%,而AI芯片2023年出货量预计将增长46%。
该机构表示,英伟达GPU已成为AI服务器所搭载芯片的主流,市占率约60-70%,其次为云计算厂商自主研发的ASIC芯片,市占率逾20%。
根据中研普华研究院《2023-2028年中国AI服务器行业发展分析与投资前景预测报告》显示:
相比通用服务器,AI服务器使用多张加速卡,其PCB采用高多层HDI结构,价值量较高,而且主板层数也远高于通用服务器,AI服务器PCB价值量是普通服务器的价值量的5-6倍。
英伟达创始人兼CEO黄仁勋在NVIDIA Computex2023演讲中宣布,生成式AI引擎NVIDIA DGXGH200现已投入量产。从演示中可以观察到新发GH200服务器架构相对DGXH100有较大变化。GH200相对DGXH100的PCB变化,减少的是1张UBB和1张CPU母板,增加的是3张NVLink模组板,同时加速卡性能大幅度提升,PCB单机价值量应当有所增加,由此可见AI升级将持续带动PCB板块价值增值。
2023年AI服务器产业链需求前景
PCB承担服务器芯片基座、数据传输和连接各部件功能。AI服务器中由于芯片升级,PCB需针对性的升级改革,以处理更多的信号、减少信号干扰、增加散热以及电源管理等能力,在材料和工艺上都需进一步优化。相比通用服务器,AI服务器使用多张加速卡,其PCB采用高多层HDI结构,价值量较高,而且主板层数也远高于通用服务器,AI服务器PCB价值量是普通服务器的价值量的5-6倍。根据Prismark数据,2021年全球服务器领域PCB市场规模为78.04亿美元,预计2026年达到132.94亿美元,复合增长率为11.2%。服务器PCB单机价值量有望由2021年的576美元上升到2026年的705美元。随着AI大模型和应用的落地,市场对AI服务器的需求日益增加,市场扩容在即。
AI服务器出货量增加,相关的芯片、存储器、零部件供应商有望直接受益。
对于服务器芯片,TrendForce预计AI服务器芯片2023年出货量将增长46%。英伟达GPU为AI服务器市场搭载的主流芯片,市占率约60%-70%,其次为云端业者自研的AISC芯片,市占率超过20%。
AI服务器将刺激ServerDRAM、SSD与HBM需要同步升级。该机构更看好HBM(高带宽存储器)的增长空间,表示随着高端GPU如英伟达A100、H100,AMDMI200、MI300,以及谷歌自研TPU等需求皆逐步提升,预估2023年HBM(高带宽存储器)需求量将年增58%,2024年有望再增长约30%。
TrendForce称,在今年将有更多客户导入HBM3的前期下,SK海力士作为目前唯一一批新世代HBM3产品的供应商,其整体HBM市场占有率率可望借此提升至53%,而三星、美光则预测陆在今年底至明年初产量,HBM市占率分别为38%及9%。
随着国内外巨头先后投入大模型军备竞赛,以及大模型参数量快速增长、从单模态向多模态升级等发展趋势,叠加垂直行业大模型不断丰富、下游应用层出不穷、用户规模不断攀升,AI算力的需求有望持续增长。
大模型不断涌现及性能升级,驱动AI算力景气高位向上AI时代算力需求激增。根据OpenAI的测算数据,2012年以来最大的AI训练运行所使用的算力呈指数增长,每3-4个月增长一倍。2012-2018年,AI训练运行所使用的算力已增长超30万倍(相比之下摩尔定律仅增长7倍)。另据OpenAI于2020年的数据,训练一次1746亿参数的GPT-3模型需要的算力约为3640PFlop/s-day(假如每秒计算一千万亿次,需要计算3640天)。未来伴随国内外巨头先后加码大模型领域投入,以及各家大模型参数量快速增长、从单模态向多模态升级等发展趋势,以及用户规模的不断攀升,AI算力需求有望持续高景气。
2022年我国算力总规模达到180EFLOPS,存力总规模超过1000EB,国家枢纽节点间的网络单向时延降低到20毫秒以内,算力核心产业规模达到1.8万亿元。4月19日上海市经济和信息化委员会发布《上海市推进算力资源统一调度指导意见》。明确到2023年底,接入并调度4个以上算力基础设施,可调度智能算力达到1,000PFLOPS(FP16)以上;到2025年实现跨地域算力智能调度,通过高效算力调度,推动算力供需均衡,带动产业发展作用显著增强。上海市数据中心算力超过18,000PFLOPS(FP32);新建数据中心绿色算力占比超过10%;集聚区新建大型数据中心综合PUE降至1.25以内,绿色低碳等级达到4A级以上。
从产业格局来看,目前全球科技巨头均在加速算力侧的布局,软件厂商开始自研芯片,而硬件厂商则在搭建算力平台。一方面,包括微软、亚马逊、谷歌和Facebook等软件及互联网巨头均在加大自研AI芯片的投入,同样国内头部互联网厂商阿里、腾讯、百度等也均披露了AI芯片的自研计划,而另一方面,以英特尔为代表的芯片厂商则开始搭建算力平台,发力软件和云服务。在今年GTC(英伟达开发者大会)上,英伟达正式推出了AI云服务DGX Cloud,使企业能够即时接入用于训练生成式AI等开创性应用的高级模型所需的基础设施和软件,DGX Cloud可提供NVIDIA DGX™ AI超级计算专用集群,并配以NVIDIA AI软件。DGX Cloud能够让每个企业都可以通过的网络浏览器来访问NVIDIA的AI超级计算机,免除了购置、部署和管理本地基础设施的复杂性。DGX Cloud每月最低的订阅价格为3.7万美元。
算力资源作为数字经济发展的重要底座,数字化新事物、新业态、新模式推动应用场景向多元化发展,算力规模的不断扩大带动算力需求持续攀升。据工信部数据披露,2022年全国在用数据中心机架总规模超过650万标准机架;近5年,算力总规模年均增速超过25%。当算力在千行百业落地应用时,不同精度的算力需要“适配”多样化的应用场景。特别是随着人工智能技术的高速发展,算力结构随之演化,对智能算力的需求与日俱增。政策层面看,我国高度重视AI产业发展,智能算力发展的基础逐渐夯实。2022年2月,四部委再次联合印发通知,同意在8地启动建设国家算力枢纽节点,并规划10个国家数据中心集群。至此,全国一体化数据中心体系完成总体布局设计,随着“东数西算”工程全面实施,智算中心建设也进入了加快发展的新阶段。数据中心作为数据枢纽和应用载体,是人工智能发展的基础,长期来看数据中心需求有望恢复。预计2024年IDC市场规模达6123亿元,2022-2024年复合增速达15.9%,数据中心将进入新一轮上升期。
《2023-2028年中国AI服务器行业发展分析与投资前景预测报告》由中研普华研究院撰写,本报告对该行业的供需状况、发展现状、行业发展变化等进行了分析,重点分析了行业的发展现状、如何面对行业的发展挑战、行业的发展建议、行业竞争力,以及行业的投资分析和趋势预测等等。报告还综合了行业的整体发展动态,对行业在产品方面提供了参考建议和具体解决办法。
标签:
仓储物流“成渝圈”如何乘势而上? 12月3日,连接昆明和万象的中老铁路全线开通运营,被惠及的显...
两件西周青铜簋时隔三千年成功配对 考古工作者介绍,这个铜簋的盖、身分别时隔40余年出土,纹饰...
“医保砍价”不是一个人在战斗 晁星 “我眼泪都快掉下来了”“每一个小群体都不该被放弃”…...
“购物成瘾”真的是一种病 刘艳 牛雅娟 本周日即将迎来“双十二”促销季,很多人又开始摩拳...
因迷恋山间风景,一男子在甘孜州稻城县海拔4000多米的无人区迷失方向,随后与同伴失联。12月的稻城...
嫌疑人DNA信息比中后,成都市公安局刑侦支队技术处DNA实验室民警白小刚一下坐在凳子上,恍惚迟疑间...
一批反映南京大屠杀历史的新书发布 新华社南京12月7日电(记者邱冰清、蒋芳)“以史为鉴,开创未来...
我在现场·照片背后的故事|电影《亲爱的》里面没有的结局,在我眼前“上映” 12月6日,在深圳市...
冥想?泡脚?不如听听助眠音乐 晚上睡不着,白天睡不醒,成为最贴合都市人群的“睡眠画像”。随...
养老话题 老年教育面临缺口 “终身教育”潜力无限 【现实挑战】“新老年”群体愿意在培养兴...
孙海洋被拐14年儿子如何找到的? 警方侦办另一宗拐骗儿童案时发现线索,通过人像比对、DNA确认找...
北京天文馆、圆明园将对未成年人免费开放 12月6日,北京天文馆发布通知称,12月8日起试行对未成...
今年全国粮食总产量再创新高 连续7年保持在1 3万亿斤以上 根据对全国31个省(区、市)的抽样调...
斑块软的很危险 硬的就无碍? 血管里的“垃圾”分类 赶快学起来! 一项最新研究显示:中国...
诺西那生钠注射液大幅降价 聚焦医保谈判背后脊髓性肌萎缩症家庭 医保目录公布那天 好多家长都...
抖音“窗花剪剪”遭抄袭 被判获赔20万元 法院认为“窗花剪剪”的这种表达方式理应受到《著作权...
公安机关近日侦破3起拐卖儿童案件 失散十几年 3组家庭终于团圆了 北京青年报记者12月6日从公...
2021年度十大网络用语发布 本报讯(记者 路艳霞)作为年度“汉语盘点”活动最具网络特色的组成部...
北京天文馆向未成年人免费开放 本报讯(记者 牛伟坤)北京天文馆对票价免费及优惠政策作出调整:1...
2021北京百个网红打卡地发布 本报讯(记者 李洋)2021北京网红打卡地推荐榜单昨晚正式发布。自然...