自研AI服务器芯片，竞争升级

有越来越多的互联网和IT设备大厂开始自研AI服务器芯片，最近，这一风潮吹到了苹果公司，据悉，该智能设备龙头正在开发用于AI服务器的定制芯片。
与微软和谷歌等竞争对手相比，苹果在推出生成式AI方面进展较慢，不过，苹果公司CEO库克称，AI已经在苹果产品的幕后发挥作用，此前有媒体报道，苹果计划使用AI来提高搜索存储在苹果设备上的数据的能力。
今年2月，库克在年度股东大会上表示，使用苹果AI技术的功能包括Vision Pro的手部跟踪工具和Apple Watch的心率警报。他还表示，MacBook中的芯片能够运行AI。
库克表示，今年晚些时候，将与大家分享如何在生成式AI领域开辟新天地。苹果公司通常在6月份的年度开发者大会上宣布新的软件产品和功能。
知名分析师郭明錤在2023年10月发布的一份报告显示，预计苹果在2023和2024年分别采购2000–3000台、1.8万–2万台AI服务器，分别占同期全球AI服务器出货量的1.3%和5%。估算苹果在2023和2024年需要分别支出约6.2亿和47.5亿美元，用于AI服务器采购。
基于苹果产品的功能需求，以及庞大的AI服务器资本支出，再结合该公司自研芯片的历史，相信其自研AI服务器芯片是早晚的事，特别是苹果放弃造车，将资金和资源重点投入到AI技术和产品研发上，自研AI服务器芯片就更加顺理成章了。
图片 01
AI服务器芯片的重要性
据统计，2024年，全球服务器出货量约1365.4万台，其中，各家ODM的出货以AI服务器最为强劲。分析师指出，2024年，AI服务器出货年增长率和占比都将达到两位数，这主要得益于生成式AI市场的增长。
预计生成式AI市场规模将从2022年的400亿美元增长到2032年的1.3万亿美元，年复合增长率高达41.7%。由于全球生成式AI市场商机与增长潜力巨大，对训练AI系统的软硬件需求量很大，使得市场对AI 服务器及相关芯片的需求不断增长。
AI大模型迭代速度越来越快，厂商对智能算力的投入大幅增加，支持存储和训练的高端AI服务器的需求激增，2023和2024年，大模型训练所需数据量激增，AI大模型厂商需要的是能够支持存储和训练的高端AI服务器，因此，各服务器厂商都在升级芯片规格、扩大卡组数量。
与传统服务器相比，AI服务器在多个方面有所不同。硬件方面，AI服务器采用异构形式，内存容量更大，可满足不同场景需求；卡的数量方面，由于AI服务器需要大量计算，至少配置4个GPU卡，有的需要8个；系统结构方面，AI服务器在散热、拓扑等方面进行了专门设计，以实现稳定运行。
图片 02
自研AI服务器芯片热潮
根据应用场景不同，AI服务器可分为深度学习训练型和智能应用推理型；根据计算模块结构不同，AI服务器可分为CPU+GPU、CPU+ASIC、CPU+FPGA等，其中，最常见的是CPU+多块GPU组合模式。
虽然AI服务器计算系统主要由CPU和GPU组成，但就目前而言，GPU占据了较大市场份额，CPU份额相对较小。在这种情况下，GPU厂商的行业地位就很凸出了。然而，虽然市场很大，但能够提供高性能GPU的厂商却很少，目前，能够形成一定市场规模的厂商只有3家：英伟达，AMD和英特尔。
基于这种市场供求关系，对AI服务器具有很大需求量的互联网和IT设备大厂纷纷开始自研相关芯片，如亚马逊AWS，谷歌，Meta，微软和苹果。
亚马逊AWS自研芯片始于2015年，当时收购了Annapurna Labs，2018年，AWS推出了基于Arm架构的Graviton处理器，这是其首款自研服务器芯片。2020年，AWS发布了Graviton2。2023年12月，AWS推出了Graviton4和Trainium2，Graviton4的性能比Graviton2提升了30%，Trainium2在AI训练速度上提升了4倍。
2016年，谷歌推出了自研的AI张量处理单元（TPU），这些专为机器学习设计的芯片为谷歌云平台上提供了AI加速能力，2022年前后，谷歌开始研发基于Arm架构的服务器CPU，2024年4月，谷歌发布了首款自研Arm构架CPU——Axion，并宣布该芯片已经在内部使用。
2020年，微软开始为其Azure云服务定制芯片，2023年11月，微软推出了两款自研芯片——Maia100和Cobalt100。Maia100是一款专为大语言模型训练和推理而设计的芯片，采用台积电5nm制程，Cobalt100是一款基于Arm架构的128核服务器CPU。
今年4月初，Meta发布了新一代AI训练和推理加速器MTIA，其计算和内存带宽是上一代产品的两倍多，最新版本芯片有助于驱动Facebook和Instagram上的排名和推荐广告模型。


回顾照片
组委会联系方式
半导体国产化
国际电子信息产业
集合全行业资源 成就大产业对接
扫描二维码，获取更多行业资讯

组委会招商联系方式

电话：0755-23746212、28511859

邮箱： 405615316@qq.com