近日,日本数字基础设施服务供应商Sakura Internet宣布,已购买价值约200亿日元(约合人民币9.36亿)的英伟达下一代B200 AI芯片,作为其加强日本人工智能(AI)计算能力投资的一部分。
此前,英伟达表示将在今年年底前发货B200芯片,而日本方面也大力推动本土制造的AI发展。
日本经济产业省近日宣布,为了在日本国内整备研发生成式AI所必需的超级电脑,将对Sakura等5家日本企业最高补助725亿日元。
Sakura表示,获得日本政府补助后,将强化生成式AI用云端服务“高火力”,计划将“高火力”搭载的GPU数量扩增至原先计划的5倍,将搭载约10,000颗GPU、其中包括了英伟达在3月发布的最新“NVIDIA HGX B200系统”。
事实上,当前在AI浪潮趋势下,英伟达芯片在市场上可谓是掌握着绝对的话语权。3月19日,英伟达推出新一代AI芯片架构Blackwell,首款Blackwell芯片命名为GB200。
其中,亚马逊网络服务、戴尔、谷歌、Meta、微软、OpenAI、甲骨文、特斯拉等在内的企业预计将采用Blackwell。此外,比亚迪、广汽埃安、小鹏、理想汽车和极氪等中国车企也将合作。
科技巨头加码AI基建
为了追赶新浪潮,美国科技巨头纷纷投入巨资,建设数据中心。
富国投资(Wells Fargo Investment Institute)在报告中指出,2025年Alphabet、亚马逊、Meta、微软总的资本支出预计将达2000亿美元,大大超越几大石油巨头的资本支出。
2023年,BP、雪佛龙(Chevron)、埃克森美孚、壳牌四大石油公司的资本支出合计约为800亿美元,而四大云计算公司的开支将达1400亿美元。
在美国北弗吉尼亚、俄亥俄州哥伦布市和盐湖城,现在最热门的资产不是酒店、写字楼,而是数据中心。不同以往,现在的数据中心主要是为AI服务的。
房地产公司Jones Lang LaSalle数据中心策略副总裁Sean Farney说:“所有一切都在围着AI转,要让AI正常运转,需要新的、庞大的托管服务,这是眼下最直接的影响。”
Sean Farney曾协助微软在芝加哥建设120兆瓦数据中心,他说2022年年末ChatGPT的推出是一个转折点。
CenterSquare投资管理公司组合经理Patrick Wilson说:“现在AI数据中心市场已经不再是细小市场。以前市场会盲目增加供应量,结果影响市场健康,现在不一样了,在大流行的刺激下,数据中心所者拥有更多的定价权。”
最近几年,科技企业纷纷前往北弗吉尼亚租赁数据中心,俄亥俄中部的二级市场需求也水涨船高,亚马逊已经投资78亿美元在俄亥俄中部建设数据中心。
Patrick Wilson称,自2020年之后远程办公流行,大量资金流向数据中心、通信基础设施、光纤、信号塔及相关科技产业。
资金来自哪里?主要还是“hyperscalers”集团,也就是在云计算和数据中心领域采用超大规模计算方法的公司。科技巨头正在疯狂扩建数据中心,年复合增长率达到20-30%。为了建设一个新数据中心,它们可以轻松投入10亿美元。
穆迪经济学家Ermengarde Jabir今年2月份曾谈及AI和商业地产,他说:“对数据中心空间的争夺相当激烈,在项目开发早期阶段往往就已经被抢空了。”
GPU需求暴涨
行业欲摆脱英伟达
科技巨头微软公司正在开发一种新的网卡,用来提高其人工智能芯片Maia的性能,最终达到减少对英伟达产品依赖的目的。
报道援引了一位知情人士的话称,微软CEO萨提亚·纳德拉已经任命通信设备巨头瞻博网络的联合创始人Pradeep Sindhu领导网卡项目的工作。去年年初,微软收购了Sindhu创办的数据中心芯片初创公司Fungible。
据了解,Fungible的核心产品为DPU(中央处理器分散处理单元),是继CPU、GPU之后,数据中心场景中的第三颗重要的算力芯片。Fungible称其技术不仅能够提高服务器效率,也能够提高存储基础设施的效率并简化日常服务器管理,降低数据中心成本。
Sindhu团队本次目标打造的新网卡,类似于英伟达的ConnectX-7网卡,主要用于提高服务器的流量速度。报道称,开发过程可能需要超过一年的时间,如果成功,将有望缩短OpenAI在微软服务器上训练模型所需的时间,并降低训练过程的成本。
目前,AI芯片市场主要是由英伟达主导,H100也公认是训练大语言模型最需要的GPU。公司常将ConnectX-7网卡与其GPU一起销售。例如,融合加速器“H100 CNX”就是将H100与ConnectX-7相结合,可为I/O密集型应用提供强劲性能。
据英伟达官网的描述,ConnectX-7支持超低时延、400Gb/s吞吐量和创新的英伟达网络计算加速引擎,实现额外加速,为超级计算机、人工智能和超大规模云数据中心提供所需的高可扩展性和功能丰富的技术。
但由于H100系统售价不菲,给英伟达公司和黄仁勋本人带来巨额财富的同时,也让OpenAI、Meta等AI开发商有了“另起炉灶”的想法。