欢迎访问
与NVIDIA等企业深度合作,Arm Neoverse在AI时代大放异彩
2023-12-01 来源:华强商城
46679

关键词: 人工智能 ARM ChatGPT

数字经济浪潮下,以 ChatGPT 为代表的生成式 AI 应用的爆发,正在引发新一轮服务器的算力需求。

 

Arm 高级副总裁兼基础设施事业部总经理 Mohamed Awad

 

AI的发展对服务器的架构提出了新的需求

 

不过,目前市场上的服务器大部分采用的都是传统的系统架构,不仅无法达到内存的一致性,而且也直接限制了产品最终的性能水平。

 

基础设施领域的传统系统架构

 

“为了更好的支持生成式 AI对于服务器的需求,新的现代化系统架构在基础设施领域应运而生。以其中一种新型架构来看,和传统服务器的架构相比,新型架构中的每一个CPU都可以单独和一个加速器相连,由于此架构中的CPU是根据用户的实际场景需求所进行定制化设计,会带来更优异的内存一致性,让加速器的使用更加高效,体现出产品的最佳性能,如此一来,才能更好地满足包括生成式 AI在内的未来基础设施的市场需求。”Arm 高级副总裁兼基础设施事业部总经理Mohamed Awad在11月27日在深圳举办的Arm Tech Symposia 年度技术大会上说道。


面向新的技术需求,基础设施领域出现了新的现代化系统架构

 

Arm Neoverse已被 NVIDIA等众多客户采用

 

基于这样的技术发展趋势,目前在服务器等基础设施领域, Arm已经针对于人工智能 (AI) 正在发生的一些变化推出了一系列的创新解决方案。

 

“以NVIDIA GH200 Grace Hopper 超级芯片为例”,Mohamed Awad介绍道,“该芯片所使用的架构中采用了72 颗 Arm Neoverse 核心,借助 Arm 技术带来的灵活性进一步实现了系统的优化。此外,该芯片还能充分利用Arm强大的软件生态系统,加上来自 NVIDIA 的 GPU的组合,其AI 性能较基于x86架构的系统可提升 10 倍。”

 

NVIDIA GH200 Grace Hopper 超级芯片采用 Arm Neoverse 搭配 NVIDIA GPU,满足 AI 性能的需求

 

除了英伟达之外,目前阿里巴巴等超大规模云服务商也都选择了和 Arm 合作。比如,阿里巴巴的倚天 710 就是基于 Arm Neoverse 平台打造的 CPU;另外,像鸿钧微电子以及遇贤微电子等初创企业,也都基于 Arm Neoverse平台打造了服务器 SoC 的解决方案;而中国本土的公司云豹智能,也借助 Neoverse 来引领DPU的创新发展;联想则更多地是将基于Arm架构的解决方案部署到 5G 领域。通过与上述中国本土公司强有力的合作,不仅为这些企业打造了最适合自己需求的解决方案,而且也促进了Arm Neoverse平台业务在中国的进一步发展。

 

从超大规模云服务商到初创企业,在 Arm 平台上赋能创新

 

Arm Neoverse CSS将进一步为客户提质增效

 

基于Arm Neoverse平台良好的客户基础与市场需求,现在Arm又推出了Arm Neoverse 计算子系统 (CSS),合作伙伴可以直接采用也可按需选用,以进一步帮助客户加速产品的上市进程。

 

Arm Neoverse 计算子系统 (CSS)

 

Mohamed Awad指出:“通过 Neoverse CSS 能够帮助我们的合作伙伴进一步降低投资,加速整个生态系统对我们解决方案的可访问性,同时也加速合作伙伴产品的上市时间。目前,我们已经得到了很多合作伙伴的反馈。其中,一个合作伙伴反馈说,通过使用 Neoverse CSS,节省了长达80人/年的工程师时间。与此同时,根据另外一个客户的反馈,通过使用我们的 Neoverse CSS,助力他们的项目从概念到流片仅耗时13个月。”

 

值得一提的是,近期微软发布的Cobalt 100 CPU,采用了128 个Arm Neoverse核心,也是基于Arm的 Neoverse CSS所设计的方案。此外,也有中国的合作伙伴正在基于 CSS 进行开发,未来类似的案例还将不断增多。


微软 Azure Cobalt 100

 

为了进一步结合生态系统的力量、简化定制芯片的开发流程,并且让交付变得更加容便捷,在 Neoverse CSS的基础之上,Arm也推出了Arm全面设计 (Arm Total Design) 生态计划,这个生态计划结合了专用集成电路 (ASIC) 设计公司、IP 供应商、EDA 工具提供商、代工厂和固件开发厂商等芯片设计全链路所需的生态支持,帮助计划采用 Arm Neoverse CSS 的客户奠定生态支持的基础,加速他们的产品开发进程。

 

Arm 全面设计 (Arm Total Design) 生态系统助力合作伙伴加速基于 Neoverse CSS 的芯片开发

 

“近年来,Arm在致力于IP 授权业务发展的同时,也在不断为合作伙伴提供完整的解决方案,以帮助他们快速地将产品推向市场,形成差异化的竞争优势。Arm 全面计算解决方案 (Arm Total Compute Solutions)、Arm Neoverse平台、Arm Corstone 以及 SOAFEE 等,都是 Arm 的计算平台在市场当中得以广泛应用的例证,这些平台可以帮助我们向生态伙伴提供一个完整、集成的解决方案,可助力客户快速采用并推出他们的产品及服务。”Mohamed Awad说。

 

Arm 为移动、基础设施、物联网,以及汽车领域推出对应的计算平台,可以加速合作伙伴产品上市进程

 

最后,在谈及对于中国市场的看法时,Mohamed Awad表示:“中国是 Arm 非常重要的市场之一,来自中国市场的创新也是 Arm 不断发展,并在业务上取得成功的原因之一。如今,中国合作伙伴基于 Arm 架构芯片的总出货量已累计达300亿颗,这个数字确实惊人。目前我们在中国有近 400 家技术授权客户,这个数字每个月都在不断攀升。未来,我们也将持续通过与安谋科技的合作,以进一步助力中国本土合作伙伴的发展。”



相关文章
Baidu
map