12日最新消息，SK海力士和三星电子相信，由于生成式AI的轰动，新的存储芯片市场复苏即将来临。SK海力士DRAM营销主管Park Myung-soo在一次发布会上表示：“人工智能服务器需要500 GB或更大的高带宽内存（HBM）芯片以及至少2TB的DDR5芯片。”三星电子DRAM产品与技术执行副总裁Hwang Sang-joon同日在KIW 2023上表示：“我们客户当前的（HBM）订单比去年增加了一倍多。”

在英伟达一步步站稳万亿市值的道路上，少不了两项关键技术支持——台积电主导的CoWoS高端封装和头部存储厂持续迭代的HBM（高带宽存储）。

英伟达近日发布的新一代GH200 Grace Hopper超级芯片中，就指出将搭载282GB最新HBM3e内存技术的单服务器。预计将在2024年第二季度交付基于该平台的系统。

HBM也成为力挽存储厂商持续下行的一个关键词。数个季度的持续低迷下，头部存储厂商相继展现出二季度收入环比增长趋势，其中以SK海力士（SK Hynix）的表现最为亮眼，背后就离不开由HBM拉动对DRAM运存的需求提升。

伴随生成式AI浪潮，在存储市场一直低三星一头的SK海力士一跃而起，占据全球HBM市场50%的极高份额。

HBM的重要性在于，GPU对大规模并行计算的速率要求在持续提升，但计算过程本身需要算力、存力、运力三者同时匹配，通常存储的读取速度和计算的处理速度之间存在一定时间差，HBM就是为提高传输速率和存储容量应运而生的重要技术路线。