2024年3月19日，SK海力士宣布，公司率先成功量产超高性能用于AI的存储器新产品HBM3E，将在3月末开始向客户供货。这是公司去年8月宣布开发完成HBM3E后，仅隔7个月取得的成果。

SK海力士表示，继HBM3，公司实现了全球首次向客户供应现有DRAM最高性能的HBM3E。将通过成功HBM3E的量产，巩固在用于AI的存储器市场上的竞争优势。

为了实现一个需要快速处理大量数据的AI系统，芯片封装必须以多重连接（Multi-connection）多个人工智能处理器和存储器的方式进行构建。因此，近期对AI扩大投资的全球大型科技公司持续提高对AI芯片性能的要求。SK海力士坚信，HBM3E将成为可满足这些要求的现有最佳产品。

HBM3E不仅满足了用于AI的存储器必备的速度规格，也在散热等所有方面都达到了全球最高水平。此产品在速度方面，最高每秒可以处理1.18TB（太字节）的数据，其相当于在1秒内可处理230部全高清（Full-HD，FHD）级电影。

而且，由于用于AI的存储器必须以极快的速度操作，因此关键在于有效的散热性能。为此，公司在新产品上适用Advanced MR-MUF**技术，散热性能与前一代相比提升了10%。

SK海力士HBM业务担当副社长柳成洙表示，“公司通过全球首次HBM3E投入量产，进一步强化了领先用于AI的存储器业界的产品线”，还表示，“以至今积累的HBM业务成功经验为基础，将进一步夯实与客户的关系，并巩固‘全方位人工智能存储器供应商’的地位。”


三星HBM3e即将通过验证

目前 AI 加速卡除了 CoWoS 封装瓶颈之外，另一个重要限制就是 HBM，这其中的主要原因是 HBM 生产周期较 DDR5 更长，投片到产出、封装完成需要至少 2 个季度。

英伟达目前主流 H100 加速卡采用 HBM3 内存，主要供应商为 SK 海力士，目前无法满足整体 AI 市场需求。集邦咨询表示三星于 2023 年年末，以 1Znm 产品加入英伟达供应链，尽管比重仍小，但可视为三星在 HBM 领域的重大突破。

由于三星是 AMD 长期以来最重要的策略供应伙伴，2024 年第一季，三星 HBM3 产品也陆续通过 AMD MI300 系列验证，其中包含其 8h 与 12h 产品，故自 2024 年第一季以后，三星 HBM3 产品将会逐渐放量。

而自 2024 年起，市场关注焦点即由 HBM3 转向 HBM3e，预计下半年将逐季放量，并逐步成为 HBM 市场主流。据 TrendForce 集邦咨询调查，第一季由 SK 海力士率先通过验证，美光紧跟其后，并于第一季底开始递交 HBM3e 量产产品，以搭配计划在第二季末铺货的 NVIDIA H200。

三星由于递交样品的时程较其他两家供应商略晚，预计其 HBM3e 将于第一季末前通过验证，并于第二季开始正式出货。

韩国企业垄断HBM市场

摩根大通近日发布存储市场报告，表示在美光宣布开始大规模生产用于英伟达H200的高带宽存储器（HBM）后，HBM3E的竞争格局正在加剧。摩根大通预计，三星电子及SK海力士HBM3E时间表与预期大致相符，并且估计当前HBM市场规模没有实质性的变化。

摩根大通对美光、三星、SK海力士在HBM3E的最新进展做了说明。

2月底，美光宣布其24GB 8-Hi HBM3E大规模生产，并预计在2024年第二季度将其应用于英伟达的H200 GPU。该公司进一步表示其HBM3E是在lbnm技术节点下生产的（三星将lanm和SK海力士将lbnm用于HBM3E），并预计在2024年3月出样36GB 12-Hi HBM3E。

另一方面，三星宣布36GB 12-Hi HBM3E的产品开发已经完成，并计划在2024年上半年开始量产，而SK海力士将在2024年第一季度末到第二季度初量产HBM3E。

摩根大通指出，所有内存制造商在2024年上半年推出HBM3E解决方案，但该机构估计SK海力士在HBM3E领域领先，其8-Hi HBM3E最早在2024年第一季度末到第二季度初量产应用（而美光在第二季度应用于英伟达H200，三星仍在资格认证中）。

在HBM市场份额方面，摩根大通指出，由于美光在2024年第四季度时的HBM产能仅为约20K wfpm（三星/SK海力士为130K/110K wfpm），美光对整体HBM市场的影响可能仍然有限。摩根大通预计韩国内存制造商将继续在HBM市场上领先，2024年市场份额分别为SK海力士48%，三星44%，在2025年进一步演变为SK海力士47%，三星45%的市场份额。

市场规模方面，摩根大通预计HBM内存市场规模（TAM）在2024年将增至128亿美元。HBM在2024年将占到DRAM市场的15%，并在2025年进一步增至19%。

与英伟达的GPU推出计划（即B100/H200）一致，该机构预计2024年和2025年HBM3E对整体HBM市场的贡献将分别为42%和58%。相较于HBM3，HBM3E的每比特价格溢价为30%或更高，因此HBM3E容量混合的增加将有助于扩大HBM市场市场规模和提升内存制造商的利润状况。


良率才是关键指标

三星电子上个月意外宣布，将采取“先进TC-NCF”技术。这是一项通过减少TC-NCF方法所必需的薄膜厚度来增加半导体堆叠数量的同时保持HBM高度的技术。

三星推迟HBM芯片生产的因素之一是其决定坚持使用非导电薄膜 (NCF) 芯片制造技术，但该技术存在生产问题。

最近三星已下了能够处理MR-MUF技术的芯片制造设备的采购订单。虽然此举可能被视为与三星之前的做法背道而驰，但它反映了该公司提高HBM芯片生产良率的决心。

分析师估计，三星目前HBM3芯片生产良率约为10-20%，而SK海力士的HBM3生产良率已达到60-70%。

有消息称三星正与日本长濑电机等材料制造商洽谈采购MR-MUF材料，不过该技术的高端芯片预计要到明年才能量产，因为三星还需要进行进一步的测试。

尽管引入了MR-MUF，三星仍计划在其最新HBM芯片中同时采用NCF和MR-MUF技术。该公司为NCF技术辩护，称它是HBM产品的“最佳解决方案”，并将在其新的HBM3E芯片中使用。三星决定采用MR-MUF凸显了其在AI芯片市场面临越来越大的压力。

SK海力士也在不断注重研发，以保持在下一代市场的领先地位。与三星电子不同的是，SK海力士采用了一种名为大规模回流模塑底部填充（MR-MUF）的方法，其研究重点是改进液化材料，这是该工艺的核心。

SK海力士表示：“MR-MUF的成品率取决于进入半导体之间的液化材料的特性。迄今为止，我们的主要重点是提高这种材料的完美性。”

据了解，HBM行业龙头SK海力士的HBM良率仅在60%左右。与一般DRAM超过90%的良率相比，这是较低的。与其他存储器不同的是，需要在半导体上钻孔并通过硅通孔电极（TSV）垂直堆叠多个半导体的复杂附加工艺，因此即使仅在几个工艺之一中出现缺陷，其他好的芯片也必须也被丢弃。

即使每个步骤的产量略有下降或增加，也会对整体盈利能力产生重大影响。知情人透露：“随着未来HBM堆栈数量的增加，仅仅1%到2%的差异很快就会导致价值数百亿韩元的销售业绩差异。”