目前的存储产品,主要分为光学存储、磁性存储和半导体存储三类。光学存储主要就是 CD、DVD 等常见形式。磁性存储包含磁带、软盘、硬盘等。而半导体存储则是指DRAM、NAND、NOR FLASH等等。
但在大规模的数据存储使用中,还是以磁盘产品为主,也就是机械硬盘,毕竟DVD这种不适合频繁读写数据的场景,而SSD寿命相对差一些,价格又贵,而机械硬盘能够有较大容量,较高寿命,又能频繁读写,擦除等,成本也相对可控。
所以我们看到,在数据计算中心中,大多使用机械硬盘,进行大规模的集群,这样实现高效、高容量的效果。不过我们也清楚,机械硬盘市场,主要被美、日、韩厂商占领,国内企业的份额非常少,绝大部分都要靠进口。事实上不仅仅是机械硬盘市场,在半导体存储市场,也是如此,像主流的DRAM、NAND产品,国内的份额也非常低,90%以上靠进口。
为此,国内众多的企业在存储产品方面不断努力,以期打破国外垄断,进而减少依赖,将数据存储产品,掌握在自己手中。
而近日,有消息传出,华为或推出一种新型的存储产品,这种产品采用全新的磁电存储技术,对应的老式的磁性存储技术,也就是机械硬盘这一块,堪称颠覆式。
当然这种产品,主要用于大规模的集群性产品之中,也就是用于数据中心这样的场景下。
这种磁电技术称之为MED(磁电磁盘),据称和磁性存储产品相比,功耗降低 90%,存储密度提升50%以上,预计2025年上半年左右在海外上市。我们知道,以往采用机械硬盘的集群,一台42U 机架最多可容纳 288 个硬盘,接近10PB的数据,功率可能达到2.88kW。但如果采用华为这种MED硬盘,可能一台42U的机架,容量超过20PB,而功耗只有0.3KW左右,潜力巨大,绝对堪称是颠覆式的。
不过目前关于这种MED磁盘,据称其原理是磁电效应,它在材料的磁特性和电特性之间建立了联系,至于具体怎么实现的,还没有更多的消息。
2024是DRAM技术迸发活力的一年
从1998年三星生产出最早的商用DDR SDRAM芯片,到DDR1、DDR2、DDR3、DDR4的延续,再到今年跃升主流的DDR5,和即将到来的DDR6、DDR7,DRAM技术还在持续突破。按照不同的应用场景划分,固态技术协会(JEDEC)把DRAM分成标准DDR、LPDDR、GDDR三类,其中DDR主要应用于服务器和PC端,LPDDR主要应用于手机端和消费电子,GDDR的主要应用领域为图像处理领域,近期上述三类DRAM技术新品对原厂营收占比贡献不断上升。
1、2024年是DDR5/LPDDR5的天下
在主流DRAM市场格局上,三星、美光、SK海力士三分天下,目前DDR5/LPDDR5市场竞争
以上述三家为主流。此外,中国台湾存储企业华邦及南亚科技,以及大陆存储企业长鑫存储的定位也在主流DRAM市场。
从过往历史看,每代DDR新标准发布后都需要经过2年左右的优化,才能实现性能的较为全面的稳定提升,而后实现对上一代产品的市场替代则可能需要3到5年的时间。业界数据显示,DDR3和DDR4都享有大约7年的生命周期。DDR4存储器标准于2012年发布,而其初代产品则于2014年入市,直到2016年才实现了市场份额的大幅提升。
对于最新一代的DDR5而言,经历了2023年上半年的产能爬坡和性能攀升,下半年在三大原厂营收比重不断上升,并在2024年正式迎来黄金发展期。
据TrendForce集邦咨询研究显示,2023年四季度三星(Samsung)营收高达79.5亿美元,季增幅度逾五成,主要受惠于1alpha nm DDR5出货拉升,使得Server DRAM的出货位元季增超过60%。SK海力士(SK hynix),虽然出货位元季增仅1~3%,然持续受惠于HBM、DDR5的价格优势,以及来自于高容量Server DRAM模组的获利,平均销售单价季增17~19%,第四季营收达55.6亿美元,季增20.2%。美光(Micron)量价齐扬,出货位元及平均销售单价均季增4~6%,DDR5与HBM比重相对低,故营收成长幅度较为和缓,第四季营收达33.5亿美元,季增8.9%。
而LPDDR5方面,TrendForce集邦咨询认为,AI PC有望带动PC平均搭载容量提升,并拉高PC DRAM的LPDDR比重。以Microsoft定义的满足NPU 40 TOPS的CPU而言,共有三款且依据出货时间先后分别为Qualcomm Snapdragon X Elite、AMD Strix Point及Intel Lunar Lake。其中,三款CPU的共同点为皆采用LPDDR5x,而非现在主流采用的DDR SO-DIMM模组,主要考量在于传输速度的提升;以DDR5规格而言,目前速度为4800-5600Mbps,而LPDDR5x则是落于7500-8533Mbps,对于需要接受更多语言指令,及缩短反应速度的AI PC将有所帮助。因此,TrendForce集邦咨询预期,今年LPDDR占PC DRAM需求约30~35%,未来将受到AI PC的CPU厂商的规格支援,从而拉高LPDDR导入比重再提升。
行业人士表示,由于DDR5/LPDDR5(X)技术愈发成熟,其保质期或将比上一代更长。目前,存储厂商目前扩产重点集中在HBM、DDR5与LPDDR5(X)产品上。
TrendForce集邦咨询研究显示,产能规划方面,三星去年第四季大幅减产,在库存压力改善后,今年第一季投片开始回升,稼动率约为80%。下半年旺季,需求预期将较上半年明显增温,产能会持续拉高至第四季。SK海力士则积极扩张HBM产能,投片量缓步增加,随着HBM3e量产后,相关先进制程投片亦持续上升。美光投片量有回温趋势,后续将积极增加其先进制程1beta nm比重,用于生产HBM、DDR5与LPDDR5(X)产品,因先进制程的设备增加,届时产能将较为收敛。
2、GDDR7显存标准正式发布
3月6日,JEDEC(固态技术协会)正式发布了GDDR7显卡(JES239图形双倍数据速率(GDDR7)SGRAM)技术规范,旨在提供更高的带宽、更高的数据传输速率、更高的能效和更大的存储容量,以支持未来高性能计算应用的发展。
官方披露,JESD239GDDR7是第一款使用脉冲幅度调制(PAM)接口进行高频操作的JEDEC标准DRAM。其PAM3接口提高了高频操作的信噪比(SNR),同时提高了能效。通过使用3个电平(+1、0、-1)在2个周期内传输3个比特,而传统的NRZ(非归零)接口在2个周期内传输2个比特,PAM3在每个周期内提供了更高的数据传输速率,从而提高了性能。
相比GDDR6,GDDR7的带宽是其两倍,每个器件的带宽可达192 GB/s。这是通过增加独立通道数量至4个来实现的。GDDR7还支持16 Gbit至32 Gbit的密度,并包括支持双通道模式,可以将系统容量翻倍,可以满足未来图形、游戏、计算、网络和人工智能应用对高内存带宽不断增长的需求。
同时,核心独立的 LFSR(线性反馈移位寄存器)训练模式,带有眼罩和错误计数器,可提高训练精度,同时缩短训练时间。此外,通过整合最新的数据完整性功能,包括带实时报告的片上 ECC (ODECC)、数据中毒、错误检查和清理以及带命令阻塞的命令地址奇偶校验(CAPARBLK),满足 RAS(可靠性、可用性、可维护性)的市场需求。
在容量上,目前第一批GDDR7显存只有2GB(16Gb),和如今的GDDR6/6X一致,因此首发搭载的NVIDIA RTX 50系列、AMD RX 8000系列对于显卡的需求还较大。JEDEC表示,未来会有3GB、4GB、6GB甚至是8GB,其中3GB这种反常规容量是首次出现。
目前,AMD和NVIDIA都已经加入了这个新标准,而三星和美光也已经确定了下一代GDDR7内存模块的开发计划。三星的目标是实现32Gbps的速度,而美光则计划推出24Gb+32 Gbps的芯片。据悉,美光在其最新的路线图中也公布了到2026年达到36Gbps和24Gb+的内存模块。
3、LPDDR6内存规格今年第三季度敲定?
此外,近日韩媒etnews引援业内人士消息,新一代移动端 DRAM 内存规范 LPDDR6 有望今年 3 季度公布。
据悉,行业标准制定组织JEDEC固态技术协会近日在葡萄牙首都里斯本召开了下一代移动端随机存取处理器标准咨询会。此次会议中,与会各方进行了丰富的讨论,完成了 LPDDR6 标准的定稿工作,预计将于今年 3 季度正式发布。
公开资料显示,目前广泛使用的LPDDR5规范发布于2019年。而升级版 LPDDR5X 规范于 2021 年推出,进行了多项调整以实现更高速度,最高可达 8533Mbps。此外,SK海力士还推出了基于私有规范的 9.6Gbps LPDDR5T 产品,美光也推出了同等速率的 LPDDR5X 内存。
近年来,凭借其能效和速率优势,LPDDR 的市场从智能手机等传统产品逐步扩展至英伟达 Grace 处理器等部分服务器处理器,以及一些 AI 专用芯片。而随着 AI 的广泛应用,不仅移动产品需要相较 LPDDR5X 更高速的内存“喂饱”端侧 AI 模型,后两类处理器也需求更大的内存带宽。同时,三大用途对内存功耗均有着严苛的要求。行业人士表示,LPDDR6 标准的两大开发重点就是提高数据吞吐率和最小化功耗。
etnews消息称,高通骁龙8 Gen 4有望成为首款支持 LPDDR6 内存的产品。
HBM技术渐进,市场需求巨大
据TrendForce集邦咨询资深研究副总吴雅婷表示,目前2024年HBM(High Bandwidth Memory)市场主流为HBM3,NVIDIA新世代含B100或H200的规格则为最新HBM3e产品。不过,由于AI需求高涨,目前英伟达(NVIDIA)以及其他品牌的GPU或ASIC供应紧俏,除了CoWoS是供应瓶颈,HBM亦同,主要是HBM生产周期较DDR5更长,投片到产出与封装完成需要两个季度以上所致。
吴雅婷表示,目前NVIDIA现有主攻H100的存储器解决方案为HBM3,SK海力士是最主要供应商,然而供应不足以应付整体AI市场所需。至2023年末,三星以1Znm产品加入NVIDIA供应链,尽管比重仍小,但可视为三星于HBM3世代的首要斩获。
1、HBM3e预计下半年逐季放量,三星、美光加入供应行列
由于三星是AMD长期以来最重要的策略供应伙伴,2024年第一季,三星HBM3产品也陆续通过AMD MI300系列验证,其中包含其8h与12h产品,故自2024年第一季以后,三星HBM3产品将会逐渐放量。值得注意的是,过去在HBM3世代的产品竞争中,美光(Micron)始终没有加入供应行列,仅有两大韩系供应商独撑,且SK海力士HBM市占率目前为最高,三星将随着后续数个季度MI300逐季放量,市占率将急起直追。
而自2024年起,市场关注焦点即由HBM3转向HBM3e,预计下半年将逐季放量,并逐步成为HBM市场主流。据TrendForce集邦咨询调查,第一季由SK海力士率先通过验证,美光紧跟其后,并于第一季底开始递交HBM3e量产产品,以搭配计划在第二季末铺货的NVIDIA H200。三星由于递交样品的时程较其他两家供应商略晚,预计其HBM3e将于第一季末前通过验证,并于第二季开始正式出货。由于三星HBM3的验证已经有了突破,且HBM3e的验证若无意外也即将完成,这也意味着该公司的出货市占于今年末将与SK海力士拉近差距。
2、消息称JEDEC有望放宽HBM4标准,混合键合还在未来
据韩媒ZDNet Korea报道,行业标准制定组织 JEDEC 固态技术协会有望放宽对HBM4内存的高度限制,内存厂商无需被迫转向混合键合(Hybrid Bonding)。
据悉,JEDEC的主要参与者最近同意将HBM4产品的标准定为775微米(μm),比上一代的720微米更厚。据悉,该协议或将对三星电子、SK海力士、美光等主要内存制造商的未来封装投资趋势产生重大影响。
先进封装的意义旨在实现更大的互连密度(每个区域有更多的互连),减少迹线长度(trace length )以降低每比特传输的延迟和能量。作为先进封装技术中的显眼存在,自诞生起,混合键合就被寄予厚望。
混合键合用于芯片的垂直(或 3D)堆叠。混合键合的显著特点是它是无凸块的。它从基于焊料的凸块技术转向直接铜对铜连接。这意味着顶部die和底部die彼此齐平。两个芯片都没有凸块,而是只有可缩放至超细间距的铜焊盘。没有焊料,因此避免了与焊料相关的问题。与以前的基于凸块的互连相比,混合键合引入了一系列全新的技术和工艺挑战。为了实现高质量的键合,对表面光滑度、清洁度和粘合对准精度有非常严格的要求。
业界曾有言“混合键合将成为自EUV以来半导体制造最具变革性的创新”,事实是否如何我们目前还不可得知,但是,可以看到的是三星电子、SK海力士、美光都在你追我赶,争相发力进一步突破这种技术。
假如JEDEC放宽对HBM4内存的高度限制,内存厂商无需着急键合技术的飞跃。如果封装厚度为775微米,使用现有的键合技术如引线键合、倒装芯片键合和硅通孔(TSV)键合等就可以充分实现16层DRAM堆叠HBM4。毕竟解决当下市场竞争问题还是必要的。并且考虑到混合键合的投资成本巨大,存储器公司很可能将重点放在升级现有键合技术上。
但是值得注意的是,上述提到的键合技术有其局限性,并不能很好的适配未来3D封装日益增长的复杂性和性能要求。目前,半导体产业链上下游都对混合键合技术变革充满期待,随着先进制程研发愈演愈烈,混合键合技术的市场在未来值得期待。
数据存储技术进化趋势
2030年人类将进入YB数据时代,数据量是2020年的23倍,全球连接数2000亿,通用算力将增长10倍、人工智能算力将增长500倍。在存储容量方面,目前一些高端闪存卡的存储容量已经达到了1TB,相当于是32年前的10TB,而一些SSD的存储容量更是高达数TB。在读写速度方面,目前一些高端的UHS-II SD卡可以提供高达300MB/s的读取速度和260MB/s的写入速度。此外,一些NVMe SSD的读写速度也可以达到数GB/s。
NAND Flash在闪存市场中具有举足轻重的地位,随着NAND Flash存储原厂的产品生产工艺不断更新发展,存储晶圆工艺制程、电子单元密度、产品堆叠层数等经历了较大的技术更新,市场存储密度的供给呈现出较快的增长速度。根据中商产业研究院整理的数据显示,全球NAND Flash存储容量一直保持增长,从2017年的1620亿GB增长至2020年的5300亿GB,年均复合增长率达35.38%。
”信息爆炸“时代对数据存力带来了巨大考验,数据存力整体上面临容量逐渐供应短缺;利用效率低下,资源浪费;存储设施能耗压力大;分布区域不均匀,发展不平衡等难题。因此,未来存储将会以非结构化数据为主,SSD闪存为主要存储介质,并向分布式存储架构、云存储、DNA存储、纳米存储、存算一体等方向发展。
近年来,随着云计算与人工智能应用的快速发展,数据中心的流量不断扩大,数据处理速度慢和能耗高的问题逐渐成为束缚计算性能发展的障碍。相对于CPU性能的提升,内存的进步则相对缓慢,从而导致存储速度严重滞后,即“内存墙”问题。随着多核处理器和大数据应用的出现,数据搬运的需求大幅增加,为了解决“内存墙”问题,行业内如SK海力士、美光科技等企业寄望于提高存储器带宽,因此高带宽存储技术(High-Bandwidth Memory,HBM)应运而生。
不同于传统的2D DRAM,HBM技术采用3D堆叠的DRAM芯片,通过硅通孔(TSV)技术实现多层内存的垂直互连,并且使用系统级封装(SIP)技术将GPU和多个DRAM芯片紧密集成,这种设计方式极大提高了数据传输速度,并能在较小的物理空间内提供更大的存储容量和更高的带宽,同时实现更低的延迟和功耗。正因为如此,HBM技术被认为是数据中心等高性能计算应用的理想内存解决方案。
结语
展望未来,数据存储技术将面临更多的挑战和机遇。随着数据量的爆炸式增长,如何提高存储效率、降低存储成本、满足多元化的数据需求,将是存储技术未来发展的重要课题。同时,随着新技术的不断涌现,如分布式存储架构、云存储、DNA存储、纳米存储和存算一体等新兴方向也将为存储技术的发展带来无限可能。