半导体设备业者指出,NVIDIA複制PC绘图卡市场模式,掌握了所有供应链与客户所承接的订单规模与流向。
看好包括AI在内的HPC相关应用晶片需求强劲,台积电信心表示:“几乎所有的AI业者都正与台积电合作。”
据半导体设备业者表示,台积电CoWoS等先进封装扩产计画加速推进且上调产能目标,来自NVIDIA、超微(AMD)等客户的“超级急件”(super hot run)只增不减,光是订单比重近5成的NVIDIA,目前H100交期虽已缩短,仍长达10个月,显见AI相关晶片需求维持高档。
据估算,排除Amkor等新增产能,台积电2024年底CoWoS月产能将达3.2万片,2025年底再增至4.4万片,随著CoWoS终挤出翻倍产能,各家分配量将扩增,包括广达、美超微(Supermicro)、华硕、技嘉与华擎等承接多时的订单终可生产出货,预估自2024年首季起,AI伺服器营收贡献将逐季放大。
2023年ChatGPT热潮带动生成式AI应用爆发,也让NVIDIA的H100等AI GPU系列迅速呈现供不应求市况,云端服务业者(CSP)、伺服器企业与各国政府组织机构急抢H100、A100,但在此波AI热潮之前,高价AI GPU需求平平,加上先进制程与先进封装成本高昂,因此NVIDIA在台积电投片量相当保守。
尤其在先进封装方面,台积电虽清楚SoIC、CoWoS等技术已成未来半导体竞局胜负关键,但客户导入意愿慢吞吞,加上半导体产业近年供需反转,因此在扩产上也相当谨慎小心。
然而,2023年第2季蜂拥而至的AI晶片订单需求,NVIDIA与台积电完全来不及承接消化订单,供货卡关主要是台积电,但不在7/5奈米家族制程,而是先进封装产能大缺。
儘管台积电迅速把部分InFO产能从龙潭移至南科、部分设备直接改机挤出产能,同时龙潭、竹南与中科等厂扩大购入CoWoS相关设备,并将原本就委外给其他封测厂的Os(on Substrate)订单比重再拉升,但由于日本、台湾等供应链的设备生产需要半年以上时间,使得NVIDIA H100供货缺口不断扩大,一度交期长达52周以上,甚至有业者连下单队伍都不进。
半导体设备业者指出,NVIDIA複制PC绘图卡市场模式,掌握了所有供应链与客户所承接的订单规模与流向,在量价与订单分配上几乎完全控制,因此不会有先前市场所传出的overbooking问题。
此外,由多家大厂公开表示AI GPU依旧大缺或是下大单,迅速消弭了外传AI热潮已退烧、微软等大客户砍单的诸多传言。
如Meta执行长Mark Zuckerberg就表示,Meta计划2024年向NVIDIA採购至少35万颗H100,再加上从其他供应商提供的同等级晶片,预期年底前打造60万颗GPU规模的基础设施。
据了解,不只NVIDIA AI GPU供不应求,超微在2023年12月超微MI300系列发布会上,微软、Meta与甲骨文(Oracle)等也上台助阵,超微2024年初起将开始放量,只要台积电CoWoS、SoIC先进封装产能跟上,业绩可望逐季跳升增长。
设备业者进一步指出,台积电在确立AI大势与来自NVIDIA、超微等AI、HPC客户订单后,对于CoWoS与SoIC未来2年扩产计画更为精确。
其中,2024年底CoWoS月产能至少达3.2万片,2025年底再增至4.4万片;而2023年月产能不到2,000片、客户只有超微的SoIC,2024年底月产能目标期望能达6,000~6,500片,2025年则因应超微以外的苹果、NVIDIA等HPC客户扩大下单,月产能估将达1.4万~1.45万片。
随著CoWoS产能2024年逐季拉升,NVIDIA供货也将扩增,包括广达、美超微、华硕、技嘉与华擎也可取得较多AI GPU,AI伺服器出货动能将明显增速。
广达董事长林百里就指出,AI需求持续畅旺,订单源源不绝;技嘉董事长叶培城亦指出,在伺服器业绩飙升带动下,2023全年营收创新高,2024年将维持高成长表现,市场预期2024年伺服器营收将由400多亿元大增至700亿元。
值得注意的是,美超微日前大幅上修上季财测(2023年10~12月),营收增幅达3成,显见AI伺服器需求强劲。
另一方面,针对美国AI晶片禁令对于NVIDIA的影响,市场认为,目前高价H100、A100等在中国以外市场仍供不应求,中国客户也全力囤货,透过各种方式绕道採购,加上东南亚需求急速拉升,应可抵销檯面上AI GPU在中国市场禁售的大部分损失。
截至目前为止,向来对于营运表现掌握度相当精准的NVIDIA至今仍未下修2023年11月时所释出的财测,其预期第4季营收将达200亿美元,优于上季的181.2亿美元。
此外,NVIDIA也将在第2季推出升级版H200,最受关注的3奈米B100则应会按先前惯例,在3月GTC大会上发布,9月、10月量产面市。