昨日,英伟达宣布了更新后的H200 GPU。该芯片的*改变来自使用了HBM3e。
然而,据韩媒报道,在英伟达宣布新GPU之后,一场围绕HBM的争取战已悄然打响。
韩国双雄,争霸HBM
韩国经济日报在报道中指出,随着美国无晶圆厂芯片设计商英伟达公司周一推出其新的人工智能芯片组 H200 Tensor Core GPU,三星电子公司和 SK 海力士公司等韩国存储芯片制造商对其高带宽内存 (HBM) 销售的快速增进寄予厚望。
报道示意。随着人工智能芯片竞争的加剧,全球*的两家存储芯片制造商三星和 SK 海力士正准备将 HBM 产量提高至 2.5 倍。
三星存储芯片营业副总裁 Kim Jae-joon 在 10 月份示意,三星电子还完成了与主要客户关于明年 HBM 供应的谈判。
据领会,三星正在向 AMD 提供 HBM3 和交钥匙封装服务。据业内人士透露,这家全球*内存芯片制造商还在8 月下旬通过了 Nvidia A100 和 H100 的 HBM3 质量验证;现在尚未正式确认是否向Nvidia供应HBM3。
仅次于三星的全球第二大内存芯片制造商SK海力士则早于今年8月向Nvidia提供了HBM3E的样品,即HBM3的扩展版本。而SK 海力士正在向 AMD 供应 HBM3。
SK 海力士 DRAM 营销副总裁 Park Myoung-soo 也强调:“公司明年第四代 HBM3 产物和第五代 HBM3E 产物的供应量都在增添,并已完全售空。现在更是与客户和互助同伴就 2025 年 HBM 产量举行生产和供应的讨论也在举行中。”
除了韩国双雄以外,全球第三大 DRAM 公司美光也将从 2024 年最先起劲瞄准高带宽内存 (HBM) 市场。市场专家展望,三星电子、SK 海力士和美光之间争取更大市场份额的竞争将会加剧。
据业内人士透露,美光在上季度的财报电话集会上示意,它已经开发出了业界*的 HBM3E 产物,并将于 2024 年头最先生产,并创下有意义的销量。HBM3E 是 HBM 的下一代版本,被以为是比当前市场*产物 HBM2 和 HBM3 更高附加值的产物。
美光正在向包罗 Nvidia 在内的主要企业 HBM 客户发送 HBM3E 样品,让他们测试其性能。Nvidia 一直在向 OpenAI、谷歌、微软等公司提供 AI 加速器,其中 HBM 封装在其图形处置单元 (GPU) 中。人工智能加速器是用于推进天生式人工智能服务的服务器的要害组件。
现在,HBM市场由三星电子和SK海力士占有主导职位。市场研究公司 TrendForce 的数据显示,三星和 SK 海力士预计将划分占有 HBM 46% 和 49% 的市场份额,美光将在 2023 年占有其余市场份额。
在这种情形下,美灼烁年愿意瞄准下一代HBM市场,预计将对三星电子和SK海力士发生负面影响。这是由于美光的 HBM 供应可能会缓解 HBM 欠缺问题,并加剧 HBM 制造商之间的价钱竞争。鉴于美光是一家美国公司,剖析人士示意,英伟达和AMD等大公司可能会青睐与美光同国籍的产物。“随着美光宣布起劲进军市场,竞争很可能会加剧,”一位半导体业内人士示意。
美光则透露,英伟达有望在2024年使用其HBM3E。
两大巨头,各显神通
回看HBM的生长,资料显示,该手艺从13年最先泛起在半导体市场,且已经扩展到*代(HBM)、第二代(HBM2)、第三代(HBM2E),现在是第四代(HBM3)。
在2021年10月,SK海力士在业界首次乐成开发HBM3,通过将其*供应给在AI用GPU上拥有全球*份额的英伟达,从而获得HBM市场的*份额。最近他们还开发了第五代HBM3E,预计从24年上半年最先量产,2026年设计第六代HBM4。
夜校的风,韭菜的刀
报道支出,SK海力士自从HBM3获得市场*份额以来,在不停扩大产能,以增强HBM3E等下一代产物的量产能力。在对HBM*客户英伟达继HBM3*供应之后,*供应至第五代HBM3E,确保其在HBM市场的优势。
SK海力士于2023年6月最先HBM3E的样品出货,其拥有普遍*的性能,能知足开发者需求。首先,该芯片每秒最多可以处置1.15TB(兆字节)以上的数据。与HBM3相比,处置速率提高了1.3倍,容量提高了1.4倍;另外,HBM3在8层层叠中为16 GB,12层层叠为24 GB封装,HBM3E在8层中具有24 GB容量,往后还将开发12层层叠的36 GB的封装。
SK海力士的HBM3E更是应用了“Advanced MR-MUF”的最新封装手艺,产物的热释放性能比以往提高了10%。该封装手艺从应用到HBM3的现有MR-MUF手艺弥补了短处——引入了战胜芯片翘曲的新手艺,并用新的珍爱质料改善了散热性。
在SK海力士高歌猛进的同时,三星电子已完成HBM3的量产准备。据透露,他们设计2023年下半年最先进入量产阶段。
众所周知,三星不仅是一个压倒一切的存储供应商,也是一个*的在晶圆代工厂,同时也有封装营业。
为此这种情形下,三星电子不仅行使HBM的内存,还充实行使自己公司的封装手艺推动了一起提供到基金营业的周转解决方案。对于SK海力士和美光来说,这是一种将这样的优势攻克为武器的战略,由于他们不拥封装的手艺。
对于三星电子来说,“2.5D封装手艺”在大大扩大HBM3供应量方面的主要性越来越高。详细来说,就是他们推出的一项被称为“I-Cube”(I-Cube)的手艺。凭证HBM模块的搭载数,生长为I-Cube 2(搭载了2个HBM)等。
凭证三星的设计,到2024年4~6月时代,公司讲量产I-Cube 4,7~9月时代,公司则设计批量生产I-Cube 8。三星电子称,在将该手艺与HBM一起提供,可使供应量大大扩大。
正如人人所看到,在HBM中,产能往往成为瓶颈,而三星电子的一系列解决方案有望解决这些问题。现在英伟达和AMD等接纳台积电的“CoWoS”手艺,但该手艺也没有充实增添生产容量。
基于这种情形,三星电子向英伟达提出了封装服务和HBM3供应之前的周转要害服务,但会发生什么照样未知数。
虽然可以用转向钥匙制作产物是其优点,然则从在HBM3中用SK 海力士的MUF手艺获得市场*份额的状态来看,行使三星电子的HBM3的风险很高,其他的危险因素也许多。
美光和台积电,会成为X因素?
如前文所说,美光在HBM市场没有若干影响力。但他们也正在发力。在他们看来,通过手艺提高带来的产物性能提升,会是公司发力的基本助推器。
据领会。美光的 24 GB HBM3E 模块基于八个堆叠 24Gbit 内存芯片制造。而改芯片接纳该公司的 1β (1-beta) 制造工艺制造。*的手艺让这些模块的数据速率高达 9.2 GT/秒,使每个客栈的峰值带宽到达 1.2 TB/s,比现有最快的 HBM3 模块提高了 44%。与此同时,该公司不会住手其基于 8-Hi 24 Gbit 的 HBM3E 组件。他们宣布,继最先量产 8-Hi 24GB 客栈后,设计于 2024 年推出超大容量 36 GB 12-Hi HBM3E 客栈。
美光首席执行官弥补道:“我们预计将于 2024 年头最先 HBM3E 的生产,并在 2024 财年实现可观的收入。”
在美光来势汹汹的同时,台积电也宣布将CoWoS产能扩大两倍(每月1万6000张)。这就意味着三星电子要想乐成完成上面讨论的提案,就必须在台积电完成增设的准备事情之前根据英伟达要求的质量和规格乐成量产。现在很难期待比TSMC的CoWoS更高的性能,对但三星电子来说这是最后的时机一决高下。
同时,由于三星尚未确定与英伟达的条约,他们在与SK海尼克斯的竞争中苦战仍在继续。
HBM作为往后AI时代的必备质料,在最近影象半导体的不景气中也有很大的收益性。虽然在内存市场中比例还不大,但听说盈利能力是其他DRAM的5-10倍。尤其是SK海力士在2023年7-9月当季DRAM营业两个季度来首次转为盈余,由此施展了HBM的威力。HBM市场预计年均*将扩大至80%。
由此可见。往后HBM的影响力将进一步加大。