前言:
AI时代下,为满足海量数据存储以及日益增长的繁重计算要求,半导体存储器领域也迎来新的变革,HBM技术从幕后走向台前。
HBM技术之下,DRAM芯片从2D转变为3D,可以在很小的物理空间里实现高容量、高带宽、低延时与低功耗,因而HBM被业界视为新一代内存解决方案。
作者 | 方文三
图片来源 | 网 络
HBM目前成为了韩国人的游戏
自2014年首款硅通孔HBM产品问世至今,HBM技术已经发展至第四代,分别是:
HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代)。
HBM芯片容量从1GB升级至24GB,带宽从128GB/s提升至819GB/s,数据传输速率也从1Gbps提高至6.4Gbps。
目前,能够稳定量产HBM的厂家,只有韩国的三星和SK海力士。
伴随AI的快速繁荣,存储巨头们围绕HBM的竞争也迅速展开,但主角只有韩国企业。
2010年,三星就紧随SK海力士开始了HBM内存的研发。
并在2016年抢先SK海力士成功量产HBM2,将每个HBM堆栈容量提升至8GB。
此后又率先量产第三代HBM的青春版HBM3E。
2021年10月,一直紧咬三星的SK海力士又成功量产HBM3,重新夺回主动权。
2022年,全球50%的HBM出货来自SK海力士,40%来自三星,美光占10%。
至此,HBM彻底成为了韩国人的游戏。
虽然HBM目前的市场规模还不到整个存储芯片市场的1/10,也不乏其他技术竞争,但决定其能否普及的成本问题。
这恰恰却是三星和SK海力士最擅长解决的:依靠大规模生产能力快速降低成本,拉高其他公司参与竞争需要的投资门槛。
三星和SK海力士鏖战做大市场
总的来说,HBM的竞争还是在SK 海力士、三星以及美光之间展开。
从技术上先来看,SK海力士是目前唯一实现HBM3量产的厂商,并向英伟达大量供货,配置在英伟达高性能GPU H100之中,持续巩固其市场领先地位。
全球排名第一的服务器CPU公司英特尔在全新的第四代至强可扩展处理器当中也推出了配备SK海力士HBM的产品。
A100和H100的显存模块并没有采用常用的DDR/GDDR内存,而是HBM内存。
SK海力士提供了两种容量产品,一个是12层硅通孔技术垂直堆叠的24GB(196Gb);
另一个则是8层堆叠的16GB(128Gb),均提供819 GB/s的带宽。
此外,HBM3内存还内置了片上纠错技术,提高了产品的可靠性。
SK海力士在今年6月收到了英伟达对HBM3E样品的请求,并正在准备发货。
HBM3E是当前可用的最高规格DRAM HBM3的下一代,被誉为是第五代半导体产品。
SK海力士目前正致力于开发该产品,目标是在明年上半年实现量产。
目前该公司正在为今年下半年准备8Gbps HBM3E产品样品,并计划在明年上半年实现量产。
近日,该公司在全球首次实现垂直堆叠12个单品DRAM芯片,成功开发出最高容量24GB的HBM3 DRAM。
该产品容量较上一代HBM3 DRAM提升50%。SK海力士已向客户提供样品,正接受客户公司的性能验证。
三星在去年技术发布会上发布的内存技术发展路线图中,显示HBM3技术已经量产,其单芯片接口宽度可达1024bit,接口传输速率可达6.4Gbps。
据业内消息人士周一透露,三星最近向客户交付了具有16 GB内存容量且能耗最低的 HBM3 产品样品。
目前,16GB是现有HBM3产品的最大内存容量,数据处理速度为每秒6.4GB,为业界最快。
它还提供了12层24GB HBM3样品,这是第四代HBM芯片,也是业界最薄的同类芯片。
三星对HBM的布局从HBM2开始,目前,三星已经向客户提供了HBM2和HBM2E产品。
目前,三星正在准备批量生产年传输速度可达6.4Gbps的HBM3(16GB和12GB)产品,并计划于下半年推出较HBM3容量更高性能更强的下一代HBM3P产品。
此前,三星电子一直致力于开发高性能计算(HPC)芯片,HBM芯片比重相对不大,但近日三星对HBM市场的关注度提升,HBM市场规模或迎来大幅增长。
三星电子HBM3正式向北美GPU企业供货,HBM3在三星电子整体DRAM销售额中所占比重或将从今年的6%扩大至明年的18%。
2024年预计实现接口速度高达7.2Gbps的HBM3P,预计2025年在新一代面向AI的GPU中见到HBM3P的应用。
美光科技走得较慢,于2020年7月宣布大规模量产HBM2E,HBM3也仍作为其产品线在持续研发之中。
结尾:
专家预测,HBM等AI专用DRAM的开发,将给半导体行业带来巨大变革。
存储半导体公司忙于开发超微制造工艺的时代已经过去,高效处理数据甚至具备处理数据能力的AI半导体技术的发展将变得如此重要,它将决定芯片制造商的未来。
部分资料参考:芯世相:《别的内存都在降价,为啥HBM涨了5倍?》,全球半导体观察:《HBM:SK海力士、三星、美光三分天下》,电子工程专辑:《ChatGPT带火HBM,存储芯片“柳岸花明”?》,硅基研习社:《内存的新战争:韩国人还能赢多久?》
原文标题 : AI芯天下丨产业丨HBM内存:韩国人的游戏