当前位置:首页 > 24小时 > >

随着人工智能需求激增 SK海力士加快HBM路线图

随着人工智能需求激增 SK海力士加快HBM路线图
2024-06-28 11:48:45 来源:聚焦媒体网

  SK海力士推出了一个路线图,表明该公司将继续主导人工智能不可或缺的高带宽存储器(HBM)的生产。行业专家告诉《EE时报》,该公司在竞争对手三星和美光的存储器制造商中取得的领先地位将面临更激烈的竞争。

  SK海力士上个月在一次行业活动上表示,它可能是2025年第一个推出下一代HBM4的公司。在那次活动中,该公司展示了Nvidia的Grace Hopper GH200 GPU中封装的两个HBM3E模块的演示幻灯片(见图)。SK海力士高级副总裁Ilsup Jin是该公司DRAM和NAND技术开发的负责人,他上个月在安特卫普的ITF World上表示,该公司的下一代HBM4可能会提前上市。

  Ilsup Jin说:“HBM4的它将于明年推出。”

  SemiAnalysis首席分析师Dylan Patel今年早些时候告诉《EE时报》,SK海力士拥有领先的HBM市场份额,HBM3市场份额超过85%,整体HBM市场占有率超过70%。全球研发机构imec的CMOS技术高级副总裁Sri Samavedam表示,预计竞争将变得更加激烈。

  Samavedam在接受《EE时报》采访时表示:“SK海力士是早期采用者,他们取得了领先。美光也紧随其后。他们去年推出了一些极具竞争力的HBM产品,今年也推出了HBM3E产品。”

  2月,美光宣布其HBM3E的商业生产,这将是英伟达H200 Tensor Core GPU的一部分,该GPU将于2024年第二季度发货。

  先进的封装对HBM的广泛应用至关重要。据《韩国经济日报》报道,三星今年将为HBM提供三维(3D)封装服务,2025年将推出自己的HBM4。

  三星拒绝对该报道发表评论。

  相反,该公司告诉《EE时报》,计划在2024年第二季度推出HBM3E 12层产品。三星承诺将加强其HBM供应能力和技术竞争力。

  HBM的供应是人工智能模型和服务扩展的潜在障碍。

  “这已经成为一个问题,”Samavedam说。“世界上只剩下SK海力士、三星和美光三家DRAM制造商。HBM也需要先进的封装。你需要插入器,但没有多少公司能做到这一点。从本质上讲,台湾半导体制造有限公司(TSMC)主导着HBM和插入器的CoWoS封装。未来,我们希望随着英特尔铸造厂(Intel Foundry)在先进封装方面的加强,会有更多的竞争。”

  4月,SK海力士与台积电签署了一项协议,将开发和生产下一代HBM,并加强与HBM的逻辑集成。当时,SK海尼克斯表示,将从2026年开始开发HBM4,用于生产,比Ilsup Jin提出的2025年HBM4新目标晚了一年。

  SK海力士计划将台积电的先进逻辑工艺用于HBM4的基片,以便在有限的空间内封装额外的功能,帮助SK海力士定制HBM,以满足更广泛的性能和功率效率要求。

  英特尔表示,它已经生产HBM产品一段时间了。

  英特尔告诉《EE时报》:“我们与所有主要的HBM供应商合作,高级封装是英特尔铸造公司系统铸造方法的关键支柱。我们与台积电有点不同,我们将集成任何代工厂的瓷砖,而不仅仅是我们的。”

  另类内存

  改进HBM的替代方案将通过使内存更靠近处理器来降低能耗。

  数据通信的能源成本相当高,随着距离的增长呈指数级增长。Samavedam表示,理想的做法是将更多的内存尽可能靠近处理器。

  他说:“如果你在处理器中,这些寄存器文件是非常本地的。如果你把它想象成1倍的能量,然后你去一个SRAM缓存(位于处理器顶部),比如L2或L3缓存,那大约是100倍的能量。如果你必须去HBM取数据,那就是500倍的能量了。如果你能把内存移到离处理器很近的地方,从能量的角度来看,这总是很好的。”

  运行人工智能的数据中心的能耗已成为一个问题。

  Ilsup Jin在活动上的演讲中说:“我们还需要更快、高效地处理更多的数据。这是存储器行业的一个关键话题。”

  他展示了一张幻灯片,强调了数据使用量增加对环境的影响,据估计,全球数据中心的能源消耗量为每年1万亿千瓦时,是韩国年电力消耗量的四倍。

  Samavedam表示,人工智能应用程序需要大量耗能的数据来回移动。

  “模型变得越来越复杂,”他说。“如今,你的参数大约在数十亿到一万亿之间。这太多了。这些参数需要存储在内存区域,并经常访问。数据访问、数据带宽、数据容量。随着人工智能训练和推理的兴起,你将在未来十年左右听到这一点。”

  Ilsup Jin期待着像内存处理器这样的创新。

  Ilsup Jin说:“这需要一些时间,因为生态系统还没有准备好采用这种新的解决方案,但我敢打赌,这将是未来人工智能或大数据计算的有力候选者。”

  他提到3D DRAM是另一种解决方案。

  “3D DRAM是类似NAND的堆叠DRAM单元。通过堆叠越来越多的DRAM单元可以实现位增长。”

  需要更多投资

  Ilsup Jin说,尽管如此,晶片键合对于堆叠是必要的,半导体工具制造商需要增加投资来制造更好的设备。

  Samavedam说:“当你谈论像[晶片]混合键合这样的真正先进的封装时,在键合之前需要极端的平面性。它需要CMP(化学机械平坦化)和清洁。你必须在洁净室里进行晶圆级的清洁。铸造厂更适合这样做。我预计英特尔未来将成为台积电的有力竞争对手。我看不到很多OSAT(海上组装和测试公司)会接受这一点。”

  Samavedam表示,DRAM最终将过渡到3D DRAM。

  “3D DRAM有不同的制作方法,”他说。“人们正在关注铟镓锌氧化物等沉积半导体。IGZO具有很宽的带隙,对DRAM应用非常有吸引力。因为它具有宽带隙,所以不会泄漏那么多。你不需要那么频繁地刷新数据。”

  替代内存需要数年时间才能形成。Samavedam表示,在可预见的未来,HBM将成为高性能计算获得更多带宽的主要途径。

关键词:SK海力士 HBM

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

投诉邮箱:Email:133 46734 45@qq.com

相关新闻