SK海力士推出了一个路线图,表明该公司将继续主导人工智能不可或缺的高带宽存储器(HBM)的生产。行业专家告诉《EE时报》,该公司在竞争对手三星和美光的存储器制造商中取得的领先地位将面临更激烈的竞争。
SK海力士上个月在一次行业活动上表示,它可能是2025年第一个推出下一代HBM4的公司。在那次活动中,该公司展示了Nvidia的Grace Hopper GH200 GPU中封装的两个HBM3E模块的演示幻灯片(见图)。SK海力士高级副总裁Ilsup Jin是该公司DRAM和NAND技术开发的负责人,他上个月在安特卫普的ITF World上表示,该公司的下一代HBM4可能会提前上市。
Ilsup Jin说:“HBM4的它将于明年推出。”
SemiAnalysis首席分析师Dylan Patel今年早些时候告诉《EE时报》,SK海力士拥有领先的HBM市场份额,HBM3市场份额超过85%,整体HBM市场占有率超过70%。全球研发机构imec的CMOS技术高级副总裁Sri Samavedam表示,预计竞争将变得更加激烈。
Samavedam在接受《EE时报》采访时表示:“SK海力士是早期采用者,他们取得了领先。美光也紧随其后。他们去年推出了一些极具竞争力的HBM产品,今年也推出了HBM3E产品。”
2月,美光宣布其HBM3E的商业生产,这将是英伟达H200 Tensor Core GPU的一部分,该GPU将于2024年第二季度发货。
先进的封装对HBM的广泛应用至关重要。据《韩国经济日报》报道,三星今年将为HBM提供三维(3D)封装服务,2025年将推出自己的HBM4。
三星拒绝对该报道发表评论。
相反,该公司告诉《EE时报》,计划在2024年第二季度推出HBM3E 12层产品。三星承诺将加强其HBM供应能力和技术竞争力。
HBM的供应是人工智能模型和服务扩展的潜在障碍。
“这已经成为一个问题,”Samavedam说。“世界上只剩下SK海力士、三星和美光三家DRAM制造商。HBM也需要先进的封装。你需要插入器,但没有多少公司能做到这一点。从本质上讲,台湾半导体制造有限公司(TSMC)主导着HBM和插入器的CoWoS封装。未来,我们希望随着英特尔铸造厂(Intel Foundry)在先进封装方面的加强,会有更多的竞争。”
4月,SK海力士与台积电签署了一项协议,将开发和生产下一代HBM,并加强与HBM的逻辑集成。当时,SK海尼克斯表示,将从2026年开始开发HBM4,用于生产,比Ilsup Jin提出的2025年HBM4新目标晚了一年。
SK海力士计划将台积电的先进逻辑工艺用于HBM4的基片,以便在有限的空间内封装额外的功能,帮助SK海力士定制HBM,以满足更广泛的性能和功率效率要求。
英特尔表示,它已经生产HBM产品一段时间了。
英特尔告诉《EE时报》:“我们与所有主要的HBM供应商合作,高级封装是英特尔铸造公司系统铸造方法的关键支柱。我们与台积电有点不同,我们将集成任何代工厂的瓷砖,而不仅仅是我们的。”
另类内存
改进HBM的替代方案将通过使内存更靠近处理器来降低能耗。
数据通信的能源成本相当高,随着距离的增长呈指数级增长。Samavedam表示,理想的做法是将更多的内存尽可能靠近处理器。
他说:“如果你在处理器中,这些寄存器文件是非常本地的。如果你把它想象成1倍的能量,然后你去一个SRAM缓存(位于处理器顶部),比如L2或L3缓存,那大约是100倍的能量。如果你必须去HBM取数据,那就是500倍的能量了。如果你能把内存移到离处理器很近的地方,从能量的角度来看,这总是很好的。”
运行人工智能的数据中心的能耗已成为一个问题。
Ilsup Jin在活动上的演讲中说:“我们还需要更快、高效地处理更多的数据。这是存储器行业的一个关键话题。”
他展示了一张幻灯片,强调了数据使用量增加对环境的影响,据估计,全球数据中心的能源消耗量为每年1万亿千瓦时,是韩国年电力消耗量的四倍。
Samavedam表示,人工智能应用程序需要大量耗能的数据来回移动。
“模型变得越来越复杂,”他说。“如今,你的参数大约在数十亿到一万亿之间。这太多了。这些参数需要存储在内存区域,并经常访问。数据访问、数据带宽、数据容量。随着人工智能训练和推理的兴起,你将在未来十年左右听到这一点。”
Ilsup Jin期待着像内存处理器这样的创新。
Ilsup Jin说:“这需要一些时间,因为生态系统还没有准备好采用这种新的解决方案,但我敢打赌,这将是未来人工智能或大数据计算的有力候选者。”
他提到3D DRAM是另一种解决方案。
“3D DRAM是类似NAND的堆叠DRAM单元。通过堆叠越来越多的DRAM单元可以实现位增长。”
需要更多投资
Ilsup Jin说,尽管如此,晶片键合对于堆叠是必要的,半导体工具制造商需要增加投资来制造更好的设备。
Samavedam说:“当你谈论像[晶片]混合键合这样的真正先进的封装时,在键合之前需要极端的平面性。它需要CMP(化学机械平坦化)和清洁。你必须在洁净室里进行晶圆级的清洁。铸造厂更适合这样做。我预计英特尔未来将成为台积电的有力竞争对手。我看不到很多OSAT(海上组装和测试公司)会接受这一点。”
Samavedam表示,DRAM最终将过渡到3D DRAM。
“3D DRAM有不同的制作方法,”他说。“人们正在关注铟镓锌氧化物等沉积半导体。IGZO具有很宽的带隙,对DRAM应用非常有吸引力。因为它具有宽带隙,所以不会泄漏那么多。你不需要那么频繁地刷新数据。”
替代内存需要数年时间才能形成。Samavedam表示,在可预见的未来,HBM将成为高性能计算获得更多带宽的主要途径。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
投诉邮箱:Email:133 46734 45@qq.com阿布扎比科技控股集团 G42 近日宣布推出全球最快的超级计算机 Condor Galaxy-1 (CG-1),该计算机拥有 5400 万个核心,处理能力
根据国外科技媒体 Sammyfans 报道,三星于 2023 年 2 月 6 日向韩国知识产权信息服务(KIPRIS)注册申请了FlexMirror商标,表明
今年 1 月,微软 CEO 萨蒂亚・纳德拉 (Satya Nadella) 宣布该公司将裁员 1 万人。当时,这一数字仅影响到微软员工总数的不到
Visual One Intelligence(前身为 Visual Storage Intelligence)正在以新名称和新产品进行品牌重塑,大幅扩展其解决方案组合,从
日前传出前苹果设计师Jony Ive与OpenAI首席执行官Sam Altman合作,预计打造一款以人工智能驱动的个人装置,并且从前苹果CEO Steve
TikTok 宣布,它将很快使用 AI 生成的建议出现的 gif 增强用户表达自己的方式。由于 Giphy 公司与社交媒体平台之间的新协议,
三星电子在今天凌晨举行的 Unpacked 2023 活动上发布了新一代 Galaxy S23 系列手机,该公司在活动上还表示,将与谷歌和高通公司
强化功率半导体事业,日厂MinebeaMitsumi将收购日立制作所(Hitachi)旗下功率半导体事业公司HPSD。 MinebeaMitsumi 2日宣布,将收
苹果院士(Apple Fellow)菲尔・席勒(Phil Schiller)于去年 11 月关闭推特账号,清空所有推文;根据国外科技媒体 9to5Mac 确认,席
荣耀印度官方账号日前在社交媒体上发布了将为印度市场带来新消息。realme 印度公司前首席执行官 Madhav Sheth 证实已加入该公司,
在今年SIGGRAPH 2024开始之前,OpenUSD联盟(AOUSD)宣布包含DigitalFish、湖南芒果创新科技、微软、索尼集团、Shutterstock,以及三维
高通公司昨日宣布,他们利用骁龙 X75 5G 调制解调器,在 Sub-6GHz 频段实现了高达 7 5Gbps 的下行传输速度,创造了全新纪录。
受高通膨冲击消费电子产品买气影响,据TrendForce统计,2022年全球DRAM模组市场整体销售额173亿美元,年衰退约4 6%; 其...
据 BusinessKorea 报道,三星将于今年上半年开始量产第三代 4 纳米芯片,将稳定制程早期阶段的良率问题,以及提升性...
4月10日消息,京东被曝投10亿扶持布局短视频领域。据报道,京东将投入10亿现金和10亿流量作为奖励,吸引更多原创作者和优质内...
火狐浏览器 Firefox 开发商 Mozilla 于今天宣布投资 3000 万美元(当前约 2 06 亿元人民币),成立名为 Mozilla ai 的初创公司
高通在今年初的CES 2023期间宣布与卫星通讯业者Iridium合作,结合自有骁龙 X70连网通讯芯片提供名为骁龙 Satellite的卫星紧急呼救解