HBM(全称为High ),是高带宽存储器,是属于图形DDR内存的一种。从技术原理上讲,HBM是将很多个DDR芯片堆叠在一起后,再和GPU封装合成,通过增加带宽,扩展内存容量,组成DDR组合阵列,以此实现让更大的模型、更多的参数留在离核心计算更近的地方,从而减少内存和存储解决方案所带来的延迟。
与传统DRAM芯片相比,HBM具有高带宽、高容量、低延时与低功耗等优势,可以加快AI数据处理速度,业界指出,HBM可以将专用数据处理器直接集成在DRAM中,将部分数据计算工作从主机处理器转移到存储器当中,从而满足AI芯片训练的高宽带要求,也因此更适用于等高性能计算场景。
随着AI爆发带来AI芯片激增,HBM也将供不应求。在全球市场上,目前只有SK海力士、三星电子和美光科技3家公司能够量产HBM,SK海力士表示今年公司的HBM已经售罄,产品供不应求已开始为2025年做准备,美光科技也对外透露光也宣布量产HBM,开始供货英伟达,美光科技2024年的HBM产能预计已全部售罄,据机构表示,今年HBM芯片的平均售价是传统DRAM内存芯片的五倍,2023年至2028年间,HBM供应的年复合增长率将达到45%。
国内公开报道HBM也有消息,武汉新芯公布HBM项目招标,拟新增设备17台套,拟实现月产出能力≥3000片,国产HBM尽管性能落后、产能稀缺,但作为绕不开的国产替代环节,后续也将成为AI增速最快的分支之一。
HBM的产能决定了AI服务器的产能,也就决定了全球AI的发展速度。
香农芯创;SK海力士HBM存储芯片代理
万润科技:子公司万润半导体的和等部分存储产品支持HMB功能
———END———
限 时 特 惠: 本站每日持续更新海量各大内部创业教程,永久会员只需109元,全站资源免费下载 点击查看详情
站 长 微 信: nanadh666