韩国半导体巨头SK海力士宣布推出一种面向AI数据中心的新型高带宽内存（HBM），通过在内存封装内部集成散热层来改善散热性能。

这一变革可能使搭载新型内存的AI处理器运行速度更快，或降低冷却成本。

传统芯片散热架构主要依赖外部散热，热量在离开封装后才开始散发。对于AI领域使用的HBM内存来说，为了改善延迟和内存密度而采用的垂直堆叠设计会产生额外热量，这已成为主要的设计限制因素。

SK海力士计划在2029年及之后推出的下一代HBM5产品中采用这项技术。最新的集成高带宽内存（iHBM）采用了完全不同的方法，将散热元件置于芯片间物理层（D2D PHY）内部。

这是连接HBM和GPU的物理接口，也是热量集中的区域。在iHBM中，这里成为集成散热元件（ICE）的新"散热通道"，据称可将热阻降低30%。

不久之前，内存和散热方面的创新还被视为数据中心领域的有趣配角，该领域一直由处理器芯片性能主导。

但随着过去十年数据中心处理器性能的快速增长，内存设计的重要性以及在高性能计算（HPC）系统中冷却内存的能力已经成为重大议题。

将ICE集成到内存封装中采用定制硅材料制造，这为系统构建者简化了工作。如果iHBM能够实现30%的散热性能提升，意味着HBM模块在达到影响性能的温度上限之前拥有更大的余地。

内存对AI数据中心热潮的重要性已经变得如此根本，预测机构EpochAI的最新数据显示，从2024年第一季度到2025年第四季度，HBM在所有AI芯片组件支出中的占比从52%上升到63%。

这些数字凸显出AI如何颠覆了数十年来的计算性能假设。在AI领域，数据量变得至关重要，而不仅仅是处理速度。这使得内存从事后考虑的因素变成了每个数据中心架构师首要关注的问题。相比之下，Epoch AI指出，逻辑芯片（例如英伟达著名的GPU）在同期的支出占比从14.2%略降至12.9%。

AI需求的连锁效应是，制造商优先生产HBM而非DDR5等其他类型内存，导致设备制造商面临供应短缺。

今年3月，SK集团董事长崔泰源表示，运行AI的硬件需求已经超出供应能力，这看起来更像是长期结构性变化而非周期性现象。Epoch AI认为这波HBM需求热潮还将持续。该机构表示："随着内存供应持续紧张和价格上涨，HBM在2026年可能会占据更大份额。"

然而，HBM并非唯一选择。今年2月，英特尔宣布与软银合作开发替代方案Z-Angle Memory（ZAM），同样基于内存模块垂直堆叠技术，预计在2030年左右交付。

对于AI数据中心设计者和客户来说，在性能持续提升的预期给行业带来压力的时期，每一项进展都是好消息。

改善散热性能并按时交付可能成为决定性因素。SK海力士封装开发高级副总裁Kangwook Lee表示："iHBM是热管理的最优解决方案，结合了我们的内存设计能力和先进封装技术。"

Q&A

Q1：SK海力士的iHBM技术有什么特别之处？

A：iHBM将散热元件集成在内存封装内部的芯片间物理层中，这是连接HBM和GPU的热量集中区域。通过这种内置散热设计，可将热阻降低30%，让AI处理器运行更快或降低冷却成本。

Q2：为什么HBM内存对AI数据中心如此重要？

A：AI计算中数据量比处理速度更关键，HBM通过垂直堆叠提高内存密度和降低延迟。数据显示，HBM在AI芯片组件支出中的占比从2024年一季度的52%上升到2025年四季度的63%，已成为数据中心架构师首要关注的问题。

Q3：iHBM技术什么时候能投入使用？

A：SK海力士计划在下一代HBM5产品中采用iHBM技术，预计从2029年开始推出。此外，英特尔和软银也在开发类似的Z-Angle Memory技术，交付时间同样在2030年左右。