SK海力士推出HBM与HBF联用架构，每瓦性能提升2.69倍。
《科创板日报》2月12日讯随着人工智能计算对内存需求持续增长，全球存储技术的创新也正进入“加速阶段”。
据韩国《经济日报》报道，SK海力士近日在IEEE（电气与电子工程师协会）全球半导体大会上发表论文，提出了一种全新的存储架构。该架构名为“H³（hybrid semiconductor structure）”，同时融合了HBM和HBF两种技术。 这一创新表明，SK海力士正在积极探索存储技术的未来方向，试图通过整合不同技术优势来提升性能与效率。H³架构的提出，不仅反映了半导体行业对更高密度、更高速度存储需求的响应，也显示出企业在技术融合方面的前瞻性布局。随着人工智能、高性能计算等领域的快速发展，这种混合结构可能成为下一代存储解决方案的重要趋势。
在SK海力士设计的仿真实验中，H³架构将HBM和HBF显存并置于GPU旁边，由GPU负责计算。该公司将8个HBM3E和8个HBF放置在英伟达Blackwell GPU旁，实验结果显示，与单独使用HBM相比，这种配置可将每瓦性能提升高达2.69倍。 这一技术突破表明，通过优化内存与GPU之间的协同方式，可以显著提升能效比，这对高性能计算和AI领域具有重要意义。随着数据处理需求的不断增长，如何在有限的功耗下实现更高的性能，成为芯片设计的关键方向。SK海力士的这一尝试，或许为未来高性能芯片的发展提供了新的思路。
实验结果显示，H³架构在AI推理领域尤其具有优势。推理的核心是键值缓存 (KV cache)，它用于临时存储数据，以理解 AI 服务与用户之间交互的流程和“上下文”。然而，随着 AI 性能的提升，KV缓存容量不断增长，以至于HBM和GPU逐渐应接不暇。
因此，HBF被视作上述架构的核心。与堆叠DRAM芯片的HBM类似，HBF通过堆叠NAND闪存而制成。被称作“HBM之父”的韩国科学技术院（KAIST）教授金正浩类比道，HBM与HBF就好比书房与图书馆。前者容量虽小，但使用起来方便；后者容量更大，但也意味着延迟更高。
通过在HBF中存储KV缓存，GPU和HBM能够减少在存储KV缓存上的负担，从而更专注于其在高速计算和生成新数据方面的优势。SK海力士模拟了HBF处理高达1000万个令牌的海量键值缓存的场景，结果显示，与仅使用HBM的配置相比，该系统在处理并发查询时的性能提升了高达18.8倍。原本需要32个GPU才能完成的工作负载，现在仅需两个GPU即可实现。 这一技术突破不仅显著提升了系统的效率，也预示着未来在大规模AI推理和自然语言处理任务中，硬件架构的优化将发挥越来越重要的作用。HBF的引入为解决存储瓶颈提供了新的思路，也为行业带来了更高的算力性价比。
从产业角度来看，SK海力士、三星以及闪迪等企业均在积极推进HBF技术的研发。SK海力士计划在今年内率先推出HBF1（第一代产品）的样品，该产品预计采用16层NAND闪存堆叠结构。而三星电子和闪迪则计划最迟在2027年底或2028年初，将HBF技术实际应用到英伟达、AMD和谷歌的产品中。
广发证券指出，目前大模型的参数规模已达到万亿级别，上下文长度普遍超过128K，现有的HBM容量已难以满足AI大模型对内存的需求。正在研发的HBF存储技术，其容量预计将是现有HBM的8到16倍，有望将GPU的存储容量扩展至4TB，或将成为满足AI大模型内存需求的最佳解决方案。
东方证券指出，利基存储不仅属于存量市场，同时也具备增量潜力，AI需求或将为利基存储带来新的增长空间。SLC NAND有望用于AI SSD产品，以提升AI推理过程中数据处理的效率；未来，SLC NAND也可能被应用于HBF（高带宽闪存）领域。目前，利基存储的产能持续受到主流存储产品的挤压，预计价格仍有上涨空间。
