AI导读:

随着AI需求不断加大,HBF技术或将成为满足AI大模型内存容量要求的最佳方案。SK海力士与闪迪正合作制定HBF标准,预计该产品将采用16层NAND闪存堆叠而成,并有望于2027年底或2028年初应用于实际产品中。

尽管HBM自推出到登上半导体产业舞台中心花费了近十年时间,但其迭代技术HBF或将以更快速度实现商业化和普及。SK海力士正与闪迪合作,致力于HBF标准的制定。此外,HBF即高带宽闪存,其结构与堆叠DRAM芯片的HBM类似,是一种通过堆叠NAND闪存而制成的产品。金正浩认为,HBM与HBF就好比书房与图书馆。当前大模型的参数规模已经达到万亿级别,上下文长度普遍超过128K,HBM的容量已难以满足AI大模型对于内存容量的要求。在研的HBF存储容量有望达到现有HBM的8至16倍,有望将GPU的存储容量扩展至4TB,或成为满足AI大模型内存容量要求的最佳方案。