AI导读:

谷歌发布名为TurboQuant的内存压缩算法,将大型语言模型运行时的关键部分内存占用减少为原有的1/6,引发存储芯片板块市值大幅蒸发,全球主要内存巨头市值损失合计超900亿美元。

从“算力时代”进入“推理时代”,AI对内存的需求激增,大幅提振了全球存储公司业绩和股价。但谷歌的一篇文章,让美国和韩国的内存巨头市值一天蒸发了超900亿美元(约合人民币6200亿元)。当地时间3月24日,谷歌研究院发布了一篇介绍名为TurboQuant的向量量化压缩算法的文章,宣称在不损失准确率前提下,将大模型运行时的关键内存占用压缩至3比特(原有内存占用的1/6)。