内存的持续短缺，正在让大型数据中心运营商不得不采取一些非常手段。
据谷歌供应链基础设施高级总监Nikhil Cherian透露，为突破内存瓶颈，谷歌正同时从软件和硬件两端发力，甚至开始拆解退役服务器以回收可再利用的组件，建立起一套内部回收供应链。
具体做法颇为直接：谷歌已经设计了专用的硬件适配器，允许将上一代内存（如DDR4）连接到新一代人工智能服务器上；Cherian还承认，谷歌正在进口退役服务器，拆除其中的DDR4内存模块进行回收复用。
他同时指出，AI行业的核心约束已经从“计算受限”迅速转向“内存受限”——在典型的AI服务器物料清单中，高性能内存的成本占比已高达约75%。
内存价格还在涨，Q3继续上扬
上周，高盛在一份报告中指出，内存价格将在第三季度继续增长，预计PC DRAM价格将上涨18%至23%，服务器DRAM价格上涨13%至18%。
TrendForce数据显示，8月现货市场上，DDR4 8GB和DDR5 8GB价格分别涨至142美元和133美元；DDR5相对DDR4的折扣仍为6%，与7月持平。
从芯片设计到回收供应链，谷歌“双管齐下”
内存价格的不断上涨，已经迫使AI行业采取“降低单位算力所需内存容量”的措施。谷歌今年推出的两款TPU ASIC就对内存做了优化设计，有望将内存需求降至原来的六分之一。
其中，TPU 8i芯片采用专用分层内存设计，依靠高速DDR5内存架构执行主机级任务；每颗TPU 8i芯片还搭载288GB的HBM3e高带宽内存，兼顾容量与带宽需求。
不过，从谷歌开始回收DDR4的举动来看，DDR5和HBM3e并不足以满足该公司AI芯片的内存需求，迫使其利用上一代的内存解决方案——内存仍然是限制其算力增长的关键瓶颈。