AI推理推动SSD进入实时数据路径
大模型权重、长上下文和KV Cache持续挤压HBM与DRAM容量,SSD正从静态存储转为推理系统可直接调度的缓存层。Mooncake多级缓存和英伟达CMX平台显示,面向低延迟、高耐久及高并发读取优化的AI SSD有望成为新增长点。
事件进展(1 篇报道)
-
2026-08-07 18:38InfoQ 中国 HBM 不够用了,AI SSD 迎来爆发前夜
大模型权重、长上下文和KV Cache持续挤压HBM与DRAM容量,SSD正从静态存储转为推理系统可直接调度的缓存层。Mooncake多级缓存和英伟达CMX平台显示,面向低延迟、高耐久及高并发读取优化的AI SSD有望成为新增长点。