GKE Pod快照加速模型启动
谷歌公布 GKE Pod 快照基准测试,称可通过保存 CPU/GPU 内存等运行状态,将 700 亿参数模型加载缩短至 37 秒、启动延迟最高降低 89%。该功能基于 gVisor/GKE Sandbox,面向大模型服务冷启动和弹性扩缩容场景。
事件进展(1 篇报道)
-
2026-10-10 23:31InfoQ 中国 GKE Pod 快照可缩短模型加载时间
谷歌公布 GKE Pod 快照基准测试,称可通过保存 CPU/GPU 内存等运行状态,将 700 亿参数模型加载缩短至 37 秒、启动延迟最高降低 89%。该功能基于 gVisor/GKE Sandbox,面向大模型服务冷启动和弹性扩缩容场景。