NVIDIA Snapshot、初期化済みGPU推論を保存して復元 ↗
NVIDIA Snapshotは、Kubernetes上のGPU推論環境を保存・復元する基盤。初期化済みのCPU・GPUメモリを保存し、重み読込みやコンパイルを繰り返さず推論用Podを再開する。NVIDIAのB200×8・NFSストレージによる測定では、vLLMで動かすDeepSeek-V4.1-Flashの起動約1,111秒に対し、復元は約31秒だった。機器の準備とコンテナ取得は測定に含まない。同じGPU型・ドライバーへの復元が必要な実験版。


