字节 Seed 论文指出 DeepSeek 长上下文性能漂移源于分块 KV 缓存压缩的相位敏感性

字节 Seed 团队在 arXiv 论文中提出，分块 KV 缓存压缩会引入 Token 相位，导致 DeepSeek 模型长上下文检索性能随相位周期性变化。研究评估 DeepSeek-V4-Flash、DeepSeek-V4-Pro 和 DeepSeek-V4.1-Flash，发现不同相位的长上下文检索准确度最高相差 40 个百分点。