Hacker News:AI 热帖· Corbenic·· 4 天前AI 评分57
arXiv 论文测试 galahad-kv 记忆层:50M token KV 状态复用快于重新计算
Long-Term Memory for AI:50M-Token Window,Is Faster,Cheaper Than Recompute
AI 导读
一篇 arXiv 论文测试公开包 galahad-kv,将约 16,000 token 分块的 KV 状态保存到加密本地 NVMe,并在后续按字节精确加载。
来源:Hacker News:AI 热帖 · arxiv.org